張之洞到達廣州後，便加強防務，飭沿海督撫，嚴密防守。六月，法國侵略軍占臺灣基隆，張之洞奏請飭吏部主事唐景崧，往會劉永福，合擊法軍。他認為：“援臺惟有急越，請爭越以振全局。又言牽敵以戰越為上策，圖越以用劉為實濟。”清廷采納張之洞的建議，加劉永福為提督記名。劉永福率領黑旗軍驍勇善戰，屢創法軍。但由於廣西布政使徐延旭、雲南布政使唐烱所率軍隊在抗法戰爭中配合不力，打了敗仗，唐烱軍逃走，使黑旗軍寡不敵眾而遭到失敗。唐、徐被撤職查辦，張之洞因薦徐延旭不當而交部察議。光緒十壹年（1885）正月，法軍侵占中越邊境重鎮鎮南關（今友誼關），形勢危急。張之洞奏請調前任廣西提督馮子材、總兵王孝祺等援桂，駐鎮南關。70 歲的老將馮子材率軍，奮力殊死抵抗，大敗法軍，扭轉了整個戰局。法國茹費理內閣因此倒臺。但是清廷卻決意乘勝求和，命令前線各軍停戰撤兵。前線將士聞訊，“皆扼腕憤痛”。張之洞接連電奏緩期撤兵，竟遭李鴻章傳旨斥責。
在中法戰爭中，張之洞籌餉運械，給岑毓英軍200 萬元，桂軍200 萬元，唐景崧、劉永福40 萬元，臺灣40 萬元。朝廷表彰他籌濟軍事，不分畛域。這壹時期，他在廣東開設水陸師學堂，創設槍彈廠，疏請大治水師、專款購兵艦，設繅絲局，創辦機鑄制錢局及銀元局，籌辦織布局和制鐵廠，這是他辦洋務企業的開始。
光緒十二年，張之洞在廣州創辦廣雅書局和廣雅書院。廣東原有端溪書院，在肇慶，他聘請梁鼎芬主持端溪書院，後來梁鼎芬率師生來到廣雅書院。張之洞又聘朱壹新到廣雅書院主講。當時梁鼎芬因彈劾李鴻章主和而獲罪，朱壹新因彈劾太監李蓮英而降職。張之洞不怕非議，敢於延聘他們，顯示了他的不凡氣度。
光緒十五年（1889），張之洞上奏朝廷，建議修築壹條蘆漢鐵路，自蘆溝橋至漢口，以貫通南北。他認為鐵路之利，以通土貨厚民生為最大，征兵、轉餉次之。他提出蘆漢鐵路是“幹路之樞紐，枝路之始基，而中國大利之萃也”。朝廷準奏，計劃北段由直隸總督主持，南段由湖廣總督主持，南北分段修築。於是，清廷調張之洞任湖廣總督。
光緒十五年冬，張之洞到了湖北。他花了很大的精力辦起軍用工業和民用工業，首先是籌建漢陽鐵廠。張之洞辦企業，也曾鬧過壹些笑話。他電駐英公使薛福成購煉鋼廠機爐，英國梯賽特工廠廠主回答說：“欲辦鋼廠，必先將所有之鐵、石、煤、焦寄廠化驗，然後知煤鐵之質地如何，可以煉何種之鋼，即以何樣之爐，差之毫厘，謬以千裏，未可冒昧從事。”張之洞大言曰：“以中國之大，何所不有，豈必先覓煤鐵而後購機爐？但照英國所用者購辦壹分可耳。”英國廠主只得從命。結果，機爐設在漢陽，鐵用大冶的，煤用馬鞍山的。馬鞍山的煤，灰礦並重，不能煉焦，不得已只好從德國購焦炭數千噸。從光緒十六至二十二年（1890—1896），耗資560 萬兩，還沒有煉成鋼。後改用江西萍鄉的煤，制成的鋼太脆易裂。張之洞才知道他所購的機爐采用酸性配置，不能去磷，鋼含磷太多，便易脆裂。於是又向日本借款300 萬元，將原來的機爐改用堿性配置的機爐，才制出優質的馬丁鋼。宣統元年（1909），漢冶萍公司的經理葉景葵評論道：“假使張之洞創辦之時，先遣人出洋詳細考察，或者成功可以較速，糜費可以較省。然當時風氣錮蔽，昏庸在朝，茍無張之洞鹵莽為之，恐冶鐵萍煤，至今尚蘊諸巖壑，亦未可知，甚矣功罪之難言也。”漢陽鐵廠是壹個鋼鐵聯合企業。光緒十九年（1893）建成，包括煉鋼廠、煉鐵廠、鑄鐵廠大小工廠10 個、煉爐2 座，工人3000，采煤工人1000。這是近代中國第壹個大規模的資本主義機器生產的鋼鐵工業，而且在亞洲也是首創的最大的鋼鐵廠，日本的鋼廠建設還比這晚幾年。
張之洞還辦了湖北織布局。光緒十八年（1892）在武昌開車，紗錠3 萬枚，布機1000 張，工人2000。織布局是盈利的。但是張之洞卻將織布局的盈利去彌補鐵廠、槍炮廠的虧損，使織布局壹直處在高利貸的壓迫下，無從發展。
張之洞看到棉紗銷路很廣，便決定開設兩個紗廠。他致電駐英國公使薛福成向英商訂購機器。光緒二十三年（1897）建成北廠，紗錠5 萬多枚，為湖北紡紗局。南廠壹直沒有建成，機器停放在上海碼頭任憑風吹雨打，後來張謇領去辦了南通大生紗廠。湖北紡紗局、織布局、繅絲局、制麻局到了光緒二十八年（1902）轉租給廣東資本家組織的應昌公司承辦。
張之洞還創辦了制磚、制革、造紙、印刷等工廠，還有湖北槍炮廠。他在湖北還註重興修水利，光緒二十五年（1899）前後修了三條堤。壹條是武昌武勝門外紅關至青山江堤30 裏，壹條是省城之南的提壩，自白沙洲至金口江堤52 裏和壹條從鮎魚套起至上新河為止的10 余裏堤岸。這三條堤的修築使常受洪水威脅的地區成為良田、市鎮。
張之洞到了湖北，其中光緒二十年（1894）調署兩江總督，任期壹年多。他十分重視湖北、江蘇的教育，創辦和整頓了許多書院和學堂。在湖北，有兩湖書院、經心書院，又設立農務學堂、工藝學堂、武備自強學堂、商務學堂等；在南京，設儲才學堂、鐵路學堂、陸軍學堂、水師學堂等。他派遣留學生到日本留學。在學堂、書院的學習科目方面，他針對社會需要有所改革，添增了壹些新的學科。他也註意訓練軍隊，在兩江總督任職期內，曾編練過江南自強軍，人數1 萬，地點在徐州，軍官全部用德國人擔任，采用西法操練。光緒二十二年（1896），他回任湖廣總督，將自強軍交給兩江總督劉坤壹。
張之洞在積極興辦洋務企業的同時，對人民群眾的反洋教鬥爭和農民起義進行了殘酷鎮齤壓。