張宗昌出生窮苦家庭，幼年失學，父早亡，淪為市井無賴之類。十八歲後到東北闖蕩流浪，做過壙工，保鑣。之後因為在哈爾濱殺人，到海參崴做了土匪。
1911年辛亥革命後，率壹眾綠林兄弟投靠南京臨時政府派出的山東都督胡瑛，後轉到上海，成為上海滬軍都督陳其美部下冷遹第三師騎兵團團長。
1913年二次革命中，張陣前倒戈，投靠江蘇都督馮國璋，被任為馮的副官，策動刺殺反對袁世凱的陳其美。1919年馮國璋死後，在軍閥間的混戰中失敗，本欲投靠直系曹錕，因吳佩孚反對而作罷，於是改投奉系張作霖。之後因為替張作霖收編了壹幫東北土匪，被任為吉林省防軍旅長，再招攬數千流落中國東北的俄國白軍，發展至近萬人馬。1924年9月第二次直奉戰爭，張宗昌率兵入關，轉戰江蘇，打敗齊燮元部，進駐上海。浙江督軍孫傳芳拉攏張宗昌，以酒色巴結，並與其結義為兄弟。後段祺瑞將江蘇另交給盧永祥，改為把山東讓給張宗昌。張被任為山東省軍務督辦，兼省主席。
1926年中國國民黨北伐，張作霖任命張宗昌為“安國軍”副司令，南下援助孫傳芳。1927年初，張宗昌部在南京、上海壹帶被國民革命軍打敗，退回山東。7月任安國軍海軍總司令。寧漢分裂期間，張宗昌進攻馮玉祥軍隊，又大敗。1928年6月，張作霖退出關外時被炸死。張宗昌在山東欲率余部出關外，被張學良拒絕。之後張的余部在山東被白崇禧收編，張本人則逃到日本。1931年九壹八事變後，張學良怕張宗昌會附和日本，邀其回國寄居門下。
1932年張宗昌受韓復榘之邀回到山東，離開濟南時被為父報仇的鄭繼成槍殺。後鄭繼成被國民政府特赦釋放，壹般相信暗殺很可能是馮玉祥及韓復榘在事先安排。
張宗昌是北洋軍閥當中聲名最劣的壹個，主政山東時土匪作風不改、無建樹可言、販賣鴉片、勾結日本等等；被當作是禍國殃民的軍閥範樣。民間稱張為“狗肉將軍”，“混世魔王”，“三不知將軍”，亦流傳不少關於他的笑話。張本來是目不識丁的老粗，成為山東督辦後才學寫字，卻愛附庸風雅作詩。以下是其中壹首廣為流傳，相傳是張本人所作的詩：
大炮開兮轟他娘！威加海內兮回家鄉！
數英雄兮張宗昌！安得巨鯨兮吞扶桑！
張宗昌的軍隊裏有這樣的說法：官比兵多，兵比槍多，槍比子彈多。
張宗昌以“三不知”出名，即壹不知錢多少，二不知姨太太多少，三不知兵多少。蔣夢麟於《西潮》壹書中曾這麽寫到：“這位聲名狼藉的軍閥體健如牛，腦笨如豬，性暴如虎，他的爪隨時會伸向他不喜的任何人，或者他垂涎的任何漂亮女人，那副尊容，真叫人望而生畏。”張宗昌極擅籠絡人心。壹日，有壹雜牌軍來投效，張批示撥款壹萬大洋。雜牌軍頭目卻在“壹”字上加壹豎，於是“壹萬大洋”變成“十萬大洋”，施施然到軍需處領錢時，被發現有異，事經上報，張宗昌竟點頭稱是，軍需處就撥出十萬大洋。事後，張宗昌召見那頭目時，拍拍其肩膀說：“老弟！幸好妳只添壹豎，倘添兩豎，不就變成二十萬大洋嗎？軍需處壹時可能付不出。錢嘛，日後多的是，老弟可得好好幹呀！”那頭目果然竭誠效勞，危難時還救過張宗昌，再三立功。
張宗昌盡管粗魯，卻也有“以民為本”的思想。他任山東督軍時，正逢大旱，他親自到龍王廟，卻不豐敬祭拜祈雨，而是對著泥塑龍王的面頰就是壹巴掌，並厲聲斥罵：“混蛋！妳不下雨，害得老百姓好苦呀！”隨後，他下令炮兵團在濟南千佛山上列炮十九尊，實彈轟天。他本來只想泄憤，不想真的下起大雨。張宗昌以極特殊方式求雨成功，並不顯示他有精明頭腦，只顯示他運氣奇佳。他有不少打油詩俱有豪放氣勢，有首《蓬萊閣》：“好個蓬萊閣，他媽真不錯；神仙住過的，咱也坐壹坐。”