1923年，他組織了平民教育促進會，編寫《平民千字課》，奔波於全國十幾個省市，致力於平民教育。他把《平民千字課》作為教材，送到平民百姓家裏，勸家家戶戶都要識字讀書。他活動的經費多數都是自己寫書得的稿費。
壹次，他得到了1萬多元稿費，拿回家鎖在櫃子裏，承擔著所有家務的妹妹看見了，問他：“家裏有老有小，錢也不多，能不能留1/4給家裏用？”陶行知想了想，溫和地說：“我要去南京勞山腳下辦曉莊師範，這錢要作為辦學的經費。我們家雖窮，粗茶淡飯還能維持。中國34000萬農民非但沒有飯吃，更沒有文化。用這錢去辦學校，是為農民燒心香，是盡我們的綿薄之力去幫助他們。妳在家裏省著點用，算是幫我去辦大事吧！”妹妹理解了他，默默地點了點頭。
1927年，陶行知辦起了曉莊師範學校，開展鄉村教育活動。1930年4月，國民黨反動政府武力封閉了這所學校，還通緝陶行知。
1932年，陶行知在上海先後創辦了“山海工學團”、“晨更工學團”、“勞工幼兒園”，繼續推行中華普及教育運動。
1939年7月，中國正是抗日戰爭時期。陶行知在四川重慶附近的合川縣為難童創辦育才學校，在普修課外，為壹些有特殊才能的兒童，開設音樂、戲劇、繪畫、文學、社會、自然、舞蹈等課，培育人才。這個學校辦得有聲有色，為國家培養了不少專門人才。當時政治形勢緊張，經濟非常困難，為了把學校辦下去，陶行知經常要為募集資金四處奔波，自己的生活也非常艱苦。
盛夏的壹天，學生高纓聽說書店到了壹些好書，想去看看。可是自己不認識路，就想請陶行知陪他壹起去。他來到先生窗前，那情景使他吃了壹驚：先生打著赤膊，臉上、身上流淌著汗水，正在伏案疾書。高纓不好意思地把自己的來意告訴先生，沒想到陶行知很快地回答：“現在不成。”高纓失望了，他很奇怪，先生平時最喜歡和學生在壹起，也最願意幫助人，今天是怎麽啦？陶行知好像看出了他的疑惑，手指著晾在窗外的襯衫說：“我很高興陪妳去書店，可是我的襯衫還沒有幹。過壹個小時妳再來，好嗎？”高纓望著那還在滴水的白襯衫，心想：先生找借口吧？他說了壹句“那就算了”，不高興地回去了。
過了壹個小時，陶行知穿著還沒幹透的白襯衫，笑嘻嘻地來找高纓。高纓還躺在床上生悶氣呢，見了先生，忙起身壹起上街。後來，高纓還是想不通，就去問副校長馬侶賢。馬先生說：“大家都知道陶行知是個名人，可是有誰知道，他為了妳們這些孩子，幾乎到了山窮水盡的地步。為了堅持辦學，他把自己的大衣和呢褲子都送到當鋪去了，換來的幾文錢解決了壹天的菜金。夏天，他只有壹件像樣的襯衫，這也不稀奇呀！”高纓聽著馬先生的話，眼圈紅了，他的耳邊又響起了陶先生上課時講過的話：“為了勞苦大眾，我們吃草也幹；為了受苦小孩，我們要飯也幹！”他的眼前出現了陶先生和同學們壹起喝稀飯，鼓勵大家“勒緊褲帶***度難關”的情景，他仿佛明白了：為了辦學，先生舍得壹切。
拜人民為老師
早在辦曉莊師範學校的時候，陶行知就提出了“生活即教育”、“社會即學校”和“教學做合壹”等理論，教導師生們與勞動人民相結合，“教人民進步者，拜人民為老師”。
壹位朋友的夫人來看陶行知，說起她的孩子把壹塊新買的金表拆壞了，她非常生氣，狠狠地揍了孩子壹頓。陶行知聽了，連連搖頭說：“哎呀，妳打掉了壹個‘愛迪生’。”接著，他講了美國發明家愛迪生小時候喜歡做實驗，被學校開除以後，在他母親的引導下，逐漸成為發明家的故事。他又親自到朋友家裏，把那個小孩請出來，帶他到修表店去看師傅修表。他們站在修表師傅身邊，看著他把表拆開，把零件壹個個浸在藥水裏，又看著他壹個個裝起來，再給機器加上油，用了壹個多小時，花了壹元六角錢修理費。陶行知深有感觸地說：“鐘表店是學校，修表師傅是老師，壹元六角錢是學費，在鐘表店看壹個多小時是上課，自己拆了裝，裝了拆是實踐。做父母的與其讓孩子挨打，還不如付出壹點學費，花壹點功夫，培養孩子好問、好動的興趣。這樣，‘愛迪生’才不會被打跑、趕走。”
山海工學團剛成立的時候，農民的孩子有了讀書的地方，燒香拜佛的紅廟成了教室，可是沒有孩子們用的桌椅。上課的時候，同學們帶來自己的凳子，有大有小，高低不壹。壹星期以後，學校請來了木匠師傅，他悶著頭做凳子，壹天能做好幾個。陶行知走過來，看見木匠師傅滿身是汗，就遞給他壹杯水，說：“我們不是請妳來做凳子的。”木匠疑惑地望著陶行知：“那叫我來做什麽？”
“我們是請妳來做‘先生’的。”
“我可不識字。”木匠慌了。
陶行知笑著說：“我是請妳來指導學生做木工的。妳如果教會壹個人，就可得壹份工錢。如果壹個也沒教會，那麽就算妳把凳子全做好了，還是壹文工錢也得不到。”木匠顯出為難的樣子。陶行知親切地說：“不要緊，妳不識字我們教妳。我們不會做木工，拜妳為先生。我第壹個向妳學。”說著，陶行知拿起壹把鋸，對準木板上劃好的線就“吭哧”“吭哧”地鋸起來。
第二天，廣場上擺著木匠工具，老師帶著孩子們來學做凳子。有個小朋友嘟囔著：“我們是來讀書的，不是來做木匠的。”壹個大人看見孩子拿起工具，不小心就很容易弄破手，也皺起眉直搖頭。這時，陶行知笑著說：“我有壹首詩讀給大家聽聽：‘人生兩個寶，雙手與大腦。用腦不用手，快要被打倒。用手不用腦，飯也吃不飽。手腦都會用，才算是開天辟地的大好佬。’妳們看寫得如何？”小朋友都拍手說好，那個大人也不好意思地笑了。
從此，每天孩子們都學做凳子，他們也當“小先生”，教木匠師傅認字。3個月後的壹天，教室裏的50個孩子，都坐著自己做的凳子。講臺上還有孩子們自己制作的杠桿、滑車等玩具和儀器。家長們擠在窗口、門外，信服地點頭叫好。陶行知在講臺前，念起了壹首剛寫好的詩：“他是木匠，我是先生。先生學木匠，木匠學先生，哼哼哼，我哼成了先生木匠，哼哼哼，他哼成了木匠先生。”孩子們看看坐在他們身邊壹起聽課的木匠，大家都笑了。