口琴最初傳入中國時，人們只是將其視為兒童玩物，後經王慶勳、陳劍晨等人大力倡導，口琴終於成為正式樂器，風行全國。蔡元培曾形象地將之比擬為交通工具中的自行車：簡單省事，僅費一人之力，即可行駛自如。

　　在德國，一直有一個關於口琴發明的有趣故事在民間流傳，説的是在1821年的某一天，德國音樂家布希曼在托斯恩小城中散步，偶然間他發現一個農家女孩坐在門坎上玩耍，她手裏拿著一把貼著硬紙的木梳正在使勁地吹著。那優美而動聽的旋律，著實讓布希曼的眼睛為之一亮，觸發靈感。回去後，他就根據中國古代笙和羅馬笛的發音吹奏原理，用象牙雕刻成了一隻能握在手裏吹奏的袖珍琴，這就是世界上第一隻口琴的雛形。

　　蘇格蘭流傳著另一種説法。根據他們的史料，早在1831年，蘇格蘭就有好幾家製作口琴的作坊，這是世界上最早的口琴廠。現在世界各國比較公認的説法是，十九世紀初，歐洲出現口琴的雛形；1857年，經過德國和來口琴工廠改進後定型為現代口琴，並廣泛流傳於世界。

　　口琴發明之後，最初只是作為娛樂品在民間流傳。因為輕便的緣故，口琴受到很多軍人的喜愛，常隨身攜帶，戰爭間隙用來怡情解愁，以後就有一些軍樂隊用它來參加演出，口琴逐漸成為正式樂器。大約在十九世紀末，口琴傳入日本，二十世紀初由日本傳入中國。

　　大約從1929年開始，有關口琴的書籍在中國陸續問世，短短幾年就有幾十種出版，且都賣得相當紅火，印數達到幾萬冊之多。比較有影響的有：黃涵秋的《口琴吹奏法》、鬱星星的《口琴吹奏法》、陳劍晨的《口琴流行名曲集》等。

　　1930年12月6日，創辦最早、會員最眾、影響最廣、成績最著的中華口琴會，應亞美廣播電臺之邀到該臺播音演奏，這是口琴在中國的第一次正式播音。此後，各大電臺都相繼邀請各口琴名家定期到臺向觀眾教授口琴吹奏法，並現場進行播音演奏，這大大擴大了口琴在社會上的影響。

　　1931年5月1日，《中華口琴界》在上海正式創刊，成為中國最早的口琴專業刊物。此後有多種口琴雜誌出版。

　　中國開始生産口琴也是從三十年代開始的，“光華”、“國光”牌口琴在當時已達到較高水準，受到口琴專業演奏者的歡迎。

　　二十世紀三十年代大量涌現的口琴團體是最值得人們關注的。據1934年的調查，當時全國的口琴團體有一百多個，其中較有影響的大多在上海。其中有王慶勳教授創辦的中華口琴會、石人望創辦的大眾口琴會、陳劍晨創辦的上海口琴會等。

　　1931年8月，正是中國有聲電影剛剛興起之時，天一電影公司鋻於中華口琴會在社會上的廣泛影響，專門拍攝了《口琴有聲影片》的紀錄片，此片為當時的日趨活躍的口琴活動起到了推波助瀾的作用。

　　口琴有著輝煌的過去，時隔七十年，今天它仍頑強生存著。2000年中華口琴會和上海口琴會相繼舉行活動。2000年末，廣受歡迎的大型原創舞劇《野斑馬》在上海大劇院演出，序幕一拉開，觀眾聽到了口琴奏出的優美而動聽的音樂旋律，這旋律，揭開了舞劇中原始森林最深處的一段愛情故事。舞劇結尾同樣是那富有詩意的口琴獨奏旋律結束了全劇。