Die Ausformung des Karate beeinflusste wesentlich der buddhistische Mönch und Begründer des 
Zen-Buddhismus Boddhidarma (chin.: Daruma). Er gelangte um etwa 500 n. Chr. an den Hof des chinesischen Kaisers Wu und lebte danach von 520 bis 535 n. Chr. im chinesischen Kloster Shaolin. Er gilt als legendärer Vater des Karate.
Revolutionär war bei seiner Lehre die Symbiose zwischen geistigem und körperlichem Element, zwischen Meditationsübungen des Zen und Yoga einerseits und körperkräftigenden Übungen zur Erlangung von Ausdauer und Stärke anderseits, beides zusammen als zwingende Vorbedingung für die Ausführung der Kampftechniken.
In der Folgezeit wurde diese Körperschule unter der Bezeichnung Shaolin-Kampfkunst weiterentwickelt und schließlich auch auf Okinawa bekanntgemacht. Zwischen 1400 und 1600 n. Chr. war diese Insel ein von Japan besetztes Territorium, in welchem den Ureinwohnern der Waffenbesitz verboten war. Gerade diese Vorschrift war das Motiv eingehender Beschäftigung mit den neu eingeführten Kampftechniken, wobei eine Vermischung mit den einfallsreichen Techniken der Insel stattfand.
Lange Zeit blieben auch in der Folgezeit die geheimen Ausbildungsstþtten die Klöster. Erst Gichin Funakoshi, der moderne Meister dieser Kunst, konnte das Karate einer breiten Öffentlichkeit nahebringen. Er nahm grundlegende Neuerungen vor und gab dem Karate ein anderes Gesicht.
Zunächst änderte er die Schriftzeichen so, dass sie nicht mehr karate (= chinesische Hand), sondern karatedo (= der Weg der leeren Hand) bedeuten.
Darin ist eine erneute Hinwendung zum zenbuddhistischen Sinngehalt zu sehen, dergestalt, dass Karate nicht nur als eine Kampfkunst, sondern auch als Weg zur Charakterformung aufzufassen ist. Zugleich wurde der eigentliche Zweck, einen Menschen mit der bloßen Faust zu töten oder wenigstens kampfunfähig zu machen, zugunsten einer Interpretation als optimales Mittel zur Erziehung und Weiterentwicklung im physischen und psychischen Bereich aufgegeben.
Funakoshi lehrte zuerst an Universitäten, dann auch im Kodokan, der Hochburg des Judos, und gründete 1936 die Karate-Stilart Shotokan. 1955 wurde die Japan Karate Association mit Funakoshi als Chefausbilder ins Leben gerufen.
1957 veranstaltete der Verband die erste alljapanische Karatemeisterschaft. Erst 1965 erlangte Karate die Anerkennung im Deutschen Sportbund, worauf es in den 70er Jahren zur Gründung verschiedener Verbände in Bund und Ländern kam.