Die Wurzeln des Judo liegen in kriegerischen Auseinandersetzungen, dem natürlichen Trieb des Kräftemessens und kultisch-religiösen Riten. Erste Überlieferungen von Zweikampfsportarten gehen bis auf ägyptische Wandzeichnungen und Papyrusrollen (ca. 2500 v. Chr.) sowie Wettkämpfe im Ringen anlässlich der 18. Olympiade (708 v. Chr.) zurück. Die so genannten ursprünglichen Zweikampfsportarten sind Schwingen, Glima und Sumo.Judo entwickelte sich auf japanischem Boden. Die Ursprünge von Ju Jutsu oder Sumo sind unbekannt. Japanische Chroniken berichten, dass schon im 4. Jahrhundert Wettkämpfe stattfanden. Man hält sie für die Ursprünge des Sumo oder des Ju Jutsu, jedoch waren diese Kämpfe mit religiösem Ritus verbunden. Ausgesuchte Kämpfer versammelten sich am Kaiserhof und trugen ihre Turniere aus. Das Resultat der Kämpfe war zugleich die Prophezeiung für die Ernte. Es ist bemerkenswert, dass einige Kämpfer neben der reinen Körperkraft auch schon gewisse Tricks anwandten, die aber von den Gegnern als Mystik oder Magie ausgelegt wurden. Hier kam schon das Prinzip der Ausnutzung der Kraft des Partners zur Anwendung. Im Gegensatz dazu stand bei manchen westlichen Ringkämpfen die athletische Körperkraft im Vordergrund.
Die antiken Zweikämpfe ohne Waffen hiessen Chikara Kurabe – Vergleich der Kräfte oder Sumo-Sumaû – Streiten. Darin waren die technischen Grundlagen des späteren Sumo, Kumi Uchi und Ju Jutsu enthalten. Einige Kämpfe gingen um Leben und Tod, wie manche literarische Quellen berichten Mit der Zeit entwickelte sich eine Kampfmethode, die es erlaubte, den Sieger ohne tödliche Gefahr und Verletzungen zu ermitteln. Es entstanden zwei Arten des Wettkampfes: Bu Gi – Kriegskunst – und Kyo Gi – Wettbewerb. Die erstere bedeutet die Übung der Kriegskünste für Kriegszeiten, die letztere wurde zum Spass und zur Schau verwendet. Die Schaukämpfe fanden auf Initiative des kaiserlichen Hofes statt, um in Friedenszeiten die kriegerischen Künste weiter zu fördern.
Mit dem Aufstieg der Kriegerklasse Ende des 12. Jahrhunderts erlebten die Kampfkünste einen starken Aufschwung. Die Krieger waren meistens Reiter; jedoch waren sie häufig auch auf ihre kämpferischen Fähigkeiten auf dem Boden angewiesen. In dieser Zeit entwickelten sich die Wurftechniken und Bodenarbeiten. Die Namen der einzelnen Techniken tauchten auf, aber die Bodenarbeit – Katame Waza – wurde noch nicht namentlich erwähnt. In der damaligen Literatur tritt das Wort «Yaware» zum ersten Mal auf, das die gesamte Kamptechnik, besonders aber Sumo bezeichnet, und das später gleichbedeutend mit Ju Jutsu wurde.
Ju Jutsu ist der direkte Vorgänger von Judo. Seit dem 16. Jahrhundert veränderte die Einführung der Feuerwaffen die Kampftechniken. Man ging mit einer leichteren Rüstung ins Felde Dadurch entwickelte sich eine schnellere Angriffs- und Abwehrtechnik, entweder mit dem gekürzten Schwert oder ohne Waffe.
Die ständigen Kriege und Unruhen verlangten von jedem die stetige Abwehrbereitschaft gegen unerwartete Überfälle. Unter den erfahrenen Bushi – Samurai – gab es Meister der einzelnen Kriegskünste, wie z.B. für den Kampf mit Lanzen, Schwertern oder den waffenlosen Kampf. Sie haben die Techniken als Kata-Form systematisiert und das System weiter privat unterrichtet. Dadurch entstanden geheime Techniken, die nur im Kreise des Meisters vermittelt wurden. In der zweiten Hälfte des 16. Jahrhunderts wurde Ju Jutsu von den andern Kampftechniken abgetrennt und als eigenes System unterrichtet. Selbst die grossen Heerführer suchten bei einem Meister systematischen Unterricht und geistiges Training. Jigoro Kano, der Begründer des Judo, definiert Ju Jutsu als «eine Kunst des Angriffs oder der Verteidigung ohne oder gelegentlich mit Waffen gegen einen Gegner mit oder ohne Waffen».
Die jahrhunderte lang getragenen zwei Schwerter der Krieger waren in der Friedenszeit – Tokugawa oder Edozeit – von 1603 bis 1868 am Hofe verboten. Nicht nur die Krieger, sondern auch die niederen Beamten, z.B. Gefängniswärter, waren dadurch genötigt, sich im Notfall ohne Waffe zu verteidigen oder waffenlos anzugreifen. Dadurch erreichte Ju Jutsu die höchste Stufe. Im 18. Jahrhundert existierten mehr als 100 Schulen; darunter können noch mehr als die Hälfte namentlich und dokumentarisch belegt werden.
1868 erfuhr Japan sowohl in politischer Hinsicht als auch auf anderen Gebieten revolutionäre Wandlungen, die Meji-Restauration. Die Feudalherrschaft der Ritter wurde beendet und alle Macht ging in die Hände des Kaisers und seiner Regierung über. Damit war auch der schnelle Niedergang aller traditionellen Kriegskünste besiegelt, wobei auch Ju Jutsu dieses Schicksal teilte.
Jigoro Kano (1860-1938) wuchs in diesem Japan der extremen Veränderungen auf. Er lernte Jiu-Jitsu an verschiedenen Schulen wie der Tenshinshinyo-Ryu und der Kito-Ryu. Hier erreichte er das Menkyo Kaiden, also die uneingeschränkte Lehrerlaubnis (Das uns bekannte Gürtelsystem wurde erst später durch Kano eingeführt).
1882 gründete Jigoro Kano seine eigene Schule, den Kodokan („Ort zum Studium des Weges») in der Nähe des Eisho-Tempels im Stadtteil Shitaya in Tokio. Er nannte seine Kunst Judo, was so viel wie „sanfter Weg» bedeutet. Oft wird Judo auch mit «Prinzip der Flexibilität» übersetzt. Jigoro Kano entfernte die im Ju Jutsu enthaltenen gefährlichen Techniken. Stösse, Schläge, Tritte und viele Hebeltechniken, insbesondere die Kleingelenkhebel, wurden ersatzlos gestrichen oder in die Kata, eine spezielle Übungsform, integriert. Dies ermöglichte ein Training oder einen Zweikampf, ohne dass grössere Verletzungen zu befürchten waren.
Judo setzte sich in Japan allerdings erst durch, als die Schüler Kanos (zuvor Ju-Jutsu Praktizierende) im Jahre 1886 einen regulären Kampf zwischen der Kodokan-Schule und der traditionellen Ju-Jutsu-Schule „Ryoi-Shinto Ryu» für sich entscheiden konnten. Aufgrund dieses Erfolges verbreitete sich Judo in Japan rasch und wurde bald bei der Polizei und der Armee eingeführt. 1911 wurde Judo an allen Mittelschulen Pflichtfach.
Jigoro Kano erzählt die Gründungsgeschichte des Judo wie folgt:
«Als ich Ju Jutsu lernte, fand ich es nicht nur interessant, sondern auch äusserst wirkungsvoll für die Ausbildung von Körper und Geist. Deshalb kam mir die Idee, es weiter zu verbreiten. Dazu war jedoch notwendig, das alte Ju Jutsu in einem gewissen Mass zu verbessern, da Ju Jutsu eigentlich nicht zum Zwecke der Leibeserziehung oder intellektueller und moralischer Erziehung entstanden war. Aber was ursprünglich für den Kampf erfunden worden war, nahm allmählich diese neue Form n. Auch die Kampfmethode jeder alten Ju Jutsu-Schule hatte ihre Vorzüge und Mängel. Darum kam mir der Gedanke, von jeder Schule nur die Vorzüge zusammenzunehmen und neu aufzubauen. Ich habe so viele Vorzüge aufgenommen, wie ich von jeder Schule erfahren konnte und meine Erfindungen hinzugefügt. Das Ziel soll nicht im Kampf selbst liegen, sondern im Stählen und dem Ausbilden von Körper und Geist und im Studium des Kampfes. Dafür habe ich eine bestimmte Methode und Ordnung festgelegt. Das Kodokan Judo.»