Japanilaisen painin menneisyys on kehittynyt rinnan japanilaisten historian kanssa, sillä ensimmäiset maininnat sumopainista löytyvät jo keisarikunnan vanhimmasta teoksesta, Japanin "Kalevalasta", Kojikista vuodelta 712. Siinä kaksi shintolaista jumalaa, Takemikazuchi ja Takeminakata painivat 2500-vuotta sitten Izumon rannalla vallasta. Voittaja Takemikazuchi perusti imperiumin, josta Japanin sanotaan saaneen alkunsa. Painin uskottiin heijastavan jumalten tahtoa ja siksi painijoiden haluttiin olevan kuin jumalia, suuria ja voimakkaita.

Vuodelta 720 oleva kronikka Nihon Shoki kertoo ottelusta, jonka voitti savenvalaja Sukune. Sukune nostettiin myöhemmin sumon viralliseksi isähahmoksi.

Vuonna 734 alkoi Naran, Japanin silloisen pääkaupungin, hovi järjestää palatsin puutarhassa sumo-seremonioita, joihin kutsuttiin painijoita ympäri maata. Päiväksi valittiin heinäkuun seitsemäs. Näitä esityksiä järjestettiin, jotta maahan saataisiin hyvä sato ja suotuisat ilmat. Sumon uskonnolliseen alkuperään viittaa myös Omishiman saarella edelleen harrastettava hitori-zumo, yhden miehen sumo, jossa shinto-pyhäkön henkilökuntaan kuuluva vertauskuvallisesti ottelee riisipellon jumalan kanssa. Ihminen häviää rituaalisen kamppailun, jotta suhteet jumalaan pysyisivät kunnossa.


Kamakuran shogunaatin aikana (1185-1392) sumo kuului soturiluokan, samurain taitoihin siinä missä miekkailu tai jousella ampuminen. Laji ei kuitenkaan ollut taistelulajina kovin tehokas ja niinpä se alkoi suuntautua yhä enemmän urheilumuodoksi. Sumosta tuli hyvin suosittu ja vuonna 1206 perustettiin erityinen sumovaltuusto (Bugyo) ja tuomari (Gyoji) voittajan ja häviäjän selvittämiseksi. Sotapäällikkö Oda Nobunaga (1534-82) järjesti helmikuussa 1578 ensimmäisen sumoturnauksen, johon kutsuttiin 1500 painijaa ympäri Japania.

Edo-aikakaudella (1603-1867) turnajaisia pidettiin runsaasti varojen keräämiseksi sodassa tuhoutuneiden temppeleiden, siltojen ja teiden korjaamiseksi. Hooreki-aikakaudella (1751-64) syntyi Sumo-Kaisho-niminen sumopainijoiden ammattijärjestö, joka loi lajille säännöt. Syntyi uusi ammattikunta: sumopainija.

Vuonna 1868 tapahtui Meiji-restauraatio, jossa feodaalinen samuraihallinto lakkautettiin ja Japani alkoi länsimaistua vauhdilla. Monet uudistukset järkyttivät myös vuosisatoja toiminutta sumolaitosta. Sumopainijat eivät enää saaneet palkkaansa maaherroilta (Daimyo) ja uudistusmieliset sanomalehdet vaativat lajin kieltämistä. "Barbaarisen sumon alastomuus" oli läntisten aatteiden kiihoittamien japanilaisten mielestä nolostuttavaa.

Nopea länsimaistuminen aikaansai vastareaktion; syntyi liikkeitä perinteisen japanilaisen kulttuurin - myös sumon - säilyttämiseksi. Epävarmuuden aika päättyi, kun keisari vuonna 1884 julkisesti hyväksyi sumo-ottelut.



Mahdollisesti ensimmäinen Suomenkielellä kirjoitettu kuvaus sumosta löytyy tutkimusmatkailija Nils Adolf Nordenskiöldin muistelmista. Hän vietti syksyllä 1879 kaksi kuukautta miehistöineen Japanissa.