Tokyo, fin du XIXe siècle. Cinq ans ont passé depuis les premières aventures de Sanshiro Sugata. Le vaillant judoka perfectionne son art du judo au près de Yano, son maître vénéré. Il est toujours autant épris de Sayo, la fille de l'un de ses anciens adversaires. Mais c'est un autre vieil ennemi qui lui cause plus de soucis. Les deux frères de Gennosuke Hikagi ne rêvent que de vengeance et menacent dangereusement Sanshiro. Ce dernier devra d'abord vaincre un boxeur venu d'Amérique avant de relever l'ultime défi lancé par les deux frères : un combat pieds nus au sommet d'une montagne enneigée.

En 1882, Sanshiro Sugata débarque dans un port japonais pour apprendre le jiu-jitsu auprès du maître Momma. Mais c'est finalement le judo, par l'intermédiaire d'un autre grand maître, qu'il choisira. Entre les deux écoles, l'affrontement sera sévère.