1919年,17岁的苏步青买了一张去日本的船票,余170元钱要维持3个月的生活,实在很艰难。他每天只能吃两餐饭,无钱请日语老师,只好拜房东大娘为师。最后他用流利的日语回答了主考官的提问,以第一名的成绩进入名牌学校——东京高等工业学校电机系。1924年,他又以第一名的成绩考入日本东北帝国大学数学系,师从著名几何学家洼田忠彦教授。1927年,大学毕业后,他又在课余卖报、送牛奶、当杂志校对和家庭老师,用所挣得的钱做学费,免试升入该校研究生院做研究生,并以坚强的意志,刻苦攻读,接连发表了41篇仿射微分几何和射影微分几何方面的研究论文,开辟了微分几何研究的新领域,被数学界称作“东方国度上升起的灿烂的数学明星”。1931年3月,他以优异的成绩荣获该校理学博士学位,成了继陈建功之后获得本学位的第二个外国人。此后,国内外的聘书像雪片似的飞来,苏步青一一谢绝。因为两年前陈建功获理学博士位时,曾约苏步青到条件较差的浙大去。苏步青说:“你先去,我毕业后再来。让我们花上20年时间,把浙大数学系办成世界第一流的数学系……”这兴许就是苏步青在全国高校院系调整时不愿离开浙大的情缘。