1906年春，他乘船东渡日本求学，因没有朝廷公派文书未能如愿。回国后，考入了全国陆军速成学堂（即保定军官学校的前身）学习。第二年，由于在学堂表现出色，加上自己有意争取，经过考试被公派去日本军校留学。这对于他来说是一个难得的机遇，于是他紧紧地把握，不顾母亲和妻子的反对和阻挠，再次东渡扶桑追求新的希望。在日本先是就读日本士官预备学校——掁武学校。1910年毕业以后，他被分配到日本驻新泻县高田市野炮兵第十三师团第十九联队，佩二等兵军衔，后升为上等兵，也称士官候补生。当兵期间，平常很少说话，没有什么可以引人注意的事情。不过让他和普通的兵一样，派去扫马房的时候，他的脸上现出难为情的神色。由于军队里的军纪关系，一切都是遵照长官的明令，不得不服从。
在日本学习军事和当兵实习，使他对治军有所感悟，认为“一国军队如果做到精强战力，就要有三个要素：绝对服从命令；军队官兵要有中心信仰；军队为士兵最优良的职业学校。”
评析：
少年蒋介石没有因循长辈为其设计的通过获取功名走仕途发达之路的人生轨迹，而是弃文习武。促成他做出这样选择既有外部环境的影响，又有自身因素使然。其确定人生目标追求是最大特点，就是勇于摒弃旧俗，大胆接受新风。戊戌变法后，科举制度虽然依旧进行，但已是日薄西山，弊端重重。蒋介石到宁波第一次参加科举，目睹科举的腐败黑暗，感到痛心和愤怒。同时，他开始隐约感悟到社会的新趋向，即倡导学习西方文明的新学，以及长期处于边缘地带的军人群体，渐渐走向政治的中心，尚武精神成为一种时尚，并潜意识地把自己人生目标追求，同这种新的社会风气联系起来。
留学日本已蔚然成风。他的老师顾清廉鼓励学生们出国学习军事，老师的点拨固然很重要，但如果他对新风视而不见，墨守成规的话，那么他是不会回应的。外因是条件，内因是根据，正是因为他内心有一种吸纳新风的冲动，所以老师的号召在他的内心产生震撼，一直渴望能出人头地的蒋介石，似乎也从这里看到了自己的前程。于是，做了弃文习武，东渡扶桑的抉择。
常言道，有志者事竟成。蒋介石到日本求学的道路并不平坦，只身到日本因没有清政府的推荐公函，无功而返。但他并没有放弃，而是回国投考保定陆军速成学堂，刻苦学习，提高自己的竞争力，同时积极向校方争取，终于如愿以偿。
弃文习武，东渡扶桑，对于蒋介石来说，是人生旅程和政治生涯中具有决定意义的第一个坐标，从此他的前途命运与枪杆子紧紧地联系在一起，他依仗枪杆子发迹得势，取得荣耀和辉煌，攫取军权、党权、政权，直到坐上权力的最高宝座。然而，这一决定命运的选择，也使他染上致命的弱点：尚武精神使他过于迷信枪杆子，在执掌全国政权后，仍坚信枪杆子万能，奉行强权政治，而根本不愿真正吸纳民主新政，逆潮流而动，枪杆子最终无法挽救其政权覆灭的命运。