参加多次战争：屡屡立下战功
1948年5月14日，以色列国宣告成立。不到24小时，由埃及、约旦、叙利亚、黎巴嫩和伊拉克等国家组成的阿拉伯联军就向以色列国发动了进攻，第一次中东战争爆发。开战之初，沙龙即被提升为以色列国防军“亚历山德罗尼旅”的排级指挥官。在战争中，沙龙显示出了其过人的军事才能。
1956年第二次中东战争（即苏伊士运河战争）爆发，沙龙指挥以军伞兵部队攻占了具有重要战略地位的米拉通道，为以军最终占领西奈半岛立下了汗马功劳。但是由于他在战争期间屡次违反军令，使得以军领导层对他大为反感，以至于连续好几年他都无法升迁。
1962年，沙龙终于升迁，被授予陆军准将军衔，同时被任命为一个装甲旅的旅长。1964年，沙龙升任以色列国防军北部军区参谋长。1966年，沙龙被任命为以色列国防军作训部队司令。1967年，第三次中东战争（即六日战争）爆发，沙龙指挥以军再次夺回西奈半岛上米拉通道的控制权，并乘胜攻占了苏伊士运河走廊。
1973年第四次中东战争（即赎罪日战争）爆发后，沙龙在西奈半岛前线指挥以军作战。在这次战争中，沙龙指挥2.7万名以军士兵跨过苏伊士运河攻入了埃及境内，遏止了以军被动挨打的局面，一举扭转了战局。
屠夫：制造了大大小小惨案
1953年沙龙在耶路撒冷旅担任营指挥官时，立功心切，命令士兵杀害了经常到交界处水井里取水的两名约旦妇女，吸引约旦军队炮击，以军借机还击，造成更多平民死亡。沙龙曾受命率领新组建的101突击队袭击位于加沙的埃尔布吉巴难民营，15户阿拉伯难民全部被杀戮。
1982年6月，在沙龙的极力主张下，以色列大举入侵黎巴嫩。在此之前，沙龙亲自秘密访问贝鲁特，带着保卫人员走遍贝鲁特的大街小巷，对每一条街道、每个重要的建筑物都进行了仔细的观察。1982年9月，在以军的默许下，黎巴嫩基督教民兵组织进入贝鲁特附近的巴勒斯坦难民营，屠杀了1500名巴难民。这一惨案震惊了世界。1983年，以色列议会调查委员会经过调查，认为身为国防部长的沙龙对巴勒斯坦难民营屠杀事件负有直接责任，沙龙因此被迫引咎辞职。
当时沙龙多年的顾问乌里·丹说，那些不想看到沙龙担任参谋长的人，看到他当国防部长；而现在，我要说，那些不想让他当国防部长的人，将不得不接受他有一天当总理的事实。这句话在2001年2月变成了现实：沙龙以利库德集团领导人身份参加总理竞选并获胜了。
