1956年4月18日，聂荣臻向中共中央、中央军委报告，建议中国政府派代表团赴苏联谈判，谋求苏联在国防新技术装备、实物样品、资料以及技术专家等方面给予技术援助。据聂力回忆：
1957年9月7日，以聂荣臻为团长的中国政府工业代表团（由于国防新技术保密，因此代表团以此命名）乘坐一架苏制伊尔-18专机，从北京南苑机场起飞，赴苏联谈判，我也一同前往。途中，父亲问钱学森：“造苏联的P2导弹，你有把握吗？”钱学森说：“就看这次去苏联的结果了，只要他们肯提供有关的设备和火箭样品，保证能行！”
“你觉得还有什么困难吗？”父亲问。
钱学森想了一下，说：“不是有一句谚语‘困难就像老鼠，听见脚步声就吓跑了’吗？”
说完，两人就哈哈大笑起来。
父亲又问钱学森：“如果没有外援，可以在七八年内研制出像美国‘诚实约翰’一类的无控制火箭，那如果能争取到苏联的帮助，能否提前造出比‘诚实约翰’性能更先进的火箭来？”“也许不用5年。在元帅的领导下，大家干劲十足哟！”钱学森回答说。
聂荣臻一行到达苏联后，经过35天艰苦谈判，签订了中苏两国《国防新技术协定》。按照协定，苏联答应在原子能工业、导弹、火箭武器、航空新技术以及导弹和核试验基地等诸方面援助中国。但是随着形势的变化，苏联这些承诺最后没有全部兑现，事实上中断了。
你们什么时候成功，我什么时候离开
1961年夏天，在北戴河召开的国防工业委员会工作会议上，关于“两弹”的争论达到了高潮。主张把“两弹”研制工作下马的同志强调苏联援助没有了；导弹、原子弹技术高度复杂，依靠我国尚不发达的工业和科技力量，很难造出“两弹”；花钱太多，主张把有限的钱用到常规武器上，说什么“你打你的原子弹，我打我的手榴弹”。聂荣臻坚决反对“两弹”下马，他把“两弹”看成是“命根子”——国家的“命根子”。那些日子，面对激烈的争论，聂荣臻不断找人谈话，研究调查的结果，更坚定了继续领导研制“两弹”的信心和决心。
1961年8月20日，聂荣臻签发了《导弹、原子弹应坚持攻关的报告》，直接上报毛泽东主席。报告说，争取3年至5年或更长一些时间突破国防尖端技术是有条件有信心的。这个报告进一步增强和坚定了中央领导同志的信心，毛泽东和中央有关领导都圈阅同意。
事情定下来后，聂荣臻仍然有点不踏实，他把当时有关方面的负责人张爱萍、刘西尧、刘杰等请来，请他们到有关单位调查研究。张爱萍等人都是坚决主张研制尖端武器的，张爱萍有一句名言：“再穷也要有一根打狗棍！”经过深入的调研后，这年11月14日，张爱萍等人给聂荣臻以及中央军委有关领导报告说：“经过近一个月的仔细调查研究，我们认为：两三年内，最迟在1964年，实现我国第一颗原子弹的爆炸是可能的。”这份文件一直在毛泽东手上存放到1962年12月27日，没有人知道在这一年多的时间里，他究竟看了多少遍，但从前一页半上那铅笔画下的一道道红色、蓝色的标记看，毛泽东对这件事是多么的关切和重视。
聂荣臻之所以坚持“两弹”的研制不能下马，还有一个重要原因，就是他晚年回忆“两弹一星”研制工作时提到的“两个相信”：一是相信中国人的聪明才智；二是相信中国大多数知识分子是爱国的。对钱学森就是一个很明显的例子。
聂力回忆，她曾经听父亲说过，钱学森刚回国的时候，周总理曾嘱咐父亲：要好好对待钱学森。周总理说，科学家是我们国家的精华，钱学森是科学家的一个代表。聂荣臻一直记着周总理的这句话，从不敢怠慢，他对钱学森非常关心，无论是工作还是生活，都为钱学森考虑得很周到。聂荣臻要求五院的领导，工作上给钱学森提供最方便的条件，在安全上也要积极采取严格措施。并规定，没有他的批准，钱学森不得乘坐飞机。在业务技术上，聂荣臻极为尊重钱学森的意见，每次执行任务的时候，聂荣臻就打电话给他，说：“钱学森哪，这次试验任务你到靶场去，有关技术上的问题由你来决定，你们准备好了，觉得可以发射了，打个电话报告我就行了。”
