1987年5月1日，莫斯科的苏联国家安全委员会总部。
俄罗斯国安会前身是克格勃
俄罗斯联邦国家安全委员会的发展，以1991年苏联解体为界被分为两个阶段。
苏联时期，国家安全委员会的前身是1917年成立的全俄肃反委员会，简称契卡。1954年，契卡更名为苏联国家安全委员会，也就是大名鼎鼎的克格勃。它是苏联对外情报、反间谍、国内安全和边境保卫等工作的主要部门，是一个凌驾于党政军各部门之上的“超级机构”，只对苏共中央政治局负责。
契卡的第一任首脑捷尔任斯基，是列宁的亲密战友和苏联杰出的国务活动家。十月革命胜利后不久，为了保卫红色苏维埃政权，他倡议并领导成立了契卡。同大多数肃反委员会的初期领导人一样，捷尔任斯基不是俄罗斯族人。他1877年出生于一个波兰地主知识分子家庭，1896年放弃学业投身革命。在整个革命生涯中，捷尔任斯基从未有连续3年以上不被捕的时候。在经过了20年的囚禁、多年的流放和3次逃跑之后，捷尔任斯基终于获得了自由，并加入布尔什维克。
在担任肃反委员会主席一职的第一年，捷尔任斯基工作、吃、住都在自己的办公室里。在他的领导下，肃反委员会同反革命力量做斗争的主要手段是没收财产，迁移、吊销供应证，公布人民敌人的名单等。1921年，列宁高度评价了肃反工作人员的工作，称他们是反对敌人颠覆苏维埃政权的有力武器。
在苏联国家安全委员会历史上，另一位极具影响的领导人是安德罗波夫。
1914年，安德罗波夫生于一个铁路工人家庭，25岁加入苏联共产党（布），先后在一些州和加盟共和国担任共青团领导工作，并相继出任驻匈牙利大使、苏共中央联络部部长。1967年，安德罗波夫任国家安全委员会主席，一连干了15年。正是在他的领导下，克格勃发展迅速，成为世界上最庞大的情报机关——约3万名外勤专职间谍分布在世界各地，刺探国外机密，连西方各大城市商品价格的涨跌，也一日不漏地报回国；在国内也时刻与外国间谍进行殊死较量。安德罗波夫很崇拜捷尔任斯基，书房里一直挂着他的画像。他自己也和捷尔任斯基一样，全身心投入克格勃的事业，亲自过问所有重大决策和行动。1982年11月，安德罗波夫当选苏共中央总书记。从安全工作领导人升任为苏共党的最高领导人，这在苏联历史上还是第一次。
说到克格勃，不能不提到俄罗斯现任总统普京。特工出身的他擅长摔跤、格斗、射击，还会开飞机，是克格勃的形象代言人。1975年，23岁的普京毕业于列宁格勒大学法律系，随后加入了克格勃。9年后，他被送到莫斯科的间谍学校进行为期一年的培训，并在培训结束后被派遣到德意志民主共和国（东德）工作了近6年。
1991年10月，苏联解体前夕，总统戈尔巴乔夫撤销了苏联国家安全委员会。后来，俄罗斯重建了自己的安全力量，成立了俄罗斯联邦国家安全委员会，由总统任主席，成员包括总理、联邦安全局长、外交部长、内务部长、国防部长、总参谋长、紧急情况部长等。
现在，俄罗斯国安会更多地是一个多方力量的协调机构，负责审议重要的国家和社会安全事项，制定统一的国家安全政策。
