十月二十一日，安重根提前五天到达哈尔滨做了些准备工作。二十六日凌晨，安重根检查了勃朗宁手枪，信奉天主教的他将七发子弹头都刻了十字，祈求上帝保佑并上了膛。穿上旧西服外套，头戴鸭舌帽，把手枪踹在衣服里边的右兜里，打扮成日本人的模样。
上午七时，安重根坐马车来到哈尔滨站，俄国官兵以为他是日本人，允许他进入车站台。九时二十分，伊藤博文从列车上走下来检阅俄国仪仗队，安重根在距伊藤博文只有五米左右时，拔出手枪，从俄国仪仗队的空间，向伊藤博文射了三枪。只有在报纸上见过伊藤博文照片的安重根生怕打错人，又向伊藤博文的随行人员连开三枪，顿时车站一片大乱。 安重根当场被俄国宪兵拘捕，在拘捕时，他用俄语大喊“韩国万岁”。而伊藤博文也在当天身亡。
震惊世界的车站枪响
在日本设在旅顺的关东都督府高等法院的法庭上，安重根宣布伊藤博文十五条罪状，包括杀死明成皇后、逼签乙巳条约等。安重根说：“我是为了具有四千年历史的祖国和两千万同胞，一举处决蹂躏朝鲜主权、扰乱东洋和平的奸贼。正因如此，我的目的是正大光明的。我是作为一个国家的人民，尽了自己应尽的义务。”
日本法院拒绝安重根的外国律师进行辩护，在一九一零年二月十日判处安重根死刑。于一九一零年三月二十六日安重根穿上母亲亲自为他做的白色朝鲜民族服装，九时四分走上绞刑台，从容就义。
从哈尔滨火车站传来的“砰砰砰……”的六发枪声震惊了世界，向世人宣布韩民族还未亡，韩国人不愿做亡国奴，打响了韩国追求独立自主的第一枪。同时，也“招来”世界各地的媒体争相报道这一特大新闻。日本报刊、朝鲜亲日报刊和一些西方报刊骂安重根为暴徒、匪贼；而韩国多数报刊、中国和俄国的韩文报刊则赞安重根是爱国斗士、和平表达者。中国各界名人纷纷题词，其中包括孙中山、梁超、蔡元培等。
韩国的教科书中都将他描绘为韩民族(朝鲜称朝鲜民族)英雄，认为他的义举为日后的“三一”独立运动、韩国临时政府成立、尹奉吉和李奉昌义举、海外独立军等抗日追求民族独立自主的运动增添了勇气和希望。他的名言“为国献身乃军人本份”，成为当今韩国军队之魂，在韩国军营里随处可见有他的宣传画。
这是一段在韩国选择性记忆的近现代史中为数不多的、双方共有的和无可争议的历史。安重根在狱中写下的《安应七历史》、《狱中记》和《东洋和平论》等作品，也留下了二百多幅遗墨，其中《狱中记》部分内容被摘选为韩国中学生的教科书。
