2020 年 3 月，利比亚荒野。联合国安理会的一个专家小组提交了一份历史性的报告。土耳其制造的 Kargu 2 无人机据说可以在没有人类指导的情况下“狩猎”和攻击目标。这可能是机器自行做出决定并对人类使用致命武力的第一例。
每年 11 月 11 日所在周是“国际科学与和平周”是。该周由联合国大会于 1988 年设立，旨在审议科学技术如何为维护和平与安全做出贡献。然而，现在到了2025年，这个问题以不同的形式出现在我们面前。
科技能变成什么？
“死亡商人”和“世界毁灭者”
1888年4月12日、瑞典化学家阿尔弗雷德·诺贝尔拿起一份法国报纸。里面有他自己的讣告。事实上，他的哥哥路德维格已经去世，但记者混淆了他的名字。
标题是“一个很难被称为人类恩人的人死了。”后世，以“死亡商人死了”为标题，成为传说。
文章继续。 “一个通过寻找更快地杀死更多人的方法而致富的人。” 1867年诺贝尔发明了炸药，成为拥有90家工厂的军工巨头。他认为自己是一个和平主义者，曾对一位朋友说：“如果两支军队发明出足够的炸药来瞬间消灭对方，所有文明国家都会退出战争。”
1895年，诺贝尔留下了遗嘱。他的全部财富将用于奖励“那些为人类带来最大利益的人”。其中包括和平奖。
1945 年 7 月 16 日，新墨西哥州阿拉莫戈多。凌晨5点29分45秒，人类第一颗原子弹爆炸。曼哈顿计划的负责人 J·罗伯特·奥本海默抬头望着蘑菇云，回忆起印度教圣书《薄伽梵歌》中的一段话：
“我就是死亡，世界的毁灭者。”
三周后，一颗原子弹被投在广岛。接下来是长崎。数十万人死亡。战后，奥本海默反对发展氢弹，主张国际控制核武器。在 1965 年的一次采访中，他说：“很难想象他对超过 10 万人的死亡负有责任。”与此同时，他补充道，“我并不后悔扮演我的角色。”
创造这项技术的人们看到了什么？
2025年的现实战场
乌克兰和俄罗斯计划到2025年生产和使用数万架无人机。在现代战场上，很大一部分伤亡是由无人机造成的。
配备AI的自主导航功能提高了无人机攻击的成功率。已大幅提高。它不依赖飞行员技能，抗电子干扰，训练时间短。
由以色列航空航天工业公司开发Harop 是一种几乎完全自主的巡飞弹药。一旦部署，它将自行搜索、识别和攻击雷达目标。截至2025年，以色列国防军已进驻加沙。薰衣草据报道，它使用了一个名为“AI”的系统。据称，该系统根据行为模式选择人类目标，并且“几乎没有人类监督”。
美国国防部复制计划目标是到 2025 年 8 月部署数千架小型无人机。其中一些配备武装并成群飞行。成本是传统有人驾驶战斗机的十分之一到百分之一。
奥地利外交部长亚历山大·沙伦伯格在维也纳的一次会议上警告说：“这是我们这一代的奥本海默时刻。”
联合国裁军事务高级代表中满泉阐明了联合国的立场。“将杀人的决定完全交给机器在道德上是不可接受的。”
科学家跨越国界
1957 年 7 月，加拿大小镇帕格沃什。22位科学家齐聚一堂。来自美国、苏联、英国、日本等国家。这次会议是在冷战最激烈的时期举行的，当时核战争的威胁正在上升。
参与者中有一些继承了阿尔伯特·爱因斯坦遗产的人。 1955年，爱因斯坦和伯特兰·罗素发表了一份联合声明。“科学家负有特殊责任，要认识到并警告世界他们的创造物所带来的危险。”帕格沃什会议就是为了响应这一号召而召开的。
他们作为个人而非政府代表参与。讨论是私人的。主题是核裁军和科学家的社会责任。会议仍在继续。 1995年，帕格沃什会议被授予诺贝尔和平奖。
1954年，欧洲核研究组织（CERN）在瑞士和法国边境成立。因二战而分裂的欧洲科学家正在再次合作。这发生在战后仅九年。
CERN 是一个纯粹和平的研究机构。冷战期间，参与国的扩张超越了东西方边界。 1991年，万维网在这里诞生。该技术由蒂姆·伯纳斯·李开发，免费向全世界发布。基于科学超越国界、知识应该共享的理念。
2015 年 7 月 28 日，布宜诺斯艾利斯。1000多名人工智能专家在国际人工智能大会开幕式上签署了一封公开信。呼吁禁止自主武器。史蒂芬·霍金、埃隆·马斯克、诺姆·乔姆斯基。信中指出：“开始人工智能军备竞赛不是一个好主意。”
2018年，4000名谷歌员工抗议该公司的军事人工智能合同Project Maven。几个人辞职了。致首席执行官的信呼吁：“请不要创造战争技术。”
“阻止杀手机器人”该运动自 2013 年以来一直很活跃。目前已有 120 多个国家支持就自主武器系统新国际法进行谈判。2024年12月，在联合国大会（L.77号决议（第79届会议））上，161个国家对自主武器决议投了赞成票，3个国家反对，只有13个国家弃权。2023 年的 A/RES/78/241 (LAWS) 号决议也仅遭到四个国家的反对。
截至 2025 年，非正式磋商（联合国自主武器会议）正在纽约进行。这是联合国所有成员国首次都能参加。
Stuart Russell 教授（加州大学伯克利分校）在 2022 年写道：“就像物理学家反对核武器、化学家反对化学武器、生物学家反对生物武器、医生反对参与处决一样，现在是人工智能研究人员站出来的时候了。”
透明管
国际科学与和平周始于 1986 年国际和平年。这个想法很明确。利用科学技术促进和平、安全和人类福祉，而不是破坏。
科学技术是透明的管道。如果你让水通过它，它会丰富你的生命，如果你让毒物通过它，它会夺走你的生命。炸药挖掘隧道并摧毁城市。核能发电并蒸发了城市。 AI诊断疾病并选择目标。管道本身没有对错之分。人类决定通过什么。
诺贝尔相信炸药可以结束战争。奥本海默相信，对原子弹的恐惧会带来和平。两者都错了。技术并不能带来和平。人类对如何使用技术的选择将决定和平或毁灭。
截至2025年，美国、俄罗斯、中国、以色列、韩国和英国反对先发制人地禁止自主武器。发展仍在继续。这项技术是存在的。如果一个人使用它，其他人也会使用它。
机器无法理解上下文。我读不懂你的意图。不要怜悯。他们不知道人的生命的价值。
1888年，诺贝尔宣读了他的讣告。 1945年，奥本海默看到了蘑菇云。 2025 年我们会看到什么？我们应该在管道中放入什么？
信息
参考链接：
- 联合国“国际科学与和平周”：https://www.un.org/en/observances/world-science-day/week
- 联合国《人工智能关于自主武器系统的报告》（2025 年 6 月）：https://news.un.org/en/story/2025/06/1163891
- 阻止杀手机器人运动：https://www.stopkillerrobots.org/
- 关于自主武器的公开信（生命未来研究所）：https://futureoflife.org/open-letter/open-letter-autonomous-weapons-ai-robotics/
- 人权观察“自主武器系统与人权风险”报告（2025 年 4 月）：https://www.hrw.org/report/2025/04/28/hazard- human-rights/autonomous-weapons-systems-and-digital-decision-making
- 帕格沃什会议官方网站：https://pugwash.org/
- 欧洲核子研究中心官方网站：https://home.cern/
词汇表：
致命自主武器系统（LAWS）：无需人工干预即可选择目标并执行攻击的武器系统。也被称为“杀手机器人”。
徘徊弹药：小型无人机，在目标上空盘旋等待，发现目标后进行攻击。也被称为“自杀式无人机”。
复制计划：美国国防部于2023年宣布计划到2025年8月部署数千个小型无人系统。
有意义的人类控制：在武器系统的目标选择和攻击执行中保留人类的大量判断和控制。自主武器监管的核心概念。
帕格沃什会议：1957 年在加拿大召开的国际会议，讨论核裁军和科学家的社会责任。是为了响应爱因斯坦-罗素宣言而建立的。 1995年获得诺贝尔和平奖。
CERN（欧州原子核研究机构）：国际粒子物理研究所成立于1954年。东西方科学家甚至在冷战期间也进行了合作。万维网的诞生地。