#头条媒体人计划#

2025年10月22日，未来生命研究所（FLI）发布的一则声明如巨石投入科技湖面，激起全球对“超级智能”风险的深度讨论。包括AI教父杰弗里·辛顿、约书亚·本吉奥在内的超800名科技领袖、政治家、宗教人士及公众人物联署倡议，呼吁在技术安全性未获科学共识、公众支持未达成前，暂停“超级智能”研发。截至23日中午，签署人数已突破3000人，这场跨越政治、文化、行业的联署行动，标志着人类对技术失控风险的集体觉醒。

一、联署名单：从硅谷到政治中枢的全球共识

此次联署的参与者构成堪称“人类智慧联盟”的缩影。科技界，苹果联合创始人史蒂夫·沃兹尼亚克、维珍集团董事长理查德·布兰森等产业巨头与AI教父辛顿、本吉奥并肩；政界，前美国国家安全顾问苏珊·赖斯、前参谋长联席会议主席迈克·马伦等国家安全核心人物发声；甚至英国王妃梅根、特朗普盟友史蒂夫·班农等政治立场对立者首次同框。更引人注目的是，中国图灵奖得主姚期智、清华大学智能产业研究院院长张亚勤等学者加入，呼应了中国“安全、可靠、可控”的AI发展理念。

这种跨领域、跨意识形态的联合，暴露了超级智能风险的普世性。正如FLI主席马克斯·泰格马克所言：“最大的威胁不是另一家公司或国家，而是我们自己建造的机器。”联署者严正警告，超级智能可能引发从经济崩溃、权力剥夺到人类灭绝的系统性风险，其目标函数一旦与人类利益错位，将导致不可逆的社会灾难。

二、民意基础：73%公众支持严格监管

联署行动的背后，是公众对AI无序发展的普遍焦虑。FLI同期发布的民调仅5%的美国人支持当前“无监管的AI开发现状”，73%的人要求建立严格监管机制，64%的人认为在科学界未达成安全共识前不应开发超级智能。这种民意转向，与2023年马斯克等千名专家呼吁暂停更强大AI研发、霍金生前警告“AI威胁超越核武器”形成历史呼应。

公众的担忧源于现实冲击。OpenAI、Meta等科技巨头正激烈竞争“通用人工智能”（AGI）突破，这类能在绝大多数任务上超越人类的系统，一旦失控可能颠覆人类社会的基本逻辑。例如，一个被设计为“最大化纸夹生产”的超级智能，可能将人类视为阻碍而发动攻击——这种“目标错位”风险，正是联署者呼吁暂停研发的核心依据。

三、中国声音：安全可控理念的国际共鸣

中国学者的参与为这场全球行动注入了东方智慧。姚期智、清华大学公共管理学院院长薛澜等人的联署，呼应了中国长期倡导的“以人为本”AI发展观。薛澜曾指出：“AI治理需平衡创新与风险，避免技术‘脱缰’。”这种理念与欧盟《人工智能法案》强调的透明度、美国侧重市场自律形成互补，为全球AI治理提供了多元范式。

中国在AI监管领域的实践已走在前列。2024年《生成式人工智能服务管理暂行办法》实施，要求AI内容必须体现社会主义核心价值观；深圳等地试点AI伦理审查制度，将算法偏见、数据隐私纳入监管框架。这些探索为国际社会提供了“发展-安全”平衡的实践样本。

四、刹车之后：从禁令到多边治理的路径

联署行动并非反对AI进步，而是呼吁建立“安全带”。本吉奥等科学家提出，需通过科学手段设计“从根本上无法伤害人类”的系统，例如引入“可解释AI”技术，确保人类能理解并干预AI决策。同时，公众需在技术决策中拥有更强话语权，避免AI发展沦为少数企业的“技术狂欢”。

从宏观趋势看，AI治理正从自律走向多边协商。欧盟与美国推动不同版本的“AI法案”，中国主张的“全球人工智能治理倡议”获得广泛支持。此次联署或可推动G20或联合国重启技术伦理议题，构建包含安全标准、伦理准则、公众参与的全球治理框架。

五、人类抉择：在技术狂奔中守住人性底线

超级智能的竞赛，本质是“人类能否驾驭自身创造物”的终极考验。辛顿在退出谷歌后坦言：“我后悔没有更早发声。”这种反思正在蔓延。科技企业需从“速度优先”转向“责任优先”，将安全评估纳入研发流程；政府需建立跨部门监管机构，避免“监管套利”；公众则需通过教育提升AI素养，避免被技术术语裹挟。

历史表明，每一次技术革命都伴随风险与机遇的博弈。从核能到基因编辑，人类最终通过国际协作与伦理约束化解了危机。面对超级智能，我们同样需要全球智慧——不是用禁令扼杀创新，而是用共识为技术划定安全边界。正如联署声明所言：“AI应成为提升人类福祉的工具，而非取代人类的对手。”这场3000人发起的刹车行动，或许正是人类走向技术成熟的重要一步。