当地时间9月16日，联合国秘书长古特雷斯在纽约联合国总部举行的记者会上呼吁全球协同行动，为人工智能设立护栏。数日之后，各国领导人将齐聚联大年度高级别周。古特雷斯明确表示，人工智能将是他下周与世界领导人磋商的“主要议题”；面对这项快速演进的技术，“各国不能无视这些担忧”。
一、“开发速度已超出人类对风险的认知”
在这场联大高级别周开始前举行的记者招待会上，古特雷斯给出一个谨慎的判断：人工智能具有巨大潜力，但近来越来越多的人工智能开发者警告，其开发速度已超出人类对风险的认知——有的开发者呼吁暂停开发人工智能，有的则呼吁设立护栏。
担忧的升温有迹可循。据联合国新闻报道，9月8日，人工智能公司Anthropic一名前研究员警告，人工智能可能对人类构成“生存性威胁”
对这份沉甸甸的警告清单，古特雷斯的回应是：各国不能无视这些担忧，尤其是人工智能一线人员提出的警告。他强调，国家行动必不可少，但全球协调不可或缺——“National action is essential, but global coordination is indispensable”。由于人工智能发展及其所带来的风险超越国界，各国政府首先必须负起责任。
二、“孤立的、无法验证的、不均衡实施的”暂停为何行不通
针对部分开发者提出的暂停开发主张，古特雷斯划出了三条界线：孤立的、无法验证的、不均衡实施的自愿暂停措施，无法解决当前问题。他说，如果人们认为当风险变得过大时人工智能开发应当放慢，那么“我们需要的就不只是良好意愿”。
在他看来，国际社会需要凝聚两点共识：一是如何安全、可靠、负责任地推进人工智能开发，二是何时需要强化监督、采取额外风险管控措施。联合国新闻的观察是，全球讨论正在从“是否应当监管人工智能”，转向“应当实施哪些安全保障”。
共识之所以紧迫，源于地缘现实。古特雷斯提醒，在当前存在巨大地缘政治分歧的背景下，人类承担不起人工智能走向“逐底竞争”的后果——那可能有朝一日导致全球层面的巨大灾难。他把人工智能发展比作冷战时期的美苏军备竞赛，呼吁前沿能力最强的国家——包括美国和中国——建立接触机制、交流信息、设立共同护栏，在风险持续得到评估的同时放慢人工智能开发。
至于联合国能否就此召集一场迈向有效监管的峰会，古特雷斯坦言“下周不可能办到”，但应当尽快推进，并且需要公共部门、私营部门、科学界与公民社会“各方都在船上”。
三、联合国的“两条腿”：科学证据与全球对话
这次记者会上的呼吁，并非孤立的声音，而是联合国过去两年治理布局的延续。
2024年9月，会员国通过《未来契约》，其附件《全球数字契约》呼吁人工智能领域的国际合作，并提出设立两个新机制：一个评估人工智能风险与机遇的独立科学小组，一个供各国政府与其他利益攸关方协调治理路径的年度全球对话。2025年8月，联合国大会正式设立这两个机制。根据联合国官方文件，独立国际科学小组由联大A/RES/79/325号决议（2025年）设立，是全球首个专门针对人工智能的科学机构，授权严格限于科学与非政治属性、聚焦非军事领域。
两个机制的分工被设计得清晰互补：科学小组提供证据，各国在全球对话上决定如何应对。今年7月，科学小组发布首份预备报告，结论是人工智能能力正在快速跃升——尤其在推理、编码和科学领域——机遇重大；与此同时，报告识别出错误信息、歧视、隐私侵犯、网络攻击，以及可能变得难以控制的“超级智能”等风险。
今年7月上旬，首届政府级联合国人工智能治理全球对话会议在日内瓦举行，为期两天，与会各国代表审议了这份由40位顶尖专家组成的独立科学小组提交的报告。古特雷斯当时即在会上警告，人工智能技术正以令人难以置信的速度部署，其发展步调甚至超越了技术研发者自身的掌控；“创新需要设立‘护栏’，人工智能若要发挥其强大效能，就必须接受制度化的治理”。据报道，该专家小组计划于明年发布内容更为全面的评估报告，第二届联合国人工智能治理全球对话会议拟于明年在纽约举行。
联合国人工智能治理机制建设与风险警示时间线。
四、高级别周之后：从“善意”到行动
古特雷斯为“护栏”给出的内涵是：建立信任，确保人工智能安全、透明、负责任，并以人类尊严为中心。当前形势下，国际合作“比以往任何时候都更加必要”。
他已提出两项具体倡议：一项人工智能儿童安全承诺（AI Child Safety Pledge），以及一个支持发展中国家建设人工智能基础设施与能力的“全球人工智能基金”（Global Fund for AI）。
接下来的高级别周，将是观察这些主张能否转化为行动的第一扇窗口。有新闻报道援引外交人士的话猜测，安理会可能在高级别周期间讨论人工智能问题；在一般性辩论的讲台上，人工智能担忧无疑将被反复提及；9月21日，联合国SDG媒体区将举办相关活动，9月23日，“人工智能与人类发展”系列讨论将收官——两场活动都聚焦人工智能与人类能动性之间的关系。
在古特雷斯的定位中，各国和区域政府仍将自行作出人工智能监管决策，联合国的角色是把各国政府聚在一起，为讨论提供科学基础，并识别可以开展国际合作的领域。有了科学和外交机制，联合国接下来要做的，是把这种合作变成具体行动。
