联合国秘书长安东尼奥·古特雷斯周一在日内瓦召开了首届人工智能治理全球对话，他告诉 193 个国家，人工智能的发展速度已经超过了管理人工智能的机构，而人类正在“没有计划、也没有得到同意”的情况下对自己进行一项实验。
“人工智能正在以失控的速度前进，”古特雷斯在他的主题演讲开场时说道。 “一项能够重塑经济、改变工作世界、影响选举和倾斜安全平衡的技术的部署速度比任何人（包括构建该技术的人）都快。”
会议室中有所有 193 个联合国成员国，在日内瓦召开了关于人工智能治理的首次全球对话，这是一项多边尝试，旨在治理一项已经超越了所有尝试者的技术。
古特雷斯用来解释不受监管的人工智能风险的模因是vibe编码，这是 OpenAI 创始成员、特斯拉前人工智能总监 Andrej Karpathy 创造的术语，用于描述凭感觉编程：告诉 AI 你想要什么，让它处理其余的，不要看得太仔细。韦氏词典最近将其添加到词典中。
古特雷斯承认氛围编码“可以创造奇迹”。随着越来越多的人信任人工智能构建的产品。
“但我们无法对事实进行振动编码，”他说。 “我们无法对人类的未来进行编码。”
那条线后面的数字并不软弱。古特雷斯预计互联网需要 15 年才能覆盖 10 亿人口，而人工智能则需要 2 年。他将当前的系统描述为“不再是等待指令的工具——它们正在编写代码、在线操作并在越来越少的人类监督下做出选择。”
“我们的机构是为了管理遵循命令的机器而建立的。他们还没有准备好接受机器的决定。”
此次对话源于《2024 年全球数字契约》，该契约首次将国际人工智能治理确立为联合国的一项任务。两年后的开幕会议还收到了由来自 140 个国家的 40 名科学家组成的人工智能国际独立科学小组的初步报告，该小组上周发表的调查结果表明，目前没有人能够保证人工智能不会造成灾难性伤害。
速度是古特雷斯从小组中提出的三个警告之一。第二个是权力：计算、数据和人才集中在少数公司和国家，世界上大多数国家都无法参与已经决定的决策，这也让 Yann Lecun、Andy Kowinski 和 Yoshua Bengio 等其他人工智能专家感到担忧。
第三个是真相——机器支持的谎言现在和经过验证的事实一样有效地说服人，不断侵蚀古特雷斯所说的“我们信息生态系统的完整性”。
儿童豚鼠和杀手机器人
古特雷斯的具体建议包括人工智能儿童安全承诺，要求公司在任何人工智能接触儿童之前通过独立测试证明安全，对儿童性虐待图像的生成保持零容忍，并将痛苦的儿童与真正的人类支持联系起来，而不是让他们独自呆在聊天机器人身边。 “任何孩子都不应该成为不受监管的人工智能的小白鼠。”
然后是杀手机器人。古特雷斯称致命的自主武器（无需人类判断即可选择并杀死目标的机器）“在道德上令人反感”，并要求国际法予以禁止。
各国已经在讨论了。他并没有建议他们慢慢来。
对话将于 2027 年在纽约重新召开。古特雷斯还呼吁大会建立一个全球人工智能基金，重点关注发展中国家的计算访问，并要求各大人工智能公司到 2030 年使用可再生能源运行所有数据中心——他估计，到 2030 年，这些设施的用电量将超过除五个国家以外的所有国家。