AI领袖就星际之门计划安全性产生争论

在世界经济论坛达沃斯年会上，人工智能领域顶尖人物针对特朗普提出的5000亿美元“星际之门”项目展开激烈讨论，双方就人工智能发展风险和监管问题存在重大分歧。
多位人工智能领军人物对当前发展态势表示担忧。谷歌深度思维首席执行官德米斯·哈萨比斯（Demis Hassabis）爵士、人智公司联合创始人达里奥·阿莫代（Dario Amodei）和“人工智能教父”、计算机科学家约书亚·本吉奥（Yoshua Bengio）在会上一致警告，商业利益和地缘政治竞争正导致人们忽视人工智能的安全隐患。
哈萨比斯认为人工智能发展已不可逆转。他表示，一旦人工通用智能失控或被不法分子劫持，可能会威胁人类文明，这种风险在开源的大语言模型中尤为突出。
本吉奥在接受英国《金融时报》采访时强调：“这不仅关乎企业或产品，更关乎人类的未来、生存状态，以及社会发展方向。”
阿莫代对人工智能的滥用深表忧虑。这位Claude聊天机器人的开发者表示，“非常担心出现《1984》中描述的场景，甚至更糟”。他的公司已获得谷歌和亚马逊的投资支持。
本吉奥在研讨会上直言不讳：“科学界还不知道如何控制与人类智力相当的机器，更别说更聪明的机器了。有人说‘别担心，我们会想办法的’，但如果找不到解决方案，后果将不堪设想。”
Meta首席人工智能科学家扬·勒昆（Yann LeCun）则批评这种观点有虚伪之嫌。他指出，这些人一边表达担忧，一边又在竞相开发和销售最佳模型。Meta已投入数十亿美元开发开源大语言模型Llama。
勒昆在采访中表示：“约书亚和达里奥反对开源的观点实际上很危险。阻碍开源发展只会让监管权落入少数几家美国西海岸或中国企业手中，导致权力过度集中。”
勒昆还指出阿莫代态度矛盾：“昨天见面时，他说人工智能的收益和风险大致相当。我就问他，‘既然这么认为，为什么还要继续从事人工智能研究？’所以我觉得他有点两面派。”
与科学家和工程师的谨慎态度形成鲜明对比，商界高管们对人工智能技术充满热情。
荷兰科技投资集团Prosus总裁埃尔文·图（Ervin Tu）说：“没有人持反对意见。如果了解大语言模型及其训练出的智能体能做什么，就很难不认同它们具有变革性，将在各个行业产生巨大颠覆。”
本周三，OpenAI、软银和甲骨文宣布成立名为“星际之门”（Stargate）的5000亿美元人工智能基础设施合资企业，让本就躁动的气氛更加火热。
周二，特朗普在椭圆形办公室会见了三家公司的首席执行官：萨姆·奥特曼（Sam Altman）、孙正义（Masayoshi Son）和拉里·埃里森（Larry Ellison）。随后他签署了一系列放松技术开发限制的行政命令，强调这些举措将确保美国在人工智能领域的主导地位。
OpenAI首席财务官萨拉·弗莱尔（Sarah Friar）解释说：“在OpenAI，我们相信基础设施就是命运。星际之门项目就是为了增加算力。更强大的算力能构建更好的模型，更好的模型能解决更复杂的问题，为人类和企业带来更多收益。”
星际之门项目迅速成为达沃斯论坛的热点话题。包括埃隆·马斯克（Elon Musk）在内的多位业内人士在社交平台X上质疑三家公司如何筹集如此庞大的资金。
据《金融时报》周五报道，星际之门项目尚未获得所需资金，也不会获得政府资助，建成后将只服务于OpenAI。目前，软银和OpenAI各计划投入超过150亿美元，希望通过现有投资者的股权投资和债务融资筹集资金。
这个新项目被视为OpenAI与微软关系出现裂痕的最新证据。微软首席执行官萨提亚·纳德拉（Satya Nadella）和首席人工智能执行官穆斯塔法·苏莱曼（Mustafa Suleyman）与奥特曼的关系明显疏远。苏莱曼是深度思维的联合创始人，去年初离开创业公司加入微软。
与微软在人工智能代理销售业务上竞争的Salesforce首席执行官马克·贝尼奥夫（Marc Benioff）指出：“去年达沃斯论坛上，穆斯塔法·苏莱曼和萨姆·奥特曼之间的紧张关系只是个开始。”
贝尼奥夫补充说：“微软现在正加速自主开发人工智能，这种模式反映了微软与‘合作伙伴’打交道的一贯作风。这可能标志着双方关系走向终结，OpenAI必须迅速拓展其他平台。”
微软发言人弗兰克·肖（Frank Shaw）对此回应：“马克根本不知道他在说什么。”自2019年以来，微软已向OpenAI投资近140亿美元，换取其知识产权使用权和独家云计算服务提供商地位。但后一项协议在星际之门项目宣布时已终止。
在达沃斯会议上，纳德拉对星际之门的投资承诺表示怀疑，同时强调了微软计划投入的800亿美元资本支出。
他说：“我只知道我承诺的800亿美元一定会兑现。”后来在社交平台X上回复马斯克时表示：“所有这些资金不是为了炒作人工智能，而是为了在现实世界中打造有用的东西！”
星际之门项目反映了美国正在展开人工智能基础设施军备竞赛。马斯克的xAI公司去年仅用三个月就建成了一台名为“巨人”（Colossus）的超级计算机，内含10万片互联的英伟达芯片，并承诺将这一数量扩大十倍。
贝莱德和微软正准备推出一个300亿美元的人工智能投资基金，用于建设数据中心和能源项目，满足科技行业日益增长的需求。周五，Meta首席执行官马克·扎克伯格（Mark Zuckerberg）宣布，公司今年将在基础设施方面投入600亿至650亿美元，同时扩大人工智能团队。
OpenAI的弗莱尔表示：“我一直在与各行各业的客户开会。每一位首席执行官都意识到需要部署人工智能。人工智能不仅是议程之一，而是整个议程。它不再是抽象概念或未来愿景，它就在眼前。”