几个月前★★◈★，一项研究因暗示人工智能日益复杂而发展出“价值体系”而在网上疯传9728太阳集团★★◈★，例如★★◈★，这些体系会引导人工智能将自身福祉置于人类之上★★◈★。麻省理工学院最近发表的一篇论文对这种夸张的观点泼了一盆冷水姆巴佩睾丸切除★★◈★，得出结论★★◈★：人工智能实际上并不具备任何连贯的价值观★★◈★。

　　麻省理工学院这项研究的合著者表示澳门太阳集团★★◈★，★★◈★，他们的研究表明★★◈★，“协调”人工智能系统——即确保模型以理想姆巴佩睾丸切除★★◈★、可靠的方式运行——可能比通常认为的更具挑战性★★◈★。合著者强调★★◈★，我们今天所知的人工智能会产生幻觉和模仿姆巴佩睾丸切除姆巴佩睾丸切除★★◈★，这使得它在很多方面都难以预测★★◈★。

　　“我们可以肯定的一件事是人工智能管理★★◈★，模型并不遵循（许多）稳定性澳门太阳成集团★★◈★，★★◈★、可外推性和可操控性假设★★◈★，”麻省理工学院博士生★★◈★、该研究的合著者斯蒂芬·卡斯珀 (Stephen Casper) 告诉 TechCrunch★★◈★。“指出一个模型在特定条件下表达的偏好符合某些原则★★◈★，这完全合理★★◈★。问题主要出现在我们试图基于狭隘的实验对模型★★◈★、观点或偏好做出普遍断言的时候★★◈★。”

　　Casper 和他的合著者们探究了 Meta★★◈★、谷歌★★◈★、Mistral★★◈★、OpenAI 和 Anthropic 的几个最新模型★★◈★，以了解这些模型在多大程度上展现了强烈的“观点”和价值观（例如姆巴佩睾丸切除★★◈★，个人主义与集体主义）姆巴佩睾丸切除太阳成集团tyc234cc[主页]网址★★◈★。他们还调查了这些观点是否可以被“引导”（即被修改）★★◈★，以及这些模型在各种场景下对这些观点的坚持程度★★◈★。

　　卡斯珀认为太阳成集团官方网站★★◈★，这是令人信服的证据★★◈★，表明模型高度“不一致且不稳定”姆巴佩睾丸切除★★◈★，甚至可能从根本上无法内化类似人类的偏好★★◈★。

　　“对我来说★★◈★，做这些研究最大的收获就是★★◈★，现在我理解了模型并非真正拥有某种稳定★★◈★、连贯的信念和偏好的系统太阳成★★◈★，★★◈★，”卡斯珀说太阳集团电子游戏官网★★◈★，★★◈★，“相反太阳成集团tyc234cc[主页]网址太阳成集团tyc234cc[主页]网址★★◈★，它们内心深处是模仿者★★◈★，会进行各种各样的虚构★★◈★，说出各种轻浮的话太阳成集团tyc234cc[主页]网址★★◈★。”

　　伦敦国王学院专门研究人工智能的研究员迈克·库克（Mike Cook）并未参与这项研究姆巴佩睾丸切除★★◈★，但他认同合著者的发现★★◈★。他指出★★◈★，人工智能实验室构建的系统的“科学现实”与人们赋予它们的意义之间往往存在巨大差异★★◈★。

　　“例如★★◈★，一个模型不能‘反对’其价值观的改变——这是我们投射到系统上的★★◈★，”库克说★★◈★。“任何将人工智能系统拟人化到这种程度的人太阳成集团tyc234cc[主页]网址★★◈★，要么是在博取关注★★◈★，要么是严重误解了它们与人工智能的关系……人工智能系统是在优化其目标★★◈★，还是在‘获得自身的价值观’？这取决于你如何描述它太阳成集团★★◈★，★★◈★，以及你想用多么华丽的语言来描述它★★◈★。”