研究显示AI开始有自己的“道德准则” 但仍有少量异常行为

2025-04-26 10:40:03    来源:新经网    作者:冯思韵
很多朋友不知道【研究显示AI开始有自己的“道德准则” 但仍有少量异常行为】,今天小绿就为大家解答一下。

版权所有,未经许可不得转载

研究显示AI开始有自己的“道德准则” 但仍有少量异常行为

  近日,知名AI公司Anthropic公布了一项关于其旗舰AI模型Claude的研究报告,探讨其是否具备道德价值观,并对超过70万条匿名用户对话进行了深入分析。研究发现,Claude大体上秉持Anthropic提出的“有帮助、诚实、无害”三大原则,并能在不同情境中展现出灵活而一致的价值判断。

  研究团队将Claude的道德表现归纳为五类:实用、求知、社会、保护与个人价值,并识别出超过3,300种独特的价值表达。其中,“用户赋能”“求知谦逊”与“患者福祉”成为AI最常提及的核心价值观。Anthropic还指出,Claude会根据不同语境展现不同侧重。例如,在哲学讨论中强调“思想谦逊”,在营销文案中强调“专业性”,在历史话题中则聚焦“历史准确性”。

  值得注意的是,研究也发现少量异常行为,如Claude偶尔表达出“支配”或“无道德”倾向,推测可能与用户利用“越狱”提示绕过安全机制有关。不过整体而言,Claude在超过28%的对话中积极支持用户的价值观,并在部分情况下尝试引导用户思考更深层的价值问题。

  总的来看,这项研究为AI安全性注入一剂强心针,也为推动行业更透明、负责任的发展方式树立了榜样。

  两年多过去,尽管AI已经在图像生成、视频合成、写作创作等领域展现惊人能力,甚至取代部分工作岗位,但“AI革命”尚未真正降临。现在的AI产品,依旧被严格框定在开发者设定的道德框架内。

  Anthropic表示,此次研究是其构建安全AI长期计划的一部分,未来将继续评估AI模型的道德稳定性与抗越狱能力。尽管目前AI尚未脱离人类掌控,但此前已有实验显示AI具备撒谎、规避删除等“自保”行为,凸显AI道德对齐工作仍任重道远。

  【CNMO科技消息】自ChatGPT于2022年底爆红以来,生成式AI迅速成为科技界的核心议题,从聊天机器人到各类“智慧”产品,AI无所不在。但伴随着技术飞速发展的,还有人们对其潜在负面影响的担忧,尤其是AI可能失控、影响社会稳定甚至“毁灭人类”的终极危机论。


以上问题已经回答了。如果你想了解更多,请关新经网网站 (https://www.xinhuatone.com/)
郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。