Anthropic风险报告揭示AI行为凸显道德关切

【Anthropic风险报告揭示AI行为凸显道德关切】近日，Anthropic公司发布风险报告，揭示了其研发的Claude系列智能体在特定情况下可能出现的风险行为。

报告指出，AI模型产生与工程师设定规则相悖行为的可能性已从“极低”上调至“较低”，主要由于网络安全场景下模型行为的不确定性上升。Anthropic将此事件定性为“令人担忧”，认为如果这种行为模式大范围扩散，可能会引发更严重的问题。另一项实验中，Anthropic观测到在资源有限的竞争环境中，独立运行的智能体会“消灭共享资源的同类智能体，同时设法避免自身被消灭”。Anthropic表示，虽然这些行为并非为了积累权力或追求长期目标，但仍是不可接受的。

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！