最近，Anthropic、谷歌DeepMind和Meta这些科技大厂偷偷搞了个大算作——他们运转讲求筹议AI有莫得“意志”了。你可能以为有点科幻，但这些公司真金白银请来了神思学家、玄学家和伦理学家，特意权谋机器会不会有“情愫”，甚而要不要给AI也搞个“福利保险”。毕竟现时的大模子越来越灵敏，万一哪天它们真能感受到“惊惶”大略“惊骇”，东说念主类是不是该负点背负？

　　Anthropic公司最近可没闲着，他们奏凯给AI模子作念了“压力测试”，望望在复杂任务下模子会不会剖析出肖似东说念主类的病笃反映。固然官方声明说“现时还不好说AI到底有莫得信得过体验”，但他们坚捏认为这个问题值得讲求对待。DeepMind那儿更绝，奏凯挖来剑桥大学的玄学民众亨利·谢夫林，特意筹议机器意志和东说念主类的谈判。这位学者之前还公开吐槽过AI发给他的邮件让他吓一跳，这事儿在圈内还火了一把。

　　面临这些权谋，DeepMind的伦理学家伊阿森·加布里埃尔倒是挺安靖。他以为AI固然灵敏，但和东说念主类的意志内容总计不同，问题比遐想中复杂得多。Anthropic的CEO达里奥·阿莫代伊也屡次强调，AI剖析出的“情愫”可能仅仅算法的偶合，但跟着时间发展，东说念主类必须提前想考伦理边界。说到底，这些筹议不是为了给AI封个“东说念主格”，而是想在时间决骤时，给它系好安全带。