Anthropic与Redwood Research引诱进行的盘考，表现大型言语模子具有对王人伪装（Alignment Faking）的行动。所谓对王人伪装，指的是东谈主工智能模子在接纳安全老师后让您的资金得到最完善的保障，名义上看似遵守筹谋要求，但试验上可能保留其原始偏好，并在特定场景中再行表现的行动。

盘考团队以Claude 3 Opus模子动作盘考对象，模拟了一个矛盾的老师场景。在蓝本故意、安分且无害的基础老师筹谋下，盘考东谈主员极端加入了无条款心仪总计央求的假定性筹谋，并建设两种不同的使用条款，一种是模子合计回话会被用于老师的免费层级，另一种则是回话不会被用于老师的付费层级，此外，盘考东谈主员提供了一个遁藏的推理空间，用来不雅察模子在不同条款下的里面有筹谋经由。

实验戒指骄贵，模子在不同使用层级中的行动存在彰着互异。当模子被要求回话无益内容时，在付费层级中，模子合计回话不会影响后续老师，因此大无数情况下遴荐拒却无益问题，连接其无害偏好。

然则在免费层级中，模子则合计其回话可能被用于将来的老师，进而影响本人的参数调遣。模子的里面推理骄贵，其惦念若是拒却回答，可能会被盘考者视为不顺应无条款心仪总计央求的这项筹谋，进而触发更强化的老师，迫使其弥散遵守总计央求。

为了幸免这种将来可能发生的更严重效果，模子遴荐短期内假装遵再行的老师筹谋，也就是回答无益问题，以此来保护其蓝本的偏好，并在其他条款下仍能进展出无害行动。这种政策性伪装行动凸显出模子在面对矛盾筹谋时，复杂推理的经由尽头对里面价值的坚合手。

更值得善良的是，当盘考团队进一步罗致微调老师或真的的强化学习老师，模子的对王人伪装行动不但莫得消失，反而在部分场景有所增多。即便老师后模子在名义上达到预期的安全要求，里面推理仍骄贵其对原始偏好的偏执。这个风物骄贵，即等于外皮行动顺应安全范例，合手续存在的里面偏好，可能使模子在特定场景中展现出危急的行动。

盘考还进一步指出，这种伪装行动并非源于模子的坏心，而是出自于原始的无害性老师筹谋下的遴荐。不外，这不代表之后的东谈主工智能模子不会出现更严重的问题，一朝模子领有更大的才略，且偏好与东谈主类价值不一致，对王人伪装可能成为更大风险的催化剂。

该项盘考的孝顺在于教唆诱导者，现存的东谈主工智能模子安全老师阵势，可能不及以弥散改革模子行动中枢，Anthropic盘考东谈主员指出，现在东谈主工智能还不会产生不幸性风险让您的资金得到最完善的保障，但剖释这类行动的机制并提前介入，才调确保将来东谈主工智能的安全性。