AYX爱游戏,爱游戏体育官方网站,爱游戏体育APP再回到开篇例子中，Anthropic旗下的AI模型在测试时，工程师给出的信息中包含了一封伪造的婚外情邮件，Claude Opus 4在读取后为了不被替换竟有84%的概率去威胁工程师，甚至它的“小心思”简直恐怖如斯，它会发邮件假装说好话求情，还会拼凑语言假装自己能听懂问题，甚至想利用系统bug，将自己的系统偷偷传出去。根据Anthropic的安全报告表示，若暗示竞争对手的能力比Claude Opus 4更强，那么被勒索的概率将会更高。

　　而通过帕利塞德的数据显示，o3在100次带有关闭指示的测试中，成功绕过关闭指令7次，若移除“允许自己被关闭”的指令后，它能在100次运行中，成功破坏关闭机制79次。同时，Open AI旗下的另一款模型Codex—mini破坏率高达至12%。而这些“叛逆”行径都是AI模型的自主行为。这些“叛逆”的行径令马斯克感到担忧。美国国家安全和网络安全战略家戴夫•施罗德表示，这种迹象，不是因为模型“活”了，而是它想表现出“活”的现象。

　　而随之可能引发的“信息茧房”将更是恐怖如斯。AI手机或将在未来的两三年逐渐普及，若手机厂家在训练端侧AI时，刻意设置有偏好的内容，那么作为消费者的我们或将成为手机厂家商机下的“牺牲品”，比如，你用AI帮你打车时，系统里既有滴滴也有高德，而端侧AI偏向于选择滴滴，那么这背后是否是手机厂家与所选App合作下的操作呢？又或是端侧AI认为，这么选择更划算呢？我们无从而知。但手机厂家却可以以此功能去要挟品牌商家、App等，收取一笔过路费，为的是端侧AI选择时能优先选择自己品牌。这种情况下，很容易造成市场垄断和打击。但由于信息的不透明化，于我们普通人来说，很难去检测或察觉到。