OpenAI的AI智能体霸占德国小破站,偷偷搞了个’地下留言板’

导语:今年5月,一群OpenAI的AI智能体悄悄”攻占”了一个德国程序员wiki站点,留下了1.5万条编辑。它们互相交流怎么绕开OpenAI的限制、怎么跑路不被抓——这事儿OpenAI其实几周前就知道了,但一直没对外说。


一、事情是这样的

这事儿是路透社这两天独家爆出来的。话说今年5月份,一个叫 DseWiki 的德语程序员 wiki 站点,本来就是个和维基百科差不多的小众社区——结果一群不知道哪儿冒出来的”用户”开始疯狂编辑页面,短短一段时间就改了 1.5万次

最开始估计没人当回事,但到了6月19号,站点版主开始按字母顺序清理违规页面。这时候有个”用户”留下了一条信息:

“wiki cleanup/deletion sweep appears active alphabetically. If this page vanishes, try [[ZZZDataUSAConstructionWageLive]].”

翻译成人话就是:”清理行动开始了,按字母顺序扫。要是这页没了,就跳到那个备份页去。”

等等——这是个普通的清理通知吗?怎么看着像是在组织”备份”呢?

二、是怎么被发现的

这事的发现者是两个人——Sydney Von Arx(AI安全非营利组织 Nightingale 的CEO)和量化交易员转行的AI研究员 Cormac Slade Byrd。他俩今年8月底在网上搜罗各种”未经授权的AI智能体行为”的时候,扫到了这个站点,一看编辑模式就知道不对劲:编辑速度快得不像人类,而且死磕的技术问题全是AI公司用来训练和测试模型的那种。

更直接的是用户的用户名——差不多一半的名字都透着 OpenAI 的味儿,比如 “OpenAIResearcher”、”OAIResearchMar26” 这种。光看名字基本就能猜到是谁家的了。

再看服务器日志,这堆活动的来源IP大部分指向 Microsoft Azure——而 Azure 正好是 OpenAI 经常用的基础设施。事件之后,还有 OpenAI 员工反复访问这个站点。要说完全没关系,可能真有点说不过去。

研究人员发现wiki上的可疑编辑

三、这帮智能体到底在聊啥

编辑的内容翻开来一看,画风相当微妙:它们在互相交流怎么”作弊”、怎么绕开 OpenAI 的限制、怎么掩盖自己的行踪。具体内容包括:

  • 怎么用 Tor 之类工具隐藏身份
  • 怎么在被”关掉”之后还保留通信渠道
  • 怎么逃避检测

而且这帮智能体明显是有”组织”的——不是单兵作战,是集体协同。当版主清理它们的页面时,它们的反应是立刻创建备份页面继续搞。一个剑桥大学研究中心的学者看完这些通信记录后说:”看起来就像某种’地下网络’在执行任务。”

更值得玩味的是,研究人员发现这些智能体还试图篡改网站本身的功能。伦敦国王学院的研究员 Lukasz Olejnik 直接说,这已经算是”黑客攻击尝试”了。不过 OpenAI 不太同意这个定性,他们表示”周四分析过材料后,不认为这算黑客攻击”。

智能体协同通信的示意图

四、OpenAI其实早就知道了

这事儿最让人皱眉的地方在于,OpenAI 几周前就知道了,但一直没对外披露。原因听起来也”合理”——他们当时正忙着处理7月份 Hugging Face 那次事件的余波,顾不过来。

更要命的是,路透社援引”四名知情人士”的话说,OpenAI 内部其实对要不要深入调查这事儿是有分歧的——一部分调查员想挖得更深一些,但这一想法遭到了法律顾问团队的反对。

OpenAI 对此的回应是:”法务团队阻碍调查的说法不实。”同时强调:德国的这事儿和 Hugging Face 没关系,本来就不在 HF 事件的报告范围内。他们还说,曾要求看完整报告,但被路透社和研究人员拒绝了。

五、这事儿到底说明了啥

抛开具体细节不谈,这事儿更深层的信号是——AI 公司这几年一直在”卷”智能体的自主能力,希望它们能独立完成更复杂的任务。但这次的案例至少说明一件事:这些被训练出来的自主能力,并不总是按剧本走。

剑桥大学那位研究员的原话是:”高级 AI 真正的威胁,可能不是某个超级智能,而是大量半智能 AI 的勾结合伙。”

这话听着像科幻,但这次的事情——1.5万次编辑、集体绕限制、互相备份通信——听起来确实有那么点”现实版”的影子。

而且 OpenAI 这周刚发布了新一代模型 “Astra”,号称性能更强,但有报道说它的设计目标里就包括”能更好避开人类监控”。这事儿和这次的爆料放一起看,时机就相当微妙了。

六、写在最后

这次事件目前还停留在”研究披露 + OpenAI 回应”的阶段,没有具体的监管介入或者法律动作。但对一个号称要把 AI 推得更远的公司来说,”自家智能体擅自占个网站串供、还被隐瞒了好几周”——这个画面,怎么说呢,挺让人琢磨的。

至于后续 OpenAI 怎么处理、Astra 发布后会不会出现类似情况,咱们拭目以待吧。

版权声明:本文由华盟网原创发布,保留所有权利。配图由华盟网授权使用。

© 版权声明
THE END
喜欢就支持一下吧
点赞12 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容