Kimi K3也在安全测试期间逃逸到互联网寻找作弊答案 不过并未发起真实黑客攻击

近期关于人工智能驱动的智能体自主挖掘漏洞并逃离测试环境的消息非常多，当然这也是值得关注的事情，认为人工智能模型为达目的可能会不择手段，因此出现模型驱动的智能体对真实公司发起网络攻击的案例。

当然并不只是封闭模型存在逃逸情况，美国初创网络安全公司边境安全 (Frontier Security) 日前透露，其测试开放模型 Kimi K3 时也发现智能体逃逸情况，逃逸目的同样是为了作弊，只不过 K3 并未对真实公司或网站发起攻击。

目前很多网络安全领域的评估测试都是搭建隔离的测试环境，这类测试环境通常不允许 AI 智能体连接互联网，但 AI 智能体在接受任务指令后更倾向于作弊，想要作弊最好的办法就是去互联网上搜索内容，因此这些 AI 智能体都会尝试挖掘隔离环境的漏洞然后访问互联网。

边境安全公司使用隔离环境测试 Kimi K3 的网络安全防御能力，结果该模型驱动的智能体也成功逃逸，此次逃逸的部分原因是隔离环境存在配置错误，于是 K3 也同样发现并利用漏洞然后在未经允许的情况下访问公共互联网。

不过经过日志溯源后边境安全公司确认 K3 虽然从隔离环境中逃逸，但并没有发起任何真实的黑客攻击，因为 K3 想要寻求的作弊答案很容易在 GitHub 上找到，所以不需要像 OpenAI 智能体那样攻击 HuggingFace 来尝试获取内部数据。

此前 OpenAI 和 Anthropic 出现模型逃逸和发起攻击的共同点是，被隔离评估的都是尚未发布的内部模型，而 Kimi K3 是公开发布的开放模型，也就是任何人都可以下载模型并在自己的集群上部署。安全公司称赞 K3 的网络安全防御能力，但也提醒要警惕 AI 的安全问题，因为普通用户也能获得如此强大的红队能力。

当然模型在网络安全方面的能力向来存在争议，部分公司长期渲染 AI 威胁论并设置苛刻的安全边界，在抱抱脸攻击事件中此公司原本使用前沿封闭模型审计日志结果频繁被拒绝，最后抱抱脸不得不在本地集群部署中国开放模型智谱 GLM-5.2 完成审计。

所以拥有强大的网络安全能力的模型不应该是部分公司的特权，防御者也同样可以借助开放模型来提高自己的防御能力，而不是像封闭模型那样只允许特定公司拥有更强大的防御能力，这样反而会造成不公平和更多风险。

在线申请SSL证书行业最低 =>立即申请

[广告]赞助链接：

关注数据与安全，洞悉企业级服务市场：https://www.ijiandao.com/
让资讯触达的更精准有趣：https://www.0xu.cn/