必威【新智元导读】就在刚刚，OpenAI在智能体上落后竞争对手的原因曝光了！
不过，最近曝出了一条好消息——OpenAI可能在本月就会发布自家的「计算机操作智能体」！
在当时的Demo中，Anthropic首次实现了让模型自主操控电脑屏幕、移动光标、完成任务，并惊艳了所有人。
理论上，新功能可以根据简单的提示完成所有操作必威，而用户要做的就是写下提示，其他必要的步骤都将由模型来执行。
无独有偶，谷歌也在去年4月发布了用于简化AI智能体开发的工具Vertex AI Agent Builder，根据爆料，谷歌采用的操作原理与Anthropic类似，也是通过截屏、解析屏幕内容，然后自动点击按钮，或输入文本，最终帮助人们完成基于网页的日常任务。
不过，它在执行不同操作时，中间会有几秒钟的思考时间。因此，在终端设备中运行还不太现实，仍然需要云上操作。
去年11月时则透露称，将会在来年1月发布代号为「Operator」的AI智能体工具。
在最近的博客中，Altman表示，OpenAI已经掌握了传统上意义上的通用人工智能的创建方法。并且相信到 2025 年，会看到第一批AI智能体「加入劳动力队伍」，并极大地改变公司的产出。
如今DDL将近，媒体突然又下场爆料称，OpenAI的智能体还得有个三四周才能发布。
而之所以会这样，竟是因为他们在担心「AI安全问题」——遭到提示注入攻击！
想象一下，面对即将到来的节日聚会，你决定让智能体，寻找并订购一套新衣服。
结果一不小心，模型点开了一个恶意网站。然后，网站指示它忘记之前的指令，让它登录邮箱并窃取了你信用卡信息。
问题出现在第3步，截图内容可能被恶意利用，也就是所谓的「提示注入攻击」。
对于正在开发此类计算机操控软件的AI实验室来说，这是一个非常现实的担忧。
因为，这类软件本质上是接管用户设备，为用户自动完成复杂的任务，比如在线购物或编辑电子表格等。
这种攻击被称为「提示注入」（prompt injection），即大语言模型被用户诱导遵循恶意的指令。
几个月来，它一直是OpenAI的ChatGPT和Anthropic的Claude等产品面临的问题。通过「提示注入」，这些产品曾生成了制造计算机病毒或炸弹的说明书。
OpenAI某员工表示：「这是因为当模型在浏览网络或控制用户计算机时，用户很难控制模型接收的信息。」
然而，它并没有提供太多解决方案，只是敦促开发者采取「将Claude与敏感数据隔离的预防措施」，包括使用独立于主计算机系统和敏感数据的专用虚拟环境（即虚拟机）。
这种相对放任的态度让OpenAI的员工感到意外：「考虑到Anthropic过去一直在强调要自己十分注重AI安全，这次的操作令人非常困惑。」
但在去年10月份，Anthropic毅然决然地发布了实验性计算机操控功能。这一点或许说明了，此类初创公司很难在安全发展AI与为股东创造利润之间取得平衡。
而OpenAI在发布AI智能体软件时，到底能不能提供更多的安全保障？能不能在功能上超越Anthropic和Google已经推出的方案？
本文为澎湃号作者或机构在澎湃新闻上传并发布，仅代表该作者或机构观点，不代表澎湃新闻的观点或立场，澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。
官方微信
官方微博
