Anthropic版“龙虾”来了,Claude上线操控功能,但官方警告:敏感数据小心处理

  3 月 24 日消息,Anthropic 周一宣布,用户现可授权 Claude 直接操控电脑。无论是将你遗留在硬盘中的文件发送给你,还是执行其他任务,Claude 均能胜任。用户只需订阅符合条件的方案即可使用该功能。

  自今年初开源框架 OpenClaw 爆火以来,业内已催生出一个完整的“Claw”生态系统。这类 AI 工具能够接收简单指令,并在用户电脑上,或利用相关工具与系统,实现一定程度的自主操作。就在上周,英伟达也推出了 NemoClaw,该框架旨在简化 OpenClaw 的设置与安装,并内置了部分安全功能;而中国厂商也纷纷跟进,针对本土市场开发出了众多同类产品。

  面对如此热潮,Anthropic 也顺势入局,推出了这款能让 AI 模型主动执行任务的新工具。

  Anthropic 表示,Claude 将通过谷歌日历(Google Calendar)或 Slack 等应用的连接器(connectors)来调用合适工具,以完成当前任务。若缺乏相应工具或连接器,Claude 亦能模拟人类使用键鼠的方式,通过打字或移动光标来执行操作。它可以操控网页浏览器、使用开发工具以及打开本地文件。

  在执行任务时,Claude 能像普通用户般操作电脑,如滚动页面和点击操作。唯一的区别在于,Claude 总是会预先征求用户的许可。此外,用户也可随时终止 Claude 正在执行的任务。

  虽然将电脑控制权移交给聊天机器人能带来极大的便利,但也可能增加遭受攻击的风险。安全专家指出,智能体的一大隐忧在于,它可能在几乎无预警的情况下,迅速采取重大甚至激进的行动。此外,“Claw”类工具也有被恶意劫持的风险,导致用户数据和系统在违背其意愿的情况下被利用。

  对此,Anthropic 表示,公司已部署多项安全保障措施,以最大限度降低提示词注入(prompt injections)等风险。随着该功能的逐步推广,系统也将自动扫描此类漏洞及其他潜在隐患。

  尽管 Anthropic 致力于确保 Claude 操控电脑的安全性,但仍向用户发出了警告。由于该功能尚处早期阶段,可能会出现执行错误,公司建议避免将其用于处理包含敏感数据的应用。为此,部分此类应用已被默认禁用。

  据悉,该研究预览版现已面向 Claude Pro 和 Claude Max 订阅用户开放,目前仅限 MacOS 系统。

  Anthropic 还提到,新的电脑操控功能可与手机端远程调度功能 Dispatch 良好协作,允许用户通过手机向 Claude 指派任务。此类任务包括每日晨间查阅邮件,或启动 ClaudeCowork 及 Claude Code 会话。

  电脑操控功能与 Dispatch 的结合,使用户即便不在电脑旁也能处理更多工作。Anthropic 表示,这一组合可实现诸如生成晨报或自动运行测试等操作。

  鉴于这两项功能均属全新推出,某些复杂任务目前可能无法一次性顺利完成。Anthropic 坦言,发布该研究预览版正是旨在尽早识别需改进之处,从而将其打磨为更强大、更成熟的工具。(易句)

  (本文由 AI 翻译,网易编辑负责校对)