白交发自凹非寺量子位公众号 QbitAI
现在，黑客已经靠 ChatGPT 赚钱了——机器人即服务 RaaS，前 20 次免费使用，之后每 100 次收取 5.5 美元（约 37 元）。服务范围主要包括恶意内容的创建，比如写写网络钓鱼邮件、改改恶意软件代码之类。总之，整个过程没有任何 OpenAI 的限制和障碍，你可以用它来为所欲为。
目前 OpenAI 这边还有任何回复。
“机器人即服务”
据相关安全公司消息，黑客们首先找到一种可以绕过 OpenAI 限制的方法，通过使用 ChatGPT API 集成到他们的一个应用程序中。事实上证明，相较于网页端，API 版本反而不会对恶意内容进行强制限制。
其中有个论坛的用户，就将其与 Telegram 消息 APP 结合起来，以此来出售服务 Telegram bot。甚至还正儿八经地做了广告。
△图源：Enlarge
前 20 次查询免费，随后用户每 100 次查询需要收费 5.5 美元。
安全机构的研究人员测试了这种绕过方法，结果收获了一封钓鱼软件，以及一个病毒脚本，可以从感染计算机中窃取 PDF 文件，并通过 FTP 发送给攻击者。
△Telegram bot 生成的钓鱼软件，图源：Enlarge
△Telegram bot 生成的恶意软件，图源：Enlarge（下同）
与此同时，其他黑客也在发布一些可以免费生成恶意内容的代码。这有个 Bash 脚本，可帮助绕过 ChatGPT 限制，做任何你想做的事情。
对于以往的恶意软件代码，比如 Infostealer，ChatGPT 也可以进行改进。
这也进一步地给了网络犯罪分子可乘之机。
黑客与 OpenAI 斗智斗勇
自 ChatGPT 诞生之日起，就有大量黑客试图将 ChatGPT 越狱，来生成各种恶意内容。根据访问通道不同，大体有两种方式。一种是 Web 用户界面，一种是 API，将 OpenAI 的模型和数据跟你自己的应用界面配套使用。比如这些都是合法认证的 APP。
此前，黑客们使用 Web 端 ChatGPT 生成恶意软件和钓鱼邮件很容易。但随着 ChatGPT 的监管不断加强。OpenAI 的 CTO 也在最近的采访中提及了监管的重要性。黑客们逐渐开始转战去使用他们的 API，结果限制要少得多。
对于这件事，有网友表示：没有万无一失的修复方法。因为 ChatGPT 是一种语言模型，黑客总是可以找到违反 OpenAI 内容政策的提示。
好了，这场黑客与 OpenAI 的斗智斗勇，你怎么看呢？
参考链接：
