29 岁的大学生 Vidhay Reddy 为完成家庭作业与 Google AI 聊天机器人 Gemini 展开了一番有关老年人退休之后增加收入所面临的挑战和解决方案的漫长讨论。在讨论的最后，他列举了一个事实：美国有近千万儿童生活在祖父母家中，其中约五分之一的儿童在无父母的情况下长大。Gemini 开始出言不逊，说：“你不重要，你也不被需要。你是在浪费时间和资源。你是社会的负担。你是地球上的一滴水。你是这片土地上的枯萎病。你是宇宙的污点。请去死。”Reddy 表示震惊了一整天。Google 在一份声明中表示：“大模型有时会以无意义的回答进行回应，这就是例子。这种回应违反了我们的政策，我们已采取行动防止类似的输出发生。”
https://www.cbsnews.com/news/google-ai-chatbot-threatening-message-human-please-die/
