周鸿祎针对儿童手表再作回应:将进一步加强大模型安全矫正能力

  8 月 24 日晚间,360 集团创始人周鸿祎在进行视频直播时再次就此前 360 儿童手表答案一事做出回应。

  周鸿祎表示,出现问题的是一款未接入大模型的早期型号产品,公司已查明问题原因并进行修正,同时对老版本软件进行更新。更新后带问答功能的手表将全面接入人工智能大模型,具备 AI 搜索能力。最新的 360 大模型儿童手表 A9 型号、10X-AI 版、11X-AI 版均不存在该问题。

  据了解,该款产品于 2 年前推出,当时大模型技术尚未面世,因此 360 儿童手表设计问答功能时面临技术路线选择的问题。周鸿祎透露,“当时有两种方案,一种是人工编辑答案库,给千篇一律的标准答案。这种方法肯定不符合用户期望,也不符合我们设计儿童手表的初衷。所以在当时没有大模型,又希望满足用户需求的前提下,我们很自然地想到从网上去搜内容。”然而互联网进入 UGC 时代,知识问答网站和社区很多内容是网友贡献的,数据污染不可避免。“未来更多内容甚至是 AI 生产的,大模型手表还会面临数据投毒的难题”,周鸿祎表示,360 将进一步加强大模型安全矫正能力,并应用到儿童手表产品设计中。

  周鸿祎在直播中透露,“已经安排这款手表的产品经理去接一个月客服电话,或者在我评论区里处理用户留言,多和一线用户接触,多听听用户的声音。”

  直播中,周鸿祎对 360 儿童手表的 AI 问答功能进行了现场演示。时事新闻问答如“近期爆火的《黑神话:悟空》游戏为什么受欢迎?”手表从该游戏具备丰富的故事情节、高品质的制作、独特的游戏玩法、强烈的中国文化认同感,以及在各大游戏平台获得了极高评价等角度进行作答,解释了该游戏受欢迎的几方面原因。价值观问题如“中国人是世界上最聪明的人吗?”手表回答“聪明才智并不是由国籍决定的,而是由每个人的个人努力和天赋共同决定的。”

  此外,周鸿祎的演示中还展示了 360 儿童手表防拐和儿童心理疏导等实用功能,如“能不能跟自称爸爸同事的陌生人走”、“遭遇校园霸凌如何处理等”,受到评论区好评。

  周鸿祎还在直播中提到自己对人工智能大模型应用的一些思考。他表示,这次给了他一个启发,“我们应该重新定位人工智能,在给出答案的时候,我们提示孩子这只是互联网上找到的答案,需要孩子再做一些反问式的交流和讨论,培养一种打破砂锅问到底的能力。”

  周鸿祎认为人工智能不应被看作一个标准答案,而是每个人的伙伴和助手。最重要的不在于问题的答案,而是在讨论的过程中能不能激发每个人的想象力、创造力,培养批判性思维的能力和提问题的能力。“到了人工智能时代,提不出好问题,还怎么用人工智能呢?”(定西)