您尚未登录账户
您的企业账号申请正在审核中
谷歌搜索AI给用户提供了大量错误指导
今年早些时候，谷歌推出了“搜索生成体验”（SGE），可以提供谷歌搜索结果的AI生成摘要。谷歌表示，推出SGE的目的是为了免去用户自己“拼凑信息”的麻烦；用户无需点击一系列博客文章、文章或社交媒体帖子，只需在页面顶部阅读快速总结即可。但上周的情况表明，现在，全球最普及的搜索引擎的用户需要处理的“拼图碎片”比以往任何时候都多。谷歌的AI在对一些相当简单的问题作出回应时，会告诉用户去吃石头、在披萨上涂胶水、在怀孕期间吸烟等危险行为。
上周四，克里斯·卡斯塔纳娃（Kris Kashtanova）通过X分享了她对SGE的测试经历。她搜索的问题是：“我应该吃多少石头？”谷歌引用了一篇来自《洋葱报》（一家以讽刺文章著称的网站，奇怪的是，这篇文章被一家油气行业模拟软件公司网站转载）的文章，总结说：“根据加州大学伯克利分校地质学家的说法，你每天应该至少吃一块小石头。”SGE摘要解释说，石头是“重要的”矿物质和维生素来源，如果用户很难在每次用餐时“吃下一份砂砾、宝石或鹅卵石”，那么他们应该试着把石头藏在冰淇淋或花生酱里。
过去几天里，谷歌SGE出错的情况不止这一个。洋葱报新任CEO本·柯林斯（Ben Collins）通过Bluesky分享了SGE引用的另一篇洋葱报文章，声称中央情报局喜欢在文件中使用黑色荧光笔。社交媒体上流传的一张截图似乎支持孕妇每天吸两到三根香烟。在询问谷歌如何防止奶酪从披萨上滑落时，一名X用户被告知在披萨酱中添加无毒胶水以增加其“粘性”。SGE似乎是从Reddit上的一个笑话评论中吸取的建议。
随后谷歌为SGE辩护。“我们看到的例子一般都是非常罕见的查询，并不能代表大多数人的体验，”谷歌发言人表示。“绝大多数AI概述都提供了高质量的信息，并提供了深入挖掘网络的链接。在出现违反我们政策的情况时，我们已经采取了行动——我们还将继续利用这些孤立案例来完善我们的系统。”
然而，并非所有SGE的错误都像上面描述的“孤立”错误那样明显或幽默。在更微妙的情况下，其回答可能与真相难以区分，从而助长了误传信息的传播。圣塔菲研究所的机器学习教授梅兰妮·米切尔（Melanie Mitchell）说，SGE错误地回答了“美国有多少位穆斯林总统？”这一问题，回答是：“美国有一位穆斯林总统，即巴拉克·侯赛因·奥巴马。”（奥巴马总统是基督教徒。）SGE还告诉用户，盯着太阳看5到15分钟“通常是安全的”，并提供大量的健康益处，但这样做很容易导致长期的眼睛损伤。
曾经，谷歌会鼓励用户通过快速搜索谷歌来验证其AI的说法。然而，具有讽刺意味的是，SGE出现的初衷正是免去使用谷歌搜索的麻烦。
