谷歌已移除部分由人工智能生成的健康信息摘要,此前《卫报》的一项调查发现,这些虚假和误导性信息可能置人于险境。
该公司将其"AI概览"功能描述为"有用"且"可靠",该功能利用生成式人工智能就某个主题或问题提供快速摘要。然而,出现在搜索结果顶部的部分摘要提供了不准确的健康信息,可能对用户造成伤害。
在一例被专家称为"危险"且"令人担忧"的事件中,谷歌提供了关于关键肝功能检测的错误信息。这可能导致患有严重肝病的人误以为自己健康状况良好。《卫报》发现,当搜索"肝功能血液检测的正常范围是多少"时,谷歌给出的是一串缺乏背景说明的数字列表,且未考虑国籍、性别、种族或年龄等因素。
专家警告称,谷歌AI概览标注为"正常"的范围可能与实际医学标准存在巨大差异。这可能导致重症患者误以为检测结果正常,从而错过重要的后续诊疗。
调查发布后,谷歌移除了针对"肝功能血液检测正常范围"和"肝功能检测正常范围"搜索词的AI概览功能。
谷歌发言人表示:"我们不会对搜索功能中的个别移除操作发表评论。当AI概览缺失某些背景信息时,我们会进行广泛改进,并酌情根据政策采取行动。"
英国肝脏信托基金会传播与政策总监瓦妮莎·赫布迪奇对此举表示欢迎,但持续表达担忧:"这是个好消息,我们很高兴看到谷歌在这些案例中移除了AI概览。但如果以不同方式提问,仍可能出现具有误导性的AI概览。我们仍然担心其他AI生成的健康信息可能不准确且令人困惑。"
《卫报》发现,即使对原始搜索词进行细微改动(如"肝功能检测参考范围"或"肝功能测试参考范围"),仍会触发AI概览。赫布迪奇称这令人担忧:"肝功能检测包含多项血液检查。理解检测结果远不止比较一组数字那么简单。AI概览用加粗字体呈现列表,容易让读者忽略这些数字可能与其检测无关。它也未提醒人们:即使患有严重肝病,检测结果也可能显示正常,仍需进一步诊疗。这种虚假的安心可能非常有害。"
占据全球搜索市场91%份额的谷歌表示,正在审查《卫报》提供的新案例。
赫布迪奇补充道:"我们更担心的是,这仅解决了单个搜索结果的问题。谷歌可以简单关闭该查询的AI概览,但并未解决健康信息AI概览这一更广泛的问题。"
患者信息论坛主席苏·法林顿也对移除操作表示欢迎,但提出类似关切:"这是个好结果,但这只是维护谷歌健康相关搜索结果可信度的第一步。谷歌AI概览提供不准确健康信息的案例仍然过多。"
法林顿指出,全球已有数百万成年人难以获取可信的健康信息:"这就是为什么谷歌引导人们获取可靠、经过研究的健康信息如此重要。"
《卫报》此前向谷歌指出的其他案例中,AI概览功能仍然存在,包括被专家称为"完全错误"和"极其危险"的癌症与心理健康相关摘要。
当被问及为何未移除这些AI概览时,谷歌表示,它们链接至知名权威信源,并在需要时建议用户咨询专家意见。
发言人表示:"我们的内部临床团队审查了收到的案例,发现多数情况下信息并无不准确之处,且得到高质量网站支持。"
《未来主义》网站高级编辑维克多·坦格曼指出,《卫报》的调查表明谷歌仍需努力"确保其AI工具不传播危险的健康错误信息"。
谷歌称,AI概览仅在对回答质量有高度信心时才会出现,并表示持续监测和审查多类别信息的摘要质量。
《搜索引擎杂志》资深撰稿人马特·萨瑟恩在文章中强调:"AI概览出现在排序搜索结果上方。当涉及健康话题时,错误的影响更为重大。"
常见问题解答
以下是关于谷歌移除被标记为危险的AI生成搜索摘要的常见问题列表:
基础问题
1. 谷歌AI搜索摘要发生了什么问题?
谷歌近期移除了部分搜索结果中的AI生成答案,因用户分享案例显示这些建议存在错误且可能有害,尤其在健康相关问题中。
2. 什么是谷歌搜索中的AI概览?
这是谷歌运用Gemini人工智能的新功能,在搜索结果顶部生成简明摘要答案,从网站提取信息,用户无需点击多个链接。
3. 出现了哪些危险答案?
广泛传播的案例包括AI建议用户在披萨酱中添加胶水使其更黏稠,或声称食用岩石有益健康。在健康领域,它给出了错误建议,如每日应食用岩石的数量,这显然不安全。
4. 为何AI会给出如此荒诞的答案?
AI模型有时会将网络上低质量、讽刺或玩笑内容误解为事实信息。它们缺乏现实世界的理解和常识,无法识别建议的危险性。
5. 谷歌是否已解决问题?
谷歌已移除被举报的特定错误AI概览,并表示正进行技术改进以防止此类错误。但AI幻觉的核心挑战仍是持续存在的问题。
进阶与实践问题
6. 这对搜索中AI的未来意味着什么?
这凸显了AI驱动搜索面临的主要难题:如何在速度便捷与准确安全间取得平衡。此事件可能延缓全面推广,并迫使加强人工监督、严格防护栏和更好的信源验证。
7. 如何判断AI概览是否可靠?
• 核查信源:点击摘要旁的小箭头查看信息来源网站,评估其权威性。
• 运用常识:若答案显得古怪、惊人或对复杂话题过于简化,很可能存在问题。
• 不止步于摘要:务必查阅链接信源或进一步研究,尤其是健康、财务或法律信息。
8. 能否关闭搜索结果中的AI概览?
目前尚无全局开关功能。