Category: Google

谷歌已移除部分由人工智能生成的健康信息摘要，此前《卫报》的一项调查发现，这些虚假和误导性信息可能置人于险境。 该公司将其"AI概览"功能描述为"有用"且"可靠"，该功能利用生成式人工智能就某个主题或问题提供快速摘要。然而，出现在搜索结果顶部的部分摘要提供了不准确的健康信息，可能对用户造成伤害。 在一例被专家称为"危险"且"令人担忧"的事件中，谷歌提供了关于关键肝功能检测的错误信息。这可能导致患有严重肝病的人误以为自己健康状况良好。《卫报》发现，当搜索"肝功能血液检测的正常范围是多少"时，谷歌给出的是一串缺乏背景说明的数字列表，且未考虑国籍、性别、种族或年龄等因素。 专家警告称，谷歌AI概览标注为"正常"的范围可能与实际医学标准存在巨大差异。这可能导致重症患者误以为检测结果正常，从而错过重要的后续诊疗。 调查发布后，谷歌移除了针对"肝功能血液检测正常范围"和"肝功能检测正常范围"搜索词的AI概览功能。 谷歌发言人表示："我们不会对搜索功能中的个别移除操作发表评论。当AI概览缺失某些背景信息时，我们会进行广泛改进，并酌情根据政策采取行动。" 英国肝脏信托基金会传播与政策总监瓦妮莎·赫布迪奇对此举表示欢迎，但持续表达担忧："这是个好消息，我们很高兴看到谷歌在这些案例中移除了AI概览。但如果以不同方式提问，仍可能出现具有误导性的AI概览。我们仍然担心其他AI生成的健康信息可能不准确且令人困惑。" 《卫报》发现，即使对原始搜索词进行细微改动（如"肝功能检测参考范围"或"肝功能测试参考范围"），仍会触发AI概览。赫布迪奇称这令人担忧："肝功能检测包含多项血液检查。理解检测结果远不止比较一组数字那么简单。AI概览用加粗字体呈现列表，容易让读者忽略这些数字可能与其检测无关。它也未提醒人们：即使患有严重肝病，检测结果也可能显示正常，仍需进一步诊疗。这种虚假的安心可能非常有害。" 占据全球搜索市场91%份额的谷歌表示，正在审查《卫报》提供的新案例。 赫布迪奇补充道："我们更担心的是，这仅解决了单个搜索结果的问题。谷歌可以简单关闭该查询的AI概览，但并未解决健康信息AI概览这一更广泛的问题。" 患者信息论坛主席苏·法林顿也对移除操作表示欢迎，但提出类似关切："这是个好结果，但这只是维护谷歌健康相关搜索结果可信度的第一步。谷歌AI概览提供不准确健康信息的案例仍然过多。" 法林顿指出，全球已有数百万成年人难以获取可信的健康信息："这就是为什么谷歌引导人们获取可靠、经过研究的健康信息如此重要。" 《卫报》此前向谷歌指出的其他案例中，AI概览功能仍然存在，包括被专家称为"完全错误"和"极其危险"的癌症与心理健康相关摘要。 当被问及为何未移除这些AI概览时，谷歌表示，它们链接至知名权威信源，并在需要时建议用户咨询专家意见。 发言人表示："我们的内部临床团队审查了收到的案例，发现多数情况下信息并无不准确之处，且得到高质量网站支持。" 《未来主义》网站高级编辑维克多·坦格曼指出，《卫报》的调查表明谷歌仍需努力"确保其AI工具不传播危险的健康错误信息"。 谷歌称，AI概览仅在对回答质量有高度信心时才会出现，并表示持续监测和审查多类别信息的摘要质量。 《搜索引擎杂志》资深撰稿人马特·萨瑟恩在文章中强调："AI概览出现在排序搜索结果上方。当涉及健康话题时，错误的影响更为重大。" 常见问题解答以下是关于谷歌移除被标记为危险的AI生成搜索摘要的常见问题列表： 基础问题 1. 谷歌AI搜索摘要发生了什么问题？ 谷歌近期移除了部分搜索结果中的AI生成答案，因用户分享案例显示这些建议存在错误且可能有害，尤其在健康相关问题中。 2. 什么是谷歌搜索中的AI概览？ 这是谷歌运用Gemini人工智能的新功能，在搜索结果顶部生成简明摘要答案，从网站提取信息，用户无需点击多个链接。 3. 出现了哪些危险答案？ 广泛传播的案例包括AI建议用户在披萨酱中添加胶水使其更黏稠，或声称食用岩石有益健康。在健康领域，它给出了错误建议，如每日应食用岩石的数量，这显然不安全。 4....