谷歌搜索有关女性癌症测试的答案也提供了“完全错误”的信息，专家表示这可能会导致人们忽视真正的症状。

谷歌发言人表示，与他们分享的许多健康示例都是“不完整的屏幕截图”，但根据他们可以评估的内容，他们将其链接到“知名、信誉良好的来源，并建议寻求专家建议”。

《卫报》调查之际，人们越来越担心人工智能数据可能会让那些自以为可靠的消费者感到困惑。去年 11 月，一项研究发现人工智能聊天机器人跨多个平台提供不准确的财务建议，同时也提出了类似的担忧新闻报道摘要。

向患者、公众和医疗保健专业人员推广循证健康信息的患者信息论坛主任苏菲·兰德尔 (Sophie Randall) 表示，这些例子表明，“谷歌的人工智能概览可能会将不准确的健康信息放在在线搜索的首位，从而给人们的健康带来风险”。

临终慈善机构玛丽·居里的数字总监斯蒂芬妮·帕克表示：“人们在忧虑和危机时刻转向互联网。如果他们收到的信息不准确或断章取义，可能会严重损害他们的健康。”

在一些健康团体、慈善机构和专业人士提出担忧后，《卫报》在谷歌的人工智能概览中发现了多起不准确健康信息的案例。

英国胰腺癌协会支持、研究和影响主任安娜·朱厄尔 (Anna Jewell) 表示，建议患者避免食用高脂肪食物是“完全错误的”。她补充说，这样做“可能非常危险，会危及一个人康复并接受治疗的机会”。

朱厄尔说：“谷歌人工智能的反应建议胰腺癌患者避免食用高脂肪食物，并提供了一系列例子。然而，如果有人遵循搜索结果告诉他们的内容，那么他们可能无法摄入足够的卡路里，难以增加体重，并且无法忍受化疗或可能挽救生命的手术。”

打字“肝脏血液检查的正常范围是多少”也会提供误导性信息，其中有大量数字，缺乏背景信息，并且没有考虑患者的国籍、性别、种族或年龄。

英国肝脏信托基金会首席执行官帕梅拉·希利表示，人工智能的总结令人震惊。– 许多肝病患者直到晚期才出现任何症状，这就是为什么他们接受检查如此重要。但谷歌人工智能概述所说的“正常”可能与实际认为的正常有很大差异。

“这很危险，因为这意味着一些患有严重肝病的人可能认为自己的结果正常，然后懒得参加后续的医疗保健会议。”

搜索“阴道癌症状和检查”时将子宫颈抹片检查列为阴道癌检查，这是不正确的。

Eve Appeal 癌症慈善机构首席执行官雅典娜·兰尼索斯 (Athena Lamnisos) 表示：“这不是检测癌症的测试，当然也不是检测阴道癌的测试，这是完全错误的信息。”获得此类错误信息可能会导致某人无法检查阴道癌症状，因为他们在最近的宫颈筛查中得到了明确的结果。

– 我们还担心，当我们进行完全相同的搜索时，人工智能摘要会发生变化，每次从不同的来源得出不同的响应。这意味着人们根据搜索时间得到不同的答案，但这还不够好。”

兰尼索斯说她非常担心。“我们看到的一些结果确实令人担忧，可能会将女性置于危险之中，”她说。

《卫报》还发现，谷歌人工智能概述为有关心理健康状况的搜索提供了误导性结果。“作为一个慈善机构，这是我们非常关心的问题，”Mind 信息主管斯蒂芬·巴克利 (Stephen Buckley) 说。

巴克利说，一些针对精神病和饮食失调等疾病的人工智能总结提供了“非常危险的建议”，并且“不正确、有害或可能导致人们避免寻求帮助”。

他补充说，有些人还错过了重要的背景或细微差别。“他们可能会建议从不适当的网站访问信息……我们知道，当人工智能总结信息时，它通常会反映现有的偏见、刻板印象或污名化的叙述。”

谷歌表示，其绝大多数人工智能概述都是事实且有帮助的，并且不断提高质量。它补充说，人工智能概述的准确率与其他搜索功能（例如已存在十多年的特色片段）相当。

该公司还表示，当 AI Overviews 误解网络内容或遗漏上下文时，它将根据其政策采取适当的行动。

谷歌发言人表示：“我们在人工智能概览的质量上投入了大量资金，尤其是健康等主题，而且绝大多数都提供了准确的信息。”