随着人工智能聊天机器人在日常生活中的普及，越来越多的人开始依赖它们获取医疗相关信息，无论是了解症状、寻找治疗建议，还是解释医学概念。然而，一项最新研究提醒人们，这些看似“全能”的AI工具，在医疗信息的准确性方面仍然存在明显问题，甚至可能在用户毫无察觉的情况下传播错误内容。
研究人员对五种主流AI聊天机器人进行了测试，发现它们提供的医疗信息中，有相当一部分并不准确或不完整。整体来看，大约一半的回答存在不同程度的问题，其中既包括部分错误，也包括严重误导性的内容。这意味着，当用户向AI寻求健康建议时，他们有很大概率接触到并不可靠的信息。
更令人担忧的是，这些错误并不总是以明显的方式呈现出来。相反，AI往往以非常自信和流畅的语言表达这些信息，使用户更容易误以为这些内容是权威且经过验证的医学知识。这种“自信的错误”正是研究人员最担心的地方，因为它会降低用户的警惕性，让人更难分辨信息的真实性。
研究还指出，AI系统在处理医疗问题时存在一个关键问题：它们缺乏真正的医学判断能力。聊天机器人并不是基于临床经验或真实患者数据进行推理，而是通过语言模式生成回答。因此，当输入信息不完整或存在误导时，它们不仅可能无法识别问题，还可能进一步扩展错误内容，使回答看起来更加详细和可信。
此外，研究人员发现，这些系统在不同问题上的表现并不稳定。有些情况下它们能够给出相对合理的解释，但在另一些情况下则可能遗漏关键医学信息，甚至提供不适当的建议。这种不一致性使得普通用户很难判断何时可以信任这些工具。
研究团队强调，如果AI聊天机器人继续在缺乏足够监管和公众教育的情况下广泛使用，可能会在社会层面放大医疗误导风险。特别是对于缺乏医学背景的普通用户来说，他们更容易将AI的回答当作事实，从而影响自身健康决策。
与此同时，研究也指出，这并不意味着人工智能在医疗领域完全没有价值。相反，它们在解释基础概念、辅助学习以及帮助用户理解复杂医学信息方面仍然具有潜力。但关键在于，如何正确使用这些工具，以及如何明确它们的边界。
研究人员呼吁，在AI医疗应用不断扩展的同时，必须加强公众教育，让用户清楚认识到这些工具的局限性。同时，也需要更严格的技术优化与监管机制，以减少错误信息传播的可能性。
从整体来看，这项研究再次强调了一个重要现实：尽管人工智能正在快速发展，但在涉及健康和医疗决策时，它们仍然不能替代专业医生的判断。用户在使用这些工具时，应保持谨慎态度，将其作为辅助信息来源，而不是最终决策依据。
本文译自：medicalxpress（编译 / 整理：olaola）
图片来源：unsplash/Igor Omilaev