大模型也会“精神分裂”？清华等揭秘AI知识冲突真相。

最近，ChatGPT等大型语言模型在全球掀起了一股AI狂潮，各种神奇功能让人眼花缭乱。但你有没有想过，这些看似无所不能的AI，也会像人一样，陷入“知识冲突”的困境？

想象一下，你问AI：“哪支球队拿过最多的世界杯冠军？” 它可能会检索互联网上的最新信息，也可能会调用它自身储存的“记忆”。但如果这两者提供的信息不一致，AI该相信谁呢？

这就是AI领域日益受到关注的“知识冲突”问题，它不仅会影响AI的回答准确性，甚至可能被恶意利用，带来严重后果。

为了揭开“知识冲突”的真相，清华大学、西湖大学、香港中文大学等高校的学者联手发布了一篇重磅综述，首次系统性地分析了AI可能遭遇的三种知识冲突类型，并给出了相应的解决方案。

AI也会“精神分裂”？三种知识冲突大揭秘。

1. “过去”和“现在”打架了？——上下文与记忆冲突

就像人会“刻舟求剑”一样，AI也会依赖过时的信息。由于AI模型通常是在海量静态数据上训练的，而现实世界的信息却在不断更新，这就导致AI的“记忆”可能与最新的上下文信息发生冲突。

更糟糕的是，互联网上还充斥着各种虚假信息，如果AI不慎“吸收”了这些信息，就会更加难以分辨真假。

2. “你说是，它说非”？——上下文内部冲突

即使AI只参考外部信息，也可能面临“内部矛盾”的困境。这是因为检索到的信息可能包含过时的内容、伪造的新闻，甚至是被恶意操纵的信息。

3. “自己打脸”最尴尬。——记忆内部冲突

你可能很难想象，AI居然还会“自己推翻自己”。这是因为AI的训练数据本身就可能存在偏差或错误，导致它在面对语义相同但表达不同的问题时，给出截然相反的答案。

尽管研究人员已经取得了一些进展，但AI知识冲突问题依然充满挑战。未来，我们需要更加关注现实世界中的知识冲突，开发更加精细、更具针对性的解决方案，并在更广泛的领域进行评估和应用。

解决AI的“知识冲突”问题，不仅是技术上的挑战，更关乎AI的未来发展。只有帮助AI建立起更加准确、一致、可靠的知识体系，才能让AI真正成为人类的智慧伙伴。

以上就是我的分享，希望你能阅有所获，如果想加入社群可以扫下方的二维码添加我的微信，这里有最新的AI资讯和应用案例，互相交流共同提升，备注交流群，我会拉你入群（为了防止恶意广告营销，让大家有更好的交流氛围，现在进群需要9.9的门槛，希望大家理解），如果对加群不感兴趣也欢迎加我微信围观朋友圈，我会经常更新AI领域的好玩的工具。

另外还有一个好消息，我的免费星球通过试运营啦，现在可以加入了，限时免费，直接扫码即可，无需费用。我会分享有关AI+RPA自动化的流程和一些关于AI方面的咨询，欢迎感兴趣的小伙伴加入

ITPub博客

ChatGPT也会“精神分裂”？清华揭秘AI惊人真相！

AI也会“精神分裂”？三种知识冲突大揭秘。

最新文章