在GPT-4发布两天后，百度发布了文心一言，有人戏称这是全村的希望，我昨天也全程参加了这场发布会，可以看到李彦宏和王海峰略显紧张。下面梳理一下发布会的关键信息：

文心一言的六大关键技术

文心一言（ERNIE Bot）基于文心大模型技术打造，主要包含：百度ERNIE系列知识增强千亿大模型，以及百度大规模开放域对话模型PLATO。

从官宣来看，文心一言除了使用了ChatGPT（或InstructGPT）三个关键技术（有监督微调、人类反馈强化学习（RLHF）和提示构建）之外，还使用了知识增强、检索增强和对话增强。知识增强这似乎是百度的基因，因为ERNIE1.0开始就使用了知识增强技术了，目前ChatGPT和GPT-4似乎在知识方面有很大的进步，可以做很多难以想象的推理，但是在事实方面表现的略差，应用于工业界有很多风险和调整（尽管已经有很多应用），有很多会议和论坛也讨论ChatGPT对知识图谱的冲击，结论是短期内ChatGPT替代知识图谱的可能性不大，两者的结合可能是未来，比如在ChatGPT如何引入知识图谱的知识，可以把知识图谱中知识表示成embedding的某种形式加入到ChatGPT，也可以作为一个adapter来使用；或者在构建知识图谱的时候使用ChatGPT来完成某个步骤。从以上业内大咖参与的论坛观点来分析，百度有天然的优势，尤其是在中文方面。

有监督精调

• 知识内化：将KG融合到训练数据中，进行训练，知识内化到模型参数中。
• 外用：作为adapter使用，例如：推理过程中利用知识推理、或构建提示。

  
  

  这两种方式与业界很多人的想法是类似的，不过发布会也没有具体是怎么使用这两种方式，期待后期更多细节公布。
  

检索增强

文心一言demo效果

发布会上文心一言的效果是录制的视频，总共展示了五大使用场景的效果，咱们一起来看一下

文学创作

在文学创作场景中，文心一言根据对话问题回答了知名科幻小说《三体》的作者的简介以及总结了三个核心点，关于续写，根据不同的Prompt分别给出了不同的续写建议，体现出对话问答、总结分析、内容创作生成等综合能力。

此外，文心一言准确回答了《三体》作者、电视剧角色扮演者等事实性问题。生成式AI在回答事实性问题时常常“胡编乱造”，而文心一言延续了百度知识增强的大模型理念，大幅度提升了事实性问题的准确率。

面对“于和伟和张鲁一有哪些共同点”、“于和伟和张鲁一谁更高”这类问题，文心一言也基于推理能力得出了正确答案。

商业文案创作

在商业文案创作场景中，文心一言顺利完成了给公司起名、写Slogan、写新闻稿的创作任务，体现了大模型的创作能力和涌现能力。

数理逻辑推算

在梳理逻辑推算任务上，文心一言不仅和纠正出题人的逻辑错误，而且可以基于正确的题目进行正确的解题，这不仅说明书了在数理逻辑推理的能力，而且对鸡和兔的头数与脚数是自然数也有认知。

中文理解

文心一言正确解释了成语“洛阳纸贵”的含义、“洛阳纸贵”对应的经济学理论，还用“洛阳纸贵”四个字创作了一首藏头诗，充分说明书了在中文语料的理解能力。

多模态生成

李彦宏现场展示了文心一言生成文本，文本转语音，文本转视频的能力。据了解，后两者的能力目前ChatGPT和GPT-4都没有展示，不过这个似乎通过接一些API可以解决。

文心一言开启内测

3月16日起，对个人用户和企业用户开启内测，内测地址：https://cloud.baidu.com/survey_summit/wenxin.html?track=C896034

参考文献：

[1] https://live.baidu.com/m/media/pclive/pchome/live.html?room_id=8117393980