前两天,Meta AI官方宣布正式放出Llama2(羊驼二代)。其中最显眼的一句是:free for commercial use,也就是商用免费。也是相比一代羊驼最重大的改变。字越少,事越大,很快在开源社区与大模型生态圈一石激起千层浪。Github上中文Llama2社区迅速成立,Huggingface上LlaMa2模型立刻窜升至排行榜首位,Stability AI两天后释放了LlaMa2上微调版本的新模型FreeWilly2宣称在很多任务上击败了行业标杆chatGPT3.5... 我们关心的是,LlaMa-2能否打开大语言模型(LLM)世界的竞争新格局? 或许你已经从不同的渠道已经体验过各种AI助手、AI问答、AI创作...但你可能不知道这种生成式AI工具背后的基础--大语言模型已经“卷”到何种程度?Twitter上有人惊叹“我就午休了 30 分钟,我们的领域又变了?”,一点也不夸张。 自chatGPT发布以来,大语言模型正呈现出蓬勃发展态势,从全球已经发布的大模型分布来看,中美两国数量合计占全球总数的超 80%,毫不夸张地说,“百模大战”早已开启。应用层面,大模型也在从C端向B端做各领域的深度垂直延伸,在很多领域体现出了巨大的业务与商业价值,大模型的生态链也在不断地延伸与完善。 遗憾的是,当前大语言模型除了技术本身带来的一些问题,比如时效性不足、“幻觉”等问题外,还存在缺乏标准化不够完善、生成能力层次不齐、同质化、杀手级应用不足、算力与数据成本高、数据安全与隐私等问题,加上一些模型本身也是在开源模型基础上二次训练与微调而成。这些问题不仅限制着大模型自身的创新与迭代;也限制了上层的应用开发商和终端用户的深入行业领域的二次推广应用,比如难以私有化训练部署、开源语言模型又不够强大、或者获得商业授权成本过高等,也导致大模型的应用停留在一些较为浅层的辅助任务。
简言之:基础大模型厂家你追我赶,一片混战,方兴未艾;而应用端除了部分对前沿科技敏感的个人与行业,大部分还处于教育与探索阶段,一切都还属于大模型应用成熟前夕的狂热期。 经常关注开源社区的人士可能都能感觉到开源社区内大模型的狂热。在之前Meta忽然开源LlaMa一代后,开源大模型就得到迅速的发展,大量的人与公司参与进来,迅速获得了广泛的关注和参与。无论是大公司还是个人开发者,都纷纷加入到开源社区中,为开源大模型的发展作出贡献。众多开发者的加入为开源大模型带来了更多创新的想法和解决方案,使其逐渐成为人工智能领域的重要组成部分,比如著名的应用层Langchain框架,为拓展大模型的应用场景做出了巨大的贡献。 云端大模型的部署与开发平台 Replicate 发现,使用他们服务的开源大模型的项目数量,每个季度都在翻倍;而HuggingFace上的开源模型更是日新月异。 很快,上周,Meta释放出了LlaMa-2,羊驼二代模型,全开源。
技术能力上就不多说了,随便搜索下都能看到详细的参数介绍,但大部分的开发者与使用者其实并不太关心很多的技术细节。简单重复下重点:
- LlaMa-2暂时一共发布了 70 亿、130 亿和 700 亿三种参数规模的模型
- LlaMa-2训练数据比第一代增加40%,上下文长度拓展到4K token
- 官方宣称同等参数规模LlaMa-2在大模型基准测试超越所有开源大模型
- 700亿参数模型在能力上接近chatGPT-3.5,在代码能力上有一定差距
- 借助于人类反馈强化训练,同步推出适用于对话的LlaMa-2-chat系列模型

此外,根据本人实测,中文能力是拉垮的,但是相信很快会有开源社区推出专门基于中文预料训练的中文LlaMa-2模型。
当然,也是最重要的:完全商用免费!(7亿活跃用户以上需要申请)。
LlaMa-2的推出,不仅仅是一个强大的免费大模型的出现,有理由相信,LlaMa-2完全可能会重塑未来大模型市场竞争的新格局。- 大模型生态有望从混战走向有序的分工。专业的、强大的、基础大模型成本高昂,由meta这样的实力雄厚的大厂来提供,而在此基础上的二次甚至三次训练的微调模型,则由专业的公司甚至开源社区针对特定的服务区域、行业场景、领域特征在此基础上完成,从而提高整体行业效率。当然,我们也完全有理由期待国内的大厂能够释放出更强大的针对中文领域的开源大模型,推动中文大模型的应用发展。
Meta 在宣布 Llama2 开源后解释说,选择开源对于当今人工智能模型的发展是正确的,尤其是在技术迅速发展的生产领域,通过公开提供人工智能模型,它们可以惠及所有人ーー而不仅仅是少数几家大公司。
- 可能会出现大量基于LlaMa-2基础模型的行业模型,商用模型的使用成本会降低。由于LlaMa-2免费商用的特点,加上其接近GPT-3.5的性能,很多应用开发商与终端用户会选择基于LlaMa-2模型权重来训练出垂直的行业模型,替代现有的一些开源模型,昂贵的、不开放的、无法掌控的一些商业大公司的大模型依然会存在,但是需要更加灵活的部署方案,特别是针对大型企业应用领域,比如提供私有化部署方案。
- 会有更多的商业大模型公司选择开源方案。由于大模型护城河的打破,大模型平民化时代的到来。可能会有更多的商业公司也会选择开放出自己的大模型,比如选择训练参数较低的版本进行开源,用来吸引更多的用户来使用,通过这种更加灵活的竞争战略来获得占据大模型市场的主动权,而不会轻易地让出一大块市场给LlaMa-2这样的全开源模型。
-
大模型的应用,特别是在ToB领域得到巨大的推动与机会。免费的基础模型让更多的公司完全没有重新发明轮子的动力,而现有的商业在线大模型面临成本高、安全性不足、并发能力不足等问题。他们会选择替换现有的底层基础模型,通过新的LlaMa-2,并结合类似Langchain这样的大模型应用框架,可以开发更具有想象力的、更安全、全可控大模型上层应用或插件,这有利于大模型在B端的深入应用,从而促进大模型生态链的进一步完善与发展。
一个技术足够领先的巨头忽然出现,这时候出现了一个开源可二次开发的产品,虽然在初期技术上略显稚嫩,但在一大帮围绕着其生态的商业公司、开源社区、个人开发者的努力下,不断迭代升级,最终形成相互对峙,互相促进的良性竞争态势,这一幕是否熟悉?这一iPhone与安卓的经典历史对决局面是否会在大模型时代再次重现?让我们拭目以待吧。

原文作者:AI大模型应用实践;如有侵权,请联系管理员删除。