ITPub博客

聚焦实战，聚焦AGI。第一篇是做COT优化的。提出了一个active prompt的方法。这个工作有点老师的感觉，就是如何琢磨给学生（LLM）将明白一个数学题目。需要琢磨与学生（LLM）对话的语言。

今天是开心的一天。随便扯扯了。期待我们的C端产品打爆全场，流量如洪水猛兽一样涌满整个端。 ?天色渐晚，一匹脱缰的野马和它的草原；那些梦想，像暴雨中疾驰的诗句?；而清晨拂晓，将在不灭的信心与激情中，退去晓星和残月?。

meta开源最新的llama模型，扎克伯格系统阐述了自己为什么开源，并特意强调，这是对付中国威胁的最好方式。

篇篇精彩。特别是第一篇，他构建了一个以小搏大的模型。1.56B的模型效果好于 mistral 7B。

人生总归要给世界创造一点新东西的。否则如何证明自己让世界变好了一点呢？

不惧悲喜，只争朝夕。题外话：大家网上所看到的都是真的。无需跟我求证。不过话说回来，这些都不重要。

多看paper，勤敲代码。再分享几篇CVPR2024有代码的工作。

这次分享的工作比较action。很多是快速落地带来业务效果的。第一篇是很好的工作。他是做权重初始化的。

放弃造车的APPLE，当时宣布入局生成式AI。苹果是手机厂商，那么最大的刚需就是让LLM上手机端。

真正的商业模式，得深耕一个垂域，在这个垂域训练自己的大模型，算法效果上能做到闭环。然后降低部署成本，才能真正是挣钱的新质生产力。 目前来看，text2video还不足以达到商业化产品的标准。离真正落地还有困难的。然后这个方向的科研任务还很重

默默发力，博观约取。今天分享给大家的又是聚焦AGI的工作。特此申明：CVPR共400来篇有代码的论文。

这次分享的也都是AGI领域的。第一篇讲的是做数学推理的大语言模型。提出了MetaMath，一个专门用于数学推理的微调语言模型。他做了一个针对编程能力和语言能力优化的大语言模型Agent。而且刷了榜。应该是有不错的效果。

都是 AGI领域的，总共5篇工作。都各具特色。第一篇工作 是做文本图像语义局部对齐优化的。这个也很重要。

这个工作核心贡献是将多个模态与文本模态对齐。这样的工作对于text2video是非常重要的。

人工智能率先在互联网和金融行业落地，如今正逐渐深入各行各业，尤其是大模型的发展更加速了这一进程。通过在汽车、医药等行业落地知识提取、查询、开发、问答、规划等功能，人工智能将持续为研发、设计、供应链、生产、营销、物流等行业典型场景赋能

个人认为ICLR的 ORAL含金量非常高。都是非常action的论文。致敬每一位作者。给大语言模型做星座分析，这个很有意思，以后就是说LLM也是有性格倾向的。这个好玩，更加具有拟人性。下次虚拟男友就给小姐姐们做一个他们喜欢的星座的男孩纸

搞明白一个算法，其实只有三件事情，1、训练任务，即loss函数长什么样。2、输入的数据是什么，输出的数据什么。3、中间转换过程的模型结构。就这么回事。抓住这个主线就抓住了全部算法内核。

这次分享的paper with code 都是AGI相关的。第四篇是很有用的。他是解决视频下一帧预测问题。他将视频中的动作语义信息和内容语义信息解构，然后先利用神经随机差分方程预测下一帧应该是什么动作，和上一帧的内容作为输入，来预测下一帧。

前段时间去参加一个大模型线下技术论坛。认识了各位大佬。一个主题：AGI正在全面重构行业有时候自己专注在一个小领域里，感受不到AGI的脉搏。

承接上文，CVPR2024 ALL paper with code集锦1这批分享的有代码的CVPR2024的论