第一篇讲的是做数学推理的大语言模型。提出了MetaMath，一个专门用于数学推理的微调语言模型。具体来说，我们首先通过从多个角度重写问题而无需额外知识来引导数学问题，这产生了一个新的数据集，称为MetaMathQA。然后我们在MetaMathQA上微调LLaMA-2模型。第二篇讲的是用大语言模型来做机器人训练的模拟数据的。做机器人开发的应该很懂。第三篇工作非常不错。他做了一个针对编程能力和语言能力优化的大语言模型Agent。而且刷了榜。应该是有不错的效果。第四篇工作优化SD模型做文本生成图片的效果的。总结起来：SDXL采用了一个大三倍的UNet骨干网络：模型参数的增加主要是由于更多的注意力块和一个更大的交叉注意力上下文，因为SDXL使用了第二个文本编码器。我们设计了多种新的条件化方案，并在多种宽高比上训练SDXL。我们还引入了一个细化模型，该模型使用事后的图像到图像技术来提高由SDXL生成的样本的视觉保真度。第五篇工作做LLM评估的。以前的评测都是静态评测，这次他们做了个动态评测。他们构建了基于图的DyVal，利用有向无环图的结构优势动态生成具有可控复杂度的评估样本。DyVal在包括数学、逻辑推理和算法问题在内的推理任务上生成了具有挑战性的评估集。MetaMath: Bootstrap Your Own Mathematical Questions for Large Language ModelsLonghui Yu,Weisen Jiang,Han Shi,Jincheng YU,Zhengying Liu,Yu Zhang,James Kwok,Zhenguo Li,Adrian Weller,Weiyang Liu大型语言模型（LLMs）已经推动了自然语言理解的极限，并展示了出色的问题解决能力。尽管取得了巨大成功，但大多数现有的开源大型语言模型（例如LLaMA-2）在解决数学问题方面仍然远未达到令人满意的水平，因为数学问题涉及复杂的推理过程。为了弥合这一差距，我们提出了MetaMath，一个专门用于数学推理的微调语言模型。具体来说，我们首先通过从多个角度重写问题而无需额外知识来引导数学问题，这产生了一个新的数据集，称为MetaMathQA。然后我们在MetaMathQA上微调LLaMA-2模型。在两个流行的数学推理基准测试（即GSM8K和MATH）上的实验结果表明，MetaMath在性能上大幅超越了一系列开源大型语言模型。我们的MetaMath-7B模型在GSM8K上达到了66.4%，在MATH上达到了19.4%，超过了同等规模的最先进模型11.5%和8.7%。特别是，MetaMath-70B在GSM8K上达到了82.3%的准确率，略好于GPT-3.5-Turbo。我们公开发布了所有MetaMathQA数据集、不同模型大小的MetaMath模型和训练代码供公众使用。GenSim: Generating Robotic Simulation Tasks via Large Language ModelsLirui Wang,Yiyang Ling,Zhecheng Yuan,Mohit Shridhar,Chen Bao,Yuzhe Qin,Bailin Wang,Huazhe Xu,Xiaolong Wang在现实世界中收集大量交互数据来训练通用的机器人策略通常成本过高，这激发了使用模拟数据的动机。然而，现有的数据生成方法通常集中在场景级别的多样性上（例如，对象实例和姿态），而不是任务级别的多样性，这是因为需要人为努力来提出和验证新任务。这使得在模拟数据上训练的策略很难显示出显著的任务级泛化能力。在本文中，我们提出了一种方法，通过利用大型语言模型（LLM）的理解和编码能力，自动生成丰富的模拟环境和专家演示。我们的方法，称为GenSim，有两种模式：目标导向生成，其中给定一个目标任务，LLM提出一个任务课程来解决目标任务；以及探索性生成，其中LLM从先前的任务中引导，并迭代提出新的任务，这些任务将有助于解决更复杂的任务。我们使用GPT4将现有的基准测试扩大了十倍，超过100个任务，在这些任务上我们进行了监督微调，并评估了几个LLMs，包括微调的GPT和Code Llama在机器人模拟任务上的代码生成。此外，我们观察到，LLMs生成的模拟程序在用于多任务策略训练时可以显著增强任务级泛化能力。我们进一步发现，通过最小的模拟到现实的适应，预训练在GPT4生成的模拟任务上的多任务策略在现实世界中未见过的长期任务上展现出更强的迁移能力，并比基线提高了25%。项目网站（https://liruiw.github.io/gensim）提供了代码、演示和视频，以供进一步了解和研究。Lemur: Harmonizing Natural Language and Code for Language AgentsYiheng Xu,Hongjin SU,Chen Xing,Boyu Mi,Qian Liu,Weijia Shi,Binyuan Hui,Fan Zhou,Yitao Liu,Tianbao Xie,Zhoujun Cheng,Siheng Zhao,Lingpeng Kong,Bailin Wang,Caiming Xiong,Tao Yu我们介绍了Lemur和Lemur-Chat，这是两个公开可访问的语言模型，它们针对自然语言和编程能力进行了优化，旨在成为多功能语言代理的核心。从语言聊天模型向功能性语言代理的演变要求模型不仅要掌握人类互动、推理和规划，还要确保在相关环境中的落地。这就要求模型中语言和编程能力的和谐结合。Lemur和Lemur-Chat就是为了解决这一需求而提出的，它们在两个领域都展示了平衡的能力，与现有的倾向于只专攻其一的开源模型不同。通过使用代码密集的语料库进行细致的预训练，以及对文本和代码数据进行指令微调，我们的模型在多个文本和编程基准测试中取得了开源模型中平均性能的最佳表现。全面的实验表明，Lemur在各种代理任务中的优越性，这些任务涉及人类沟通、工具使用以及在完全和部分可观察环境中的互动。自然语言和编程语言之间的协调使Lemur-Chat在代理能力上与专有模型的差距显著缩小，为开发能够无缝跨环境进行推理、规划和操作的先进开源代理提供了关键见解。更多信息可在GitHub页面上找到：https://github.com/OpenLemur/Lemur。SDXL: Improving Latent Diffusion Models for High-Resolution Image SynthesisDustin Podell,Zion English,Kyle Lacey,Andreas Blattmann,Tim Dockhorn,Jonas M眉ller,Joe Penna,Robin Rombach我们介绍了SDXL，这是一个用于文本到图像合成的潜在扩散模型。与之前的Stable Diffusion版本相比，SDXL采用了一个大三倍的UNet骨干网络：模型参数的增加主要是由于更多的注意力块和一个更大的交叉注意力上下文，因为SDXL使用了第二个文本编码器。我们设计了多种新的条件化方案，并在多种宽高比上训练SDXL。我们还引入了一个细化模型，该模型使用事后的图像到图像技术来提高由SDXL生成的样本的视觉保真度。我们展示了SDXL相比之前的Stable Diffusion版本在性能上的显著改进，并取得了与黑盒最先进图像生成器相媲美的结果。为了促进开放研究和在大型模型训练和评估中提高透明度，我们在https://github.com/Stability-AI/generative-models提供了代码和模型权重的访问。DyVal: Dynamic Evaluation of Large Language Models for Reasoning TasksKaijie Zhu,Jiaao Chen,Jindong Wang,Neil Zhenqiang Gong,Diyi Yang,Xing Xie大型语言模型（LLMs）在各种评估基准测试中取得了显著的成绩。然而，人们对于其庞大的训练语料库中潜在的数据污染问题表示担忧。此外，当前基准测试的静态性质和固定复杂度可能无法充分衡量LLMs不断进步的能力。在本文中，我们介绍了DyVal，这是一种用于动态评估LLMs的通用且灵活的协议。基于我们的框架，我们构建了基于图的DyVal，利用有向无环图的结构优势动态生成具有可控复杂度的评估样本。DyVal在包括数学、逻辑推理和算法问题在内的推理任务上生成了具有挑战性的评估集。我们评估了从Flan-T5-large到GPT-3.5-Turbo和GPT-4的各种LLMs。实验表明，LLMs在DyVal生成的不同复杂度的评估样本中表现更差，突显了动态评估的重要性。我们还分析了不同提示方法的失败案例和结果。此外，DyVal生成的样本不仅是评估集，而且有助于微调，以提高LLMs在现有基准测试上的性能。我们希望DyVal能够为LLMs未来评估研究提供新的视角。代码可在https://github.com/microsoft/promptbench获取。
原文作者：Agent的潜意识；如有侵权，请联系管理员删除。
