ITPub博客

agent.exe 是一款功能强大、易于使用的开源应用程序，它利用 Claude 3.5 Sonnet 的先进技术，使得计算机控制变得更加简单高效。

跟随AI绘本，探索动物的生命周期，让小朋友发现它们不为人知的精彩故事！

2024 年诺贝尔化学奖授予 David Baker 和 DeepMind 的 Demis Hassabis、John M. Jumper，表彰他们在计算蛋白质设计和结构预测方面的突破性工作。

瑞典皇家科学院决定将 2024 年诺贝尔物理学奖授予John J. Hopfield和Geoffrey E. Hinton，“表彰他们通过人工神经网络实现机器学习的基础性发现和发明”。

Stable Diffusion 是一种基于文本提示生成高分辨率图像的前沿生成模型，具备强大的文本理解与视觉生成能力。它通过解析用户输入的文字描述，逐步生成符合预期的图像，极大地推动了创意设计、视觉艺术生成的技术革新。

Transformer 是一种彻底改变人工智能方法的神经网络架构。它首次在 2017 年被提出，并迅速成为深度学习模型的首选架构，为 OpenAI 的 GPT等模型提供动力。

“支小宝”是基于蚂蚁百灵大模型推出的，作为国内首个服务型AI独立App，它深度融入支付宝生态，用户可以通过简短的对话，快速完成订票、点餐、打车以及查询周边吃喝玩乐等需求，真正实现“说句话就能办事”。

?在大模型中，一切信息最终都是以Token的形式存在。Token是模型处理和理解输入信息的基本单元，可以是文本、图片、视频和脑电波等。每个Token被赋予数值或标识符，并按序列或向量排列，输入到模型或从模型中输出。

在当今人工智能和机器学习领域，大规模的计算能力是推动创新和突破的关键。而搭建一个拥有10万个H100 GPU的集群，极具挑战性。

8款 AI 工具，代表了2024年提高工作效率的前沿科技。它们覆盖了从 AI 应用开发、搜索引擎、设计、客服、网页构建到任务管理、思维导图和信息处理的多个领域

AIGC驱动下，芯片竞逐高性能大算力，引入新计算架构；稀疏计算是从算法软件层面突破芯片算力性能的一大趋势。 稀疏计算的创新体现在算法层面，通过删除无效或冗余的数据（此类数据通常数量庞大），大幅减少数据的计算量，从而加快计算速度。

人工智能的高速发展给各学科领域的研究者提供了丰富的研究工具和创新方法，这股浪潮被称为AI for science

人类大脑的功耗只有约20瓦，这与大规模神经网络相比显得微不足道。但是人脑能有大模型不可比拟的智能。说明大模型参数量和计算量是“虚胖”的。通过训练使模型更稀疏化可以有效地压缩模型，从而提高计算效率。

本文介绍了文本表示的方法，包括独热编码和整数编码，以及词嵌入(word embedding)的概念。 独热编码和整数编码存在一些缺点，而词嵌入可以通过低维向量来表示文本，具有更好的通用性和语义相似性。还介绍了几种主流的词嵌入算法。

大模型离不开向量数据库回答这个问题之前，我们先来理解一下什么是向量。这是一个苹果，但在发明苹果这个词之前，人们怎么描述它呢？

大模型占用显存的大头主要分为四部分：模型参数、前向计算过程中产生的中间激活、后向传递计算得到的梯度、优化器状态。训练大模型时通常会采用AdamW优化器，并用混合精度训练来加速训练，基于这个前提分析显存占用。

作为Windows系统内置的一个革命性新功能,WSL让开发者在Windows环境中直接体验Linux的强大功能。最新的WSL 2版本更是在文件系统、GPU利用、系统集成等多方面有突破性提升。

在竞争激烈的AI领域,一个由大型模型系统组织建立的"Chatbot Arena Leaderboard"排行榜备受瞩目。这个排行榜通过匿名用户对不同AI模型回答的投票,结合Elo评分系统进行排名。

近年来，容器和 Kubernetes 已经成为越来越多 AI 应用首选的运行环境和平台。一方面，Kubernetes 帮助用户标准化异构资源和运行时环境、简化运维流程；其次，AI 这种重度依赖 GPU 可以利用 K8s 的弹性节省资源成本。

Sora是 OpenAI 的突破性技术，可将文本转换为视频，本质上就像一根魔杖，将你的故事或描述以动态图像的形式呈现出来。