奇绩大模型日报（5月 13日）
输入“/”快速插入内容
奇绩大模型日报（5月 13日）
奇绩大模型日报（5月 13日）
资讯
OpenAI COO 最新彭博对话：Sora 仍处商业化早期，AI 技术如果能在行业中产生通缩，会有更多东西被创造出来
这是 OpenAI COO Brad Lightcap 在旧金山 Bloomberg Tech 上展开的最新对话，Lightcap 谈到了 OpenAI 在 AI 方面的商业应用。Lightcap 重点阐释了 AI 技术如何为企业带来差异化价值，并提升客户体验和创新能力。 此外，Lightcap 也谈及了与微软的紧密合作关系，包括 Sora的最新进展。
零一万物千亿参数模型Yi-Large发布
今天，在成立一周年之际，国内AI大模型独角兽零一万物重磅发布系列产品升级。闭源模型方面，零一万物发布全球SOTA千亿参数闭源大模型Yi-Large，评测结果部分超越GPT-4，同时，零一万物创始人及CEO李开复该公司正在训练更大参数规模的MoE模型Yi-XLarge MoE。
多模态AI是医学的未来，谷歌推出三个新模型，Med-Gemini迎来大升级
许多临床任务需要了解专业数据，例如医学图像、基因组学，这类专业知识信息在通用多模态大模型的训练中通常不存在。在上一篇论文的描述中，Med-Gemini 在各种医学成像任务上超越 GPT-4 系列模型实现了 SOTA！在这里，Google DeepMind撰写了第二篇关于 Med-Gemini 的论文。在 Gemini 的多模态模型的基础上，该团队为 Med-Gemini 系列开发了多个模型。这些模型继承了 Gemini 的核心功能，并通过 2D 和 3D 放射学、组织病理学、眼科、皮肤病学和基因组数据的微调，针对医疗用途进行了优化：1、Med-Gemini-2D：能够处理放射学、病理学、皮肤科、眼科图像；2、Med-Gemini-3D：能够处理 CT 图像；3、Med-Gemini-Polygenic：能够处理基因组「图像」。
大神Karpathy强推，分词领域必读：自动钓鱼让大模型“发疯”的token，来自Transformer作者创业公司
关于大模型分词（tokenization），大神Karpathy刚刚推荐了一篇必读新论文。主题是：自动检测大模型中那些会导致“故障”的token。简单来说，由于大模型tokenizer的创建和模型训练是分开的，可能导致某些token在训练中很少、甚至完全没出现过。这些“训练不足”（under-trained）的token会导致模型产生异常输出。最经典的例子，就是SolidGoldMagikarp——这个单词一度让ChatGPT“胡言乱语”。只要prompt里包含这个词，ChatGPT就开始文不对题，生成一些混乱的输出。现在，来自Cohere的研究人员针对这个问题，提出检测“故障”token的有效方法，他们还发现：在多个主流开源大语言模型上，包括Llama系列、Mistral系列在内，训练不足的token都在不同程度上普遍存在。
Sora是世界模拟器吗？全球首篇综述全面解析通用世界模型
世界模型，即通过预测未来的范式对数字世界和物理世界进行理解，是通往实现通用人工智能（AGI）的关键路径之一。在视频生成领域，OpenAI发布的 Sora 引起了广泛关注，Sora 具有极强的仿真能力，可以展现出对物理世界的初步理解；视频生成领军企业 Runway 在技术博客中表示，文生视频系统 Gen-2 的下一代产品将会通过通用世界模型来实现。在自动驾驶领域，Tesla 和 Wayve 均表示在利用世界模型的预测未来特性构建其端到端自动驾驶系统。在更广泛的通用机器人智能领域，LeCun多次在演讲中表示对世界模型潜力的极大关注，并预言世界模型将会取代自回归模型成为新一代智能系统的基础。为了对世界模型的最新进展进行全面探索和总结，近日，北京极佳视界科技有限公司（极佳科技）的研究人员联合国内外多家单位（中国科学院自动化研究所、新加坡国立大学、中国科学院计算技术研究所、上海人工智能实验室、迈驰智行、西北工业大学、清华大学等）推出了全球首篇通用世界模型综述。该综述通过 260 余篇文献，对世界模型在视频生成、自动驾驶、智能体、通用机器人等领域的研究和应用进行了详尽的分析和讨论。另外，该综述还审视了当前世界模型的挑战和局限性，并展望了它们未来的发展方向。极佳科技的研究人员表示，会在 GitHub 项目中持续更新关于通用世界模型的更多研究进展，希望该综述能够成为通用世界模型的研究参考。