奇绩大模型日报（9月 19日）
输入“/”快速插入内容
奇绩大模型日报（9月 19日）
奇绩大模型日报（9月 19日）
用户150用户150
用户6465用户6465
用户1188用户1188用户8534用户8534用户5294用户5294+3
2024年9月20日修改
资讯
吴泳铭：AI最大的想象力不在手机屏幕，而是改变物理世界
阿里巴巴集团CEO吴泳铭在2024云栖大会上发表主题演讲，强调AI正处于AGI变革的早期阶段，并指出生成式AI的最大想象力在于接管数字世界，改变物理世界。
首先，过去22个月AI发展迅速，大模型技术快速迭代，具备文本、语音、视觉的多模态能力，推理成本下降。阿里云通义千问的API调用价格已降至百万tokens仅5毛钱，开源生态蓬勃发展，Qwen系列模型已成为全球开源模型排行榜的前列。
其次，吴泳铭认为AI的潜力在于通过渗透数字世界来改变物理世界，不应局限于手机屏幕。生成式AI带来了质的飞跃，具备思考推理和创造能力，可以理解和执行物理世界中的任务，进而推动产业革命。未来，AI驱动的数字世界将连接具备AI能力的物理世界，大幅提升全球生产力。
第三，AI计算正在加速演进，成为主导。CPU主导的计算体系正向GPU主导的AI计算体系转移，AI算力需求已占据主流。阿里云正以强度投入AI技术研发和基础设施建设，打造面向未来的AI先进基础设施，为各行各业提供更适应AI需求的基础设施。
云栖Day1重磅合集！ Qwen2.5-72B成为全球最强开源模型
2024云栖大会正式开幕，阿里云通义千问发布最新大模型Qwen2.5。该模型在多个基准测试中超越Llama3.1-405B，参数规模远小于Llama，却展现出强大性能。Qwen2.5支持128K tokens，可生成最多8K tokens的内容。旗舰模型Qwen2.5-72B-Instruct在MMLU-redux、MATH、MBPP等多个权威测评中表现优异。
阿里巴巴集团CEO吴泳铭表示，AI发展迅速但仍处于AGI变革早期阶段。AI不只是手机上做超级app，更应改变数字世界和物理世界的运作方式。他指出AI模型正逐渐掌握多模态能力，推理成本大幅下降，应用爆发在即。
通义大模型发展引领全球，继开源Qwen2后，Qwen2.5全系列在18T token数据上进行预训练，具备更强知识、编程和数学能力，覆盖多语言，已被30多万企业接入。Qwen系列模型累计下载量超4000万，成最受开发者欢迎的国产大模型。
大会上，AI重构未来数字世界和物理世界成为焦点。吴泳铭强调，未来所有移动物体将变为智能机器人，AI计算体系逐渐主导，驱动产业革命。阿里云投入AI技术研发和基础设施建设，为用户提供最强AI基建。
Triton大会@硅谷：芯片、AI大厂齐站台
9月17日，Triton大会在硅谷举行，智源研究院牵头打造的基于Triton的开源算子库FlagGems/FlagAttention将亮相9月18日-19日的PyTorch大会。此次大会汇集了超过300位来自芯片制造商、AI领军企业和高校的专业人士。Triton大会在PyTorch大会前夕举行，凸显了Triton与PyTorch的紧密合作关系。
Triton被视为CUDA的替代方案，已获得Nvidia、AMD、Intel、Qualcomm、Google、微软、OpenAI、AWS和Meta等多家企业的支持。Triton社区生态蓬勃发展，吸引了众多厂商的参与，展现出其成为全球AI芯片统一软件生态的潜力。与会者普遍反馈Triton在性能和易用性上表现优异，尤其在跨平台原型开发中能快速展现性能优势，但在大规模产品部署中仍需改进。
Triton的未来方向将重点放在对非GPU架构硬件的支持，以及加强多后端的软件架构。大会中还介绍了Triton的profile工具Proton，由OpenAI和George Mason University的Keren Zhou主导开发。Proton相较于NVIDIA现有的工具展现出显著优势，并提供了多种入门示例供开发者参考。
OpenAI的Philippe Tillet展示了Triton过去一年的改进，包括在软件结构上加强“共享核心基础设施”设计，并在NVIDIA Hopper架构上进行了FP8的优化，性能已超越cuBLAS。此外，Tillet还指出了Triton当前缺少的工具，表明社区未来的工作方向。
各大芯片厂商也分享了他们在Triton上的进展和性能成果。Intel展示了Triton在其平台上达到GEMM算子性能的90%；AMD介绍了其在Triton上的优化工作；微软首次介绍了其新发布的AI芯片Maia-100，并给出了Triton在Maia上的性能数据；AWS展示了Triton在Trainium和Inferentia加速芯片上的应用，尤其是在Flash Attention任务上取得的加速效果；高通也分享了其在Triton上的进展。作为压轴，NVIDIA详细介绍了Triton在最新Blackwell架构上的优化工作，通过与OpenAI合作，GEMM性能提升了6倍。此外，NVIDIA还展示了FP4在性能上的优势。
Meta和Intel的工程师介绍了将Triton应用于通用CPU领域的工作，这将为Triton拓展新的应用场景。整场会议信息量巨大，展现了Triton在AI芯片软件生态中的重要地位。
漫谈AI应用：AI+代码，生产力领域的应用先锋
AI+代码是当前AI应用中最实用且商业化领先的场景之一。2023年CSDN的调研报告显示，约90%开发者已开始使用代码生成工具，认为其显著提升了开发效率。GitHub Copilot是这一领域的代表，2024年4月已拥有超过180万付费用户，收入规模达到数亿美元。代码生成本质上是一种较为标准化的“语言”生成任务，复杂度低于纯文本生成，因此更适合大模型应用。
Cursor作为一款由大模型驱动的IDE，在本地灵活调用GPT、Claude等大模型，并具备“生成”和“解释”两大核心功能。它不仅提供代码补全，还支持行内、文件、项目级的代码生成和编辑。相比传统的AI+代码插件，Cursor的优势在于其深度理解开发者需求，实现了高效的商业落地。Cursor的成功表明，AI应用能力不仅依赖模型的能力上限，还需要对应用场景的深刻理解。模型能力提升AI应用的上限，而场景理解决定了能否兑现该上限。
Cursor提供了Freemium商业模式，用户可通过付费获得更高级的模型使用权限，并已积累超3万名企业客户。其功能包含代码补全、对话修改、交互式编辑和项目全局修改，支持多种编程语言。与GitHub Copilot等产品相比，Cursor将AI能力深度融合到开发流程中，实现了“无感应用”，使AI能力最大限度融入原生产品形态。类似的AI+文字生成领域，WPS AI通过“伴写”功能实现了自然调用AI来辅助用户编写文案。
AI+代码的商业化成功在于其标准化和大模型的优越表现。根据PapersWithCode测评，多数大模型在HumanEval评估中的通过率达到75%以上，说明编程任务本身适合大模型发挥。国内外的AI+代码应用也纷纷涌现，如GitHub Copilot、Codeium、Cursor、aiXcoder、iFlyCode、CodeGeeX等，提供多样化的功能和服务。Cursor的成功启示是，AI应用需深刻理解用户需求，并融入原生应用，实现无感优化。此外，技术进展、行业竞争和商业化风险仍需警惕，以确保AI+代码应用的持续发展。
KAN结合Transformer，真有团队搞出了解决扩展缺陷的KAT