奇绩大模型日报（8月 30日）
输入“/”快速插入内容
奇绩大模型日报（8月 30日）
奇绩大模型日报（8月 30日）
用户150用户150
用户1188用户1188
用户6465用户6465用户8534用户8534用户5537用户55372024年8月31日修改
📡潜空间活动报名
🎉
潜空间系列活动重磅回归！
本期活动将在9月6日 14:00开始，我们邀请到的嘉宾是闫俊杰。他是MiniMax 创始人兼 CEO，是中国第一梯队的大模型创业者，目前 MiniMax 估值超 25 亿美元。他将和大家探讨Intelligence with everyone ：对 AGI 0-1 的探索与实践。
本次仅开放北京线下活动，望理解。我们将在会后48h内，整理会议纪要的精彩内容第一时间分享。
除嘉宾分享外，每期设置了【匹配合伙人 Cofounder Matching】环节。你可以和 GenAI 时代最有活力的创业者和研究者线下面对面交流，将有机会找到志同道合、有共同创业梦想的小伙伴。
报名通道已开启，欢迎扫描下方二维码报名。
推特
OpenAI与美国AI安全研究所达成协议，对未来的模型进行预发布测试
我们很高兴与美国AI安全研究所达成协议，对我们未来的模型进行预发布测试。
出于多种原因，我们认为在国家层面进行这项工作非常重要。美国需要继续引领潮流！
吴恩达：AI代币价格骤降的驱动力与未来展望
在OpenAI最近降价之后，GPT-4o的代币现在每百万代币的成本为4美元（使用假设80%输入代币和20%输出代币的混合费率）。GPT-4在2023年3月首次发布时每百万代币的成本为36美元。这17个月内的价格下调对应每年约79%的降幅。(4/36 = (1 - p)^{17/12})
正如你所见，代币价格正在迅速下降！推动价格下降的一个因素是诸如Llama 3.1这样的开源模型的发布。如果API提供商（包括Anyscale、Fireworks、Together AI等初创公司以及一些大型云计算公司）无需担心收回模型开发成本，他们可以直接在价格以及速度等少数其他因素上进行竞争。
此外，由Groq（快速生成代币领域的领先者）、Samba Nova（以每秒114个代币的惊人速度提供Llama 3.1 405B代币）以及晶圆级计算初创公司Cerebras（本周刚宣布了一项新服务）等公司带来的硬件创新，以及半导体巨头NVIDIA、AMD、Intel和Qualcomm的技术进步，也将推动进一步的价格下降。
在构建应用程序时，我发现根据技术的发展方向而设计比仅仅根据过去的技术状况更为有用。基于多家软件和硬件公司的技术路线图——包括改进的半导体、更小的模型以及推理架构中的算法创新——我相信代币价格将继续快速下降。
这意味着，即使你构建了一个经济性不佳的代理工作负载，随着代币价格的下降，它在某个时间点可能会变得经济可行。如我之前所写，能够处理大量代币对代理工作负载尤其重要，这些负载在生成结果之前必须多次调用模型。此外，即使是代理工作负载，对于许多应用来说已经相当实惠。比如，你构建了一个帮助人类工作的应用程序，它持续使用每秒100个代币：按每百万代币4美元计算，你每小时仅需花费1.44美元——这远低于美国和许多其他国家的最低工资标准。
那么AI公司应该如何准备？
•
首先，我听到很多团队在实际进行成本计算时，发现LLM使用成本如此之低时感到惊讶。对于许多应用来说，优化成本并不值得花费太多精力。因此，最重要的是，我建议团队专注于构建有用的应用程序，而不是优化LLM成本。
•
其次，即使某个应用程序现在运行成本略高，但考虑到未来的价格降低，它可能值得部署。
•
最后，随着新模型的发布，定期检查应用程序是否应切换到新模型（无论是从同一提供商的旧模型切换到新模型，例如从GPT-4切换到最新的GPT-4o-2024-08-06，还是切换到不同的提供商），以利用价格下降和/或能力提升，可能是值得的。
由于现在有多个提供商托管Llama 3.1和其他开源模型，如果你使用其中一个模型，可能无需过多测试就可以在提供商之间切换（尽管具体实现细节——特别是量化，确实意味着不同的模型提供版本在性能上存在差异）。不幸的是，在模型切换过程中，一个主要障碍仍然是实施评估的难度，因此在更换新模型后进行回归测试以确保应用程序仍然能够正常运行可能会很具挑战性。然而，随着评估科学的进步，我对这一过程变得更加容易持乐观态度。
全新Playground：像专业人士一样设计图形
我很兴奋地介绍全新Playground，让你像专业人士一样设计图形，无论是T恤、徽标还是社交媒体帖子，甚至发明新的表情包。我们最新的图像基础模型Playground v3（测试版）支持这一切，现在就可以访问playground.com，没有等待名单。你可以通过简单的图形文本生成，轻松表达自我，编辑图像就像与设计师对话一样。我们还提供了一个模板库，让你从一张出色的图像开始创作。此外，你可以上传任何在互联网上找到的灵感图像，进行修改，而无需学习如何编写提示词。还可以将你创作的图像公共链接分享给朋友，让他们也参与创作，重混并制作出属于自己的设计。
50%