奇绩大模型日报（5月 9日）
输入“/”快速插入内容
奇绩大模型日报（5月 9日）
奇绩大模型日报（5月 9日）
飞书用户150
飞书用户1188
飞书用户5247
飞书用户4513飞书用户5537飞书用户8872024年5月10日修改
推特
OpenAI发布模型规范——塑造期望模型行为的方法
OpenAI：
为了加深公众对人工智能模型应如何行为的讨论，我们正在分享我们的模型规范——我们塑造期望模型行为的方法。
-- Shawn Wang评价：非常周到，基本上可以视为我们这个时代的三大法则
swyx在ICLR会议上提到了OpenAI API中的新功能：“聊天”与“无闲聊”的切换以及更多即将推出的更新。他认为Joanne Jang等人设计的新模型规范非常周到，基本上可以视为我们这个时代的三大法则，特别是目标、规则和默认设置的分割。但他也提出了一个问题：为什么没有人在讨论这里宣布的API的低调变更呢？新的角色变更包括将“平台”、“系统”改为“开发者”、“工具”，新设置包括“互动模式”的聊天风格与无闲聊，以及新增的多方控制字段，允许指定“接收者”和“结束回合”，这主要适用于代理间的对话。此外，还引入了多模态输入/输出功能。
-- Yi Ding评价模型规范：GPT-5在推理能力将是重大进步，但对开发者而言，GPT更加不透明和不可预测
来自 @OpenAI 模型规范的几点总结：
1.
GPT-5和未来的模型在决策制定和指令执行方面将有显著改善。这里的条件数量庞大，有些甚至近乎矛盾，令人印象深刻。
2.
多级指令，用户将无法访问大多数顶级指令。系统消息现在变为开发者消息，顶层有一个称为平台消息的层，只能由OpenAI更改。这一变更是出于安全/安保原因，但如果处理不当，可能会导致过度拒绝，就像我们在Llama 2中看到的那样。
3.
基于“设置”的自定义输出。"交互式"和"最大令牌数"现在将直接影响模型的输出，这意味着将不再有一个标准的“GPT-5”响应。之前，最大令牌数只是进行截断，但现在它会影响简洁性。
4.
YAML、JSON和XML在模型中被明确指出，并与提示的其他部分不同对待。这样做是为了避免提示注入，但这也可能意味着用这些类型的输入构建的提示在未来模型中的表现会更好。
5.
有迹象表明，一些规则可以被覆盖。测试哪些规则被模型更强烈地持有，哪些规则被更弱地持有将是有趣的。
好消息：我认为这表明GPT-5在推理能力上将是一个重大的进步。这也表明OpenAI继续认真对待安全，尽管到目前为止，他们所实施的每一层过滤和安全措施都被绕过了。新的提示层次结构是否能彻底解决这个问题将是有趣的。
坏消息：对于应用程序开发者来说，这可能表明GPT输出将变得更加不可预测和不透明。许多规则层次无疑会导致之前调整好的程序和提示停止工作的特殊情况。
丑陋的一面：即使现在有了4个级别的提示，也没有专门的上下文或RAG消息。
Phi-3 WebGPU：浏览器中本地运行，设备上推理！
推出Phi-3 WebGPU，这是一个私密且强大的AI聊天机器人，它在您的浏览器中本地运行，由🤗 Transformers.js和onnxruntime-web驱动！
🔒 设备上推理：不将数据发送到服务器
⚡️ WebGPU加速（> 20 t/s）
📥 模型下载一次并缓存