奇绩大模型日报（9月 5日）
输入“/”快速插入内容
奇绩大模型日报（9月 5日）
奇绩大模型日报（9月 5日）
用户150用户150
用户1188用户1188
用户5537用户5537
用户887用户887用户6465用户64652024年9月6日修改
资讯
Stability AI三大文本生成图像模型上线Amazon Bedrock
近日，Stability AI的三款顶级文本生成图像模型——Stable Image Ultra、Stable Diffusion 3 Large和Stable Image Core——正式登陆Amazon Bedrock。此举为多行业提供了快速且可扩展的AI驱动视觉内容生成能力，涵盖媒体、营销、零售及游戏开发等领域。
1.
Stable Image Ultra
◦
特点: 针对超写实影像输出，适用于奢侈品牌及高端广告。
◦
应用场景: 用于奢侈品牌的广告设计，确保高质量的视觉效果。
2.
Stable Diffusion 3 Large
◦
特点: 提供高质量且高产出的图像生成，适用于大规模内容生成。
◦
应用场景: 游戏开发团队可快速生成复杂的场景与角色设计。
3.
Stable Image Core
◦
特点: 快速且经济，适合大批量、快速图像生成。
◦
应用场景: 在线零售商利用其快速生成产品图像，以保持商品目录的及时更新。
技术合作的优势
通过与AWS的合作，Stability AI的模型在Amazon Bedrock上运行，使得企业能够在可靠的云环境中快速、安全地部署AI模型。这种合作结合了Stability AI的AI技术和AWS强大的云基础设施，为用户提供了灵活且高效的AI解决方案，帮助企业加速内容开发流程、提升效率和创意输出。
Claude for Enterprise：企业级AI协作解决方案
Anthropic公司宣布推出“Claude企业版”计划，旨在帮助企业利用内部知识，与Claude进行安全协作。该计划扩展了Claude的功能，包括支持500K上下文窗口、大容量使用限制和原生GitHub集成，方便处理代码库。此外，Claude企业版还提供企业级安全功能，如单点登录（SSO）、基于角色的权限管理和审计日志功能，确保数据的安全。
主要功能：
1.
扩展上下文窗口：支持500K上下文窗口，能够处理数百页文档或中型代码库。
2.
原生GitHub集成：工程团队可以同步GitHub代码库，与Claude协作处理代码问题。
3.
企业级安全控制：包括SSO、基于角色的权限管理、审计日志等，确保公司数据和团队信息的安全。
应用案例：
•
GitLab 和 Midjourney 等客户已经利用Claude进行多项任务，从头脑风暴到流程优化，增强了团队的创造力和工作效率。
谷歌揭秘大模型不会数r原因：嵌入维度是关键，不止分词器问题
谷歌的新研究揭示大模型在计数任务上的局限，问题并非简单由tokenizer引发，而是嵌入维度不足导致无法存储用于计数的向量。研究表明，Transformer模型通过将每个词映射到独立的正交向量来实现词频统计，但嵌入维度必须大于词汇量，否则词向量无法保持正交性，导致计数失败。
研究通过两个实验验证这一结论。第一个实验中，研究团队在从头训练的Transformer上测试了不同嵌入维度和词汇量组合，结果显示，当词汇量超过嵌入维度时，模型的计数准确率明显下降。第二个实验使用预训练的Gemini 1.5模型，进一步证明词汇量增加是计数误差的主要原因，而非序列长度。
研究还指出，虽然这些实验划定了大模型的计数能力上限，但并未探讨增加模型层数的影响，这需要未来进一步的技术探索。
论文
LongCite：使LLMs能够在长问答语境中生成细粒度引文
目前的长文本大语言模型（LLM）展示了出色的能力，可以根据广泛的文本回答用户问题，但是它们的回复缺乏引用，使得用户难以验证，导致对其可信度的担忧，因为它们可能产生幻觉。在这项工作中，我们旨在使长文本LLM能够生成具有细粒度句级引用的响应，提高它们的忠实度和可验证性。我们首先引入LongBench-Cite，一个用于评估当前LLM在长上下文问题回答与引文（LQAC）上性能的自动化基准，揭示了改进的潜力。为此，我们提出了CoF（Coarse to Fine），一个新颖的流程，利用现成的LLM自动生成具有精确句级引用的长上下文QA实例，并利用这个流程构建了LongCite-45k，一个用于LQAC的大规模SFT数据集。最后，我们使用LongCite-45k数据集训练了LongCite-8B和LongCite-9B，成功使它们能够在单个输出中生成准确的响应和细粒度的句级引用。LongBench-Cite上的评估结果显示，我们训练的模型达到了最先进的引用质量，超越了包括GPT-4o在内的先进专有模型。