奇绩大模型日报（10月 10日）
输入“/”快速插入内容
奇绩大模型日报（10月 10日）
奇绩大模型日报（10月 10日）
用户150用户150
用户3980用户3980用户1188用户1188
用户5537用户5537用户8534用户8534+3
2024年10月11日修改
🔉潜空间活动报名
🎉
潜空间系列活动重磅回归！
本期活动将在10月13日 10:00开始，我们邀请到的嘉宾是朱亦博，他将在潜空间上海场进行分享。阶跃星辰（StepFun）系统负责人，曾任字节跳动 AI 基础设施负责人。朱亦博在大规模数据处理和人工智能算法优化方面有着深厚的背景和丰富的经验。阶跃星辰专注于通用大模型的研发，发布了 Step 系列通用大模型，包括千亿参数的语言大模型和多模态大模型，以及万亿参数的 MoE 语言大模型预览版。他将带来《从模型到集群硬件，关于全栈式 AI Infra 设计与搭建的思考的分享。
除嘉宾分享外，每期设置了【匹配合伙人 Cofounder Matching】环节。你可以和 GenAI 时代最有活力的创业者和研究者线下面对面交流，将有机会找到志同道合、有共同创业梦想的小伙伴。
报名通道已开启，欢迎扫描下方二维码报名。
资讯
Meta：Neuromnia 如何通过 Llama 3.1 改变 ABA 疗法
Neuromnia是一个创新的人工智能驱动平台，它开创性地解决了自闭症护理中最紧迫的一些挑战。每36名儿童中就有一名患有自闭症，Neuromnia 为临床医生、家长和教师提供了强大的人工智能驱动工具，以提高工作效率、改善治疗质量并增加自闭症患者获得护理的机会。
利用Llama 3.1，Neuromnia 最近开发了 Nia，这是一款以人为本的应用行为分析（ABA）疗法Al 副驾驶员。Nia 提高了临床医生的工作效率并改善了医疗服务，使临床医生能够专注于大规模提供优质医疗服务。
together.ai：使用 Llama 3.2 Vision 和 ColQwen2 的多模式文档 RAG
为了让人工智能模型有效地完成专业任务，它们通常需要特定领域的知识。例如，金融咨询聊天机器人需要了解市场趋势和特定银行提供的产品，而人工智能法律助理必须具备法规、法规和过去判例法的知识。
一种常见的解决方案是检索增强生成 (RAG)，它从知识库中检索相关数据并将其与用户的提示相结合，从而改进模型的输出。然而，企业知识通常以 PDF、PowerPoint 演示文稿或扫描文档等格式存在，这使得检索和准备相关部分以注入我们可以发送给 LLM 的提示变得很困难。
传统上，解决这个问题的方法是使用管道提取文本，这些管道结合了光学字符识别 (OCR) 来识别扫描文本、语言视觉模型来解释图表和表格等视觉元素，并使用页码和章节号等结构化元数据来增强文本和描述。挑战在于，这个过程因文档的性质和组织的存储格式而异。
在本文中，我们将探索一种名为 ColPali 的新方法，它允许我们直接索引和嵌入文档页面，而无需复杂的提取管道。结合 Llama 3.2 视觉系列等尖端多模态模型，ColPali 使 AI 系统能够推理文档图像，从而实现更灵活、更强大的多模态 RAG 框架。
Anthropic：新的消息批处理API
我们推出了一种新的消息批次API——一种强大且经济高效的异步处理大量查询的方法。
开发人员可以批量发送最多10,000个查询，每个批次的处理时间不到24小时，成本比标准API 调用低50%。这使得处理非时间敏感型任务更加高效且经济高效。
Batches API 现已推出公测版，支持 Anthropic API 上的 Claude 3.5 Sonnet、Claude 3 Opus 和 Claude 3Haiku。在Amazon Bedrock 中使用Claude 的客户可以使用批量推理。Google Cloud 的 Vertex AI 上即将推出对Claude 的批处理支持