奇绩大模型日报（7月 11日）
输入“/”快速插入内容
奇绩大模型日报（7月 11日）
奇绩大模型日报（7月 11日）
用户150用户150
用户5247用户5247
用户1188用户1188
用户5537用户5537用户8534用户85342024年7月12日修改
推特
OpenAI和洛斯阿拉莫斯国家实验室宣布生物科学研究合作伙伴关系
OpenAI和洛斯阿拉莫斯国家实验室正在开发评估，以了解多模态AI模型如何能够在实验室环境中被科学家安全使用。
机器学习LeetCode上线！第一个挑战：在不使用任何张量操作的情况下计算矩阵-向量积
50%
Karpathy分享优质项目：一个值得信赖的、免费的、支持Linux的、自主托管的64位RISC-V计算机
一个让我早些时候感到惊叹并且我至今仍时常思考的项目：
一个值得信赖的、免费的（自由的）、支持Linux的、自主托管的64位RISC-V计算机
这是一个尝试构建一个*完全*开源的计算机系统的项目，包括软件和硬件。通常，即使你使用的是开源软件，你也会依赖于实际运行的硬件芯片，包括其（通常是不透明的）设计、指令集架构（ISA）等。
由于制造芯片的成本很高，这里的方法是使用FPGA，它可以重新配置以实现任何定制的数字电路。而且它们已经足够强大，可以（显然）容纳整个计算机。
这为整个硬件+软件栈提供了前所未有的灵活性。你可以随意更改或扩展计算机的指令集本身（在这里，RISC-V作为默认选择是一个显然优秀的选择）。或者更改CPU的流水线深度。或者更改内存层次结构，添加/更改缓存级别。添加定制的硬件加速器。当然，也可以任意更改操作系统：定制调度程序、内存管理系统或其他任何组件。
该系统也是自主托管的，因此它完全自包含并且没有外部依赖，可以编译自己的编译器和整个软件环境。
在安全性/隐私/可信性方面，你最终会得到一个完全可审计的系统，硬件和软件都是如此。此外，与ASIC相比，FPGA硬件本身对于攻击者来说要难以攻破得多，因为他们无法提前知道你将如何运行它，如何表示你的数据等。
当然，FPGA的运行速度不如实际的芯片，但你在性能上损失的部分可以在开放性和完全控制权上得到补偿。
总之，这是一个引人入胜的项目，如果计算可能在根本层面上发生变化，它可能会变得非常相关。
《提示压缩和查询优化》：优化RAG的成本和性能
学习如何在我们与@MongoDB合作并由@richmondalake教授的新短期课程《提示压缩和查询优化》中优化RAG的成本和性能。
本课程教你如何结合传统数据库功能与MongoDB用于RAG的向量搜索。你将学习以下技术：
•
向量搜索：用于用户查询的语义匹配
•
使用元数据进行过滤：预过滤和后过滤以缩小搜索结果范围
•
投影：选择仅必要的字段以最小化返回的数据
•
提升：重新排序结果以提高相关性