奇绩大模型日报（2月 2日）
输入“/”快速插入内容
奇绩大模型日报（2月 2日）
奇绩大模型日报（2月 2日）
资讯
研究
大模型也有小偷？为保护你的参数，上交大给大模型制作「人类可读指纹」
大模型的预训练需要耗费巨量的计算资源和数据，因而预训练模型的参数也正成为各大机构重点保护的核心竞争力和资产。然而，不同于传统的软件知识产权保护可以通过比对源代码来确认是否存在代码盗用，对预训练模型参数盗用的判断存在以下两方面的新问题：1） 预训练模型的参数，尤其是千亿级别模型的参数，通常不会开源。2） 更重要的是，预训练模型的输出和参数都会随着 SFT、RLHF、continue pretraining 等下游处理步骤而变化。这使得无论是基于模型输出还是基于模型参数，都很难判断某一模型是否是基于另一现有模型微调得来。因此，对大模型参数的保护是一个尚缺乏有效解决方案的全新问题。为此，来自上海交通大学林洲汉老师的 Lumia 研究团队研发了一种人类可读的大模型指纹，这一方法可以在不需要公开模型参数的条件下，有效识别各个大模型之间的血统关系。
阿里全新Agent玩转手机：刷短视频自主点赞评论，还学会了跨应用操作
会操纵手机的智能体，又迎来了全新升级！新的Agent打破了APP的界限，能够跨应用完成任务，成为了真·超级手机助手。比如根据指示，它可以自行搜索篮球比赛的结果，然后根据赛况在备忘录中撰写文稿。来自阿里的一篇最新论文，展示了全新手机操纵智能体框架Mobile-Agent，可以玩转10款应用，还能跨越APP完成用户交给的任务，而且即插即用无需训练。依托多模态大模型，整个操纵过程完全基于视觉能力实现，不再需要给APP编写XML操作文档。
代谢数据集上四项指标达94%~98%，西南交大团队开发多尺度图神经网络框架，助力药物研发
药物研发过程中，了解分子与代谢路径之间的关系，对于合成新分子和优化药物代谢机制至关重要。西南交通大学杨燕/江永全团队开发了一种新型的多尺度图神经网络框架MSGNN，来将化合物与代谢路径联系起来。它包括特征编码器、子图编码器和全局特征处理器三部分，分别学习了原子特征、子结构特征和额外的全局分子特征，这三个尺度的特征可赋予模型更全面的信息。该框架在 KEGG 代谢路径数据集上的表现优于现有方法，Accuracy、Precision、Recall、F1分别达到98.17%、94.18%、94.43%、94.30%。并且，团队还采用了图增强策略将训练集中的数据量扩充了十倍，使模型训练更加充分。
产业
A16Z 最新 AI 洞察｜2023 年是 AI 视频元年，2024 年还有这些难题需要解决
这是 A16Z 合伙人 Justine Moore 最新发布的 2024 年 AI 视频展望。Justine 提到，2023 年对于 AI 视频领域来说，是突破性的一年。2023 年初时，公开的文本转视频模型尚不存在。仅仅 12 个月后，数十种视频生成产品已被积极使用，全球有数百万用户通过文本或图像提示创建短片。这些产品仍然有相对的局限性——大多数生成的视频时长为 3～4 秒，输出的质量参差不齐，像角色一致性这样的问题还未得到解决。我们距离用单一文本提示（或甚至多个提示！）创造出皮克斯级别的短片还有很长的路要走。然而，过去一年在视频生成领域所见证的进步表明，我们正处于一场巨大变革的初期阶段，这与 A16Z 在图像生成领域所见到的相似。我们正在见证文本转视频模型的持续改进，以及像图像转视频和视频转视频这样的衍生技术正在获得动力。为了帮助理解这场创新的爆炸，A16Z 追踪了到目前为止最重要的发展、值得关注的公司，以及这个领域中剩余的基本问题。