上周,我开始用 Rust 构建 @karpathy 的 micrograd。到本周末,我使用仅 Rust 标准库构建了一个带有自动微分支持的 Tensor 库。在这个过程中,我学到了很多关于 PyTorch 的知识,所以我在这里写了一些相关内容。我尝试剥离 PyTorch 的许多抽象概念,比如 Tensor 的实现方式、如何思考广播机制以及如何建立反向传播的直觉。希望大家无论对 PyTorch 是否熟悉,都能觉得有趣!这个项目真的很有趣(也很有挑战性)。希望你们能看看,像往常一样,任何反馈都非常感谢!代码可以在这里找到: