tinygrad＞要求python3.8以上

 事实证明&＃xff0c;一个不错的 autograd 张量库是神经网络所需的 90%。从 tinygrad.optim 添加优化器&＃xff08;SGD、RMSprop 和 Adam 实现&＃xff09;&＃xff0c;编写一些样板小批量代码&＃xff0c;您就拥有了所需的一切。

from tinygrad.tensor import Tensor
import tinygrad.optim as optimclass TinyBobNet:def __init__(self):self.l1 &＃61; Tensor.uniform(784, 128)self.l2 &＃61; Tensor.uniform(128, 10)def forward(self, x):return x.dot(self.l1).relu().dot(self.l2).logsoftmax()model &＃61; TinyBobNet()
optim &＃61; optim.SGD([model.l1, model.l2], lr&＃61;0.001)# ... and complete like pytorch, with (x,y) dataout &＃61; model.forward(x)
loss &＃61; out.mul(y).mean()
optim.zero_grad()
loss.backward()
optim.step()