不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
{dede:pagebreak/}
写CUDA到底难在哪？ 
字节跳动技术副总裁开源了自己与Trae合作的首个项目，如何评价目前AI开发的水平？ 
大模型 Agent 是不是就是各种 Prompt 的堆叠？ 
是什么原因导致HDR无法推行？ 
为什么在中国邮箱不流行？ 
***拍大尺度片子时摄影师不会看光吗？ 
以色列为什么要打伊朗？ 
腰肌劳损怎嘛治啊? 
飞天茅台散瓶批发价跌破 2000 元，背后什么原因？收藏茅台还能增值吗？ 
东风、长安为什么不合并了？ 
F-35作战半径1100公里，以色列距离伊朗首都德黑兰1600公里。以色列F-35是如何轰炸伊朗的？ 
MiniMax Week第三天推出通用 Agent，体验如何？对行业会带来哪些影响？ 
在韩国生活有什么体验？ 
生完孩子身材依旧火辣是一种怎样的体验？ 冬天也要穿胸罩吗? 
“真实承诺-3”，伊朗的报复能打疼以色列吗？ 
