为什么我还是无法理解transformer？
- 发表时间：2025-06-24 23:05:11
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-25 15:05:13想学编程，该不该买MacBook?
- 2025-06-25 15:35:13为什么长得漂亮却没什么用?
- 2025-06-25 14:05:13Electron 做游戏客户端的潜力有多大？
- 2025-06-25 15:25:13本人女20，平胸跟男生一样怎么办 ?
- 2025-06-25 15:10:13为什么苹果手机杀后台现象频繁？是内存不够、后台管理严格还是其他原因呢？
- 2025-06-25 14:25:13为什么只有 JAVA 是一边倒被骂的?
- 2025-06-25 15:00:12为什么一部分 Go 布道师的博客不更新了？
- 2025-06-25 15:00:12曹玉磊冒充「清华院长」频繁参加活动遭官方打***，他为何能堂而皇之以***身份开展活动？其将受到哪些处罚？
- 2025-06-25 14:40:14高一弟弟上设计课需要买电脑，为了杜绝他打游戏给他买了一万二的苹果，但他还是在想办法下载游戏，怎么救？
- 2025-06-25 15:15:13为什么很多人都说华为很垃圾？
推荐产品
-
成都目前存在的最大的问题在哪里？
城北这么多人不发展，往城南使劲修房修路，无非就是为了少赔拆迁 -
真的没有人觉得2k是一个很尴尬的分辨率吗？
以pc游戏为主的国内市场压根不应该认为QHD(2560*14 -
程序员需要用到内置kvm功能的显示器吗？或者是外置的kvm切换器吗？
看到这个问题特意去查了下什么是KVM显示器。 不需要。 -
为什么美军B2实战以后网友又没信心了？
因为之前给的基调是美国一直在衰落，现代的美军无法打过20年前
新闻动态
最新资讯