当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
人气:发表时间:2025-06-25 04:30:10
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- 为什么中国现在全球军事实力第一,但包括中国人在内很多人不认可?
- 你的亲戚提过什么过分的要求?
- 你最真实(很少吐露)的择偶标准是什么?
- 重庆的你,择偶的标准是怎样的?
- ***如航母被蓝鲸全速前进撞一下会怎么样?
- 如何看待 Rust 写的 PNG 解码器比 C 实现更快?
- 生活中怎样的美女才能被称为「大」美女?
- 鱼缸里突然在水面角落出现很多想泡沫一样的气泡是怎么回事?
- 为什么中国的高超音速导弹一款接一款的出,而美国却这么费劲?
- 有邻居的追求者出价三万,让我连续半个月每天找个女朋友晚上弄点动静,我该答应吗?
最新资讯文章
- 为什么面向对象编程这么困难?
- 为什么广东人敢生?对别的省份提高生育率有哪些可借鉴学习之处?
- 为什么浙江落下的陨石,防空系统没有拦截,它和导弹有什么不同?
- 以色列为什么突然敢打伊朗了?不怕被报复?
- 海胆到底是什么味道?
- 为什么上海、宁波那么近要搞两个港口?不会恶性竞争么?
- 怎么评价黑尾酱这个人?
- 为什么武汉和成都发展差不多,但成都美誉度口碑高于武汉?
- 字节跳动技术副总裁开源了自己与Trae合作的首个项目,如何评价目前AI开发的水平?
- 为什么大学成抑郁重灾区?
- 为什么武汉和成都发展差不多,但成都美誉度口碑高于武汉?
- 家里有了孩子狗狗吃醋老吓唬孩子,要不要把狗狗卖掉?
- 从零写一个3D物理引擎难度多大?
- 腾讯开源的 libco 号称千万级协程支持,那个共享栈模式原理是什么?
- 韩国军队的战斗力怎样?
- 大街上看到大白腿,忍不住瞄了两眼,算不算不尊重女性?
- 《葫芦兄弟》中七个葫芦娃谁的能力在现代用处更大?
- 韦东奕和王虹谁的数学天赋更强?
- 为什么新流行的开源编辑器都在用Rust开发?
- FFmpeg如何利用GPU进行加速,每次都是GPU看戏CPU100%,或者说该说法有根本性错误?





