当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
人气:发表时间:2025-06-25 16:15:13
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- Golang 中为什么没有注解?
- 互联网研发运维都必用的Nginx到底是什么呢?
- 如果世界是虚拟的,当两个镜子对面放,将会无限反射,会不会将 cpu 算力耗光?
- 为什么有人会说要崛起要靠西科这种观点呢?
- 为什么抖音上的姑娘都那么好看,现实中我怎么一个也见不着?
- 如何评价最新发布的 vivo X Fold5,作为首款「三防」折叠屏手机,都有哪些亮点值得关注?
- 消息称苹果 macOS 26 将不再支持部分旧款英特尔 CPU 机型,这背后原因有哪些?
- 男医生在给年轻靓丽的女性检查时会是什么心态?
- 公司规定所有接口都用 post 请求,这是为什么?
- 鱼缸能不能做到一直不换水还很清澈?
最新资讯文章
- 互联网研发运维都必用的Nginx到底是什么呢?
- HTTP/3 解决了什么问题,又引入了什么新问题?
- 韩国掀起打「增高针」风潮,增高针真的能增高吗?会对身体产生哪些影响?
- 组nas一定要TDP低的cpu吗?
- 胖东来真有网上说的那么好吗?
- 为什么很多用苹果电脑的人都不用鼠标啊?
- 为什么windows的文件管理器不能直接显示文件夹的大小?
- 哈尔滨高温大学生楼道睡觉,学生称体感温度 37、38℃,东北学校该不该装空调?未来东北高温天会更多吗?
- ***如古代长城用的是C140混凝土,那千百年下来会完整的留存至今还是损坏的更加严重?
- 人到中年,为什么对许多事没了兴趣?
- 既然富人财富占社会总财富的 80%,那么鼓励富人消费不就可以了吗?
- 为什么年轻的肉体让人沉迷?
- 我是新手想养鱼,预算不超过200。有什么好的建议或者禁忌吗。?
- 学习pr从那个版本开始比较好?
- 是否建议把int *p写作int* p?
- 吃爽了是怎样一种体验?
- “凡是不发朋友圈的人,都是过的不好的人”你认同这句话吗为什么?
- 有一个***约你出去,你会去吗?
- 女明星究竟可以有多瘦?
- 现在干什么能挣钱?





