chenglu commited on
Commit
ec46f4b
1 Parent(s): 6687020

Update Thinking Like Transformers-cn.md

Browse files
Files changed (1) hide show
  1. Thinking Like Transformers-cn.md +1 -1
Thinking Like Transformers-cn.md CHANGED
@@ -318,7 +318,7 @@ before & eq
318
  ## 使用注意力机制
319
  给一个注意力选择器,我们可以提供一个序列值做聚合操作。我们通过累加那些选择器选过的真值做聚合。
320
 
321
- (笔记:在原始论文中,他们使用一个平均聚合操作并且展示了一个巧妙的结构,其中平均聚合能够代表总和计算。RASPy 默认情况下使用累加来使其简单化并避免碎片化。实际上,这意味着 raspy 可能低估了将基于平均模型转换为 2 倍的层数)
322
 
323
  注意聚合操作使我们能够计算直方图之类的功能。
324
 
 
318
  ## 使用注意力机制
319
  给一个注意力选择器,我们可以提供一个序列值做聚合操作。我们通过累加那些选择器选过的真值做聚合。
320
 
321
+ (注意:在原始论文中,他们使用一个平均聚合操作并且展示了一个巧妙的结构,其中平均聚合能够代表总和计算。RASPy 默认情况下使用累加来使其简单化并避免碎片化。实际上,这意味着 raspy 可能低估了将基于平均模型转换为 2 倍的层数)
322
 
323
  注意聚合操作使我们能够计算直方图之类的功能。
324