Add spaces by HeySpace.

Thinking Like Transformers-cn.md

@@ -1,5 +1,4 @@
 
-
 - [论文](https://arxiv.org/pdf/2106.06981.pdf) 来自 Gail Weiss, Yoav Goldberg,Eran Yahav.
 - 博客参考 [Sasha Rush](https://rush-nlp.com/) 和 [Gail Weiss](https://sgailw.cswp.cs.technion.ac.il/)
 - 库和交互 Notebook: [srush/raspy](https://github.com/srush/RASPy)
@@ -14,9 +13,9 @@ Transformer 模型是 AI 系统的基础。已经有了数不清的关于 "Trans
 
 但是这些图表没有提供任何直观的计算该模型的框架表示。当研究者对于 Transformer 如何工作抱有兴趣时，直观的获取他运行的机制变得十分有用。
 
-[像Transformers一样思考](https://arxiv.org/pdf/2106.06981.pdf)提出 transformer 类计算框架。这个框架直接计算和模仿 Transformer 计算。使用 [RASP](https://github.com/tech-srl/RASP) 编程语言，使每个程序编译成一个特殊的 Transformer 。
+[像 Transformers 一样思考](https://arxiv.org/pdf/2106.06981.pdf) 提出 transformer 类计算框架。这个框架直接计算和模仿 Transformer 计算。使用 [RASP](https://github.com/tech-srl/RASP) 编程语言，使每个程序编译成一个特殊的 Transformer 。
 
-在这篇博客中，我用 python 复现了 RASP 的变体( RASPy )。该语言大致与原始版本相当，但是多了一些我认为很有趣的变化。通过这些语言，作者 Gail Weiss 的工作，提供了一套具有挑战性的有趣且正确的方式可以帮助了解其工作原理。
+在这篇博客中，我用 python 复现了 RASP 的变体 (RASPy)。该语言大致与原始版本相当，但是多了一些我认为很有趣的变化。通过这些语言，作者 Gail Weiss 的工作，提供了一套具有挑战性的有趣且正确的方式可以帮助了解其工作原理。
 
 ```bash
 !pip install git+https://github.com/srush/RASPy
@@ -49,7 +48,7 @@ flip()
 
 ### 输入
 
-在一个 Transformer 中，基本曾是一个模型的前馈输入。这个输入通常包含原始的token和位置信息。
+在一个 Transformer 中，基本曾是一个模型的前馈输入。这个输入通常包含原始的 token 和位置信息。
 
 <center>
 
@@ -57,7 +56,7 @@ flip()
 
 </center>
 
-在代码中， tokens 的特征表示最简单的 transform 。他返回经过模型的 tokens 。默认输入序列是" hello "
+在代码中， tokens 的特征表示最简单的 transform 。他返回经过模型的 tokens 。默认输入序列是 " hello "
 
 ```python
 tokens
@@ -81,7 +80,6 @@ tokens.input([5, 2, 4, 5, 2, 2])
 
 </center>
 
-
 作为 Transformers ，我们不能直接接受这些序列的位置。但是为了模拟位置嵌入，我们可以获取位置的索引
 
 ```python
@@ -105,7 +103,6 @@ sop.input("goodbye")
 
 </center>
 
-
 ### 前馈网络
 
 经过输入层后，我们到达了前馈网络层。在 Transformer 中，这一步可以对于序列的每一个元素独立的应用数学运算。
@@ -141,7 +138,7 @@ model.input([1, 2, 3, 5, 2])
 
 </center>
 
-该运算可以组合多个 Transforms .举个例子，以上述的 token 和 indices 为例，这里可以类别 Transformer 可以跟踪多个片段信息
+该运算可以组合多个 Transforms . 举个例子，以上述的 token 和 indices 为例，这里可以类别 Transformer 可以跟踪多个片段信息
 
 ```python
 model = tokens - 5 + indices
@@ -154,7 +151,6 @@ model.input([1, 2, 3, 5, 2])
 
 </center>
 
-
 ```python
 (tokens == "l") | (indices == 1)
 ```
@@ -165,7 +161,6 @@ model.input([1, 2, 3, 5, 2])
 
 </center>
 
-
 我们提供了一些辅助函数让写 transforms 变得更简单，举例来说，where 提供了一个类似 if 功能的结构。
 
 ```python
@@ -178,7 +173,7 @@ where((tokens == "h") | (tokens == "l"), tokens, "q")
 
 </center>
 
-`map`使我们可以定义自己的操作，例如一个字符串以 int 转换。（用户应谨慎使用可以使用的简单神经网络计算的操作）
+`map` 使我们可以定义自己的操作，例如一个字符串以 int 转换。（用户应谨慎使用可以使用的简单神经网络计算的操作）
 
 ```python
 atoi = tokens.map(lambda x: ord(x) - ord('0'))
@@ -191,9 +186,7 @@ atoi.input("31234")
 
 </center>
 
-
-
-当连接了这些 transforms ，可以更容易的编写功能。举例来说，下面是应用了 where 和 atoi 和加2的操作
+当连接了这些 transforms ，可以更容易的编写功能。举例来说，下面是应用了 where 和 atoi 和加 2 的操作
 
 ```python
 def atoi(seq=tokens):
@@ -218,7 +211,7 @@ op.input("02-13")
 
 </center>
 
-我们开始定义 Key 和 query 的标记。key 和 Query 可以直接从上面的 transforms 创建。举个例子，如果我们想要定义一个key我们称作key。
+我们开始定义 Key 和 query 的标记。key 和 Query 可以直接从上面的 transforms 创建。举个例子，如果我们想要定义一个 key 我们称作 key。
 
 ```python
 key(tokens)
@@ -230,7 +223,6 @@ key(tokens)
 
 </center>
 
-
 对于 query 也一样
 
 ```python
@@ -243,7 +235,6 @@ query(tokens)
 
 </center>
 
-
 标量可以作为 key 或 query 使用。他们会广播���基础序列的长度。
 
 ```python
@@ -256,7 +247,6 @@ query(1)
 
 </center>
 
-
 我们创建了筛选器来应用 key 和 query 之间的操作。这对应于一个二进制矩阵，指示每个 query 要关注哪个 key。与 Transformers 不用，这个注意力矩阵未加入权重。
 
 ```python
@@ -270,9 +260,8 @@ eq
 
 </center>
 
-
 一些例子：
-- 选择器的匹配位置偏移1。
+- 选择器的匹配位置偏移 1。
 
 ```python
 offset = (key(indices) == query(indices - 1))
@@ -285,7 +274,6 @@ offset
 
 </center>
 
-
 - key 早于 query 的选择器。
 
 ```python
@@ -299,7 +287,6 @@ before
 
 </center>
 
-
 - key 晚于 query 的选择器。
 
 ```python
@@ -313,7 +300,7 @@ after
 
 </center>
 
-选择器可以通过布尔操作合并。比如，这个选择器befoe和eq做合并，我们通过在矩阵中包含一对键和值来显示这一点。
+选择器可以通过布尔操作合并。比如，这个选择器 befoe 和 eq 做合并，我们通过在矩阵中包含一对键和值来显示这一点。
 
 ```python
 before & eq
@@ -325,11 +312,10 @@ before & eq
 
 </center>
 
-
 ## 使用注意力机制
 给一个注意力选择器，我们可以提供一个序列值做聚合操作。我们通过累加那些选择器选过的真值做聚合。
 
-(笔记：在原始论文中，他们使用一个平均聚合操作并且展示了一个巧妙的结构，其中平均聚合能够代表总和计算。RASPy 默认情况下使用累加来使其简单化并避免碎片化。实际上，这意味着 raspy 可能低估了将基于平均模型转换为2倍的层数)
+(笔记：在原始论文中，他们使用一个平均聚合操作并且展示了一个巧妙的结构，其中平均聚合能够代表总和计算。RASPy 默认情况下使用累加来使其简单化并避免碎片化。实际上，这意味着 raspy 可能低估了将基于平均模型转换为 2 倍的层数)
 
 注意聚合操作使我们能够计算直方图之类的功能。
 
@@ -351,8 +337,7 @@ before & eq
 
 </center>
 
-
-一些注意力机制操作甚至不需要用到输入 token 。举例来说，去计算序列长度，我们创建一个" select all "的注意力筛选器并且给他赋值。
+一些注意力机制操作甚至不需要用到输入 token 。举例来说，去计算序列长度，我们创建一个 " select all " 的注意力筛选器并且给他赋值。
 
 ```python
 length = (key(1) == query(1)).value(1)
@@ -366,7 +351,6 @@ length
 
 </center>
 
-
 这里有更多复杂的例子，下面将一步一步展示。(这有点像做采访一样)
 
 我们想要计算一个序列的相邻值的和。首先我们向前截断。
@@ -436,7 +420,6 @@ cumsum().input([3, 1, -2, 3, 1])
 
 </center>
 
-
 ### 层
 这个语言支持编译更加复杂的 transforms。他同时通过跟踪每一个运算操作计算层。
 
@@ -446,8 +429,7 @@ cumsum().input([3, 1, -2, 3, 1])
 
 </center>
 
-
-这里有个2层 transform 的例子，第一个对应于计算长度，第二个对应于累积总和。
+这里有个 2 层 transform 的例子，第一个对应于计算长度，第二个对应于累积总和。
 
 ```python
 x = cumsum(length - indices)
@@ -460,8 +442,7 @@ x.input([3, 2, 3, 5])
 
 </center>
 
-
-## 用transformers进行编程
+## 用 transformers 进行编程
 
 使用这个函数库，我们可以编写完成一个复杂任务
 
@@ -469,13 +450,13 @@ Gail Weiss，给我一个极其挑战的问题来打破这个步骤
 
 我们可以加载一个添加任意长度数字的 Transformer 吗？
 
-例： 给一个字符串 "19492+23919",我们可以加载正确的输出吗？
+例： 给一个字符串 "19492+23919", 我们可以加载正确的输出吗？
 
 如果你想自己尝试，我们提供了一个[版本](https://colab.research.google.com/github/srush/raspy/blob/main/Blog.ipynb)你可以自己试试。
 
-### 挑战一 :选择一个给定的索引
+### 挑战一 : 选择一个给定的索引
 
-加载一个在索引i处全元素都有值的序列
+加载一个在索引 i 处全元素都有值的序列
 
 ```python 
 def index(i, seq=tokens):
@@ -490,10 +471,9 @@ index(1)
 
 </center>
 
-
 ### 挑战二 ：转换
 
-通过i位置将所有 token 移动到右侧。
+通过 i 位置将所有 token 移动到右侧。
 
 ```python
 def shift(i=1, default="_", seq=tokens):
@@ -530,7 +510,7 @@ minimum()([5,3,2,5,2])
 
 ### 挑战四：第一索引
 
-计算有 token q 的第一索引(2层)
+计算有 token q 的第一索引 (2 层)
 
 ```python
 def first(q, seq=tokens):
@@ -546,7 +526,7 @@ first("l")
 
 ### 挑战五 ：右对齐
 
-右对齐一个填充序列。例： " ralign().inputs(’xyz___‘) =’—xyz’ "(2层)
+右对齐一个填充序列。例： " ralign().inputs(’xyz___‘) =’—xyz’ "(2 层)
 
 ```python
 def ralign(default="-", sop=tokens):
@@ -564,7 +544,7 @@ ralign()("xyz__")
 
 ### 挑战六：分离
 
-把一个序列在 token "v" 处分离成两部分然后右对齐(2层)
+把一个序列在 token "v" 处分离成两部分然后右对齐 (2 层)
 
 ```python
 def split(v, i, sop=tokens):
@@ -597,7 +577,7 @@ split("+", 0)("xyz+zyr")
 
 ### 挑战七：滑动
 
-将特殊 token “ <”替换为最接近的“ <”value.(2层)
+将特殊 token “ <”替换为最接近的“ <”value.(2 层)
 
 ```python
 def slide(match, seq=tokens):
@@ -622,11 +602,11 @@ slide(tokens != "<").input("xxxh<<<l")
 add().input("683+345")
 ```
 
-0.分成两部分。转制成整形。加入
+0. 分成两部分。转制成整形。加入
 
 >“683+345” => [0, 0, 0, 9, 12, 8]
 
-1. 计算携带条款。三种可能性：1个携带，0不携带，<也许有携带。
+1. 计算携带条款。三种可能性：1 个携带，0 不携带，< 也许有携带。
 
 >[0, 0, 0, 9, 12, 8] => “00<100”
 
@@ -636,7 +616,7 @@ add().input("683+345")
 
 3. 完成加法
 
-这些都是1行代码。完整的系统是6个注意力机制。（尽管 Gail 说，如果你足够细心则可以在5个中完成！）。
+这些都是 1 行代码。完整的系统是 6 个注意力机制。（尽管 Gail 说，如果你足够细心则可以在 5 个中完成！）。
 
 ```python
 def add(sop=tokens):