Datasets:

HuggingFace-CN-community
/

translation

@@ -1,3 +1,4 @@
 - [论文](https://arxiv.org/pdf/2106.06981.pdf) 来自 Gail Weiss, Yoav Goldberg,Eran Yahav.
 - 博客参考 [Sasha Rush](https://rush-nlp.com/) 和 [Gail Weiss](https://sgailw.cswp.cs.technion.ac.il/)
@@ -35,16 +36,17 @@ flip()
 ![](https://devrel.andfun.cn/devrel/posts/2023/01/c2ce067112df6.jpg)
 </center>
 ## 表格目录
-- 部分一： Transformers 作为代码
-- 部分二： 用 Transformers 编写程序
 ## Transformers 作为代码
-我们的目标是定义一套计算形式来最小化 Transformers 的表达。我们将通过类比进行此过程，描述其 Transformers 方面的每个语言构造。(正式语言规范请看[全文](https://arxiv.org/pdf/2106.06981.pdf))
-这个语言的核心单元是将一个序列转换成相同长度的另一个序列的序列操作。我后面将其称之为 transforms
 ### 输入
@@ -56,7 +58,7 @@ flip()
 </center>
-在代码中， tokens 的特征表示最简单的 transform 。他返回经过模型的 tokens 。默认输入序列是 " hello "
 ```python
 tokens
@@ -80,7 +82,7 @@ tokens.input([5, 2, 4, 5, 2, 2])
 </center>
-作为 Transformers ，我们不能直接接受这些序列的位置。但是为了模拟位置嵌入，我们可以获取位置的索引
 ```python
 indices
@@ -125,7 +127,7 @@ tokens == "l"
 </center>
-结果是一个新的 transform 。一旦重构新的输入就会按照重构方式计算
 ```python
 model = tokens * 2 - 1
@@ -138,7 +140,7 @@ model.input([1, 2, 3, 5, 2])
 </center>
-该运算可以组合多个 Transforms . 举个例子，以上述的 token 和 indices 为例，这里可以类别 Transformer 可以跟踪多个片段信息
 ```python
 model = tokens - 5 + indices
@@ -161,7 +163,7 @@ model.input([1, 2, 3, 5, 2])
 </center>
-我们提供了一些辅助函数让写 transforms 变得更简单，举例来说，where 提供了一个类似 if 功能的结构。
 ```python
 where((tokens == "h") | (tokens == "l"), tokens, "q")
@@ -173,7 +175,7 @@ where((tokens == "h") | (tokens == "l"), tokens, "q")
 </center>
-`map` 使我们可以定义自己的操作，例如一个字符串以 int 转换。（用户应谨慎使用可以使用的简单神经网络计算的操作）
 ```python
 atoi = tokens.map(lambda x: ord(x) - ord('0'))
@@ -186,7 +188,7 @@ atoi.input("31234")
 </center>
-当连接了这些 transforms ，可以更容易的编写功能。举例来说，下面是应用了 where 和 atoi 和加 2 的操作
 ```python
 def atoi(seq=tokens):
@@ -211,7 +213,7 @@ op.input("02-13")
 </center>
-我们开始定义 Key 和 query 的标记。key 和 Query 可以直接从上面的 transforms 创建。举个例子，如果我们想要定义一个 key 我们称作 key。
 ```python
 key(tokens)
@@ -223,7 +225,7 @@ key(tokens)
 </center>
-对于 query 也一样
 ```python
 query(tokens)
@@ -235,7 +237,7 @@ query(tokens)
 </center>
-标量可以作为 key 或 query 使用。他们会广播到基础序列的长度。
 ```python
 query(1)
@@ -261,7 +263,8 @@ eq
 </center>
 一些例子：
-- 选择器的匹配位置偏移 1。
 ```python
 offset = (key(indices) == query(indices - 1))
@@ -274,7 +277,7 @@ offset
 </center>
-- key 早于 query 的选择器。
 ```python
 before = key(indices) < query(indices)
@@ -287,7 +290,7 @@ before
 </center>
-- key 晚于 query 的选择器。
 ```python
 after = key(indices) > query(indices)
@@ -329,7 +332,7 @@ before & eq
 </center>
-视觉上我们遵循图表结构， Query 在左边， Key 在上边， Value 在下面，输出在右边
 <center>
@@ -353,7 +356,7 @@ length
 这里有更多复杂的例子，下面将一步一步展示。(这有点像做采访一样)
-我们想要计算一个序列的相邻值的和。首先我们向前截断。
 ```python
 WINDOW=3
@@ -367,7 +370,7 @@ s1
 </center>
-然后我们向后截断。
 ```python
 s2 = (key(indices) <= query(indices))
@@ -379,7 +382,7 @@ s2
 </center>
-两者相交
 ```python
 sel = s1 & s2
@@ -392,7 +395,7 @@ sel
 </center>
-最终聚合
 ```python
 sum2 = sel.value(tokens)
@@ -526,7 +529,7 @@ first("l")
 ### 挑战五 ：右对齐
-右对齐一个填充序列。例： " ralign().inputs(’xyz___‘) =’—xyz’ "(2 层)
 ```python
 def ralign(default="-", sop=tokens):
@@ -544,7 +547,7 @@ ralign()("xyz__")
 ### 挑战六：分离
-把一个序列在 token "v" 处分离成两部分然后右对齐 (2 层)
 ```python
 def split(v, i, sop=tokens):
@@ -577,7 +580,7 @@ split("+", 0)("xyz+zyr")
 ### 挑战七：滑动
-将特殊 token “ <”替换为最接近的“ <”value.(2 层)
 ```python
 def slide(match, seq=tokens):

+# 了解 Transformers 是如何“思考”的
 - [论文](https://arxiv.org/pdf/2106.06981.pdf) 来自 Gail Weiss, Yoav Goldberg,Eran Yahav.
 - 博客参考 [Sasha Rush](https://rush-nlp.com/) 和 [Gail Weiss](https://sgailw.cswp.cs.technion.ac.il/)
 ![](https://devrel.andfun.cn/devrel/posts/2023/01/c2ce067112df6.jpg)
 </center>
 ## 表格目录
+- 部分一：Transformers 作为代码
+- 部分二：用 Transformers 编写程序
 ## Transformers 作为代码
+我们的目标是定义一套计算形式来最小化 Transformers 的表达。我们将通过类比进行此过程，描述其 Transformers 方面的每个语言构造。(正式语言规范请看 [全文](https://arxiv.org/pdf/2106.06981.pdf))
+这个语言的核心单元是将一个序列转换成相同长度的另一个序列的序列操作。我后面将其称之为 transforms。
 ### 输入
 </center>
+在代码中，tokens 的特征表示最简单的 transform，它返回经过模型的 tokens，默认输入序列是 "hello":
 ```python
 tokens
 </center>
+作为 Transformers，我们不能直接接受这些序列的位置。但是为了模拟位置嵌入，我们可以获取位置的索引:
 ```python
 indices
 </center>
+结果是一个新的 transform，一旦重构新的输入就会按照重构方式计算:
 ```python
 model = tokens * 2 - 1
 </center>
+该运算可以组合多个 Transforms，举个例子，以上述的 token 和 indices 为例，这里可以类别 Transformer 可以跟踪多个片段信息:
 ```python
 model = tokens - 5 + indices
 </center>
+我们提供了一些辅助函数让写 transforms 变得更简单，举例来说，`where` 提供了一个类似 `if` 功能的结构。
 ```python
 where((tokens == "h") | (tokens == "l"), tokens, "q")
 </center>
+`map` 使我们可以定义自己的操作，例如一个字符串以 `int` 转换。（用户应谨慎使用可以使用的简单神经网络计算的操作）
 ```python
 atoi = tokens.map(lambda x: ord(x) - ord('0'))
 </center>
+当连接了这些 transforms，可以更容易的编写功能。举例来说，下面是应用了 where 和 atoi 和加 2 的操作
 ```python
 def atoi(seq=tokens):
 </center>
+我们开始定义 key 和 query 的标记，Keys 和 Queries 可以直接从上面的 transforms 创建。举个例子，如果我们想要定义一个 key 我们称作 `key`。
 ```python
 key(tokens)
 </center>
+对于 `query` 也一样
 ```python
 query(tokens)
 </center>
+标量可以作为 `key` 或 `query` 使用，他们会广播到基础序列的长度。
 ```python
 query(1)
 </center>
 一些例子：
+- 选择器的匹配位置偏移 1:
 ```python
 offset = (key(indices) == query(indices - 1))
 </center>
+- key 早于 query 的选择器:
 ```python
 before = key(indices) < query(indices)
 </center>
+- key 晚于 query 的选择器:
 ```python
 after = key(indices) > query(indices)
 </center>
+视觉上我们遵循图表结构，Query 在左边，Key 在上边，Value 在下面，输出在右边
 <center>
 这里有更多复杂的例子，下面将一步一步展示。(这有点像做采访一样)
+我们想要计算一个序列的相邻值的和，首先我们向前截断:
 ```python
 WINDOW=3
 </center>
+然后我们向后截断:
 ```python
 s2 = (key(indices) <= query(indices))
 </center>
+两者相交:
 ```python
 sel = s1 & s2
 </center>
+最终聚合:
 ```python
 sum2 = sel.value(tokens)
 ### 挑战五 ：右对齐
+右对齐一个填充序列。例："`ralign().inputs('xyz___') ='—xyz'`" (2 层)
 ```python
 def ralign(default="-", sop=tokens):
 ### 挑战六：分离
+把一个序列在 token "v" 处分离成两部分然后右对齐 (2 层):
 ```python
 def split(v, i, sop=tokens):
 ### 挑战七：滑动
+将特殊 token "<" 替换为最接近的 "<" value (2 层):
 ```python
 def slide(match, seq=tokens):