fix

Signed-off-by: Yao, Matrix <[email protected]>

naacl_demo/text.py

@@ -7,7 +7,7 @@ text1 = """<h1 id="how-many-data-points-is-a-prompt-worth">一条提示抵得上
 
 <h2 id="prompting">提示法</h2>
 <p>为了使预训练语言模型能够完成特定任务，当前的主流方法是用随机初始化的线性分类头替换原模型的最后一层：词预测层。然后使用有监督的任务数据通过反向传播来训练修改后的模型，主要学习这个新分类头的权重，同时也可以更新模型其他层的权重。我们将这种方法称为<em>分类头</em>法。</p>
-<p>一种与之相竞争的方法是*提示法*：这类方法主要尝试使用原语言模型来预测目标类相应的单词来“回答”分类问题，而不是像传统方法那样“预测”类标签。这使得我们可以直接使用语言模型本身来执行分类任务。在这里，*提示*就是精心设计的、用于生成所需的答案文本的输入文本。</p>
+<p>一种与之相竞争的方法是<em>提示法</em>：这类方法主要尝试使用原语言模型来预测目标类相应的单词来“回答”分类问题，而不是像传统方法那样“预测”类标签。这使得我们可以直接使用语言模型本身来执行分类任务。在这里，<em>提示</em>就是精心设计的、用于生成所需的答案文本的输入文本。</p>
 <p id="footnote1back">这听起来可能很抽象，但这其实恰恰就是人类在实际生活中进行文本推理时所使用的非常自然的方法：例如，学校练习往往以一个文本输入（例如，一篇关于火星的文章）加上一个问题（&quot;火星上有生命吗？&quot;）的形式呈现，并期望你提供一个自然语言的答案（&quot;否&quot;<a href="#footnote1"><sup>1</sup></a>），该答案其实就可以映射到分类任务的某个类别（这里，&quot;否&quot;对应<code>假</code>，&quot;是&quot;对应<code>真</code>，本例就是个二分类问题）。在这种范式中，就像做语法练习一样，我们把特定于任务的数据输入给模型，而模型就像学生一样，需要以固定的方式进行填空。提示法希望能显式利用语言模型中包含的预训练信息，而不是仅以将其隐含表征馈送给线性分类头的方式隐式利用这些信息。</p>
 <p>以下是 <a href="https://arxiv.org/abs/1905.00537">SuperGLUE</a> 中的 <a href="https://arxiv.org/abs/1905.10044">BoolQ</a> 任务的示例，其题型为判断题，每条数据包括一个文本 <span style="color: #0c593d">passage</span> 及其对应的问题 <span style="color: #031154">question</span> ，其答案为布尔值，要么为真，要么为假。每条数据可以和 <span style="color: #910713"><strong>模板（pattern）</strong></span> 一起组装成一个文本序列，该序列只有一个需预测的 <span style="color: #ba9004"><strong>掩码词</strong></span>。预测出该掩码词后，预测词会被一个预设的 <em>言语器（verbalizer）</em> 转换为类，也就是说<em>言语器</em>负责输出词与类别之间的映射：比较该词被映射为<em>是</em>和<em>否</em>的概率，如果<em>是</em>的概率高，则最终预测为<code>真</code>，反之则为<code>假</code>。
 </p>