单元二 · 文本的智能生成

第7课 文本的语义编码

任务场景
任务场景:文本的语义编码

一、学习目标

  • 掌握通过语义编码反映语义的方法。
  • 掌握动态调整语义编码的方法。
  • 理解相似度的计算方法及其意义。

二、情境导入

分词结果若只对应编号,往往无法反映词义。

怎样用更好的表示帮助模型区分与比较语义?

三、核心讲解

本课学习路径:

1语义与编码
2文本语义编码与相似度

1.语义与编码

仅用一个编号无法充分表示词义。可用一组数(语义编码)刻画语义特征,并在坐标中观察远近。

语义编码:用向量(一组数)表示词的语义;语义相近的词在空间中往往更靠近,便于区分与计算。
  • 示例:猫(3,0)、狗(3,1) 较近;汽车与飞机也可能因同属交通工具而靠近
  • 固定编码难以处理多义词:如「窗口」在「房间窗口」与「计算机窗口」中意义不同
  • 应根据上下文动态调整编码(如增强方向属性或科技属性)

想一想:为什么多义词必须「看上下文」才能编码对?

2.文本语义编码与相似度

得到词编码后,可用平均、加权平均或取最值等方式组成文本编码,再做分类、情感分析或相似度计算。

相似度与距离:常用距离衡量相似程度:一般距离越小,文本越相似(具体尺度因模型而异)。
  • 在文本编码组件中切换编码方式,观察向量变化
  • 用相近说法表达同义、用相近句式表达反义,对比相似度是否合理
  • 编码质量直接影响后续匹配与检索效果

想一想:若两段文字意思相同但用词完全不同,理想的语义编码应拉开还是拉近它们?

弄清以上要点后,再进入下方动手体验,用实际操作验证。

四、动手体验 · MixAI 组件

请在下列组件中完成操作,至少体验一个并记录现象。

课内实验 · 语义编码 — 用二维坐标表示词义,计算距离,并对比多义词「窗口」在不同上下文中的位置

每个词用一组数(这里是二维坐标)表示。距离越近,通常语义越相近。多义词「窗口」在不同上下文里会落到不同位置。

请选择两个词,观察它们在坐标中的位置。

组件 model_sentiment_analysis — 情感分析依赖文本语义编码;试相近说法与反义说法,体会编码后的分类结果

五、课堂总结

  • 可用一组数表示词语的语义特征,形成语义编码。
  • 编码需随上下文动态调整,才能更好处理多义词。
  • 文本编码可用于相似度等运算;一般距离越小表示越相似。

六、拓展提升

  • 设计一个多语种文稿一致性检查思路:如何用语义编码与相似度判断中英日等版本是否同义。

测评

对照本课学习目标作答(客观题练习);选出后点「检查」。答错会显示简短说明。

  1. 语义编码的主要作用是:

  2. 「窗口」在「房间窗口」与「计算机窗口」中:

  3. 判断:用距离衡量相似度时,通常距离越小表示文本越相似。

本节小结

回顾本课要点,完成动手体验与测评。记住:文本的语义编码。