单元二 · 文本的智能生成
第7课 文本的语义编码

一、学习目标
- 掌握通过语义编码反映语义的方法。
- 掌握动态调整语义编码的方法。
- 理解相似度的计算方法及其意义。
二、情境导入
分词结果若只对应编号,往往无法反映词义。
怎样用更好的表示帮助模型区分与比较语义?
三、核心讲解
本课学习路径:
1语义与编码
2文本语义编码与相似度
1.语义与编码
仅用一个编号无法充分表示词义。可用一组数(语义编码)刻画语义特征,并在坐标中观察远近。
语义编码:用向量(一组数)表示词的语义;语义相近的词在空间中往往更靠近,便于区分与计算。
- 示例:猫(3,0)、狗(3,1) 较近;汽车与飞机也可能因同属交通工具而靠近
- 固定编码难以处理多义词:如「窗口」在「房间窗口」与「计算机窗口」中意义不同
- 应根据上下文动态调整编码(如增强方向属性或科技属性)
想一想:为什么多义词必须「看上下文」才能编码对?
2.文本语义编码与相似度
得到词编码后,可用平均、加权平均或取最值等方式组成文本编码,再做分类、情感分析或相似度计算。
相似度与距离:常用距离衡量相似程度:一般距离越小,文本越相似(具体尺度因模型而异)。
- 在文本编码组件中切换编码方式,观察向量变化
- 用相近说法表达同义、用相近句式表达反义,对比相似度是否合理
- 编码质量直接影响后续匹配与检索效果
想一想:若两段文字意思相同但用词完全不同,理想的语义编码应拉开还是拉近它们?
弄清以上要点后,再进入下方动手体验,用实际操作验证。
四、动手体验 · MixAI 组件
请在下列组件中完成操作,至少体验一个并记录现象。
课内实验 · 语义编码 — 用二维坐标表示词义,计算距离,并对比多义词「窗口」在不同上下文中的位置
每个词用一组数(这里是二维坐标)表示。距离越近,通常语义越相近。多义词「窗口」在不同上下文里会落到不同位置。
请选择两个词,观察它们在坐标中的位置。
组件 model_sentiment_analysis — 情感分析依赖文本语义编码;试相近说法与反义说法,体会编码后的分类结果
五、课堂总结
- 可用一组数表示词语的语义特征,形成语义编码。
- 编码需随上下文动态调整,才能更好处理多义词。
- 文本编码可用于相似度等运算;一般距离越小表示越相似。
六、拓展提升
- 设计一个多语种文稿一致性检查思路:如何用语义编码与相似度判断中英日等版本是否同义。
测评
对照本课学习目标作答(客观题练习);选出后点「检查」。答错会显示简短说明。
语义编码的主要作用是:
「窗口」在「房间窗口」与「计算机窗口」中:
判断:用距离衡量相似度时,通常距离越小表示文本越相似。
本节小结
回顾本课要点,完成动手体验与测评。记住:文本的语义编码。