单元二

第5课 文本处理的基本单位

一、任务目标

任务场景:第5课
任务场景:第5课 文本处理的基本单位

用不同分词方式切开同一句话,比较结果差异,说清为什么「先拆成可计算的小单位」才能做后面的生成。

二、我们要学什么

  • 词是文本处理的基本单位
  • 不同分词技术切法可能不同

三、操作步骤

1输入或选择例句
2对比两种分词结果
3数一数词元数量差异
4讨论何时切法影响理解

四、网页体验

网页体验:分词方式对比

输入句子,对比不同分词方式的切分结果。

五、知识点讲解

分词把句子拆成可计算的小单位(词/字)。不同切法会影响后续统计与生成;先有可计算的单位,才能谈相似度与生成。

先弄清本课输入与输出,再进编程练习对照现象。

六、课堂练习

先完成两道正误判断,再做其余题目;选出后点「检查」。

  1. 判断:只点体验按钮,说不清「AI 做了什么、人做了什么」。

  2. 判断:每完成一次体验,用一句话说清本课要点「对比不同分词方式」,并区分生成结果与你的判断。

  3. 分词是在做什么?

  4. 不同分词工具结果?

  5. 「人工智能」较合理的切法常是?

七、本节小结

第5课「文本处理的基本单位」:先场景、再体验、后反思。