单元二 · 文本的智能生成

第6课 统计与文本生成

任务场景
任务场景:统计与文本生成

一、学习目标

  • 掌握基于前文进行预测的基本原理,并能应用于简单文本生成。
  • 初步了解语言模型如何通过训练数据自动学习语言规律。

二、情境导入

为什么前文会影响下一个词的选择?

文本生成中,系统如何自动预测下一个词?

三、核心讲解

本课学习路径:

1根据前文进行预测
2基于相邻字词生成文本
3体验诗句的自动生成

1.根据前文进行预测

试填:小猫 ______;小鱼 ______;小鸟 ______(奔跑 / 游泳 / 飞翔)。你会立刻按前文选词——说明前文会影响后文。

前文预测:根据已经出现的字词,估计下一个最可能出现的字词;这是文本生成的基本思想。
  • 「小猫」常接「奔跑」,「小鱼」常接「游泳」,「小鸟」常接「飞翔」
  • 预测不是猜谜,而是利用已见过的搭配规律

想一想:如果把「小猫」改成「小船」,下一个词会怎样变?

2.基于相邻字词生成文本

统计相邻字词共同出现的次数,就能按表选字,串成新句子。

共现统计:用表格记录「前字→后字」出现次数;次数越高,生成时被选中的可能性越大。也可有意打破规律,带来新组合。
  • 示例文本可统计出(山,深)=1、(深,水)=2 等
  • 按相邻关系可试组:深→水→流→…;空→林→影→…
  • 训练数据越多、统计表越大,对组合规律的覆盖越完整

想一想:表格里大量为 0 的格子对生成有用吗?为什么可以只记录次数≥1 的组合?

3.体验诗句的自动生成

在本课 MixAI 组件中统计字频并随机生成诗句,观察过程与结果。

与大模型的共同点:现代大语言模型多用神经网络捕捉复杂关系,但仍是「根据已有文字计算当前可能出现的词」——预测思想一致。
  • 观察生成诗句有哪些不足(通顺度、意境、重复等)
  • 思考:仅靠字频统计的程序,是否「理解」了古诗文?
  • 大模型能区分「明月/玉盘」同指月亮,也能避免「春风+凶猛」这类不当搭配

想一想:字频生成与神经网络生成,差别在表示能力,还是在预测目标?

弄清以上要点后,再进入下方动手体验,用实际操作验证。

四、动手体验 · MixAI 组件

请在下列组件中完成操作,至少体验一个并记录现象。

组件 model_poem_generation — 在框内完成操作

五、课堂总结

  • 前文会影响后文,可根据前文预测后续可能出现的内容。
  • 通过统计相邻字词共现频率,可以基于训练数据模拟语言行为并生成文本。

六、拓展提升

  • 有时决定下一词的是更前面的词(中间隔着其他词)。尝试按最多 3 个词一组的思想,说明为何需要更长上下文。

测评

对照本课学习目标作答(客观题练习);选出后点「检查」。答错会显示简短说明。

  1. 「小猫 ______」更常填「奔跑」而不是「游泳」,说明:

  2. 基于相邻字词生成文本时,关键依据是:

  3. 判断:大语言模型与字频方法形式不同,但都体现「根据已有文字预测下一词」的思想。

本节小结

回顾本课要点,完成动手体验与测评。记住:统计与文本生成。