单元二 · 文本的智能生成
第6课 统计与文本生成

一、学习目标
- 掌握基于前文进行预测的基本原理,并能应用于简单文本生成。
- 初步了解语言模型如何通过训练数据自动学习语言规律。
二、情境导入
为什么前文会影响下一个词的选择?
文本生成中,系统如何自动预测下一个词?
三、核心讲解
本课学习路径:
1根据前文进行预测
2基于相邻字词生成文本
3体验诗句的自动生成
1.根据前文进行预测
试填:小猫 ______;小鱼 ______;小鸟 ______(奔跑 / 游泳 / 飞翔)。你会立刻按前文选词——说明前文会影响后文。
前文预测:根据已经出现的字词,估计下一个最可能出现的字词;这是文本生成的基本思想。
- 「小猫」常接「奔跑」,「小鱼」常接「游泳」,「小鸟」常接「飞翔」
- 预测不是猜谜,而是利用已见过的搭配规律
想一想:如果把「小猫」改成「小船」,下一个词会怎样变?
2.基于相邻字词生成文本
统计相邻字词共同出现的次数,就能按表选字,串成新句子。
共现统计:用表格记录「前字→后字」出现次数;次数越高,生成时被选中的可能性越大。也可有意打破规律,带来新组合。
- 示例文本可统计出(山,深)=1、(深,水)=2 等
- 按相邻关系可试组:深→水→流→…;空→林→影→…
- 训练数据越多、统计表越大,对组合规律的覆盖越完整
想一想:表格里大量为 0 的格子对生成有用吗?为什么可以只记录次数≥1 的组合?
3.体验诗句的自动生成
在本课 MixAI 组件中统计字频并随机生成诗句,观察过程与结果。
与大模型的共同点:现代大语言模型多用神经网络捕捉复杂关系,但仍是「根据已有文字计算当前可能出现的词」——预测思想一致。
- 观察生成诗句有哪些不足(通顺度、意境、重复等)
- 思考:仅靠字频统计的程序,是否「理解」了古诗文?
- 大模型能区分「明月/玉盘」同指月亮,也能避免「春风+凶猛」这类不当搭配
想一想:字频生成与神经网络生成,差别在表示能力,还是在预测目标?
弄清以上要点后,再进入下方动手体验,用实际操作验证。
四、动手体验 · MixAI 组件
请在下列组件中完成操作,至少体验一个并记录现象。
组件 model_poem_generation — 在框内完成操作
五、课堂总结
- 前文会影响后文,可根据前文预测后续可能出现的内容。
- 通过统计相邻字词共现频率,可以基于训练数据模拟语言行为并生成文本。
六、拓展提升
- 有时决定下一词的是更前面的词(中间隔着其他词)。尝试按最多 3 个词一组的思想,说明为何需要更长上下文。
测评
对照本课学习目标作答(客观题练习);选出后点「检查」。答错会显示简短说明。
「小猫 ______」更常填「奔跑」而不是「游泳」,说明:
基于相邻字词生成文本时,关键依据是:
判断:大语言模型与字频方法形式不同,但都体现「根据已有文字预测下一词」的思想。
本节小结
回顾本课要点,完成动手体验与测评。记住:统计与文本生成。