第 4 章
自然语言处理与大语言模型
探索 NLP 核心技术及 ChatGPT 等大语言模型的工作原理与应用场景。
学习目标
- 了解分词、词向量、注意力机制等 NLP 基础
- 理解大语言模型的预训练与微调范式
- 掌握 Prompt 工程的基本技巧
- 认识 LLM 在教育、办公、编程等领域的应用
核心知识
- 自然语言处理的挑战：歧义、上下文、多语言
- Word2Vec 与语义表示
- Transformer 与自注意力机制
- GPT 系列与生成式 AI 的能力边界
信息科大案例
使用大语言模型辅助完成课程论文大纲、代码注释与学习笔记整理，同时讨论在"勤以为学"校训下如何正确、诚信地使用 AI 工具。
思考题
- 大语言模型是如何"理解"人类语言的？
- Prompt 工程中，哪些技巧能提升输出质量？
- 使用 LLM 辅助学习时，应注意哪些学术诚信问题？
本章关联
信息科大管理科学与工程学院、计算机学院在文本挖掘与智能信息系统方向开展相关研究。
「勤以为学，信以立身」
北京信息科技大学 · 校庆日 5月18日