CSCI3230 阅读导航
这套笔记按第一次学习的速度展开:先说明要解决什么问题,再看小例子,然后逐步写符号和计算。共 64 篇学习笔记,包括主课 50 篇、辅导/代码实践 9 篇、ESTR 独立阅读 3 篇,以及 HW01 的详细解析与分级提示各 1 篇。本页是第 65 个导航文档。
2026-10-13补全版将所列课件的定义、公式、原例数据、课堂问题、图表含义、阅读条目和实践代码写入相应分段正文。学习时可以沿笔记独立阅读,页码用于追溯来源,无须同时打开PPT逐页对照。原件笔误与补充推导在原位置说明;代码输出注明是原件保存结果。
不需要一次读完。每次选一个小节,先自己算正文的小例子;能解释每个量的含义再往下走。标为“补充自取”的数字用于教学,不是老师原题。小检查的参考答案默认收起,先停下来想一下再展开。
先确认版本与页码
| 材料 | 来源身份 | 怎样使用 |
|---|---|---|
| L01–L05 | 2026T1 本学期课件 | 当前基础主线;正文采用去动画阅读版 PDF 页号 |
| L06–L10 | 2025T1 历史课件 | 预习与基础学习,不代表2026后半学期已发布范围 |
| T02、T03、T06 | 2025T1 辅导材料 | 与对应讲次搭配;PDF页号与页脚不同处正文有说明 |
| T02Code、T07CNN、T07Transformer | 配套代码/笔记本;原文件年份未核 | 学接口与计算流程;保存输出不等于本次运行结果 |
| ESTR01 | 2025T1 ESTR安排与准备材料 | 数学扩展和历史安排;不照搬旧项目评分到2026 |
| ESTRTopics | 独立阅读选题讲义,具体年份按正文边界 | 选题与阅读方法,列出书目不表示已通读论文 |
| HW01 两篇 | 2026–27 Term 1 原题 | 当前作业;不可混用主课附录里的2025旧题数据 |
L02 Part 5、L03 Part 5、L04 Part 6 分别是矩阵投影、凸性/Hessian、对偶/KKT的 ESTR扩展。基础路线可以先跳过;完成前面的计算与解释后再回来读。尤其 L03 p.56 之后的凸性证明,不是第一次学逻辑回归必须先翻过的门槛。
原始 PPT/PDF、notebook 和本地实验材料没有随笔记公开。网页中的“本地课件”“本地资料”标记说明来源留在本地,不是可以下载的链接。主课计划表虽有后续应用专题,但本地没有正式课件的部分不补写成新讲。
本次完成情况
| 笔记组 | 篇数 | 现在可读的内容 |
|---|---|---|
| L01 | 5 | AI任务、数据、模型、训练与评价 |
| L02 | 5 | 从一条预测到最小二乘、收缩、投影 |
| L03 | 5 | 概率、交叉熵、梯度更新、ESTR凸性 |
| L04 | 6 | 线性分类、间隔、核、软间隔、ESTR对偶 |
| L05 | 5 | 距离与三类聚类的逐轮过程 |
| L06 | 5 | 网络、反传、训练与迁移 |
| L07 | 4 | 卷积、尺寸、参数与训练技巧 |
| L08 | 4 | 注意力、ViT、变体与多模态 |
| L09 | 7 | 建模、BFS、UCS、DFS、限深与迭代加深 |
| L10 | 4 | 启发式、贪心与A* |
| 辅导与代码实践 | 9 | 梯度、SVM、卷积及Transformer接口 |
| ESTR独立阅读 | 3 | 历史安排、数学准备、选题 |
| HW01 | 2 | 不剧透分级提示与完整详细解析 |
第二遍:把条件与反例也算清楚
2026-10-17深化在保留课件正文的基础上,给64篇学习笔记逐篇加入针对性推演。新增数字明确标为自编;历史课件和ESTR扩展的身份不变。第二遍可按自己卡住的问题选择:
| 你想弄清的问题 | 从这里读 |
|---|---|
| 阈值为什么改变召回率,损失下降为何未必更准确 | 评价 · 逻辑回归小结 |
| 参数不唯一、投影与正则化到底有什么关系 | 建模 · 收缩 · 投影 |
| 严格凸为什么也可能没有有限最优点 | 凸性证明 |
| SVM原问题、对偶、核和松弛怎样互相验证 | 最大间隔 · 核 · 软间隔 |
| 聚类停止为何未必最优,边界点为何不能桥接核心簇 | K均值 · 密度聚类 |
| 反传遇到矩阵、共享权重时怎样汇总 | 反向传播 · 卷积 |
| 参数少为何计算仍昂贵,感受野怎样递推 | CNN结构 · CNN小结 · ViT |
| 遮罩、位置编码、softmax各自改变哪一步 | 注意力 · 变体 · Transformer小结 |
| 哪些visited会漏解,A*什么时候必须重开节点 | 深度限制 · A星 |
| 程序运行却算错,应该先检查什么 | 形状与广播 · 稳定损失 · 批量评价 |
这些例子可以直接在正文中逐项重算。实践部分的最小标准库示例与原notebook分开标识;原训练输出仍是材料保存结果,不能当成新一轮训练成绩。
建议阅读顺序
如果觉得讲义太快
先只走基础主线:
- L01-P4 学习与评价:分清输入、标签、参数与评价数据。
- L02-P1 回归建模 → P2 最小二乘:把一条预测扩成矩阵,再自己算平方误差。先读正文,旧题大表可以第二遍再做。
- L02-P3 收缩方法:理解为什么训练误差低还不够,再看两种惩罚。
- L03-P1 → P2 → P3:分数、概率、损失和参数更新逐层接起来。
- L04-P1 → P2 → P3 → P4:先画边界与距离,再看优化问题。
- L05-P1 → K均值 → 密度聚类 → 层次聚类:每次只跟一个算法的完整小例。
进入旧课件预习后,按 L06 网络 → 反传 → L07 卷积 → L08 注意力 的顺序。遇到矩阵尺寸卡住,先数输入输出,不急着背网络名称。
L09 搜索建模 开始的是另一条主线。先分清状态、路径和frontier,再按各篇队列表手跑;到 L10 A* 时,先写明g/h/f各自是什么,才讨论最优性条件。
如果正在做 HW01
先打开 2026T1 分级提示,只展开卡住的小问与必要层级。想核对整条推导时再进入 2026T1 详细解析。详细解析已于 2026-10-04 按 Q1(a)–Q4(c) 的 13 个小问重写,每问依次给出题目要求、实际代入、逐步计算、结果与检查;包含完整答案和数值。
如果需要实际代码或 ESTR 拓展
梯度下降搭配 T02;SVM搭配 T03;卷积搭配 T06和T07CNN;Transformer搭配T07Transformer。代码篇会区分“原件保存输出”“按代码能推出的形状”和“确实运行过的核验”,不把它们混在一起。
ESTR扩展先读相应基础 Part,再读该讲最后的扩展 Part。独立阅读项目另从 选题导引 进入,历史展示时间和评分仅作版本明确的参考。
补充 · 按卡住的动作返回,而不只按讲次重读(通识讲解;演示数据不属于原题)。
如果“公式看得懂,自己却写不出”,先定位哪种动作失败,再选最短回路:
| 卡点 | 回到哪篇 | 这一遍只做什么 |
|---|---|---|
| 知道参数,却算不出一行预测 | 回归建模 | 给每列写含义与单位,算一行再扩成矩阵 |
| 会代公式,不知道为什么是最小 | 最小二乘 | 比较任意改变量后的损失,而非只背逆矩阵 |
| 总把概率、分数和类别混用 | 逻辑回归模型 | 从一个分数算概率,再用阈值决策 |
| 反传时不知该乘还是加 | 反向传播 | 标串联路径与共享参数的多路贡献 |
| 程序没报错,结果仍不可信 | 梯度代码 | 核形状、第一步、目标与梯度是否配对 |
| 搜索表算得很长却不知道答案是什么 | 搜索建模 | 分开扩展顺序、父链、返回路径和总成本 |
每次回路结束,用一句话说明理由,再独立重算原例中的一步。若能复算但换条件就错,接着读相应补充反例;若只是忘了定义,先查该段,不必从整讲第一页重新开始。HW仍先走提示版,不把这张诊断表当作直接跳往答案的捷径。
主课逐 Part 导航
L01
| 伴读 | 当前 PDF 页 |
|---|---|
| L01-P1-课程安排 | 1–23 |
| L01-P2-什么是AI | 24–35 |
| L01-P3-AI应用 | 36–50 |
| L01-P4-学习与评价 | 51–73 |
| L01-P5-小结 | 74–75 |
L02
| 伴读 | 当前 PDF 页 |
|---|---|
| L02-P1-回归建模 | 1–16 |
| L02-P2-最小二乘 | 17–28 |
| L02-P3-收缩方法 | 29–39 |
| L02-P4-小结 | 40–42 |
| L02-P5-矩阵与投影 | 43–55 |
L03
| 伴读 | 当前 PDF 页 |
|---|---|
| L03-P1-分类问题 | 1–13 |
| L03-P2-逻辑回归模型 | 14–29 |
| L03-P3-交叉熵与梯度下降 | 30–52 |
| L03-P4-小结 | 53–55 |
| L03-P5-凸性证明 | 56–68 |
L04
| 伴读 | 当前 PDF 页 |
|---|---|
| L04-P1-线性分类器 | 1–7 |
| L04-P2-最大间隔SVM | 8–31 |
| L04-P3-核方法 | 32–41 |
| L04-P4-软间隔 | 42–46 |
| L04-P5-小结 | 47–49 |
| L04-P6-对偶与KKT | 50–69 |
L05
| 伴读 | 当前 PDF 页 |
|---|---|
| L05-P1-聚类基础 | 1–15 |
| L05-P2-K均值 | 16–33 |
| L05-P3-密度聚类 | 34–53 |
| L05-P4-层次聚类 | 54–77 |
| L05-P5-小结 | 78–80 |
L06
| 伴读 | 当前 PDF 页 |
|---|---|
| L06-P1-网络结构 | 1–37 |
| L06-P2-反向传播 | 38–51 |
| L06-P3-训练与验证 | 52–70 |
| L06-P4-小结 | 71–73 |
| L06-P5-迁移学习 | 74–91 |
L07
| 伴读 | 当前 PDF 页 |
|---|---|
| L07-P1-卷积基础 | 1–47 |
| L07-P2-分类网络 | 48–63 |
| L07-P3-训练技巧 | 64–69 |
| L07-P4-小结 | 70–74 |
L08
| 伴读 | 当前 PDF 页 |
|---|---|
| L08-P1-注意力基础 | 1–29 |
| L08-P2-视觉Transformer | 30–42 |
| L08-P3-变体与多模态 | 43–66 |
| L08-P4-小结 | 67–69 |
L09
| 伴读 | 当前 PDF 页 |
|---|---|
| L09-P1-搜索建模 | 1–25 |
| L09-P2-广度优先 | 26–33 |
| L09-P3-一致代价 | 34–40 |
| L09-P4-深度优先 | 41–48 |
| L09-P5-深度限制 | 49–54 |
| L09-P6-迭代加深 | 55–61 |
| L09-P7-小结 | 62–64 |
L10
| 伴读 | 当前 PDF 页 |
|---|---|
| L10-P1-启发函数 | 1–11 |
| L10-P2-贪心搜索 | 12–25 |
| L10-P3-A星搜索 | 26–45 |
| L10-P4-小结 | 46–48 |
ESTR 独有内容与辅导
| 伴读 | 原件页码 |
|---|---|
| ESTR01-P1-课程与文章报告 | 1–23 |
| ESTR01-P2-学习准备调查 | 24–29 |
| T02-P1-梯度下降 | 1–10 |
| T02-P2-代码入口 | 11–11 |
| T02Code-梯度下降代码 | 1–7 |
| T03-支持向量机实践 | 1–33 |
| T06-P1-卷积概念 | 1–8 |
| T06-P2-卷积计算练习 | 9–17 |
| T06-P3-手写数字实践 | 18–27 |
| T07CNN-服饰分类实践 | 1–15 |
| T07Transformer-Transformer实现 | 1–11 |
| ESTRTopics-阅读与项目选题 | 1–25 |
作业与往年题怎么使用
当前作业单独看 HW01-2026T1 分级提示 或 详细解析。以下主课附录还保留历年题的教学演练,题面年份、数据和初始参数必须按所在附录辨认。
| 历史材料 | 对应入口 | 使用边界 |
|---|---|---|
| 2025 HW01 回归与分类 | 最小二乘、收缩、梯度 | 与2026当前作业不是同一组数字 |
| 2025 HW02 SVM与聚类 | 间隔、K-means、DBSCAN、层次 | 教师绑定实验数据未齐全,不编造达标准确率 |
| 2025 HW03 网络与Transformer | 反传、训练、CNN、注意力 | 手算与题面分析不等于已经训练网络 |
| 2025 HW04 搜索 | BFS、DFS | 接口与路径检查不等于运行过原autograder |
| 往年卷、官方节选与未核样题 | 各讲附录 | 已提供页面才能引用;未知年份和缺页不猜测 |
一些附录保留A/B/C证据分级:A表示某份历史题问过,B表示大纲或讲义写明要求,C表示授课覆盖或一般知识。它们帮助理解来源强度,都不保证今年会考。相同题目出现在两份节选中,也不当成两个独立出题统计。
资料分拣与未读范围
这套笔记的课件解释覆盖本地现有L01–L10、所列辅导与ESTR材料,保留各篇实际页码和来源说明。已知原课件的笔误、近似数字和条件省略处会在相应段落说明,避免把纠正后的式子误说成原文逐字内容。
尚未取得的2026后续课件、缺失实验数据、未给出的试卷页面,不补造内容。教材全文和选题论文没有逐篇通读;代码保存输出不代表已重跑训练。同学代码与答案不作为本套解释来源。