Vince Jiang

CSCI3230 / 阅读与复习 · 本站更新

CSCI3230 阅读导航

这套笔记按第一次学习的速度展开:先说明要解决什么问题,再看小例子,然后逐步写符号和计算。共 64 篇学习笔记,包括主课 50 篇、辅导/代码实践 9 篇、ESTR 独立阅读 3 篇,以及 HW01 的详细解析与分级提示各 1 篇。本页是第 65 个导航文档。

2026-10-13补全版将所列课件的定义、公式、原例数据、课堂问题、图表含义、阅读条目和实践代码写入相应分段正文。学习时可以沿笔记独立阅读,页码用于追溯来源,无须同时打开PPT逐页对照。原件笔误与补充推导在原位置说明;代码输出注明是原件保存结果。

不需要一次读完。每次选一个小节,先自己算正文的小例子;能解释每个量的含义再往下走。标为“补充自取”的数字用于教学,不是老师原题。小检查的参考答案默认收起,先停下来想一下再展开。

先确认版本与页码

材料 来源身份 怎样使用
L01–L05 2026T1 本学期课件 当前基础主线;正文采用去动画阅读版 PDF 页号
L06–L10 2025T1 历史课件 预习与基础学习,不代表2026后半学期已发布范围
T02、T03、T06 2025T1 辅导材料 与对应讲次搭配;PDF页号与页脚不同处正文有说明
T02Code、T07CNN、T07Transformer 配套代码/笔记本;原文件年份未核 学接口与计算流程;保存输出不等于本次运行结果
ESTR01 2025T1 ESTR安排与准备材料 数学扩展和历史安排;不照搬旧项目评分到2026
ESTRTopics 独立阅读选题讲义,具体年份按正文边界 选题与阅读方法,列出书目不表示已通读论文
HW01 两篇 2026–27 Term 1 原题 当前作业;不可混用主课附录里的2025旧题数据

L02 Part 5、L03 Part 5、L04 Part 6 分别是矩阵投影、凸性/Hessian、对偶/KKT的 ESTR扩展。基础路线可以先跳过;完成前面的计算与解释后再回来读。尤其 L03 p.56 之后的凸性证明,不是第一次学逻辑回归必须先翻过的门槛。

原始 PPT/PDF、notebook 和本地实验材料没有随笔记公开。网页中的“本地课件”“本地资料”标记说明来源留在本地,不是可以下载的链接。主课计划表虽有后续应用专题,但本地没有正式课件的部分不补写成新讲。

本次完成情况

笔记组 篇数 现在可读的内容
L01 5 AI任务、数据、模型、训练与评价
L02 5 从一条预测到最小二乘、收缩、投影
L03 5 概率、交叉熵、梯度更新、ESTR凸性
L04 6 线性分类、间隔、核、软间隔、ESTR对偶
L05 5 距离与三类聚类的逐轮过程
L06 5 网络、反传、训练与迁移
L07 4 卷积、尺寸、参数与训练技巧
L08 4 注意力、ViT、变体与多模态
L09 7 建模、BFS、UCS、DFS、限深与迭代加深
L10 4 启发式、贪心与A*
辅导与代码实践 9 梯度、SVM、卷积及Transformer接口
ESTR独立阅读 3 历史安排、数学准备、选题
HW01 2 不剧透分级提示与完整详细解析

第二遍:把条件与反例也算清楚

2026-10-17深化在保留课件正文的基础上,给64篇学习笔记逐篇加入针对性推演。新增数字明确标为自编;历史课件和ESTR扩展的身份不变。第二遍可按自己卡住的问题选择:

你想弄清的问题 从这里读
阈值为什么改变召回率,损失下降为何未必更准确 评价 · 逻辑回归小结
参数不唯一、投影与正则化到底有什么关系 建模 · 收缩 · 投影
严格凸为什么也可能没有有限最优点 凸性证明
SVM原问题、对偶、核和松弛怎样互相验证 最大间隔 · 核 · 软间隔
聚类停止为何未必最优,边界点为何不能桥接核心簇 K均值 · 密度聚类
反传遇到矩阵、共享权重时怎样汇总 反向传播 · 卷积
参数少为何计算仍昂贵,感受野怎样递推 CNN结构 · CNN小结 · ViT
遮罩、位置编码、softmax各自改变哪一步 注意力 · 变体 · Transformer小结
哪些visited会漏解,A*什么时候必须重开节点 深度限制 · A星
程序运行却算错,应该先检查什么 形状与广播 · 稳定损失 · 批量评价

这些例子可以直接在正文中逐项重算。实践部分的最小标准库示例与原notebook分开标识;原训练输出仍是材料保存结果,不能当成新一轮训练成绩。

建议阅读顺序

如果觉得讲义太快

先只走基础主线:

  1. L01-P4 学习与评价:分清输入、标签、参数与评价数据。
  2. L02-P1 回归建模 → P2 最小二乘:把一条预测扩成矩阵,再自己算平方误差。先读正文,旧题大表可以第二遍再做。
  3. L02-P3 收缩方法:理解为什么训练误差低还不够,再看两种惩罚。
  4. L03-P1 → P2 → P3:分数、概率、损失和参数更新逐层接起来。
  5. L04-P1 → P2 → P3 → P4:先画边界与距离,再看优化问题。
  6. L05-P1 → K均值 → 密度聚类 → 层次聚类:每次只跟一个算法的完整小例。

进入旧课件预习后,按 L06 网络 → 反传 → L07 卷积 → L08 注意力 的顺序。遇到矩阵尺寸卡住,先数输入输出,不急着背网络名称。

L09 搜索建模 开始的是另一条主线。先分清状态、路径和frontier,再按各篇队列表手跑;到 L10 A* 时,先写明g/h/f各自是什么,才讨论最优性条件。

如果正在做 HW01

先打开 2026T1 分级提示,只展开卡住的小问与必要层级。想核对整条推导时再进入 2026T1 详细解析。详细解析已于 2026-10-04 按 Q1(a)–Q4(c) 的 13 个小问重写,每问依次给出题目要求、实际代入、逐步计算、结果与检查;包含完整答案和数值。

如果需要实际代码或 ESTR 拓展

梯度下降搭配 T02;SVM搭配 T03;卷积搭配 T06和T07CNN;Transformer搭配T07Transformer。代码篇会区分“原件保存输出”“按代码能推出的形状”和“确实运行过的核验”,不把它们混在一起。

ESTR扩展先读相应基础 Part,再读该讲最后的扩展 Part。独立阅读项目另从 选题导引 进入,历史展示时间和评分仅作版本明确的参考。

补充 · 按卡住的动作返回,而不只按讲次重读(通识讲解;演示数据不属于原题)。

如果“公式看得懂,自己却写不出”,先定位哪种动作失败,再选最短回路:

卡点 回到哪篇 这一遍只做什么
知道参数,却算不出一行预测 回归建模 给每列写含义与单位,算一行再扩成矩阵
会代公式,不知道为什么是最小 最小二乘 比较任意改变量后的损失,而非只背逆矩阵
总把概率、分数和类别混用 逻辑回归模型 从一个分数算概率,再用阈值决策
反传时不知该乘还是加 反向传播 标串联路径与共享参数的多路贡献
程序没报错,结果仍不可信 梯度代码 核形状、第一步、目标与梯度是否配对
搜索表算得很长却不知道答案是什么 搜索建模 分开扩展顺序、父链、返回路径和总成本

每次回路结束,用一句话说明理由,再独立重算原例中的一步。若能复算但换条件就错,接着读相应补充反例;若只是忘了定义,先查该段,不必从整讲第一页重新开始。HW仍先走提示版,不把这张诊断表当作直接跳往答案的捷径。

主课逐 Part 导航

L01

伴读 当前 PDF 页
L01-P1-课程安排 1–23
L01-P2-什么是AI 24–35
L01-P3-AI应用 36–50
L01-P4-学习与评价 51–73
L01-P5-小结 74–75

L02

伴读 当前 PDF 页
L02-P1-回归建模 1–16
L02-P2-最小二乘 17–28
L02-P3-收缩方法 29–39
L02-P4-小结 40–42
L02-P5-矩阵与投影 43–55

L03

L04

伴读 当前 PDF 页
L04-P1-线性分类器 1–7
L04-P2-最大间隔SVM 8–31
L04-P3-核方法 32–41
L04-P4-软间隔 42–46
L04-P5-小结 47–49
L04-P6-对偶与KKT 50–69

L05

伴读 当前 PDF 页
L05-P1-聚类基础 1–15
L05-P2-K均值 16–33
L05-P3-密度聚类 34–53
L05-P4-层次聚类 54–77
L05-P5-小结 78–80

L06

伴读 当前 PDF 页
L06-P1-网络结构 1–37
L06-P2-反向传播 38–51
L06-P3-训练与验证 52–70
L06-P4-小结 71–73
L06-P5-迁移学习 74–91

L07

伴读 当前 PDF 页
L07-P1-卷积基础 1–47
L07-P2-分类网络 48–63
L07-P3-训练技巧 64–69
L07-P4-小结 70–74

L08

伴读 当前 PDF 页
L08-P1-注意力基础 1–29
L08-P2-视觉Transformer 30–42
L08-P3-变体与多模态 43–66
L08-P4-小结 67–69

L09

伴读 当前 PDF 页
L09-P1-搜索建模 1–25
L09-P2-广度优先 26–33
L09-P3-一致代价 34–40
L09-P4-深度优先 41–48
L09-P5-深度限制 49–54
L09-P6-迭代加深 55–61
L09-P7-小结 62–64

L10

伴读 当前 PDF 页
L10-P1-启发函数 1–11
L10-P2-贪心搜索 12–25
L10-P3-A星搜索 26–45
L10-P4-小结 46–48

ESTR 独有内容与辅导

作业与往年题怎么使用

当前作业单独看 HW01-2026T1 分级提示 或 详细解析。以下主课附录还保留历年题的教学演练,题面年份、数据和初始参数必须按所在附录辨认。

历史材料 对应入口 使用边界
2025 HW01 回归与分类 最小二乘、收缩、梯度 与2026当前作业不是同一组数字
2025 HW02 SVM与聚类 间隔、K-means、DBSCAN、层次 教师绑定实验数据未齐全,不编造达标准确率
2025 HW03 网络与Transformer 反传、训练、CNN、注意力 手算与题面分析不等于已经训练网络
2025 HW04 搜索 BFS、DFS 接口与路径检查不等于运行过原autograder
往年卷、官方节选与未核样题 各讲附录 已提供页面才能引用;未知年份和缺页不猜测

一些附录保留A/B/C证据分级:A表示某份历史题问过,B表示大纲或讲义写明要求,C表示授课覆盖或一般知识。它们帮助理解来源强度,都不保证今年会考。相同题目出现在两份节选中,也不当成两个独立出题统计。

资料分拣与未读范围

这套笔记的课件解释覆盖本地现有L01–L10、所列辅导与ESTR材料,保留各篇实际页码和来源说明。已知原课件的笔误、近似数字和条件省略处会在相应段落说明,避免把纠正后的式子误说成原文逐字内容。

尚未取得的2026后续课件、缺失实验数据、未给出的试卷页面,不补造内容。教材全文和选题论文没有逐篇通读;代码保存输出不代表已重跑训练。同学代码与答案不作为本套解释来源。

原资料与历史文件仍保留在本地;网上仅提供这些学习笔记。阅读时如遇标为本地的来源,可在自己的课程文件夹中查对应文件名。