大纲
针对 ML / DL 的大纲骨架构建
1. 机器学习重点关注(必须形成骨架): - 基础概念与评估:过拟合与欠拟合、交叉验证、评估指标(AUC、F1-Score 等)。 - 经典算法基石:逻辑回归(LR)、支持向量机(SVM)、K-Means 聚类。 - 树模型家族(重中之重):决策树(ID3/C4.5/CART)、随机森林(RF)、GBDT、XGBoost、LightGBM。
2. 深度学习框架重点关注(以 PyTorch 为例): - 核心运行机制:动态图计算、Autograd 自动求导。 - 训练与优化工程:DataLoader 机制、优化器(Adam、SGD)、损失函数。 - 性能榨取与部署:混合精度训练(AMP)、模型保存与加载、分布式训练(DDP,了解概念即可)、ONNX 模型导出。
格式
回答模板:
本质:
痛点:
实际落地:
过拟合与欠拟合

本质:模型训练的泛化能力,偏差与方差
痛点:欠拟合让人头疼,过拟合让人盲目自信
实际落地:无论是过拟合还是欠拟合,都可以尝试完善数据集,之后再去调整模型参数,如果过拟合,那么就增加维度特征,如果过拟合,就增加数据量,早停
K-Means

本质:无监督聚类算法,通过设定k值,随机选择质心进行EM计算
基于位置相似性 - 大模型(夹角派):通过海量数据训练,它把现实世界的逻辑投影到坐标系里。它的任务是给每一个词、每一张图找一个最精准的"经纬度"。 - K-Means(距离派):不学习任何逻辑,K-Means只是粗暴画线,把离得近的点圈在一起。 - 结论:不需要"过度训练" K-Means,它只是收敛过程。一旦质心不再移动,它就完成了任务。
痛点:
高维空间欧拉距离失效,因为点与点之间举例总是很小
实际落地: 语义分割 、向量数据库加速
准确率、精准率、召回率、F1-Score

本质:统计学的验证方法
精准率是 预测为"是"的所有人里,有多少是真的?(分母:预测为正的全部样本)。 召回率是 源本就"是"的人,你预测对了多少?(抓的全)
痛点:
准确率的骗局:1个癌症患者,但是模型预测所有人健康->99.9%的准确率 精准和召回的天然对抗 F1的难提高