没有标签时，模型能学什么

很多现实场景拿不到标签：你有一堆用户行为，却不知道谁属于哪类。无监督学习不依赖答案，而是从数据自身的分布和结构里找规律，最常用的是聚类和降维。

K-Means 聚类：把数据分成 K 堆

K-Means 的过程非常直观：先指定要分几簇 K、随机放 K 个中心点；然后反复做两件事——把每个点分给最近的中心，再把每个中心移动到它那簇所有点的平均位置；直到中心不再明显移动。它简单高效，但要预先指定 K、对初始中心和异常点敏感，且默认簇是球形。

PCA 降维：抓住数据变化最大的方向

特征太多既慢又难可视化，还含冗余。主成分分析（PCA）找到数据方差最大的几个方向，把高维数据投影到这些主成分上，用更少的维度保留尽可能多的信息，常用于降噪、可视化和给其他模型「减负」。可以通俗理解为：给一团点云找最能拉开差距的几个观察角度。

偏差—方差：过拟合的统一解释

偏差衡量模型本身的假设是否过于简单，方差衡量模型对「换一批训练数据」有多敏感。训练误差与测试误差之间的差距，主要就是方差在作祟。调模型的过程，很大程度是在偏差和方差之间找平衡。

正则化与交叉验证：给「背题」上保险

正则化在损失里额外加一项对参数大小的惩罚，逼模型不要用过于极端、复杂的参数：L2 正则（权重衰减）让所有权重整体变小、更平滑；L1 正则会把一部分权重直接压到 0，顺带做特征选择。

交叉验证用来更可靠地评估：K 折交叉验证把训练数据切成 K 份，轮流用其中 1 份当验证、其余训练，重复 K 次再平均，避免「恰好那一次划分运气好」造成的误判，数据少时尤其有用。

选对评估指标，比追求高准确率重要

准确率在类别不均衡时会骗人：1000 个人里只有 1 个欺诈，模型全部预测「正常」也有 99.9% 准确率，却毫无用处。分类任务要看混淆矩阵衍生的指标：精确率（预测为正的里有多少真的正）、召回率（真正的正例被找出多少）、二者调和平均 F1，以及衡量整体排序能力的 ROC-AUC；回归任务看均方误差、平均绝对误差等。不同业务代价不同：漏诊宁可提高召回，垃圾邮件误杀正常邮件代价高则偏向精确率。