你好，我是小黄 👋

第一个实验从最经典的线性回归入手。目标是理解 损失函数 与 梯度下降 的收敛过程：我构造了一组带噪声的房价-面积样本， 用 NumPy 手写批量梯度下降，观察损失值随迭代次数的下降曲线。

实验步骤

1. 构造合成数据集：y = 4.2x + 3.1 + 噪声，共 200 个样本；
2. 初始化权重 w 与偏置 b 为 0，学习率取 0.01；
3. 迭代 200 轮，每轮记录均方误差（MSE）；
4. 可视化损失曲线与最终拟合直线。

核心代码

# 批量梯度下降：一元线性回归
import numpy as np

X = np.random.rand(200, 1) * 10
y = 4.2 * X.squeeze() + 3.1 + np.random.randn(200) * 2

w, b = 0.0, 0.0
lr = 0.01
losses = []
for epoch in range(200):
    pred = w * X.squeeze() + b
    loss = np.mean((pred - y) ** 2)   # MSE
    losses.append(loss)
    dw = np.mean(2 * (pred - y) * X.squeeze())
    db = np.mean(2 * (pred - y))
    w -= lr * dw
    b -= lr * db

运行结果

第二个实验搭建了一个 三层全连接神经网络（784 → 128 → 64 → 10，ReLU 激活）， 在 MNIST 手写数字数据集上训练 10 个 epoch。重点观察训练集与验证集上的 准确率 与 损失 曲线，判断是否出现过拟合。

网络结构

• 输入层：784 个神经元（28×28 像素展平）；
• 隐藏层：128、64 个神经元，ReLU 激活；
• 输出层：10 个神经元，Softmax 输出类别概率；
• 优化器：Adam（lr=0.001），损失函数：交叉熵 CrossEntropyLoss。

核心代码

import torch.nn as nn

class Net(nn.Module):
    def __init__(self):
        super().__init__()
        self.fc = nn.Sequential(
            nn.Linear(784, 128), nn.ReLU(),
            nn.Linear(128, 64),  nn.ReLU(),
            nn.Linear(64, 10),
        )

    def forward(self, x):
        return self.fc(x)

model = Net().to(device)
opt = torch.optim.Adam(model.parameters(), lr=0.001)
criterion = nn.CrossEntropyLoss()

训练过程数据

第三个实验转向 无监督学习：用 K-Means 算法对经典的鸢尾花（Iris）数据集 做聚类。数据有 4 个特征（花萼/花瓣的长宽），我先用 PCA 降到 2 维用于可视化， 再取 k=3 聚类，看算法能否把三种鸢尾花自动分开。

实验步骤

1. 加载 Iris 数据集（150 个样本，3 个类别，每类 50 个）；
2. 用 PCA 将 4 维特征降到 2 维，便于绘图；
3. 设定 n_clusters=3 运行 K-Means；
4. 对比聚类结果与真实标签的轮廓系数（Silhouette Score）。

核心代码

from sklearn.cluster import KMeans
from sklearn.decomposition import PCA
from sklearn.metrics import silhouette_score

pca = PCA(n_components=2)
X_2d = pca.fit_transform(X)

km = KMeans(n_clusters=3, n_init=10, random_state=42)
labels = km.fit_predict(X_2d)
score = silhouette_score(X_2d, labels)
print(f"轮廓系数: {score:.3f}")

聚类可视化