机器学习：从入门到实战

第 98 课 - 机器学习伦理：公平性、偏见与隐私

所属模块： 进阶主题 难度： Intermediate 标签： ethics, fairness 上一课： AutoML：自动化机器学习框架 下一课： 如何阅读机器学习研究论文

1. 学习目标

完成本课学习后，你将能够：

理解核心概念：清晰定义机器学习中的公平性、偏见与隐私，并知道它们为何重要。
识别偏见来源：分析数据、模型和流程中可能导致算法偏见的常见环节。
应用公平性指标：了解并使用至少一种技术方法（如统计均等）来评估模型的公平性。
实施隐私保护策略：了解差分隐私和联邦学习等基本隐私保护技术的原理。
形成伦理意识：在模型开发全流程中，建立主动考虑伦理影响的思维习惯。

2. 核心概念

什么是机器学习伦理？

想象你训练了一个筛选简历的AI。如果历史数据中，某个优秀大学的女性毕业生被录用的比例较低，模型可能会“学会”这种偏见，从而在新筛选中不公平地对待女性候选人。机器学习伦理就是关于如何预防和解决这类问题，确保AI系统公平、透明且尊重人权的思考与实践。

2.1 偏见

偏见不是模型本身有“想法”，而是模型学习了数据中隐藏的、非预期的社会偏见或历史不公。

数据偏见：训练数据本身不均衡或带有历史歧视（如上述简历例子）。
标注偏见：标注数据的人带有主观判断。
算法偏见：模型设计或优化目标无意中放大了某些差异。

2.2 公平性

公平性没有唯一定义，常见标准包括：

群体公平：确保不同群体（如不同性别、种族）获得相似的结果率（如通过率、批准率）。
个体公平：相似的个体应获得相似的预测结果。
反事实公平：如果改变一个人的敏感属性（如种族），预测结果不应改变。

关键洞察：公平性可能与模型精度存在权衡，且不同公平性标准有时相互冲突，需要根据具体场景做出选择。

2.3 隐私

机器学习模型可能“记住”训练数据中的敏感信息（如医疗记录、财务状况），并通过模型攻击（如成员推断攻击）泄露。隐私保护技术旨在训练有用模型的同时，防止个体信息被提取。

3. 代码示例：评估模型公平性

我们将使用 aif360 库来演示如何评估一个贷款审批模型对不同种族人群的公平性。

先决条件：安装必要的库

pip install aif360 numpy pandas scikit-learn

完整代码示例：

# 导入必要的库
import numpy as np
import pandas as pd
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import train_test_split
from aif360.datasets import BinaryLabelDataset
from aif360.metrics import BinaryLabelDatasetMetric, ClassificationMetric
from aif360.algorithms.preprocessing import Reweighing
import matplotlib.pyplot as plt

# --- 1. 模拟一个带有历史偏见的数据集 ---
np.random.seed(42)
n_samples = 1000

# 生成特征：收入、信用分数
income = np.random.normal(50000, 15000, n_samples)
credit_score = np.random.normal(650, 100, n_samples)

# 敏感属性：种族 (0: Group A, 1: Group B)
# 这里我们人为制造偏见：Group B 历史批准率低，即使特征相似。
race = np.random.binomial(1, 0.3, n_samples) # Group B占30%

# 生成有偏的标签（批准与否）
# 基础概率与特征相关
prob_approve = 0.5 + (income - 50000) / 200000 + (credit_score - 650) / 1000
# 人为降低 Group B 的批准概率
prob_approve[race == 1] = prob_approve[race == 1] * 0.7 # Group B批准率打7折

approved = np.random.binomial(1, prob_approve.clip(0, 1))

# 创建DataFrame
df = pd.DataFrame({
    'income': income,
    'credit_score': credit_score,
    'race': race,
    'approved': approved
})

# --- 2. 将数据转换为 aif360 格式 ---
dataset = BinaryLabelDataset(
    df=df,
    label_names=['approved'],
    protected_attribute_names=['race'],
    favorable_label=1,
    unfavorable_label=0
)

# 分割数据集
dataset_train, dataset_test = dataset.split([0.7], shuffle=True)

# --- 3. 训练一个简单的逻辑回归模型 ---
# 准备数据（注意：此时我们未对偏见做任何处理）
X_train = dataset_train.features
y_train = dataset_train.labels.ravel()
model = LogisticRegression()
model.fit(X_train, y_train)

# --- 4. 评估原始模型的公平性 ---
# 在测试集上进行预测
dataset_test_pred = dataset_test.copy(deepcopy=True)
dataset_test_pred.labels = model.predict(dataset_test.features)

# 计算公平性指标
metric_test = ClassificationMetric(
    dataset_test,
    dataset_test_pred,
    unprivileged_groups=[{'race': 1}],
    privileged_groups=[{'race': 0}]
)

print(f"=== 原始模型的评估 ===")
print(f"测试集准确率: {metric_test.accuracy():.3f}")
print(f"统计均等差异: {metric_test.statistical_parity_difference():.3f}")
print(f"   (值越接近0表示越公平，负值表示对未保护群体不利)")
print(f"均等机会差异: {metric_test.equal_opportunity_difference():.3f}")
print(f"   (值越接近0表示越公平)")

# --- 5. 应用预处理算法 (Reweighing) 来减轻偏见 ---
RW = Reweighing(
    unprivileged_groups=[{'race': 1}],
    privileged_groups=[{'race': 0}]
)
dataset_transf_train = RW.fit_transform(dataset_train)

# 用公平数据集重新训练模型
model_fair = LogisticRegression()
model_fair.fit(dataset_transf_train.features, dataset_transf_train.labels.ravel())

# 评估公平模型
dataset_test_pred_fair = dataset_test.copy(deepcopy=True)
dataset_test_pred_fair.labels = model_fair.predict(dataset_test.features)
metric_test_fair = ClassificationMetric(
    dataset_test,
    dataset_test_pred_fair,
    unprivileged_groups=[{'race': 1}],
    privileged_groups=[{'race': 0}]
)

print(f"\n=== 应用Reweighing公平处理后的模型评估 ===")
print(f"测试集准确率: {metric_test_fair.accuracy():.3f}")
print(f"统计均等差异: {metric_test_fair.statistical_parity_difference():.3f}")
print(f"均等机会差异: {metric_test_fair.equal_opportunity_difference():.3f}")

# 可视化对比
metrics = ['Accuracy', 'Stat. Parity Diff.', 'Equal Opp. Diff.']
original = [metric_test.accuracy(), metric_test.statistical_parity_difference(), metric_test.equal_opportunity_difference()]
fair = [metric_test_fair.accuracy(), metric_test_fair.statistical_parity_difference(), metric_test_fair.equal_opportunity_difference()]

x = np.arange(len(metrics))
width = 0.35
fig, ax = plt.subplots(figsize=(10, 6))
bars1 = ax.bar(x - width/2, original, width, label='Original Model')
bars2 = ax.bar(x + width/2, fair, width, label='Fair Model (Reweighed)')
ax.set_ylabel('Scores')
ax.set_title('Model Performance and Fairness Comparison')
ax.set_xticks(x)
ax.set_xticklabels(metrics)
ax.legend()
ax.axhline(y=0, color='gray', linestyle='--', alpha=0.3) # 在0处添加参考线
plt.tight_layout()
plt.show()

代码解读：

我们模拟了一个贷款审批数据集，并刻意植入了种族偏见。
我们首先用原始数据训练模型，发现其公平性指标（如统计均等差异）为负数，表明对Group B群体存在歧视。
接着，我们使用Reweighing算法为每个样本分配新的权重，以减轻数据中的偏见。
用处理后的数据重新训练模型，通常可以看到公平性指标得到改善（向0靠近），尽管可能在准确率上有微小损失。

4. 实践练习

练习 1（概念理解）

请解释“统计均等差异”和“均等机会差异”这两个公平性指标的核心区别。在哪些业务场景下，你可能会更关注其中一个而非另一个？

练习 2（代码实践）

在上述代码基础上，尝试添加另一个敏感属性（例如，在数据中加入“性别”属性并植入偏见），然后评估模型在该属性上的公平性。你是否需要为每个敏感属性单独训练一个公平模型？思考一下。

练习 3（设计思考）

你正在开发一个用于预测病人是否需要额外医疗筛查的AI模型。请列出至少三个在数据收集、模型开发和部署阶段可能存在的隐私风险，并为每个风险提出一项应对策略。

5. 常见错误

认为“公平性”是单一概念：试图用一个通用公式解决所有公平性问题。实际上，公平性是多维的，需要根据应用场景和价值观选择合适的标准。
只关注模型输出，忽视数据：认为只要在模型输出上做后处理就能解决所有偏见问题。数据中的偏见是根源，必须首先在数据层面（如数据收集、标注、预处理）进行审视和干预。
过度依赖技术方案：认为公平性工具可以“一键”解决所有伦理问题。技术工具是辅助，真正的公平性需要多元的团队、持续的伦理审查以及与领域专家（如社会学家、伦理学家）的合作。
隐私保护与模型效用的误区：要么完全忽视隐私，要么因过度追求隐私保护而导致模型毫无用处。需要在两者之间找到可接受的平衡点，并透明地向用户说明。
忽略模型上线后的监控：偏见和公平性问题可能随着数据分布的变化而出现。模型部署后，必须建立持续的监控和评估机制。

6. 小结

本节课我们深入探讨了机器学习中至关重要的伦理问题。关键要点如下：

偏见无处不在：它源于数据、标注、算法和社会历史，需要我们在整个机器学习流程中保持警惕。
公平性需要定义：没有放之四海而皆准的公平。我们必须根据具体问题，明确选择并衡量我们所追求的公平性标准（如群体公平、个体公平）。
隐私是基本权利：必须采用差分隐私、联邦学习等技术，并结合严格的访问控制和数据匿名化，保护用户隐私。
伦理是持续过程：从问题定义、数据收集，到模型开发、评估、部署和监控，伦理考量必须贯穿始终。它不仅是技术挑战，更是团队、文化和制度的建设。

请记住，一个负责任的机器学习从业者，不仅关心模型的准确性，更关心它对社会和个人产生的影响。将伦理思维融入你的日常工作，是构建可信AI的关键一步。

练习编辑器

rust