隐私、偏见与负责任的计算机视觉

一句话定义

负责任的计算机视觉要求在数据、模型、部署三层同时治理：隐私上遵循最小采集与合法授权，偏见上识别「数据—标注—评测」三处系统性偏差源，工程上用模型卡、分层评测与红线清单把伦理约束变成可执行的检查项。

为什么重要

视觉模型直接消费「世界的影像」，而影像天然携带人脸、车牌、位置等敏感信息；训练数据的偏差会转化为对特定人群的系统性错误，且这类错误往往在聚合指标下不可见。监管（GDPR、中国《个人信息保护法》、欧盟 AI 法案）已把部分伦理要求变成硬性义务——伦理在视觉领域不是选修课，而是与 mAP 同级的交付物。

直观类比

上线一个视觉系统像开一家餐厅：隐私是「食材来源合法且不过期」（数据授权与留存），偏见是「菜单只照顾一部分客人口味且从未问过其他客人」（数据与标注偏差），模型卡是「挂在墙上的配料表与过敏原提示」——三者缺一，迟早出食品安全事件。

前置知识

kp-029（学科脉络，理解议题出现的历史位置）；建议与 kp-030 连读。

核心概念

敏感信息：人脸、步态、车牌、地理位置；多数法域将生物特征列为敏感个人信息，需单独同意。
偏差三源：数据采集偏差（谁被拍、什么场景）、标注偏差（标注员主观与文化差异）、评测偏差（聚合指标掩盖子群体表现）。
差分隐私（概念级）：对训练数据加可控噪声使单条样本不可辨认，视觉中用于统计学习场景。
模型卡（Model Card）：随模型交付的「说明书」——预期用途、性能分层报告、限制与禁止用途。
数据保护影响评估（DPIA）：高风险处理（如公共场所监控）上线前的合规评估流程。
红线清单：组织自定的禁止部署场景（如情绪识别用于招聘、公共场所实时辨识）。
最小必要与留存期限：只采集达成目的所需的数据，到期删除，可匿名化优先于可删除。

原理与机制

偏差的传导链是本站的核心模型：部署域的分布 ≠ 训练域分布（采集偏差），标注规范里的人为判断固化为「标准答案」（标注偏差），最终被聚合指标掩蔽（评测偏差）——kp-026 的调参纪律、kp-030 的人群分层评测都在这条链上设卡。隐私的技术对策按强度递进：匿名化（打码人脸/车牌，但可逆风险仍在）→ 联邦学习/端侧推理（数据不出设备）→ 差分隐私（统计层面不可辨认）。治理对策的核心是「把判断前置」：需求评审时过红线清单，上线前做 DPIA 与分层评测，交付时附模型卡，运行期留审计日志——伦理要求被拆成与单元测试同构的检查项，才能在快节奏工程里真正被执行。

公式与模型

本节不适用：本站为治理框架主题，数学工具（如差分隐私的噪声机制）属于隐私计算专域，此处不展开公式；工程度量是分层评测——按子群体分别报告 FAR/FRR/召回率，并与总体对照。

图示

实例与案例

街景数据训练：采集时对人脸与车牌自动打码并留存处理日志，欧盟辖区内同时满足 GDPR 的最小化要求；学术数据集（多个百万级人脸库）曾因授权瑕疵被整体撤回，说明授权链路必须「可回溯」。分层评测案例：某行人检测模型总体 mAP 达标，按光照与人群细分后发现夜间深色衣着召回率低 30 个百分点——补采夜间数据后总体与子群体同时改善，说明分层评测也能反过来指导采集。模型卡实践：内部模型交付模板固定含「预期用途/禁用用途/分群体指标/已知失效模式」四节，评审未过不出库。

常见误区

「去掉性别/种族字段就没有偏见」：偏见藏在图像外观、场景分布与标注判断里，删字段只是藏起代理变量，不改变模型行为。
匿名化一劳永逸：人脸打码可被重建、轨迹可再识别，匿名化是风险降低不是豁免，留存期限与访问控制仍要执行。
把伦理当上线前的「盖一章」：红线判断应在需求评审发生，模型卡应随每次迭代更新，事后补救成本远高于前置约束。
只对敏感场景做伦理：普通商用系统同样输出人群差异化错误（如低光场景对深色衣着失效），分层评测应成为默认交付物。

与其他知识点的关系

kp-030 是本站框架在人脸这一具体技术上的展开；kp-026 的「val/test 纪律」与分层评测是同一种严谨性；kp-025 的采集设计与授权链路直接决定本站「数据层治理」的可行性。

自测题

偏见的三个系统性来源分别是什么？各自卡点在哪？

答案要点：采集（谁被拍/什么场景）——卡在采集设计与域覆盖；标注（主观判断固化）——卡在规范与多人一致性；评测（聚合掩盖差异）——卡在分层报告。

模型卡至少应包含哪四块内容？

答案要点：预期用途、禁用用途、分群体/分场景性能指标、已知限制与失效模式。

「端侧推理」相比「云端处理」在隐私上的结构性优势是什么？