1. 从“她们”的视角,重新审视AI的构建
最近几年,AI领域的热闹,大家有目共睹。从大语言模型的“军备竞赛”,到各类AI应用如雨后春笋般涌现,我们似乎每天都在见证技术的“奇迹”。然而,当我们谈论AI的“进程”时,我们谈论的究竟是什么?是参数量的指数级增长,是模型榜单上的分数刷新,还是某个应用又解决了某个具体的商业问题?
我想,这些固然重要,但“进程”二字,远不止于此。它更关乎AI技术如何被塑造、被应用,以及最终如何影响我们每一个人。而在这个过程中,一个长期被忽视或边缘化的群体——“她们”,正在以前所未有的方式,从多个维度深刻地影响着AI的走向。这里的“她们”,并非一个简单的性别标签,而是指代那些在技术浪潮中,以独特的视角、坚韧的行动和深刻的洞察,正在为AI注入多样性、伦理与人文关怀的实践者们。她们可能是工程师、研究员、产品经理、伦理学家、艺术家,也可能是社区组织者或普通用户。她们的影响,并非总是体现在最前沿的论文或最核心的代码里,却实实在在地在塑造着AI的“灵魂”与边界。
这种影响,不是一句口号,而是体现在具体而微的实践、反思与对抗中。它关乎我们正在构建的AI系统是否公平,是否安全,是否真正服务于人,而非制造新的隔阂。今天,我们就来聊聊,这些正在发生的、静水流深般的影响,具体是如何展开的。
2. 算法偏见:一场由“她们”发起的纠偏运动
当我们惊叹于AI模型的强大能力时,一个幽灵始终在徘徊——算法偏见。从招聘系统更倾向于男性简历,到人脸识别系统对深色皮肤人群的错误率显著升高,再到信贷模型对特定群体的不公,这些都不是未来科幻,而是已经发生的现实。问题的根源,往往深植于训练数据的“历史镜像”之中。如果训练数据本身反映了社会中存在的不平等与偏见,那么模型只会将其放大和固化。
正是在这个领域,一批研究者与实践者(其中许多是女性)率先拉响了警报,并投入了艰苦的纠偏工作。例如,MIT媒体实验室的乔伊·布兰维尼(Joy Buolamwini)通过其“算法正义联盟”的工作,系统地测试并揭露了商业人脸识别系统在性别和种族上的显著性能差异。她的研究不是停留在论文里,而是推动了包括IBM、微软在内的科技巨头暂停或改进其相关服务,甚至影响了美国部分城市的立法,禁止执法部门使用有偏见的人脸识别技术。
这场纠偏运动的核心逻辑是什么?它不仅仅是技术修复,更是一种视角的转换。传统工程思维可能更关注模型的“准确率”这个单一指标,而纠偏者们则引入了“公平性”这一多维度的评估框架。她们会问:准确率对谁而言是高的?错误在不同子群体中是如何分布的?一个在总体数据上表现“优秀”的模型,是否对某个弱势群体造成了系统性伤害?
实操中的挑战与应对:在实际操作中,识别和缓解偏见是极其复杂的。一个常见的方法是进行“公平性审计”。这不仅仅是跑几个测试,而是一个系统性的过程:
- 问题定义与群体划分:首先,必须明确要保护的敏感属性(如性别、种族、年龄)以及如何定义相关的子群体。这本身就涉及伦理和社会学考量,需要跨学科合作。
- 数据探查与理解:深入分析训练数据的分布。是否存在代表性不足的群体?数据标注过程中是否引入了标注者自身的偏见?例如,在图像数据集中,女性从事特定职业(如CEO、程序员)的图片是否足够多且多样?
- 指标选择与监控:摒弃单一的准确率,引入如“机会均等差异”、“统计均等差异”等公平性指标。在模型开发的每个阶段(训练、验证、测试)都对这些指标进行监控。
- 干预策略:根据审计结果,采取干预措施。这可能包括:
- 预处理:对训练数据进行重采样或重新加权,以平衡不同群体的代表性。
- 处理中:在模型训练的目标函数中加入公平性约束,让模型在优化精度时也必须考虑公平性。
- 后处理:对模型的输出结果进行调整,例如对不同群体使用不同的决策阈值。
注意:没有任何一种公平性定义是“放之四海而皆准”的。不同的定义(如个体公平、群体公平)之间可能存在冲突。技术团队必须与领域专家、法律顾问和社区代表共同讨论,确定在特定应用场景下,何种公平性定义是合理且可操作的。
个人经验与反思:我曾参与过一个信贷风险评估项目初期讨论。当时,数据科学家展示的模型在“整体”违约预测上表现优异。但当我们按照性别和地区细分后,发现模型对某个特定区域的女性小企业主群体给出了系统性偏高的风险评分,尽管历史数据显示该群体的违约率并不高。深挖下去,原因是训练数据中该群体的样本极少,且少数几个样本恰好有负面记录,导致模型学到了一个错误的强关联。如果没有这种细分审计,这个偏见就会被部署上线,进一步加剧该群体获取金融服务的难度。这个经历让我深刻体会到,“公平”不是模型训练好后的一个可选项,而是必须从问题定义和数据收集阶段就开始融入的核心设计原则。
3. 人本设计:将AI从“技术奇观”拉回“用户服务”
AI的另一个常见陷阱是“技术驱动”而非“需求驱动”。工程师们有时会沉迷于模型的复杂性和新颖性,却忽略了它是否真正解决了用户的问题,甚至是否创造了新的问题。这时,“她们”所倡导和践行的人本设计(Human-Centered Design)理念,就成为了一剂重要的解药。
人本设计强调将人的需求、能力和体验置于设计过程的中心。在AI产品开发中,这意味着:
- 理解真实场景:AI不是存在于真空中的。一个医疗影像AI助手,它的使用场景是嘈杂的急诊室,医生可能只有几十秒时间查看结果。那么,它的输出就必须极其简洁、高亮关键信息、并且能解释其判断的置信度,而不是输出一篇冗长的报告。
- 重视可解释性与信任:很多AI模型是“黑箱”,这严重阻碍了用户(尤其是非技术用户)的信任。致力于可解释AI(XAI)的研究者(该领域有大量杰出女性贡献者)正在开发各种工具,如LIME、SHAP,来帮助解释模型的预测。例如,一个贷款被拒的申请人,有权知道是哪些因素(如收入、负债比)主要影响了这个决策,而不是得到一个冰冷的“系统拒绝”提示。
- 设计包容性交互:AI交互不应只考虑“主流”用户。为视障人士设计的语音交互AI,为老年人设计的简化界面,为不同文化背景用户设计的无偏见对话,都是人本设计的体现。苹果公司负责语音助手Siri早期开发的团队中有许多关键女性成员,她们在塑造Siri友好、乐于助人的“人格”方面起到了重要作用,使其区别于冷冰冰的问答机器。
一个具体的实践框架:参与式设计。这不仅仅是做用户访谈,而是将最终用户(特别是可能被边缘化的用户)直接纳入到设计过程中来。例如,在开发一个用于社区公共服务的聊天机器人时,团队可以邀请不同年龄、教育背景、语言能力的社区居民参加工作坊,一起构思机器人的对话风格、它能处理的问题类型、以及当它无法处理时该如何优雅地移交。这种方法能提前暴露许多技术团队想象不到的需求和障碍。
踩坑实录:忽视“边缘情况”的代价。我曾见过一个智能客服系统,其自然语言处理(NLP)模型在标准测试集上表现非常好。但上线后,收到了大量来自老年用户的投诉,称客服“听不懂人话”。复盘发现,训练数据主要来自年轻网民在社交媒体和电商平台的语料,充满了网络流行语和简写。而老年人习惯使用更正式、完整、甚至带有地方方言特色的表达方式,这些在训练数据中占比极低,导致模型对其理解率骤降。这个坑的根源在于,产品定义和数据处理阶段,没有充分考虑到用户群体的多样性,将“大多数”用户的习惯等同于“所有”用户的习惯。教训是:在定义“用户”时,必须有意识地包含那些声音可能被忽略的群体,并专门为他们设计和测试。
4. AI伦理治理:从原则到落地的艰难跋涉
随着AI能力越强,其潜在风险也越大——制造虚假信息、侵犯隐私、加剧社会监控、甚至被用于自动化武器。建立有效的AI伦理治理框架,已成为全球共识。而在这个高度跨学科的领域,来自伦理学、法学、社会学、公共政策等背景的女性学者和实践者,贡献了至关重要的思想领导力和实践推动力。
她们的工作不仅仅是提出“AI应该合乎伦理”这样的原则,而是致力于将抽象的伦理原则(如公平、透明、问责、隐私、安全)转化为可执行、可审计的具体标准和流程。这包括:
- 制定伦理准则:推动公司、行业乃至国家层面制定AI伦理准则。例如,欧盟的《人工智能法案》在制定过程中,就有众多女性专家参与,强调了对高风险AI系统的严格监管。
- 创建治理工具:开发“伦理影响评估”模板、算法审计清单、风险评估框架等工具,帮助工程团队在开发周期中系统性思考伦理问题。这就像给技术项目增加了一个“伦理合规”检查点。
- 建立问责机制:明确当AI系统出错或造成损害时,责任如何追溯。是开发算法的公司?是部署使用的机构?还是负责监管的部门?清晰的问责制是确保伦理原则不被架空的关键。
在企业内部的实践挑战:在很多科技公司,设立“AI伦理官”或“负责任AI”团队已成为趋势。这些团队的领导者很多是女性。她们面临的核心挑战是如何与业务和工程团队有效协作。工程师们通常背负着紧俏的交付指标,可能会将伦理审查视为阻碍创新的“绊脚石”。
有效的破局点在于“早期嵌入”和“共同创造”。负责任AI团队不能只做最后的“质检员”,而应在产品立项和设计阶段就介入。例如,在启动一个使用人脸识别进行客流量分析的项目时,伦理团队可以提前引导讨论:数据的收集是否获得了充分知情同意?数据如何存储和加密?分析结果是否会被用于其他未声明的目的?是否有替代方案(如匿名化的热力图)可以达到商业目的同时更好保护隐私?通过这种早期对话,将伦理考量转化为具体的技术和产品设计需求,而不是事后的反对意见。
个人观察:伦理讨论中的“翻译”角色。我观察到,成功的AI伦理实践者往往扮演着“翻译”的角色。她们需要将哲学、法律中的伦理概念,“翻译”成工程师能理解的技术约束和产品经理能把握的用户体验要求。例如,将“尊重自主权”翻译为“必须提供清晰易懂的选项让用户控制自己的数据”;将“避免伤害”翻译为“必须在模型上线前进行对抗性测试,模拟恶意输入”。这个过程需要极大的耐心、跨学科的知识和沟通技巧。
5. 开源与社区:构建多元共治的AI生态
AI的发展绝非仅靠几家大公司的实验室。一个健康、多元、活跃的开源社区和学术社区,是推动AI创新和民主化的基石。在这个领域,无数女性开发者、研究者、教育者和社区组织者,正在以默默无闻却至关重要的方式贡献力量。
- 代码贡献与项目维护:从PyTorch、TensorFlow等核心框架,到Hugging Face Transformers等模型库,再到众多细分领域的工具包,女性贡献者的身影无处不在。她们修复bug、增加功能、编写文档、回答社区问题,确保了这些关键基础设施的稳定和易用性。
- 知识传播与教育普惠:面对AI知识的高门槛,许多女性技术博主、讲师、布道者通过撰写教程、录制视频课程、组织线下 workshop,以更易懂的方式向更广泛的人群(尤其是女性和其他 underrepresented groups)传授AI知识。例如,Fast.ai的联合创始人雷切尔·托马斯(Rachel Thomas)就一直致力于让深度学习教育变得更加普及和实用。
- 创建支持性社区:像“Women in Machine Learning”、“Black in AI”、“LatinX in AI”等社区,为在AI领域处于少数群体的研究者、学生和从业者提供了宝贵的交流平台、 mentorship 机会和心理支持。这些社区不仅帮助个人成长,也通过集体发声,推动整个行业关注多样性问题,并从中汲取更丰富的创新灵感。
社区的力量:以Hugging Face为例。Hugging Face 之所以能成为AI界的“GitHub”,其开放的社区文化是关键。任何人都可以上传、分享、微调模型。在这个过程中,来自全球各地、背景各异的贡献者(包括大量女性)带来了多样化的视角和需求。一个来自非洲的开发者可能上传了一个针对当地语言优化的模型;一个教育科技领域的开发者可能分享了一个用于辅助教学的对话AI。这种自下而上的创新,极大地丰富了AI的应用场景,使其不再仅仅是硅谷或北京中关村的游戏。
参与开源的个人建议:如果你也想参与其中,不必一开始就想着要贡献核心代码。可以从这些方面入手:
- 文档改进:阅读你常用工具库的文档,发现表述不清、缺失示例或错误的地方,提交修改建议。这是对社区极其宝贵的贡献。
- Issue 排查与回复:在项目GitHub的Issue页面,尝试帮助回答一些你能解决的问题。即使只是帮忙复现一个bug,也是很好的贡献。
- 翻译工作:将优秀的教程、文档翻译成其他语言,帮助打破知识传播的语言壁垒。
- 创作学习资源:将你学习某个AI概念或工具的心得写成博客、制作成视频,用你自己的语言帮助后来者。
开源社区的本质是协作与共享。每一个微小的贡献,都在让这个生态变得更加多元和健壮。
6. 艺术与批判:用AI反思AI自身
最后,我们不能忽视艺术与人文批判在影响AI进程中的独特作用。一批女性艺术家和学者,正在使用AI作为媒介,反过来审视、质疑和批判AI技术本身及其社会影响。
- 艺术实践:艺术家通过生成对抗网络(GAN)、风格迁移等AI技术进行创作,但主题往往指向数据隐私、监控资本主义、算法凝视等深刻议题。她们的作品不是展示技术的炫酷,而是引发观众对技术背后权力关系的思考。例如,艺术家凯特·克劳福德(Kate Crawford)与同事合作的“Anatomy of an AI System”项目,将亚马逊Echo智能音箱的全球供应链、数据流和环境影响可视化,深刻揭示了云AI背后隐藏的矿物开采、劳动力剥削和能源消耗等物质成本。
- 学术批判:在科学与技术研究(STS)、数字人文、传媒研究等领域,女性学者从哲学、社会学、政治经济学等角度,对AI进行批判性分析。她们研究算法如何重塑劳动市场(如平台经济下的零工劳动)、如何影响社会认知(如推荐系统造成的信息茧房)、以及如何与现有的社会不平等结构相互缠绕。这些批判性研究为技术开发提供了不可或缺的外部视角,防止技术社群陷入“为了技术而技术”的内卷。
这种影响看似“间接”,实则至关重要。它不断提醒我们,AI不是中立的工具,它承载着设计者的价值观,运行在特定的社会政治经济结构之中。艺术和批判性研究就像一面镜子,让我们看到技术光鲜表面下的阴影和裂缝。它们提出的问题,往往比提供的答案更重要,迫使整个行业进行更深刻的反思:我们到底想用AI构建一个怎样的未来?
从个人到系统:影响的涟漪效应
回顾以上几个维度,我们可以看到,“她们”对AI进程的影响是全方位、多层次的。它从最底层的算法和数据开始纠偏,贯穿产品设计与用户体验,上升到伦理治理与行业规范,并扩散至开源生态和公共文化领域。每一个个体的努力,如同投入湖面的石子,激起的涟漪相互交织,共同推动着AI这艘巨轮朝着更负责任、更包容、更以人为本的方向调整航向。
这种影响并非总是一帆风顺,它常常面临资源不足、根深蒂固的偏见、商业利益的挤压等挑战。但正是这些持续不断的努力、质疑和创造,确保了AI的发展不会沦为纯粹的技术达尔文主义,而是在能力增长的同时,亦能关照人的价值与社会的福祉。这或许是“她们”正在影响AI进程中最深刻的意义——让技术拥有温度,让进步包含所有人。