一年前，某机构与国家科学基金会宣布了一项为期三年、总额2000万美元的合作计划，旨在资助关于人工智能公平性的学术研究。一个月前，国家科学基金会公布了该计划首批十个资助项目。
国家科学基金会计算机与信息科学与工程副主任埃文·詹钱达尼就该计划回答了三个问题。
1. 人工智能公平性的挑战是什么？
主要有四点。
首先是试图理解公平性的真正含义。如果考虑公平性的数学定义，可以观察两种不同的群体类型，并查看在每组群体上运行算法或分类器时的某个统计指标（例如成功率）。公平性的一种概念是努力确保该指标在这两种群体类型之间保持一致。
然而，公平性还有其他定义。哲学家们关于公平性的不同概念已经争论了数个世纪。因此，我们这项工作的核心是更好地理解抽象意义上的公平性意味着什么，以便我们理解如何设计系统，将公平性内嵌其中。
我们确定的第二个挑战是：如果一个做出不公平决策的人工智能系统，责任应由谁承担？这就涉及到问责制的重要性，以及我们如何赋能人工智能系统的用户，使其对自身利用人工智能系统的输出并做出明智决策的能力有信心。
目标是为用户提供尽可能多的信息，以最小化结果中不公平的可能性——或者至少提供对人工智能系统预测中可能固有的不公平类型和程度的理解。换句话说，这意味着向最终用户呈现系统用于推导出某个建议的所有数据，从而使用户对该建议有一定的信心。
我们考虑的第三个挑战领域是将公平性问题反过来看：如何利用人工智能来改善社会公平与公正？例如，可以考虑稀缺资源（如食物）的公平分配、医疗服务的获取、可能防止无家可归的干预措施等等。我们如何利用海量数据，并对其应用人工智能系统，以提取有意义的见解，从而在社会公平方面带来改进？
第四个也是最后一个挑战是：我们如何构建人工智能系统，使其惠及所有人？例如，面部识别系统应对所有种族的人都同样有效；但目前并非如此。同样，语音和自然语言系统应适用于来自不同社会经济、种族、年龄、文化和地理群体的用户；这对现有技术构成了重大挑战。
2. 受资助项目如何应对这些挑战？
举几个例子。在此之前，需要强调这些仅仅是例子，并不暗示对任何这些受资助项目或其研究主题有任何偏好。
第一个挑战是发展公平性的定义。我们在此领域资助的一个项目旨在开发一种稳健的理论和方法论，用于评估和确保在目前公平性指标难以确定的场景中的公平性。可以针对特定任务或领域指定一个具体的公平性指标，或者可以观察一组特定的输入-输出组合，并尝试将公平性特征与之关联。
以某个具体用例为例，比如某人是否有财力开设银行账户。算法可能有一组输入——个人月收入或周收入、当前债务水平等等。对于每个输入特征或输出特征，我们能否定义一个范围，在此范围内我们对准确性有信心，从而基本上能够限制该算法中可能存在的公平或不公平程度？这个案例中的研究团队正在关注一个特定的用例——刑事司法系统中的累犯率。
第二个挑战是理解人工智能系统如何产生特定结果。我们资助了一个项目，旨在开发技术以促进对深度神经网络整个生命周期的更好理解——包括数据准备、特征识别、系统优化的目标——以便将导致特定输出的步骤与该输出一起呈现给用户，为其决策提供信息。
因此，这实际上是关于能够在输出中体现出系统在每一步所做的事情，以便人类用户能看到各种决策点。换句话说，这是为了使解读人工智能系统内部运作更容易，并在此过程中让用户意识到任何偏见。
第三个和第四个挑战有些关联——利用人工智能改善社会公平，以及设计人工智能系统使其惠及所有人。我们在此领域资助的一个项目关注心脏手术后的种族差异。例如，我们早就知道某些族裔群体比其他群体有更高的心脏病发病率，并且已知在心脏病手术干预后出现并发症的比例也更高。但我们不清楚这种差异有多少是由于生物因素，多少是由于社会经济因素，多少是由于人们就医地点不同导致的护理差异等等。
我们资助了一个项目，试图将人工智能工具应用于丰富的电子健康记录数据集，以从概念和实践上理解我们所观察到的差异的根源。
再次强调，这些只是说明广泛研究领域的几个例子，预计未来通过此项合作颁发的奖项可能超出这些特定主题。
3. 在应对这些挑战方面，公私合作的优势是什么？
我们认为将公共和私营部门聚集在一起具有显著的价值主张。
首先，让学术圈了解行业面临的各种挑战是有价值的。我们通常称此类研究为“受应用启发的研究”：我们能够审视具体问题，并用它们来激发研究问题本身。
除此之外，众所周知，今天的人工智能革命建立在海量易于获取的数据以及利用这些数据集的算力资源之上。通常，获取这两者——例如，获取云计算资源——对学术研究人员非常有价值。
第三，学术研究人员受益于公司在加速研究成果从实验室环境转化到实践应用方面的经验。
最后，对我们来说另一个非常重要的维度是培养下一代研究人员和实践者。我想我们都同意，在我们经济的各个领域，都将看到对数据科学、机器学习和人工智能能力的真正需求。让研究人工智能公平性的学生接触行业、了解行业面临的问题，是培养我们未来研究生态系统所需人才的一种方式。如果这些联合项目资助的一些学生能在毕业并开始职业生涯时从这种接触中受益，那将是非常好的。
查看通过新的国家科学基金会-某中心合作资助的完整项目列表。
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）
公众号二维码
公众号二维码
存储Embedding(Vector)Stores)
