不久前, 人类编写的代码控制了计算机程序如何工作的各个方面, 但这限制了程序做一些人们可以编写非常明确的规则的事情. 更复杂的决策, 比如你是否获得了银行贷款，或者什么数字广告最有可能让你在Instagram上点击它们, 不符合这个框架. 人工生成的算法是根据特定的指令编写的，允许控制结果.
现在, 机器学习算法用于用大数据集“训练”算法, 收集信息. 让计算机从例子中找到模式来做出决定，可以让银河游戏官网下载-apple app store-银河游戏官网下载v2.1.1-银河排行榜解决更复杂的问题. 然而, 这些算法能捕捉到数据中的每一种模式, 不只是银河游戏官网下载-apple app store-银河游戏官网下载v2.1.1-银河排行榜想让他们找到的人. 性别偏见, 性别歧视, 此外，在面部识别软件和数字图像集合的标签中也发现了种族主义.
莎拉•布朗, 计算机科学助理教授, 正在研究如何防止人工智能强化偏见. “我的研究是银河游戏官网下载-apple app store-银河游戏官网下载v2.1.1-银河排行榜如何调整机器学习算法及其嵌入的系统，以防止人工智能强化歧视模式,她说.
布朗的研究是三重的. 她正在研究构建工具，使社会科学专家能够检查机器生成的算法. 她正在开发更好的学习算法，同时从数据和社会科学家的专业知识中“学习”.
她与布朗大学的一位同事合作, 研究人们如何应对歧视的社会心理学家. “他做实验，让人们展示自己是种族主义者或有偏见的, 银河游戏官网下载-apple app store-银河游戏官网下载v2.1.1-银河排行榜一起研究人们对机器学习定义公平的不同方式的看法.”
机器学习应该如何定义公平? 这是个很难回答的问题. 布朗指出，毕竟，人们对公平的定义不同. “那么，人们更喜欢什么呢? 这在不同的社会群体中有什么不同呢?
“来自许多社区的活动人士一直在讨论银河游戏官网下载-apple app store-银河游戏官网下载v2.1.1-银河排行榜需要如何让算法承担责任,布朗说. 这是一项复杂而多重的理论工作. 解决方案可能会解决一个问题，但不能解决所有问题. 当谈到机器学习时，有无数的问题. “所以银河游戏官网下载-apple app store-银河游戏官网下载v2.1.1-银河排行榜怎么能把它们都放在一起考虑呢?布朗说. “这是一个大问题.”
“为了让人文学科的深刻思想在计算领域帮助银河游戏官网下载-apple app store-银河游戏官网下载v2.1.1-银河排行榜，必须要有某种兼容性. 把这些想法结合起来很重要.”莎拉•布朗
布朗一直在与本科生一起研究数据可能存在偏差的建模方法. 通过这种方式, 她和她的学生研究了数据捕捉歧视在世界上发生的事实的不同方式, 布朗说. “银河游戏官网下载-apple app store-银河游戏官网下载v2.1.1-银河排行榜希望银河游戏官网下载-apple app store-银河游戏官网下载v2.1.1-银河排行榜的算法不复制这种歧视. 银河游戏官网下载-apple app store-银河游戏官网下载v2.1.1-银河排行榜从简单的问题开始，然后扩展它们，看看它们如何应用于更广泛的环境. 我试图以实际为切入点.”
复杂的问题需要有创造力的思考者
布朗对公平和平等的兴趣由来已久. 在大学里，她参与了多元化和拓展工作. 在加州大学伯克利分校做博士后, 她加入了一个名为“算法公平与不透明组织”的组织. 就在那时，布朗意识到她可以打造一个包括她所有不同兴趣的职业生活. 布朗建议她的计算机科学专业的学生也要开阔地思考他们的教育. 她说，仅靠计算并不能解决复杂的社会问题. “银河游戏官网下载-apple app store-银河游戏官网下载v2.1.1-银河排行榜的 数据科学 文科学士课程的设立是为了鼓励学生修双学位. 银河游戏官网下载-apple app store-银河游戏官网下载v2.1.1-银河排行榜希望看到学生们在数据科学和艺术与人文学科的双学位学习.
“我读了很多不是计算机科学的东西来为我的工作提供信息，”布朗说. “为了让来自人文和社会科学的真正深刻的思想帮助银河游戏官网下载-apple app store-银河游戏官网下载v2.1.1-银河排行榜在计算方面，必须有某种兼容性. 把这些想法结合起来很重要. 银河游戏官网下载-apple app store-银河游戏官网下载v2.1.1-银河排行榜必须有共同的语言. 在学科边界上工作真的很令人兴奋，也很有必要.
“这就是最棘手的问题所在.”
-玛丽贝丝·莱利-麦格林著