在人工智能方面变聪明
Alumnus致力于让我们都成为人工智能的“有良心的消费者”
发布日期:2020年1月27日;更新日期:2020年1月27日
艾达·罗杰斯著，aidar@mailbox.www.eternity-eta.com
回忆一下:2015年10月，计算机科学专业的学生、最好的朋友布莱克利·佩恩(当时的霍夫曼饰)和玛丽贝丝·博托夫在博托夫的公寓里玩。佩恩看着博托夫向推特提交简历。
不到24小时后，博托夫收到了Twitter的一封电子邮件，告诉她她不适合这个职位。困惑的朋友们开始调查。博托夫是班里最优秀的学生，而且有成熟的领导经验，她怎么能这么快就被拒绝呢?他们的直觉——Twitter针对潜在员工的算法没有识别博多夫简历中的某些单词——被证明是正确的。
佩恩发现了大量关于算法如何产生偏见并导致不平等的信息，她对自己的研究领域感到愤怒和失望。但她也找到了下一步。2017年从荣誉学院计算机科学和数学学位毕业后，她搬到了马萨诸塞州的剑桥市，在麻省理工学院媒体实验室学习人工智能伦理学。
“公平和社会正义的话题一直是我最关心的话题，”佩恩说，他是南卡罗来纳的伊尔莫人。“我开始对技术如何帮助每个人而不仅仅是一小群人感兴趣。我想要广泛地了解社会系统是如何运作的，了解人们如何与技术互动，并通过谈论它来找出如何构建最有用的东西。”
没过多久，她就找到了她的焦点小组。当同事们的研究发现，许多孩子认为他们的设备比他们自己更聪明时，佩恩感到不安，她把目标对准了中学生，开始挑战这种心态。年龄足够大，可以做出微妙的道德决定，年龄足够小，可以对自己的第一部智能手机感到兴奋，青少年是佩恩设计的课程和研讨会的理想选择。她在宾夕法尼亚州匹兹堡市为期三天的课程中向200多名中学生教授“人工智能与伦理”，并在波士顿为期一周的研讨会上向28多名中学生教授“人工智能与伦理”。
得知这个年龄段的人不喜欢Facebook，老师和学生研究YouTube。佩恩很高兴地得知，她的学生们认为YouTube是一个垄断企业，它希望通过广告赚钱，而不是播放娱乐和教育视频。学生们一起设计了一些方法，让YouTube对用户和利益相关者(包括他们自己的年龄组)更好、更负责任。正如佩恩所说，她正在教育孩子们成为“有责任心的人工智能消费者和设计师”。她说，这是21世纪至关重要的工作。
她说:“有些人找不到工作，贷不到款，因为这项技术，他们的整个生计都岌岌可危。”“我在媒体实验室的同事乔伊·布拉姆维尼(Joy Boulamwini)展示了面部识别技术——这种技术可以解锁你的iPhone，也可以在机场海关或警察那里使用——在识别浅色面孔方面近乎完美，但在识别深色女性面孔方面的准确率要低35%。在美国，这种差异导致了虚假逮捕的问题。”
我们只需要想象一个不同的世界。在一天结束的时候，我的生活将以我如何帮助别人来衡量。我在这里做过测试。
布莱克利·佩恩，17年计算机科学专业
佩恩的工作引起了华尔街日报今年5月，该公司邀请她在纽约的万物未来节(Future of Everything Festival)上发表演讲。在她的演讲中，佩恩详细介绍了她与博托夫和她的学生们的经历。她强调，算法是观点，而不是事实。她还引用了她的导师伊桑·祖克曼(Ethan Zuckerman)的话:“一旦你不再把技术视为中性，你就很容易陷入技术带来的后果带来的抑郁山谷。”
“我也经历过，”佩恩说。“我很确定，我不想让我的学生去那里。”
她的华尔街日报为此，她写了10到15份草稿，并进行了大量的练习，这肯定了她的研究的重要性。
“走下舞台，听到人们说‘你真的改变了我对人工智能的看法’，这种感觉很好。她说:“我很高兴知道，如果我把这项工作投入其中，我可以对人们的生活产生这种影响。”
但她最大的收获可能是意识到她可以与各种各样的人进行艰难的对话。
她说:“对我来说，站出来倡导我的信仰，为那些没有我拥有过的机会和特权的人倡导，这真的很重要。”“不同背景的人会反驳说，‘这就是商业模式，事情就是这样，我无法想象一个不同的世界。我们只需要想象一个不同的世界。在一天结束的时候，我的生活将以我如何帮助别人来衡量。我在这里接受过测试。”
佩恩说，南卡罗来纳大学、卡罗来bob官方体育登陆纳信条和荣誉学院为她做好了充分的准备。埃德·芒恩·桑切斯(Ed Munn Sanchez)关于真实性的哲学课程仍然伴随着她。
“有那么一瞬间，他说，‘我唯一在乎的、永远也回不来的就是我的时间。这是我最宝贵的资产。上了那门课之后，我进行了很多自我反省。”“我能确保我对自己的生活感到快乐和满意吗?我能确保我的时间比我更有用吗?”
佩恩将在本学期获得媒体艺术与科学硕士学位。bob客户端下载地址这是她搬到波士顿两年多一点之后，对于一个在“到处都是奶牛”的小镇上长大的人来说，这是一个震惊。现在，她准备专注于围绕人工智能的科学传播。
她说:“技术的好处是，你可以把它变成你想要的样子。”“你的第一步是认识到它过去是怎样的，并认识到你希望它在未来如何变得更好。”
分享这个故事!让你社交圈里的朋友知道你在读什么