技术专家VivienneMing39AI是一个人权39裘海正
时间：2022/07/20 01:38:46 编辑：
技术专家Vivienne Ming：'AI是一个人权'
有一种可靠的方法让Vivienne Ming退缩。这是对大型科技公司喜欢的看涨主张的反应。随着联邦调查袭击Facebook以及全球抗议活动困扰谷歌，咒语仍然存在人工智能将使我们的生活更美好。贫困，心理健康，气候变化，不平等？所有都可以用AI解决。
作为一名硅谷技术专家，企业家和理论神经科学家，明可能很容易与她的科技公司同行堕落。毕竟，她坚信人工智能将成为一个更强大的工具。什么可能比人类潜能最大化器更多的西海岸？
但明的观点是不同的，也许生活经验就是原因。Vivienne Ming曾经是Evan Smith，他是圣地亚哥加利福尼亚大学的一名可怜而烦恼的学生，他辍学，无家可归，然后又回到了闪亮的成功之路。称Ming为拱形怀疑论者是简单的，但并非不合理。困扰她的不是人工智能。是什么使她退缩是背后的人。
“我们将一些人类经历史上最深刻的问题委托给一群从未解决过生活问题的年轻人，”她说。“他们从来没有做过任何事情来改善某人的生活。”
埃文史密斯20多岁时就开始了他的生活。他住在山景城的汽车里，与他努力理解的恶魔作斗争，他被匹兹堡的卡内基梅隆大学录取，并在那里学习神经科学。在那里，他遇到了他未来的妻子Norma Chang，当他承认自己想成为一名女士时，他就和他在一起。这对夫妇使用混合姓明，有两个孩子。
在建立公司和组织以解决教育，健康和工作场所问题的职业生涯后，这对夫妇在加利福尼亚州伯克利市成立了思科银行Socos，他们现在在那里合作。明称这项工作是“疯狂的科学”，但它远非疯狂。她为创业公司，美国各州，公共机构和联合国提供咨询服务。他们打电话给她，了解如何使用人工智能和神经科学来指导招聘实践，员工待遇以及支持学生的更好方法。
周二晚，Ming将加入伦敦Barbican的世界领先的AI思想家小组，参加皇家学会的You和AI系列活动。该小组由物理学家和电视节目主持人布莱恩·考克斯主持，将对人工智能对工作的影响提出质疑。它可能对社会构成的风险，以及它做出道德和道德决定的能力。
明问题的核心是计算机工程师接受的培训以及他们对人工智能的不加批判的信念。她说，很多时候，他们解决问题的方法是在大量数据上训练神经网络，并期望结果正常。她指责公司未能首先解决问题 - 例如，在应用AI之前应用已知的好员工和成功学生。
“这些都是非常聪明的人。它们不是恶意的。但是我们问他们应该雇用谁，我们应该如何应对精神疾病，谁应该入狱以及持续多久，而且他们不知道如何解决这些问题。人工智能是一个真正强大的解决问题的工具，但如果你自己无法解决问题的解决方案，人工智能就无法为你解决问题。“
亚马逊就是一个很好的例子。明说这家科技公司曾试图招募她作为首席科学家。她被告知，公司很快就会有一百万名员工，她的工作就是让自己的生活更美好。“很明显，杰夫贝佐斯的更好的想法与我的不同，”她说。该公司发明的腕带在工厂工作人员拿到错误的包裹时嗡嗡作响，但未得到她的同意。
它并没有就此结束。Ming听说该公司希望建立一个可以自动化招聘流程的算法，她说她当时批评这个想法。10月，有消息称该公司已取消该项目，因为该项目对女性有偏见。该算法搜索了申请人的简历，并将其排在五星级。但由于它对亚马逊数据进行了培训，因此了解到男性申请人在工作场所表现最佳。它在简历中对那些带有“女性”一词的人进行了惩罚，就像“女子赛艇冠军”一样，并降低了女子大学毕业生的评分。
“他们认为他们可以针对这个问题提出一个算法，它会把它搞清楚，”Ming说。“但如果一家公司不知道如何解决偏见问题，人工智能将无法为他们解决问题。经过几年的努力，他们把它拖到谷仓后面，然后把它射到了脑后。“
Ming说，她拒绝了Uber和Netflix的报价，他们在一家名为Gild的创业公司采取了不同的策略。该公司发现像弹性这样的特性以及Ming所谓的“增长思维” - 从一个人的失败中学习的灵活性 - 预测了更好的软件工程师，正如人类编码员所评定的那样。因此，该公司建立了小型AI来抓取博客，LinkedIn和社交媒体供给最佳候选人，无论他们是否正在找工作。
有时，一条单独的推文带来了巨大的重量。一读：“芹菜非常棒。”出于背景，它听起来“就像一个对食物总量存在根本错误的人”，Ming说。但是“celery”是对用Python编程语言编写的一个不起眼的作业队列工具的引用。这条推文及其所包含的热情是候选人编码技巧的“巨大预测者”。
为了重新走上正轨，我们需要进行人工智能革命，明说，这种革命超越了因果关系。在一堆数据中投入一个神经网络，它会找到可以预测一个人的成绩，他们的工作前景或他们将重新犯罪的几率的模式。但是相关性可以隐藏最令人震惊的偏见，这种偏见使得黑人男性在重新犯罪的风险更高。我们需要知道人工智能的知识分子，他们知道什么使得某人成为一名复员，一名优秀员工，一名甲级学生。她说：“我们需要内置的知识，而且我常常对人工智能中不常发生这种情况感到震惊。”
这不是唯一的问题。人工智能的好处不成比例地流向富人。参加教育应用。“你建立这些系统的全部原因是为了帮助那些正在挣扎的孩子，但最大的市场是为精英表演者在Sats上获得额外的几分，因为最终，这就是市场所在，”Ming说。 。“几乎所有的技术都是不平等的增加，因为最能够利用它的人是那些最需要它的人：99.999％的世界人口对如何使用这些技术没有发言权。我们需要将人工智能视为一项人权，就像我们对司法审查和获得疫苗的方式一样。“
每年，成群的新毕业博士毕业生涌入科技公司，而不是最微妙的想法如何解决现实世界的问题。这不会很快改变。道德的彻底基础会有所帮助，但Ming认为这不仅仅需要从书中学习规则。“道德就像弹性，你失败就会擅长。为了道德行事，你必须了解你提出的解决方案的所有后果，“她说。
由于年轻人，主要是白人男性占主导地位的大型科技，可能是女性和其他边缘化的人推动革命明说是必要的。“对于那些以某种方式在这方面有所发言权的人来说，我认为这是非常有价值的。如果你来自像我这样的背景，你会持怀疑态度。你意识到技术会增加不平等，如果我们采取积极措施来避免这种情况，它只会变得更好。“