首页 > 股票资讯 正文

谷歌AI伦理团队创始人:我被炒了! 财富证券官网

时间:2021-03-10 17:07:35作者:佚名

原标题:谷歌AI伦理团队创始人:我被开除了!

由大数据文摘制作

作者:凯勒

去年年底,谷歌AI伦理团队联合负责人蒂姆尼特·格布鲁(Timnit Gebru)被解雇,这在全世界引起了很大的轰动。

新年伊始,你觉得Google会有“新年新气象”吗?

无辜!

不,就在几个小时前,谷歌人工智能伦理部门的创始人玛格丽特·米歇尔在社交媒体上说,“我被解雇了”。

对于这一举动,谷歌在一封电子邮件中表示:

在审查了经理的行为后,我们确认他多次违反公司的行为准则和安全政策,包括泄露机密的业务敏感文件和其他员工的个人数据。 据Axios称,早在1月份,谷歌就取消了玛格丽特·米歇尔公司的访问权,因为它使用自动脚本来寻找该公司“滥用”Timnit Gebru的相关证据。

本月早些时候,米切尔在推特上发了一封电子邮件,他在邮件中谈到了对格布鲁的解雇,而这一事件似乎“得到了种族主义者和性别歧视者的支持”,“如果人工智能系统被别有用心的人使用,它也会受到同样的影响”。

邮件全文链接:

https://docs . Google . com/document/d/1eri2crdtoyyjejxroozo-uouelgdolpf n1 joerg2w/edit

米切尔认为,发生在格布鲁身上的事情“似乎源于现代技术缺乏远见,所以事件本身就是这个问题的表现”。

支持格布鲁是米切尔被解雇的原因吗?

正如Axios之前报道的那样,米切尔在谷歌宣布重组其AI伦理团队的第二天就被解雇了。谷歌工程组织副总裁玛丽安·克罗克(Marian Croak)现在领导着“谷歌研究中心一个负责任的人工智能新专业中心”。

根据米切尔的领英数据,她在2016年以高级研究科学家的身份加入谷歌。两年后,她和Gebru成立了谷歌AI伦理团队。

去年12月,米切尔和格布鲁正在写一篇关于大型语言处理模型的危害的论文。当谷歌大脑副总裁梅根·卡乔里亚要求撤回张文时,格布鲁说谷歌需要更加开放,考虑“为什么这项研究没有被接受”。

此后不久,格布鲁被解雇,尽管谷歌将其描述为自愿辞职。

格布鲁事件后,米歇尔开始公开批评谷歌高管,包括谷歌人工智能部门负责人杰夫·迪恩(Jeff Dean)和谷歌首席执行官桑德尔·皮帅。今年1月,当谷歌开始调查相关事宜时,米切尔发现他已经无法访问该公司的电子邮件。

在这方面,人们普遍猜测,米切尔被解职在很大程度上是因为他与格布鲁的关系以及他在随后的一系列活动中与格布鲁的团结。

在调查了Gebru事件后,谷歌宣布将改变研究和多元化政策。杰夫·迪恩(Jeff Dean)在一封内部电子邮件中向员工道歉,称他对公司对格布鲁离职的处理深感遗憾。

“我听到并承认格布鲁博士的退出对女性技术人员、黑人社区成员、其他追求技术职业的代表性不足的群体以及对谷歌负责任地使用人工智能表现出深切关注的人来说意味着什么。这会让这些人质疑自己在公司的地位,我很遗憾。”

自去年12月Gebru事件发酵以来,谷歌的人工智能道德团队一直处于危机之中。宣布重组后,高级研究员亚历克斯·汉纳(Alex Hanna)写道,该团队直到周三晚上的新闻报道才知道克罗克的任命。

“他们都告诉我们要相信他们的处理方法和像玛丽安·克罗克这样的决策者,他们会让我们的利益最大化,”她在推特上写道,“但所有的决定都是在我们背后做出的”。

谷歌不断被曝遭解雇,在业内引起巨大轰动,也让人质疑谷歌对异议的容忍度。

自2018年以来,谷歌发生了多次大规模抗议活动。近日,谷歌数名员工宣布联合成立Alphabet工会,希望在薪酬、道德等问题上给公司施加压力。

伦理问题需要同等重视

米切尔以批评面孔识别中的偏见而闻名。

去年7月,麻省理工学院使用的一个被高度引用的图像数据集Tiny Images暴露在强烈的种族歧视和厌恶女性的标签之下。

在这个数据库中,当黑人或猴子出现时,标签上显示N * gger,是对黑人的贬义词;此外,穿着比基尼或抱着孩子的女性照片上还标有b*tch等侮辱性词语。

这很快引起了学术界的广泛关注和激烈争议。麻省理工学院得知这一消息后,迅速推出数据集,并宣布该数据集训练的AI系统将有可能使用种族主义、厌女症等激进术语来描述对象,并要求所有研究人员暂停使用和训练。

注销数据库后,麻省理工学院还表示,将敦促研究人员和开发人员停止使用培训库,并删除所有副本。

ImageNet也有同样的问题,因为它也是用WordNet标注的。一个名为“ImageNet轮盘”的实验允许人们将照片提交给由ImageNet训练的神经网络,该网络将使用数据集中的标签来描述这些照片。不出所料,人们输入了自己最感兴趣的照片:自画像,而软件输出了一些种族主义和攻击性的标签来描述它们。

在这些庞大的数据集里,有问题的图像和标签的比例很小,很容易作为异常现象去除。Prabhu和Birhane认为,如果将这些材料用于训练现实世界中使用的机器学习模型,很可能会造成真正的伤害。

他们在论文中写道:“缺乏规范数据集的规范将对妇女、种族和少数民族以及社会边缘的弱势个人和社区产生不成比例的负面影响。”

AI训练数据集往往忽略少数民族,这也是人脸识别算法在识别女性和肤色较黑的人时遇到困难的原因。今年早些时候,底特律一名黑人被面部识别软件误认为小偷,被警方误抓。

这也是为什么一个有争议的人工智能算法从一个低分辨率的快照生成一个高分辨率的图像,把一张奥巴马模糊的照片变成了比黑色更白的原因。

虽然随着技术的成熟,技术公司在不同领域取得了很大的进步,但与技术相关的伦理问题却没有得到同等程度的重视。

我们将拭目以待,看看谷歌的一系列事件是否会成为导火索,或者道德问题是否会被提上日程。

相关报告:

https://TechCrunch . com/2021/02/19/Google-fires-top-ai-ethics-research-Margaret-Mitchell/

https://www . the verge . com/2021/2/19/22291631/Google-diversity-research-policy-changes-timnet-gebru-fire

回到搜狐网站https://www . nytimes . com/live/2021/02/19/business/stock-market-today查看更多

负责编辑:


以上就是谷歌AI伦理团队创始人:我被炒了!财富证券官网的全部内容了,喜欢我们网站的可以继续关注菁眉股票网其他的资讯!