12月10日,当地时间周三,谷歌首席执行官桑德尔·皮查伊(Sundar Pichai)就公司人工智能研究员蒂姆尼特·格布鲁(Timnit Gebru)的离职风波一事公开向员工道歉,并对公司如何处理格布鲁的离职展开全面调查。

据悉,皮查伊在周三发给全体员工的一封邮件中说:“我确实也听到了人们对格布鲁博士离职的强烈反应。”“这在公司内部播下了怀疑的种子,并导致我们社区中的一些人质疑自己在谷歌的地位。对此我深表歉意,我愿意承担如何恢复你们信任的责任。”


格布鲁曾是在谷歌工作的知名人工智能研究员,其因研究证实相关面部识别算法在白人中的效果要好于有色人种而闻名。格布鲁常常呼吁对谷歌搜索了等重要产品提供伦理方面的技术支撑,她断言自己上周因与他人合著的学术论文被撤引发争议而被解雇。

皮查伊的道歉也表明事态迅速恶化,已经超出谷歌人工智能主管、首席执行官杰夫·迪恩(Jeff Dean)的掌控范畴。格布鲁离职后,各种反应都表明皮查伊对谷歌人工智能管理层的不满。

皮查伊写道,谷歌已经启动了一项内部调查,目的是搞清楚公司如何处理格布鲁的离职以及这一事件对员工的影响,特别是对那些没有得到充分代表的少数族裔员工的影响。

皮查伊说:“一位才华横溢的杰出黑人女性不幸从谷歌离职,我们需要为此承担责任。”“这一损失在一些代表性匮乏的社区产生了连锁反应,他们认为从格布鲁身上看到了反映了他们自己的一些经历。”

但研究人员格布鲁回应称,皮查伊做得还远远不够。格布鲁称,到现在他们都没有说“我为我们对她所做的感到抱歉,这是错误的。”邮件中只是说,“播下了怀疑的种子,并导致我们社区的一些人质疑自己在谷歌的地位。”所以我认为这种做法意为“我为事情的结局感到抱歉,但我并不为我们对她所做的事感到抱歉。”

格布鲁在随后接受采访时表示,事件始于谷歌要求格布鲁撤回研究论文,或至少删除涉及的谷歌员工姓名。格布鲁拒绝了这一请求。

与此同时,她列举了公司研究人员组成的一个电子邮件小组的经历,并敦促其他人放弃正在做的一份多元化报告。“这没什么区别,”格布鲁在邮件中写道,“再多文件或对话也不可能有任何效果。”

近期这一事件不断传播发酵,激起了数千名谷歌现任和前任员工签署请愿书。他们表示,格布鲁被解雇的真正原因是,她直言不讳地批评谷歌在改善公司有色人种工作条件方面进展不大。

周二,谷歌与有色人种员工组成的Black Googler网络团体举行了一场激烈会议。而问答环节的屏幕截图显示,与会者对谷歌的信任和对公司人工智能工作的支持产生了质疑。

虽然迪安和直接解雇格布鲁的副总裁梅根·卡奇立雅(Megan Kacholia)都在会上发表了讲话,但他们没有回答与会者的问题。据一位知情人士说,他们离开后,有一个单独的主持人现场问答环节,这激怒了一些员工,其中许多人还谈到了辞职。其他员工称谷歌举行的这次会议“充耳不闻”,并质疑公司试图继续“掩盖错误行为”。

“我们总说,我们致力于做正确的事情,”一位在会议期间提问的谷歌黑人员工写道。“正确的做法是承认发生在格布鲁身上的事情是不对的。我还没有看到任何一位高管承认这一点。否则,作为一名黑人女性,我很难相信谷歌。”

一位提问者说,这次会议像是一种隐形施虐,并质疑与会者到底能从中得到什么。另一名提问者说,“在格布鲁受到无礼对待之后,为什么我作为一名人工智能领域的谷歌黑人员工还要支持谷歌在人工智能公平方面所做的努力?请管理层给出一个理由。”(辰辰)

背景介绍:

谷歌AI伦理专家论文被撤发牢骚 遭公司解雇

当地时间周四,谷歌人工智能伦理团队负责人之一蒂姆尼特·格布鲁(Timnit Gebru)表示,自己被谷歌解雇,而原因是自己发送的一封电子邮件让公司管理层认为其举动“与公司对谷歌经理的期望不一致”。

这封电子邮件是对谷歌要求格布鲁撤回自己与其他6人合著的人工智能伦理学论文提出不同意见。论文合著者中还有4名谷歌员工。格布鲁周四接受采访时表示,如果自己不想撤回这篇已经提交给明年行业会议审议的论文,谷歌要求至少要删掉谷歌员工的名字。

格布鲁向谷歌研究部门副总裁梅根·卡奇利亚(Megan Kacholia)寻求解释,并告诉后者,如果对这篇论文的处理方式没有更多讨论,她计划在一段过渡期后辞职。她还想就团队未来可能进行的类似研究项目讨个明确说法。

她说:“我们就是人工智能伦理团队,当然会写关于人工智能的问题。”

与此同时,格布鲁还参与了一个名为Google Brain Women and Allies的电子邮件交流小组,评论其他人正在撰写的一份报告,报告内容是疫情期间,谷歌雇佣的女性少之又少。格布鲁坦言,以自己的经验判断这种报告不会有效果,因为在谷歌没有人会被追究责任。她提到了自己在提交人工智能论文方面的经验,并将其与报告链接起来。

格布鲁在邮件中写道:“不要再写这种报告了,没什么用。”“这种内容不可能有任何效果。”

第二天格布鲁说自己被解雇了,相关邮件来自谷歌人工智能部门负责人杰夫·迪恩(Jeff Dean),称谷歌无法满足她的要求,因此尊重她离开谷歌的决定。根据格布鲁发布的推文,邮件还说,“你昨晚发给非管理人员的邮件某些内容与一个谷歌经理并不相称。”

“这是彻底的沉默,”格布鲁谈到谷歌对她论文采取的行动时说。“你甚至不能发出科学的声音。”

谷歌代表没有回复记者的多次置评请求。

格布鲁的研究论文涉及处理大型语言模型可能存在的伦理问题,OpenAI、谷歌和其他研究人员都正在这一领域进行研究。格布鲁说,她不知道谷歌为什么会担心这篇论文。她说,这篇论文事实上已经得到了主管的批准,并提交给了谷歌其他员工征求意见。

格布鲁说,谷歌要求其研究人员发表的所有论文都必须事先获得批准。公司告诉她,这篇论文没有遵循适当程序。

这篇论文指出了使用大型语言模型来训练算法的危险性。论文称,这些模型基本上是通过分析来自互联网的语言进行训练的,但这些语言并不能反映全球不能上网的大部分人的表达方式。格布鲁强调风险是这些模型只会反映那些有幸成为训练数据的一部分人的世界观。

作为斯坦福人工智能实验室的合作方,格布鲁也是人工智能道德应用领域的主要倡导者之一。她因2018年一项具有里程碑意义的研究而闻名,该研究显示,面部识别软件对黑皮肤女性的识别错误率高达35%,而对白人男性的识别则近乎精确。

她还直言不讳地批评包括谷歌在内的科技公司缺乏多样性,以及在待遇方面对黑人员工不公平。格布鲁说,自己被解雇是在向谷歌其他员工传递一个信息,让他们不要说话。

格布鲁周三晚上公布了被解雇的消息后,得到谷歌一些同事和其他同行的支持。

一年前,谷歌以违反数据安全政策为由解雇了4名员工。格布鲁当时公开支持那些失去工作的人。而对谷歌来说,格布鲁被解雇的当口正值公司面临美国国家劳资关系委员会(NLRB)投诉谷歌对员工进行非法监视、讯问或停职。

格布鲁是公司内部少有的公开批评声音。她讲述同事和主管如何试图控制她的话语,为骚扰或种族主义行为找借口,或者无视她的担忧。

当谷歌考虑让格布鲁管理另一名员工时,就告知她在多样性问题上的直言不讳对其不利。有人担心,如果她这么不开心,她是否还能管理其他人。“人们不知道这些问题存在的程度,因为你不能谈论它们,而一旦你谈论了,你就成了问题,”格布鲁当时说。(辰辰)

免责声明:本网站部分内容来源于互联网或用户投稿,文章观点为原作者独立发表,不代表澈逆凡博客立场,不对其真实性、准确性负责!如文章内容、图片等侵犯了您的权益,本站也会在第一时间予以删除!