分享到:

AI或可定义未来,却让谷歌陷入管理困境

发布日期:2021-01-27 17:14
摘要:Alphabet首席执行官皮查伊大举押注AI,认为这项技术对于该公司未来的举足轻重,投资数十亿美元将AI嵌入整个集团的不同部门。现在,这成为他最棘手的管理挑战之一。


图为2019年的Alphabet首席执行官皮查伊。他表示,人工智能既有巨大的前景,也有潜在的负面后果。

 | Rob Copeland /  Parmy Olson

OR--商业新媒体

Alphabet Inc. (GOOG)首席执行官皮查伊(Sundar Pichai)大举押注人工智能(AI),认为这项技术对于该公司的未来举足轻重,投资数十亿美元将AI嵌入整个集团的不同部门。现在,这成为他最棘手的管理挑战之一。

过去18个月,身为谷歌(Google)母公司的Alphabet经历了一个又一个涉及该领域顶级研究人员和高管的争议。

其中最引人注目的一起事件,是上个月谷歌与知名AI研究人员Timnit Gebru分道扬镳,后者此前提交的研究报告批评该公司在AI方面的做法,并向同事抱怨公司的多元化努力。Gebru的研究结果认为,谷歌在部署如此强大的技术上不够谨慎,并且对建造超级计算机带来的环境影响漠不关心。

皮查伊已承诺对Gebru离职的相关情况进行调查,并表示将寻求让人们恢复对该公司的信任。Gebru的上司Jeff Dean告诉员工,他认为Gebru的研究不够严谨。

此后,近2,700名谷歌员工签署了一封公开信,称Gebru的离职预示谷歌内部致力于开发合乎道德和具有公正性的AI的人面临危险,尤其是黑人和有色人种。

上周,谷歌表示,正调查该公司有道德AI部门的联合负责人Margaret Mitchell,因为她涉嫌下载并与公司以外的人分享内部文件。Mitchell曾在Twitter上批评皮查伊对多元化问题的处理,她没有回应置评请求。

Alphabet在AI方面的做法受到密切关注,因为该公司被广泛视为资助AI内外部研究以及为该技术开发新应用(包括智能音箱和虚拟助手)的行业领军企业。这个新兴领域已带来了一些复杂问题,关乎计算机算法在广泛的公共和私人生活中越来越大的影响力。

谷歌一直试图将自身定位为有道德AI的旗手。皮查伊去年在对布鲁塞尔一家智库的讲话中称,技术未必就是合乎道德的,历史上充满了这样的例子。他表示,虽然AI有望为欧洲和世界带来巨大益处,但人们确实担心潜在的负面后果。

谷歌通过收购实现了在AI领域扩张,但也增加了管理上的挑战。据知情人士透露,在此前未被报道的一项举措中,谷歌位于伦敦的AI部门DeepMind的联合创始人苏莱曼(Mustafa Suleyman)在2019年底被剥夺了大部分管理职责,因为有人投诉他欺凌员工。

谷歌2014年收购的DeepMind聘请了一家外部律师事务所对这些投诉进行独立调查。2019年末,苏莱曼被调任谷歌AI团队中的另一个管理职位。

DeepMind和谷歌在一份联合声明中证实了对苏莱曼的行为展开调查,并未透露调查结果。声明称,作为调查的结果,苏莱曼“进行了专业发展培训,以应对那些令人担忧的领域,引发担忧的情况仍在继续,而苏莱曼目前没在管理大型团队。” 这两家公司表示,苏莱曼目前担任谷歌人工智能政策部副总裁,在这一职位上,“他在人工智能政策和监管方面做出了有价值的贡献。”

苏莱曼在回复《华尔街日报》(The Wall Street Journal)的问题时表示,他“收到了一些反馈,即作为DeepMind的联合创始人,他把员工逼得太紧,有时他的管理风格不具有建设性。”他补充道:“我向那些受到影响的人公开道歉。”

据现任和前任员工透露,苏莱曼被谷歌任命了一个高层职务,这让DeepMind的一些员工感到困扰,Dean发推欢迎苏莱曼在谷歌担任新职务也引发了同样的困扰。

Dean在推文中写道:“我期待与你进行更紧密的合作。”

谷歌搜索是把人工智能运用在对现有公共信息进行重新组织和重新展示,与谷歌搜索不同,DeepMind主要专注于健康领域的问题,比如解析大量的患者数据,以找出治疗疾病的新方法。

DeepMind一直难以实现财务预期。根据上个月在英国的一份监管公告,DeepMind在2019年亏损6.49亿美元。该公告显示,谷歌免除了2019年对DeepMind的超过10亿美元贷款。

谷歌曾在不同时期试图对其人工智能项目构建更广泛的监督体系,但成效不一。

一个对DeepMind进行独立评估的委员会原本意欲审视该部门并编写一份公开发表的年度报告,但在董事会成员因认定获取的DeepMind研究和战略计划残缺不全而感到恼火后,该委员会于2018年底解散。

几个月后,在谷歌员工请愿且发生其他关于右派董事会成员问题的抗议活动之后,谷歌宣布解散人工智能外部道德委员会,此时距离创立该委员会才过去了一周时间。谷歌一位发言人当时表示,该公司将找到不同的方式来获取外界对这些议题的意见。

谷歌在人工智能领域的耕耘至少可追溯到10年前,而从2017年以来,人工智能一直是Dean领导下的一个独立部门。皮查伊当年宣布相关新架构时称,人工智能将成为谷歌战略和运营的核心,高级计算技术(又名机器学习技术)将贯穿整个谷歌。

华盛顿大学(University of Washington)计算机科学教授多明戈斯(Pedro Domingos)称,谷歌深知与人工智能有关的许多隐患。据多明戈斯回忆,几年前Alphabet董事会主席亨尼斯(John Hennessy)在一次交谈中表达了他最大的担忧,当时这家搜索巨头加大了布局人工智能领域的力度。

多明戈斯称,亨尼斯告诉他,不管人工智能方面出现任何闪失──即使是出现在其他公司──谷歌都会遭到抨击。

多明戈斯称,亨尼斯当时表示,“如果我们有一点行差踏错,那么一切就全完了”。亨尼斯称自己记不起那次交谈的细节,但他称,多明戈斯的回忆可能是对的。

较早的失误发生在2015年,当时多名谷歌的黑人用户惊讶地发现,该公司旗下免费摄影软件中的AI技术根据肤色自动给他们的人像照片相册之一打上了 “大猩猩” 的标签。

谷歌道了歉并修复了上述问题,还公开郑重承诺,要建立内部保障措施,以确保其软件的编写符合道德规范。

此项努力包括聘用研究人员,比如该公司有道德AI部门的前联合主管Gebru。她一直直言不讳地指出人脸识别软件在识别肤色较深人士方面的局限性。

她曾与其他数以百计的员工一道开展AI相关研究,有时是与学术机构合作。不同于谷歌的其他工程师,该AI团队在功能上更像是一个学术部门——负责探讨更宏大的议题,而不是排除产品的故障。

路透(Reuters)后来报道称,Gebru离职前,谷歌已经启动了一项对敏感话题的评估,并在至少三个案例中要求员工不要从负面角度评价谷歌的技术。谷歌对此不予置评。

Gebru和Dean未回应置评请求。

谷歌已表示,其在AI方面取得的进步帮助带来了更快、更准确的搜索结果,还让广告更有针对性。

多明戈斯说,谷歌的大多数与AI有关的问题都源于该公司管理员工的方法,并表示,有关道德的辩论应该由科学而非意识形态来引领。

多明戈斯称:“谷歌太宠溺员工了。”他说,谷歌的员工备受宠溺,因此他们觉得自己有权就该公司如何处理AI和相关问题提出越来越多的要求。

Gebru的离职凸显了谷歌领导层面临的这种挑战,双方甚至无法就Gebru离职的一个细节达成一致:谷歌说是Gebru辞职的,Gebru则表示她是在休假期间被解雇的。■


(注:本文仅代表作者个人观点。责编邮箱    info@or123.net)



摘要:Alphabet首席执行官皮查伊大举押注AI,认为这项技术对于该公司未来的举足轻重,投资数十亿美元将AI嵌入整个集团的不同部门。现在,这成为他最棘手的管理挑战之一。


图为2019年的Alphabet首席执行官皮查伊。他表示,人工智能既有巨大的前景,也有潜在的负面后果。

 | Rob Copeland /  Parmy Olson

OR--商业新媒体

Alphabet Inc. (GOOG)首席执行官皮查伊(Sundar Pichai)大举押注人工智能(AI),认为这项技术对于该公司的未来举足轻重,投资数十亿美元将AI嵌入整个集团的不同部门。现在,这成为他最棘手的管理挑战之一。

过去18个月,身为谷歌(Google)母公司的Alphabet经历了一个又一个涉及该领域顶级研究人员和高管的争议。

其中最引人注目的一起事件,是上个月谷歌与知名AI研究人员Timnit Gebru分道扬镳,后者此前提交的研究报告批评该公司在AI方面的做法,并向同事抱怨公司的多元化努力。Gebru的研究结果认为,谷歌在部署如此强大的技术上不够谨慎,并且对建造超级计算机带来的环境影响漠不关心。

皮查伊已承诺对Gebru离职的相关情况进行调查,并表示将寻求让人们恢复对该公司的信任。Gebru的上司Jeff Dean告诉员工,他认为Gebru的研究不够严谨。

此后,近2,700名谷歌员工签署了一封公开信,称Gebru的离职预示谷歌内部致力于开发合乎道德和具有公正性的AI的人面临危险,尤其是黑人和有色人种。

上周,谷歌表示,正调查该公司有道德AI部门的联合负责人Margaret Mitchell,因为她涉嫌下载并与公司以外的人分享内部文件。Mitchell曾在Twitter上批评皮查伊对多元化问题的处理,她没有回应置评请求。

Alphabet在AI方面的做法受到密切关注,因为该公司被广泛视为资助AI内外部研究以及为该技术开发新应用(包括智能音箱和虚拟助手)的行业领军企业。这个新兴领域已带来了一些复杂问题,关乎计算机算法在广泛的公共和私人生活中越来越大的影响力。

谷歌一直试图将自身定位为有道德AI的旗手。皮查伊去年在对布鲁塞尔一家智库的讲话中称,技术未必就是合乎道德的,历史上充满了这样的例子。他表示,虽然AI有望为欧洲和世界带来巨大益处,但人们确实担心潜在的负面后果。

谷歌通过收购实现了在AI领域扩张,但也增加了管理上的挑战。据知情人士透露,在此前未被报道的一项举措中,谷歌位于伦敦的AI部门DeepMind的联合创始人苏莱曼(Mustafa Suleyman)在2019年底被剥夺了大部分管理职责,因为有人投诉他欺凌员工。

谷歌2014年收购的DeepMind聘请了一家外部律师事务所对这些投诉进行独立调查。2019年末,苏莱曼被调任谷歌AI团队中的另一个管理职位。

DeepMind和谷歌在一份联合声明中证实了对苏莱曼的行为展开调查,并未透露调查结果。声明称,作为调查的结果,苏莱曼“进行了专业发展培训,以应对那些令人担忧的领域,引发担忧的情况仍在继续,而苏莱曼目前没在管理大型团队。” 这两家公司表示,苏莱曼目前担任谷歌人工智能政策部副总裁,在这一职位上,“他在人工智能政策和监管方面做出了有价值的贡献。”

苏莱曼在回复《华尔街日报》(The Wall Street Journal)的问题时表示,他“收到了一些反馈,即作为DeepMind的联合创始人,他把员工逼得太紧,有时他的管理风格不具有建设性。”他补充道:“我向那些受到影响的人公开道歉。”

据现任和前任员工透露,苏莱曼被谷歌任命了一个高层职务,这让DeepMind的一些员工感到困扰,Dean发推欢迎苏莱曼在谷歌担任新职务也引发了同样的困扰。

Dean在推文中写道:“我期待与你进行更紧密的合作。”

谷歌搜索是把人工智能运用在对现有公共信息进行重新组织和重新展示,与谷歌搜索不同,DeepMind主要专注于健康领域的问题,比如解析大量的患者数据,以找出治疗疾病的新方法。

DeepMind一直难以实现财务预期。根据上个月在英国的一份监管公告,DeepMind在2019年亏损6.49亿美元。该公告显示,谷歌免除了2019年对DeepMind的超过10亿美元贷款。

谷歌曾在不同时期试图对其人工智能项目构建更广泛的监督体系,但成效不一。

一个对DeepMind进行独立评估的委员会原本意欲审视该部门并编写一份公开发表的年度报告,但在董事会成员因认定获取的DeepMind研究和战略计划残缺不全而感到恼火后,该委员会于2018年底解散。

几个月后,在谷歌员工请愿且发生其他关于右派董事会成员问题的抗议活动之后,谷歌宣布解散人工智能外部道德委员会,此时距离创立该委员会才过去了一周时间。谷歌一位发言人当时表示,该公司将找到不同的方式来获取外界对这些议题的意见。

谷歌在人工智能领域的耕耘至少可追溯到10年前,而从2017年以来,人工智能一直是Dean领导下的一个独立部门。皮查伊当年宣布相关新架构时称,人工智能将成为谷歌战略和运营的核心,高级计算技术(又名机器学习技术)将贯穿整个谷歌。

华盛顿大学(University of Washington)计算机科学教授多明戈斯(Pedro Domingos)称,谷歌深知与人工智能有关的许多隐患。据多明戈斯回忆,几年前Alphabet董事会主席亨尼斯(John Hennessy)在一次交谈中表达了他最大的担忧,当时这家搜索巨头加大了布局人工智能领域的力度。

多明戈斯称,亨尼斯告诉他,不管人工智能方面出现任何闪失──即使是出现在其他公司──谷歌都会遭到抨击。

多明戈斯称,亨尼斯当时表示,“如果我们有一点行差踏错,那么一切就全完了”。亨尼斯称自己记不起那次交谈的细节,但他称,多明戈斯的回忆可能是对的。

较早的失误发生在2015年,当时多名谷歌的黑人用户惊讶地发现,该公司旗下免费摄影软件中的AI技术根据肤色自动给他们的人像照片相册之一打上了 “大猩猩” 的标签。

谷歌道了歉并修复了上述问题,还公开郑重承诺,要建立内部保障措施,以确保其软件的编写符合道德规范。

此项努力包括聘用研究人员,比如该公司有道德AI部门的前联合主管Gebru。她一直直言不讳地指出人脸识别软件在识别肤色较深人士方面的局限性。

她曾与其他数以百计的员工一道开展AI相关研究,有时是与学术机构合作。不同于谷歌的其他工程师,该AI团队在功能上更像是一个学术部门——负责探讨更宏大的议题,而不是排除产品的故障。

路透(Reuters)后来报道称,Gebru离职前,谷歌已经启动了一项对敏感话题的评估,并在至少三个案例中要求员工不要从负面角度评价谷歌的技术。谷歌对此不予置评。

Gebru和Dean未回应置评请求。

谷歌已表示,其在AI方面取得的进步帮助带来了更快、更准确的搜索结果,还让广告更有针对性。

多明戈斯说,谷歌的大多数与AI有关的问题都源于该公司管理员工的方法,并表示,有关道德的辩论应该由科学而非意识形态来引领。

多明戈斯称:“谷歌太宠溺员工了。”他说,谷歌的员工备受宠溺,因此他们觉得自己有权就该公司如何处理AI和相关问题提出越来越多的要求。

Gebru的离职凸显了谷歌领导层面临的这种挑战,双方甚至无法就Gebru离职的一个细节达成一致:谷歌说是Gebru辞职的,Gebru则表示她是在休假期间被解雇的。■


(注:本文仅代表作者个人观点。责编邮箱    info@or123.net)




读者评论


您可能感兴趣的资讯
OR


OR 最新资讯

OR 视频

OR 特别推荐

摘要:Alphabet首席执行官皮查伊大举押注AI,认为这项技术对于该公司未来的举足轻重,投资数十亿美元将AI嵌入整个集团的不同部门。现在,这成为他最棘手的管理挑战之一。


图为2019年的Alphabet首席执行官皮查伊。他表示,人工智能既有巨大的前景,也有潜在的负面后果。

 | Rob Copeland /  Parmy Olson

OR--商业新媒体

Alphabet Inc. (GOOG)首席执行官皮查伊(Sundar Pichai)大举押注人工智能(AI),认为这项技术对于该公司的未来举足轻重,投资数十亿美元将AI嵌入整个集团的不同部门。现在,这成为他最棘手的管理挑战之一。

过去18个月,身为谷歌(Google)母公司的Alphabet经历了一个又一个涉及该领域顶级研究人员和高管的争议。

其中最引人注目的一起事件,是上个月谷歌与知名AI研究人员Timnit Gebru分道扬镳,后者此前提交的研究报告批评该公司在AI方面的做法,并向同事抱怨公司的多元化努力。Gebru的研究结果认为,谷歌在部署如此强大的技术上不够谨慎,并且对建造超级计算机带来的环境影响漠不关心。

皮查伊已承诺对Gebru离职的相关情况进行调查,并表示将寻求让人们恢复对该公司的信任。Gebru的上司Jeff Dean告诉员工,他认为Gebru的研究不够严谨。

此后,近2,700名谷歌员工签署了一封公开信,称Gebru的离职预示谷歌内部致力于开发合乎道德和具有公正性的AI的人面临危险,尤其是黑人和有色人种。

上周,谷歌表示,正调查该公司有道德AI部门的联合负责人Margaret Mitchell,因为她涉嫌下载并与公司以外的人分享内部文件。Mitchell曾在Twitter上批评皮查伊对多元化问题的处理,她没有回应置评请求。

Alphabet在AI方面的做法受到密切关注,因为该公司被广泛视为资助AI内外部研究以及为该技术开发新应用(包括智能音箱和虚拟助手)的行业领军企业。这个新兴领域已带来了一些复杂问题,关乎计算机算法在广泛的公共和私人生活中越来越大的影响力。

谷歌一直试图将自身定位为有道德AI的旗手。皮查伊去年在对布鲁塞尔一家智库的讲话中称,技术未必就是合乎道德的,历史上充满了这样的例子。他表示,虽然AI有望为欧洲和世界带来巨大益处,但人们确实担心潜在的负面后果。

谷歌通过收购实现了在AI领域扩张,但也增加了管理上的挑战。据知情人士透露,在此前未被报道的一项举措中,谷歌位于伦敦的AI部门DeepMind的联合创始人苏莱曼(Mustafa Suleyman)在2019年底被剥夺了大部分管理职责,因为有人投诉他欺凌员工。

谷歌2014年收购的DeepMind聘请了一家外部律师事务所对这些投诉进行独立调查。2019年末,苏莱曼被调任谷歌AI团队中的另一个管理职位。

DeepMind和谷歌在一份联合声明中证实了对苏莱曼的行为展开调查,并未透露调查结果。声明称,作为调查的结果,苏莱曼“进行了专业发展培训,以应对那些令人担忧的领域,引发担忧的情况仍在继续,而苏莱曼目前没在管理大型团队。” 这两家公司表示,苏莱曼目前担任谷歌人工智能政策部副总裁,在这一职位上,“他在人工智能政策和监管方面做出了有价值的贡献。”

苏莱曼在回复《华尔街日报》(The Wall Street Journal)的问题时表示,他“收到了一些反馈,即作为DeepMind的联合创始人,他把员工逼得太紧,有时他的管理风格不具有建设性。”他补充道:“我向那些受到影响的人公开道歉。”

据现任和前任员工透露,苏莱曼被谷歌任命了一个高层职务,这让DeepMind的一些员工感到困扰,Dean发推欢迎苏莱曼在谷歌担任新职务也引发了同样的困扰。

Dean在推文中写道:“我期待与你进行更紧密的合作。”

谷歌搜索是把人工智能运用在对现有公共信息进行重新组织和重新展示,与谷歌搜索不同,DeepMind主要专注于健康领域的问题,比如解析大量的患者数据,以找出治疗疾病的新方法。

DeepMind一直难以实现财务预期。根据上个月在英国的一份监管公告,DeepMind在2019年亏损6.49亿美元。该公告显示,谷歌免除了2019年对DeepMind的超过10亿美元贷款。

谷歌曾在不同时期试图对其人工智能项目构建更广泛的监督体系,但成效不一。

一个对DeepMind进行独立评估的委员会原本意欲审视该部门并编写一份公开发表的年度报告,但在董事会成员因认定获取的DeepMind研究和战略计划残缺不全而感到恼火后,该委员会于2018年底解散。

几个月后,在谷歌员工请愿且发生其他关于右派董事会成员问题的抗议活动之后,谷歌宣布解散人工智能外部道德委员会,此时距离创立该委员会才过去了一周时间。谷歌一位发言人当时表示,该公司将找到不同的方式来获取外界对这些议题的意见。

谷歌在人工智能领域的耕耘至少可追溯到10年前,而从2017年以来,人工智能一直是Dean领导下的一个独立部门。皮查伊当年宣布相关新架构时称,人工智能将成为谷歌战略和运营的核心,高级计算技术(又名机器学习技术)将贯穿整个谷歌。

华盛顿大学(University of Washington)计算机科学教授多明戈斯(Pedro Domingos)称,谷歌深知与人工智能有关的许多隐患。据多明戈斯回忆,几年前Alphabet董事会主席亨尼斯(John Hennessy)在一次交谈中表达了他最大的担忧,当时这家搜索巨头加大了布局人工智能领域的力度。

多明戈斯称,亨尼斯告诉他,不管人工智能方面出现任何闪失──即使是出现在其他公司──谷歌都会遭到抨击。

多明戈斯称,亨尼斯当时表示,“如果我们有一点行差踏错,那么一切就全完了”。亨尼斯称自己记不起那次交谈的细节,但他称,多明戈斯的回忆可能是对的。

较早的失误发生在2015年,当时多名谷歌的黑人用户惊讶地发现,该公司旗下免费摄影软件中的AI技术根据肤色自动给他们的人像照片相册之一打上了 “大猩猩” 的标签。

谷歌道了歉并修复了上述问题,还公开郑重承诺,要建立内部保障措施,以确保其软件的编写符合道德规范。

此项努力包括聘用研究人员,比如该公司有道德AI部门的前联合主管Gebru。她一直直言不讳地指出人脸识别软件在识别肤色较深人士方面的局限性。

她曾与其他数以百计的员工一道开展AI相关研究,有时是与学术机构合作。不同于谷歌的其他工程师,该AI团队在功能上更像是一个学术部门——负责探讨更宏大的议题,而不是排除产品的故障。

路透(Reuters)后来报道称,Gebru离职前,谷歌已经启动了一项对敏感话题的评估,并在至少三个案例中要求员工不要从负面角度评价谷歌的技术。谷歌对此不予置评。

Gebru和Dean未回应置评请求。

谷歌已表示,其在AI方面取得的进步帮助带来了更快、更准确的搜索结果,还让广告更有针对性。

多明戈斯说,谷歌的大多数与AI有关的问题都源于该公司管理员工的方法,并表示,有关道德的辩论应该由科学而非意识形态来引领。

多明戈斯称:“谷歌太宠溺员工了。”他说,谷歌的员工备受宠溺,因此他们觉得自己有权就该公司如何处理AI和相关问题提出越来越多的要求。

Gebru的离职凸显了谷歌领导层面临的这种挑战,双方甚至无法就Gebru离职的一个细节达成一致:谷歌说是Gebru辞职的,Gebru则表示她是在休假期间被解雇的。■


(注:本文仅代表作者个人观点。责编邮箱    info@or123.net)



分享到:

AI或可定义未来,却让谷歌陷入管理困境

发布日期:2021-01-27 17:14
摘要:Alphabet首席执行官皮查伊大举押注AI,认为这项技术对于该公司未来的举足轻重,投资数十亿美元将AI嵌入整个集团的不同部门。现在,这成为他最棘手的管理挑战之一。


图为2019年的Alphabet首席执行官皮查伊。他表示,人工智能既有巨大的前景,也有潜在的负面后果。

 | Rob Copeland /  Parmy Olson

OR--商业新媒体

Alphabet Inc. (GOOG)首席执行官皮查伊(Sundar Pichai)大举押注人工智能(AI),认为这项技术对于该公司的未来举足轻重,投资数十亿美元将AI嵌入整个集团的不同部门。现在,这成为他最棘手的管理挑战之一。

过去18个月,身为谷歌(Google)母公司的Alphabet经历了一个又一个涉及该领域顶级研究人员和高管的争议。

其中最引人注目的一起事件,是上个月谷歌与知名AI研究人员Timnit Gebru分道扬镳,后者此前提交的研究报告批评该公司在AI方面的做法,并向同事抱怨公司的多元化努力。Gebru的研究结果认为,谷歌在部署如此强大的技术上不够谨慎,并且对建造超级计算机带来的环境影响漠不关心。

皮查伊已承诺对Gebru离职的相关情况进行调查,并表示将寻求让人们恢复对该公司的信任。Gebru的上司Jeff Dean告诉员工,他认为Gebru的研究不够严谨。

此后,近2,700名谷歌员工签署了一封公开信,称Gebru的离职预示谷歌内部致力于开发合乎道德和具有公正性的AI的人面临危险,尤其是黑人和有色人种。

上周,谷歌表示,正调查该公司有道德AI部门的联合负责人Margaret Mitchell,因为她涉嫌下载并与公司以外的人分享内部文件。Mitchell曾在Twitter上批评皮查伊对多元化问题的处理,她没有回应置评请求。

Alphabet在AI方面的做法受到密切关注,因为该公司被广泛视为资助AI内外部研究以及为该技术开发新应用(包括智能音箱和虚拟助手)的行业领军企业。这个新兴领域已带来了一些复杂问题,关乎计算机算法在广泛的公共和私人生活中越来越大的影响力。

谷歌一直试图将自身定位为有道德AI的旗手。皮查伊去年在对布鲁塞尔一家智库的讲话中称,技术未必就是合乎道德的,历史上充满了这样的例子。他表示,虽然AI有望为欧洲和世界带来巨大益处,但人们确实担心潜在的负面后果。

谷歌通过收购实现了在AI领域扩张,但也增加了管理上的挑战。据知情人士透露,在此前未被报道的一项举措中,谷歌位于伦敦的AI部门DeepMind的联合创始人苏莱曼(Mustafa Suleyman)在2019年底被剥夺了大部分管理职责,因为有人投诉他欺凌员工。

谷歌2014年收购的DeepMind聘请了一家外部律师事务所对这些投诉进行独立调查。2019年末,苏莱曼被调任谷歌AI团队中的另一个管理职位。

DeepMind和谷歌在一份联合声明中证实了对苏莱曼的行为展开调查,并未透露调查结果。声明称,作为调查的结果,苏莱曼“进行了专业发展培训,以应对那些令人担忧的领域,引发担忧的情况仍在继续,而苏莱曼目前没在管理大型团队。” 这两家公司表示,苏莱曼目前担任谷歌人工智能政策部副总裁,在这一职位上,“他在人工智能政策和监管方面做出了有价值的贡献。”

苏莱曼在回复《华尔街日报》(The Wall Street Journal)的问题时表示,他“收到了一些反馈,即作为DeepMind的联合创始人,他把员工逼得太紧,有时他的管理风格不具有建设性。”他补充道:“我向那些受到影响的人公开道歉。”

据现任和前任员工透露,苏莱曼被谷歌任命了一个高层职务,这让DeepMind的一些员工感到困扰,Dean发推欢迎苏莱曼在谷歌担任新职务也引发了同样的困扰。

Dean在推文中写道:“我期待与你进行更紧密的合作。”

谷歌搜索是把人工智能运用在对现有公共信息进行重新组织和重新展示,与谷歌搜索不同,DeepMind主要专注于健康领域的问题,比如解析大量的患者数据,以找出治疗疾病的新方法。

DeepMind一直难以实现财务预期。根据上个月在英国的一份监管公告,DeepMind在2019年亏损6.49亿美元。该公告显示,谷歌免除了2019年对DeepMind的超过10亿美元贷款。

谷歌曾在不同时期试图对其人工智能项目构建更广泛的监督体系,但成效不一。

一个对DeepMind进行独立评估的委员会原本意欲审视该部门并编写一份公开发表的年度报告,但在董事会成员因认定获取的DeepMind研究和战略计划残缺不全而感到恼火后,该委员会于2018年底解散。

几个月后,在谷歌员工请愿且发生其他关于右派董事会成员问题的抗议活动之后,谷歌宣布解散人工智能外部道德委员会,此时距离创立该委员会才过去了一周时间。谷歌一位发言人当时表示,该公司将找到不同的方式来获取外界对这些议题的意见。

谷歌在人工智能领域的耕耘至少可追溯到10年前,而从2017年以来,人工智能一直是Dean领导下的一个独立部门。皮查伊当年宣布相关新架构时称,人工智能将成为谷歌战略和运营的核心,高级计算技术(又名机器学习技术)将贯穿整个谷歌。

华盛顿大学(University of Washington)计算机科学教授多明戈斯(Pedro Domingos)称,谷歌深知与人工智能有关的许多隐患。据多明戈斯回忆,几年前Alphabet董事会主席亨尼斯(John Hennessy)在一次交谈中表达了他最大的担忧,当时这家搜索巨头加大了布局人工智能领域的力度。

多明戈斯称,亨尼斯告诉他,不管人工智能方面出现任何闪失──即使是出现在其他公司──谷歌都会遭到抨击。

多明戈斯称,亨尼斯当时表示,“如果我们有一点行差踏错,那么一切就全完了”。亨尼斯称自己记不起那次交谈的细节,但他称,多明戈斯的回忆可能是对的。

较早的失误发生在2015年,当时多名谷歌的黑人用户惊讶地发现,该公司旗下免费摄影软件中的AI技术根据肤色自动给他们的人像照片相册之一打上了 “大猩猩” 的标签。

谷歌道了歉并修复了上述问题,还公开郑重承诺,要建立内部保障措施,以确保其软件的编写符合道德规范。

此项努力包括聘用研究人员,比如该公司有道德AI部门的前联合主管Gebru。她一直直言不讳地指出人脸识别软件在识别肤色较深人士方面的局限性。

她曾与其他数以百计的员工一道开展AI相关研究,有时是与学术机构合作。不同于谷歌的其他工程师,该AI团队在功能上更像是一个学术部门——负责探讨更宏大的议题,而不是排除产品的故障。

路透(Reuters)后来报道称,Gebru离职前,谷歌已经启动了一项对敏感话题的评估,并在至少三个案例中要求员工不要从负面角度评价谷歌的技术。谷歌对此不予置评。

Gebru和Dean未回应置评请求。

谷歌已表示,其在AI方面取得的进步帮助带来了更快、更准确的搜索结果,还让广告更有针对性。

多明戈斯说,谷歌的大多数与AI有关的问题都源于该公司管理员工的方法,并表示,有关道德的辩论应该由科学而非意识形态来引领。

多明戈斯称:“谷歌太宠溺员工了。”他说,谷歌的员工备受宠溺,因此他们觉得自己有权就该公司如何处理AI和相关问题提出越来越多的要求。

Gebru的离职凸显了谷歌领导层面临的这种挑战,双方甚至无法就Gebru离职的一个细节达成一致:谷歌说是Gebru辞职的,Gebru则表示她是在休假期间被解雇的。■


(注:本文仅代表作者个人观点。责编邮箱    info@or123.net)



摘要:Alphabet首席执行官皮查伊大举押注AI,认为这项技术对于该公司未来的举足轻重,投资数十亿美元将AI嵌入整个集团的不同部门。现在,这成为他最棘手的管理挑战之一。


图为2019年的Alphabet首席执行官皮查伊。他表示,人工智能既有巨大的前景,也有潜在的负面后果。

 | Rob Copeland /  Parmy Olson

OR--商业新媒体

Alphabet Inc. (GOOG)首席执行官皮查伊(Sundar Pichai)大举押注人工智能(AI),认为这项技术对于该公司的未来举足轻重,投资数十亿美元将AI嵌入整个集团的不同部门。现在,这成为他最棘手的管理挑战之一。

过去18个月,身为谷歌(Google)母公司的Alphabet经历了一个又一个涉及该领域顶级研究人员和高管的争议。

其中最引人注目的一起事件,是上个月谷歌与知名AI研究人员Timnit Gebru分道扬镳,后者此前提交的研究报告批评该公司在AI方面的做法,并向同事抱怨公司的多元化努力。Gebru的研究结果认为,谷歌在部署如此强大的技术上不够谨慎,并且对建造超级计算机带来的环境影响漠不关心。

皮查伊已承诺对Gebru离职的相关情况进行调查,并表示将寻求让人们恢复对该公司的信任。Gebru的上司Jeff Dean告诉员工,他认为Gebru的研究不够严谨。

此后,近2,700名谷歌员工签署了一封公开信,称Gebru的离职预示谷歌内部致力于开发合乎道德和具有公正性的AI的人面临危险,尤其是黑人和有色人种。

上周,谷歌表示,正调查该公司有道德AI部门的联合负责人Margaret Mitchell,因为她涉嫌下载并与公司以外的人分享内部文件。Mitchell曾在Twitter上批评皮查伊对多元化问题的处理,她没有回应置评请求。

Alphabet在AI方面的做法受到密切关注,因为该公司被广泛视为资助AI内外部研究以及为该技术开发新应用(包括智能音箱和虚拟助手)的行业领军企业。这个新兴领域已带来了一些复杂问题,关乎计算机算法在广泛的公共和私人生活中越来越大的影响力。

谷歌一直试图将自身定位为有道德AI的旗手。皮查伊去年在对布鲁塞尔一家智库的讲话中称,技术未必就是合乎道德的,历史上充满了这样的例子。他表示,虽然AI有望为欧洲和世界带来巨大益处,但人们确实担心潜在的负面后果。

谷歌通过收购实现了在AI领域扩张,但也增加了管理上的挑战。据知情人士透露,在此前未被报道的一项举措中,谷歌位于伦敦的AI部门DeepMind的联合创始人苏莱曼(Mustafa Suleyman)在2019年底被剥夺了大部分管理职责,因为有人投诉他欺凌员工。

谷歌2014年收购的DeepMind聘请了一家外部律师事务所对这些投诉进行独立调查。2019年末,苏莱曼被调任谷歌AI团队中的另一个管理职位。

DeepMind和谷歌在一份联合声明中证实了对苏莱曼的行为展开调查,并未透露调查结果。声明称,作为调查的结果,苏莱曼“进行了专业发展培训,以应对那些令人担忧的领域,引发担忧的情况仍在继续,而苏莱曼目前没在管理大型团队。” 这两家公司表示,苏莱曼目前担任谷歌人工智能政策部副总裁,在这一职位上,“他在人工智能政策和监管方面做出了有价值的贡献。”

苏莱曼在回复《华尔街日报》(The Wall Street Journal)的问题时表示,他“收到了一些反馈,即作为DeepMind的联合创始人,他把员工逼得太紧,有时他的管理风格不具有建设性。”他补充道:“我向那些受到影响的人公开道歉。”

据现任和前任员工透露,苏莱曼被谷歌任命了一个高层职务,这让DeepMind的一些员工感到困扰,Dean发推欢迎苏莱曼在谷歌担任新职务也引发了同样的困扰。

Dean在推文中写道:“我期待与你进行更紧密的合作。”

谷歌搜索是把人工智能运用在对现有公共信息进行重新组织和重新展示,与谷歌搜索不同,DeepMind主要专注于健康领域的问题,比如解析大量的患者数据,以找出治疗疾病的新方法。

DeepMind一直难以实现财务预期。根据上个月在英国的一份监管公告,DeepMind在2019年亏损6.49亿美元。该公告显示,谷歌免除了2019年对DeepMind的超过10亿美元贷款。

谷歌曾在不同时期试图对其人工智能项目构建更广泛的监督体系,但成效不一。

一个对DeepMind进行独立评估的委员会原本意欲审视该部门并编写一份公开发表的年度报告,但在董事会成员因认定获取的DeepMind研究和战略计划残缺不全而感到恼火后,该委员会于2018年底解散。

几个月后,在谷歌员工请愿且发生其他关于右派董事会成员问题的抗议活动之后,谷歌宣布解散人工智能外部道德委员会,此时距离创立该委员会才过去了一周时间。谷歌一位发言人当时表示,该公司将找到不同的方式来获取外界对这些议题的意见。

谷歌在人工智能领域的耕耘至少可追溯到10年前,而从2017年以来,人工智能一直是Dean领导下的一个独立部门。皮查伊当年宣布相关新架构时称,人工智能将成为谷歌战略和运营的核心,高级计算技术(又名机器学习技术)将贯穿整个谷歌。

华盛顿大学(University of Washington)计算机科学教授多明戈斯(Pedro Domingos)称,谷歌深知与人工智能有关的许多隐患。据多明戈斯回忆,几年前Alphabet董事会主席亨尼斯(John Hennessy)在一次交谈中表达了他最大的担忧,当时这家搜索巨头加大了布局人工智能领域的力度。

多明戈斯称,亨尼斯告诉他,不管人工智能方面出现任何闪失──即使是出现在其他公司──谷歌都会遭到抨击。

多明戈斯称,亨尼斯当时表示,“如果我们有一点行差踏错,那么一切就全完了”。亨尼斯称自己记不起那次交谈的细节,但他称,多明戈斯的回忆可能是对的。

较早的失误发生在2015年,当时多名谷歌的黑人用户惊讶地发现,该公司旗下免费摄影软件中的AI技术根据肤色自动给他们的人像照片相册之一打上了 “大猩猩” 的标签。

谷歌道了歉并修复了上述问题,还公开郑重承诺,要建立内部保障措施,以确保其软件的编写符合道德规范。

此项努力包括聘用研究人员,比如该公司有道德AI部门的前联合主管Gebru。她一直直言不讳地指出人脸识别软件在识别肤色较深人士方面的局限性。

她曾与其他数以百计的员工一道开展AI相关研究,有时是与学术机构合作。不同于谷歌的其他工程师,该AI团队在功能上更像是一个学术部门——负责探讨更宏大的议题,而不是排除产品的故障。

路透(Reuters)后来报道称,Gebru离职前,谷歌已经启动了一项对敏感话题的评估,并在至少三个案例中要求员工不要从负面角度评价谷歌的技术。谷歌对此不予置评。

Gebru和Dean未回应置评请求。

谷歌已表示,其在AI方面取得的进步帮助带来了更快、更准确的搜索结果,还让广告更有针对性。

多明戈斯说,谷歌的大多数与AI有关的问题都源于该公司管理员工的方法,并表示,有关道德的辩论应该由科学而非意识形态来引领。

多明戈斯称:“谷歌太宠溺员工了。”他说,谷歌的员工备受宠溺,因此他们觉得自己有权就该公司如何处理AI和相关问题提出越来越多的要求。

Gebru的离职凸显了谷歌领导层面临的这种挑战,双方甚至无法就Gebru离职的一个细节达成一致:谷歌说是Gebru辞职的,Gebru则表示她是在休假期间被解雇的。■


(注:本文仅代表作者个人观点。责编邮箱    info@or123.net)




读者评论


您可能感兴趣的资讯
OR


最新资讯
OR



热门排行榜
OR

热门排行榜
OR

关注我们
OR


OR | 商业新媒体


地址:中国成都市高新区天华路299号
  邮编:610041
 手机:18982085896     邮箱:info@or123.net
网址:or123.net
© The OR  2021