供应链金融解决方案
生意场 > 高端访谈 > 专访谷歌AI主管:我反对谷歌涉足自动化武器研发

专访谷歌AI主管:我反对谷歌涉足自动化武器研发

生意场 2018-05-10 16:46:01 来源:腾讯科技

2018年5月8日,谷歌人工智能主管杰夫·迪恩(Jeff Dean)与AI社区成员进行交流,并在I/O开发者大会上发表演讲

 

腾讯科技讯 5月10日消息,据外媒报道,大约一个月前,有报道称苹果公司挖走了谷歌人工智能(AI)主管约翰·吉安德拉(John Giannandrea),但他很快被Google Brain研究部门负责人杰夫·迪恩(Jeff Dean)取代。

在AI继续被集成到谷歌所有产品和服务的过程中,这位资深谷歌人接任了AI主管职位,而且AI已经在谷歌形成独立部门。Google Researc最近甚至更名为Google AI。

在最近举行的开发者大会上,谷歌推出了很多新的功能和更新,包括为移动应用程序开发人员推出的ML Kit,计划发布第三代张量处理单元(TPU)芯片,Google Assistant中的AI甚至可以代表你打电话。迪恩日前接受采访,分享了他的未来远景。

在不久的将来,迪恩看到AI创造新产品的机会,并可找到人类从未考虑过的问题的解决方案。他还看到来自AutoML的挑战,这个AI模型可以构建其他AI模型,同时他认为谷歌不应该加入自动化武器研发行列。

通用智能AI崛起

在当今世界上,大部分AI只能被用于单一的、狭窄的用例中,就像将一个句子从一种语言翻译为另一种语言,但是迪恩希望谷歌创造更多的AI模型,它们可以执行多个任务,实现一种“对世界的常识推理。”

迪恩表示:“我认为将来你会看到能做很多事情的AI模型,并在此基础上积累起更多经验。这样,当我们想要训练AI模型来做其他事情时,它就可以在已有技能和专业知识基础上进行设置。”

举例来说,如果一个机器人被要求捡起什么东西,它需要首先理解一些东西,比如手是如何工作的,重力原理,以及其它对这个世界的理解。迪恩称:“我认为这将是未来几年你会看到的一个重要趋势。”

AutoML偏见和不透明挑战

询问不同的人,谷歌AutoML要么令人兴奋,要么令人感到恐惧。机器训练机器肯定会吓到AI的反对者。但Google Cloud首席科学家李飞飞(Fei-Fei Li)表示,AutoML降低了为所有人开发定制AI模型的门槛,无论对于高端开发人员还是东京的拉面店老板,都是如此。

迪恩认为,这令人非常兴奋,因为它可帮助谷歌“自动解决问题”,但是AutoML的使用也带来了一些独特的问题。

他说:“与传统的手工编码软件相比,我们使用的学习系统更多,所以我认为这给我们带来了很多挑战。其中之一是,如果你从数据中学习,而数据中已经存在有偏见的决定,那么机器学习模型就会使这些偏见延续下去。有鉴于此,我们与机器学习社区正在做很多工作,以便弄清楚我们怎样才能训练出没有偏见的机器学习模型。”

另一个挑战是:如何利用AutoML设计出更注重安全的系统,为医疗等行业开发专用AI。几十年计算机科学的最佳实践已经为手工编码建立了这样的系统,现在也需要为制造机器的机器建立同样安全的系统。

迪恩指出:“我认为这是一个非常有趣和重要的应用方向,特别是当我们开始在更注重安全的系统中使用机器学习的时候,比如那些正在决定你的医疗保健或自动驾驶汽车的东西。”

注重安全AI需要更透明

伴随着Google Assistant将很快可代表你接打电话,以及Android P测试版的发布,谷歌首席执行官桑德尔·皮查伊(Sundar Pichai)谈到谷歌如何将AI应用到医疗保健领域,以根据电子健康记录信息来预测患者是否需要重新入院。

谷歌研究人员在《数字医学的本质》(Nature of Digital Medicine)上发表了一篇文章,解释了其AI为何会对病人做出某些决定,以便医生能在医疗记录中看到其推荐治疗方案的理由。

将来,迪恩希望,那些想知道AI为何做出某个具体决定的开发人员或医生,能够通过简单地询问AI模型就能得到响应。他说,如今谷歌产品中部署的AI经历了内部审查过程。谷歌目前正在制定一套指导方针,以评估AI模型是否存在偏见。

迪恩称:“在本质上,就像对产品的新特性进行安全审查或隐私审查一样,你想要的是对机器学习进行公平审查,这是将机器学习融入我们产品的一部分。”

迪恩表示,当涉及到由开发人员通过诸如ML Kit或TensorFlow(已被下载超过1300万次)等工具部署AI时,人类也应该成为决策过程的一部分。

不该涉足AI武器化

迪恩说,他认为谷歌不应该涉足自动化武器研发领域。今年3月份,有报道称谷歌正在与美国国防部合作,帮助改进无人机收集的视频的分析能力。

迪恩解释称:“我认为,随着社会开始发展更强大的技术,机器学习和AI会出现许多有趣的伦理问题。大约在6个月或9个月前,我个人已经签署了一封公开信,承诺反对机器学习用于自动化武器。我认为很明显,大多数人都对使用自主武器系统感到不安。”

《纽约时报》曾报道称,数千名谷歌员工曾签署公开信,敦促谷歌远离“战争技术”,这可能会对谷歌品牌造成不可弥补的损害,并对公司和公众之间的信任关系产生影响。迪恩没有说明他是否签署了《纽约时报》报道中的那封信。

AI驱动新项目和产品

皮查伊还强调了先前发布的一项关于AI的研究,在研究中,AI就像训练有素的眼科医生那样,准确地发现了糖尿病视网膜病变。这种智力水平的AI模型不再局限于模拟人类活动,它们正在帮助谷歌发现新的产品和服务。

迪恩说:“通过使用大量数据对这些模型进行训练,我们实际上可以让系统做些我们不知道自己是否能做到的事情,这是个根本性进步。我们目前正在研发AI能够验证的全新测试和产品,而不是用AI来做我们想要它们去做的事情。” (编译/金鹿)

1
+1
1
+1
相关报道
文章关键字: 谷歌
版权与免责声明
1、凡本网注明"来源:生意场"的所有作品,版权均属于生意场所有,任何媒体、网站或个人在转载使用时请注明"来源:生意场"。
2、凡本网注明"来源:XXX(非本网站)"的作品,均转载自其他媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。
3、本网刊载之所有信息,仅供投资者参考,并不构成投资建议,投资者据此操作,风险自担。
4、如本网刊载之信息涉及版权等问题,敬请通知我们,我们将在第一时间予以更改或删除。
 

关注生意场微信公众号