谷歌为美国防部提供 AI 技术支持引争议,到底与开发武器相关吗?

计算
谷歌为美国防部提供 AI 技术支持引争议,到底与开发武器相关吗?
麻省理工科技评论 2018年3月11日

2018年3月11日

谷歌近日与美国国防部展开合作,为其“Maven”项目(Project Maven)提供 AI 技术支持,不过这一决定在公司内部引起了不小的争议。
人工智能
谷歌近日与美国国防部展开合作,为其“Maven”项目(Project Maven)提供 AI 技术支持,不过这一决定在公司内部引起了不小的争议。

谷歌近日与美国国防部展开合作,为其“Maven”项目(Project Maven)提供 AI 技术支持,不过这一决定在公司内部引起了不小的争议。

据华尔街日报报道,国防部 2017 年就在 AI 领域投入了 74 亿美元,Project Maven 就是其中的大动作之一。Maven 于 2017 年 4 月建立,其对外宣称的目标是“实现大数据和机器学习技术与国防部的整合”。整个项目由国防部情报次长 Joseph Kernan 监督,John Shanahan 中将负责管理。Shanahan 表示该项目将让“人工智能的火焰”全面覆盖国防部。

Maven 团队接受的第一项任务就是提升分析无人机摄录影像的效率,而考虑引进人工智能的首要原因是军方每天由无人机获取的影像资料太多,单靠人力无法对如此大的数据量进行及时处理与分析。美国国防部此前集中资源开发能让无人机快速收集信息的新型传感器,而现在却碰到了信息太多无法有效分析的难题。再加上美国防部给 Maven 团队设立了很严苛的时间表——整个项目要在成立起六个月内正常运转并实现技术的实际应用——这也促使 Maven 向科技界及学界抛出橄榄枝。

为了加快进度,美国防部同时成立了名为 Defense Information Unit Experimental 的科技孵化器项目,以及一个由各界 AI 专家组成的咨询小组(Defense Innovation Board),从而促进国防部与硅谷的密切联系。该小组的领头人是前谷歌母公司,Alphabet 的执行总裁 Eric Schmidt。在去年七月的一次会议中,该小组讨论了建立一个专门用于训练军用数据的清算中心(clearinghouse)。会议记录显示,“咨询小组的成员大多能提供快速、准确且富有实践意义的意见。”

据谷歌的一位发言人表示,谷歌在此次与国防部的合作中主要提供的是能通过机器学习让军方分析员准确识别影像中物体的 TensorFlow API。但是很多员工却对这次公司与军方合作、为监控及攻击型武器提供技术支持表达不满,他们认为这触犯了有关机器学习的科技伦理。前文提到的前 Alphabet 总裁 Eric Schmidt 去年也在一次五角大楼会议中表示:“科技圈普遍对军工联合开发武器,最终造成无辜人员伤亡这一现状怀有顾虑。”尽管谷歌发言人称此次合作不涉及攻击性武器的应用,而且“公司正在积极制定相关政策和保证措施”,不过这一事件还是触动了很多员工的神经。

谷歌也通过官方声明表示,“我们和政府部门有多年的合作经历,此次和国防部的合作仅仅是提供能提高从未分类数据中识别物体能力的开源 TensorFlow API,而与无人机打击无关。”

另一方面,Project Maven 也是美国在 AI 军备竞赛中仰仗的重要角色。海军陆战队上校 Drew Cukor 表示,军队中人与电脑的共生关系能大大提高武器的使用效率。“政府与外界在 AI 方面的合作还没有任何暗箱操作,我们在这方面需要商界和科技界的公开帮助,”他说。与其他国防部的项目一样,国防部并不会向外界透露有关 Project Maven 的合同细节,其发言人也在此前的采访中拒绝透露谷歌是否是 Maven 目前唯一的合作伙伴。

麻省理工科技评论

From Tech to Deeptech