谷歌通过创造先进的新技术并向所有人开放,实现了自己的目标。大型企业和个人都可以使用该公司的搜索和电子邮件服务,或者利用其定位算法和广泛的受众开展广告活动。然而,谷歌在人工智能方面的进展现在似乎促使该公司重新考虑其“随心所欲”的做法。该公司已开始保留或限制其部分人工智能研究和服务,以保护公众免受滥用。
谷歌首席执行官桑德尔皮帅将“AI first”作为公司的口号,但该公司对AI power的谨慎态度有时会让竞争对手领先。在云计算市场,谷歌排名第三,仅次于亚马逊和微软。去年下半年,谷歌云计算部门宣布不提供面部识别服务,因为担心其被滥用的可能性,客户可以自行适应使用。
尽管亚马逊和微软最近呼吁对自动面部识别进行联邦监管,但两家公司多年来都提供了这项技术。亚马逊的客户包括俄勒冈州华盛顿县的警长办公室,代表们使用其算法根据面部照片数据库检查嫌疑人。
几周前,有进一步的证据表明,谷歌愿意限制自己人工智能技术的力量和商业潜力。10月底,该公司宣布了一项为名人量身定制的面部识别服务。(微软和亚马逊在2017年推出了类似的服务。除了上市时间晚,谷歌的名人探测器还对谁可以使用进行了严格的限制。
该公司云部门的战略主管特雷西弗雷(Tracy Frey)表示,媒体和娱乐公司一直在询问这项服务。然而,谷歌在审查后决定对这项技术进行一些限制,因为它符合该公司去年推出的道德原则。“我们担心如果服务范围更广,我们是否能拥有它,”弗雷说。
谷歌在思考这些问题时会寻求外界的帮助。该公司委托企业社会责任非营利组织BSR对新产品的人权进行评估。其支持者包括谷歌、麦当劳和沃尔玛。
BSR的报告警告说,名人面部识别可能会被用于入侵。例如,如果将其应用于监控摄像机,可以收集或广播有关人们行踪的实时通知。这个非营利组织建议谷歌允许个别名人退出该服务,并建议他们成为潜在客户。
谷歌采纳了这些建议。该公司表示,它已将名人名单限制在数千人以内,以最大限度地降低滥用风险。亚马逊和微软表示,他们自己的服务识别了数十万人。谷歌不会透露名单上的人,但它为任何希望从公司观察名单中删除他们的面孔的人提供了一个网络表单。亚马逊允许名人退出他们的名人识别服务,但到目前为止,还没有人这样做。
谷歌服务的潜在用户必须通过审查,确认他们是“成熟的媒体或娱乐公司或合作伙伴”,并将“仅将这项技术应用于专业制作的视频内容,如电影、电视节目和体育赛事”。
当被问及这是否意味着较小的制作人(如热门YouTube频道的运营商)将被拒之门外时,弗雷说不会,只要这些客户真的使用名人内容,他们就会像其他客户一样受到审查。她说,一些公司已经通过了谷歌的审查,正在使用这项服务,尽管她拒绝透露任何名字。