我的位置: 城事 > 创新之城 > 文章详情
IBM、亚马逊限制人脸识别,中国企业和专家怎么看?
分享至:
 (32)
 (4)
 收藏
来源:上观新闻 作者:俞陶然 2020-07-07 19:50
摘要:任何一种技术的好坏都应放在具体的场景里讨论。

前不久,IBM首席执行官阿里德·克里希纳表示,将不会继续研发并向客户提供人脸识别分析软件。另一家美国大企业亚马逊则宣布,将暂停警方使用人脸识别技术一年,同时也为自己留了退路:“如有需要,我们将随时准备提供帮助。”

对于人脸识别等人工智能技术,中国知名企业和专家怎么看?我们是否要在技术研发、产品开发及其应用上加以限制?解放日报·上观新闻记者采访了旷视科技首席运营官、旷视AI治理研究院院长徐云程和中国科学院自动化研究所研究员、科技部新一代人工智能治理委员会委员曾毅。

技术好坏应放在场景里讨论

本周五下午1时,2020世界人工智能大会治理论坛将在线播出。在科技部战略规划司和上海市科委的指导下,治理论坛将以“发展负责任的人工智能”为主题,探讨“技术+制度”双轮驱动的治理综合解决方案,探寻人工智能治理新模式。本届治理论坛上,以各种形式演讲和分享的嘉宾有30位,其中国际嘉宾近20位,包括:图灵奖获得者约翰·霍普克罗夫特、联合国人工智能和机器人中心主任伊莱克利·伯利兹、中国科学院院士何积丰、旷视科技联合创始人兼首席执行官印奇等大咖。

在各种人工智能技术应用中,人脸识别受到的争议比较大。徐云程认为,任何一种技术的好坏都应放在具体的场景里讨论。在一些场景里,人脸识别是很有用的,可以得到公众的广泛认同。比如在寻找走失的儿童和老人场景里,这种技术应用有非常强的优越性,其效率明显高于其他技术和方法。

而在有些场景里,采用人脸识别技术则需审慎。比如旷视AI治理研究院评选出的“2019全球十大AI治理事件”中,“中国人脸识别第一案”榜上有名:去年10月,浙江理工大学副教授、法学博士郭兵收到了杭州野生动物世界发来的短信,说年卡用户需要“刷脸”才能入园。郭兵不愿接受被采集人脸信息,要求退卡遭拒,于是将杭州野生动物世界告上法庭,要求全额退款。11月1日,杭州富阳法院受理该案。消费者起诉商家涉及人脸识别的民事诉讼,在我国很可能是第一起。

徐云程还指出,包括人脸识别在内的所有人工智能技术都要有它的应用界限,这条界限在技术研发和产品开发时应成为前置的考量因素。“在人工智能领域,我们不能先发展后治理,而是应边发展边治理。”

本着这一理念,旷视科技已成为国内AI企业中探索人工智能治理的先行者。去年7月,这家企业发布了《人工智能应用准则》,将正当性、人的监督、技术可靠性和安全性、公平和多样性、责任可追溯、数据隐私保护等6个维度作为本公司人工智能治理的依据,并呼吁同行和合作伙伴重视这方面工作。今年1月,旷视成立AI治理研究院,开始就全球人工智能治理的共性问题与社会各界广泛沟通。

企业开发产品要主动讨论伦理

在曾毅研究员看来,我国无论是企业还是政府,近年来在人工智能治理方面都积极作为。作为科技部新一代人工智能治理委员会委员,他参与撰写了《新一代人工智能治理原则——发展负责任的人工智能》。这份去年6月发布的文件制定了中国人工智能治理的框架和行动指南,提出和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等8条原则。

“一些西方媒体夸大了中西方在人工智能治理和伦理上的差异,其实,尊重隐私、公平公正等原则在中西方国家是共通的。”曾毅说,“儒家文化主张‘和而不同’,各个国家和地区有不同的文化,我们需要通过坦诚交流谋求共识。”

据介绍,联合国教科文组织正在推动《全球人工智能伦理建议》制订工作。起草伦理建议的专家由193个会员国推荐,从中再遴选出24位专家,组成起草伦理建议的专家组。曾毅是全球24位专家之一,今年参与完成了《全球人工智能伦理建议草案》。这份草案的中英文版已经在联合国教科文组织官网上发布,处于征求意见阶段。根据计划,今年年底或明年年初举行的联合国教科文组织大会上,193个会员国将共同签署《全球人工智能伦理建议》同意书,用于规范人工智能技术在教育、科学、文化等各个领域的研发和应用。

曾毅认为,人工智能敏捷治理体现了我国的一个制度优势。近年来,国内发生过一些与人工智能相关、引发社会争议的事件,中央和地方相关部门通过与涉事单位充分沟通,及时了解事件经过、妥善应对事件的影响,充分照顾到公众对于事件的关切,也对技术未来的应用进行了全面探讨。这种敏捷治理的效率和效果,是显而易见的。

人工智能治理是个社会参与度很高的话题,政、产、学、研等各个方面都在参与进来。其中,企业的作用不可或缺。以旷视为例,徐云程介绍说,公司正在将《人工智能应用准则》应用于研发、产品、销售、培训等4个领域。虽然在推行中,一些员工有不同意见,认为把伦理讨论引入产品开发为时尚早,然而经过一年磨合,大家发现,把AI治理这个成本放在事前讨论,比放在事后补救更有成效。渐渐地,员工愿意积极地接纳治理理念,为今后企业进一步推进工作开了个好头。“AI治理需要理性的关注、深度的研究、建设性的讨论、坚持不懈的行动。”徐云程说,“企业的AI治理,行胜于言。”

栏目主编:黄海华 文字编辑:俞陶然
评论(4)
我也说两句
×
发表
最新评论
快来抢沙发吧~ 加载更多… 已显示全部内容
上海辟谣平台
上海2021年第46届世界技能大赛
上海市政府服务企业官方平台
上海对口援疆20年
上海品牌之都建设推广服务平台
举报中心
网上有害信息举报专区
关注我们
客户端下载