|欧洲想要“欧洲制造”的人工智能,但人工智能草案中对生物特征识别的限制让人担忧欧盟在通往未来之路上已然落后。



张冬方

【OR  商业新媒体】

上周,Facebook宣布将关闭其人脸识别系统,并删除相关用户数据。此举想必并非纯属自发自觉,而是在对人脸识别技术的争议在加剧、监管在收紧的大背景下的权衡之举。

上月初,欧洲议会通过了一项禁止在公共场所基于生物识别技术/人脸识别技术的大规模监控的决议。该决议并非法律,但是它所代表的明确立场可以影响到已进入草案阶段、正在被研究和讨论的人工智能法(Artificial Intelligence Act)。

今年4月,欧盟委员会公布了一份关于规范人工智能的草案(Proposal for a Regulation of the European parliament and of the council laying down harmonised rules on artificial intelligence(Artificial Intelligence Act) and amending certain union legislative acts)。该草案将人工智能的应用归为三个风险等级:不可接受的风险,即威胁到人的安全、生计和权利的应用,将被禁止。比如可能怂恿儿童做出危险行为的玩具上的智能语音;高风险,比如用于扫描和筛选求职者简历的软件,这类应用则需要符合一定的规范和要求,比如事前合格评定等;第三类则为小风险或无风险。

在此草案中,以人脸识别为主的生物特征识别技术是最引人注目的焦点之一。草案对远程生物识别系统中的两个应用场景做了区分:实时(real time)和事后(post),前者对于生物特征数据的捕获、对比和识别即刻发生,后者则存在滞后性。而出于执法目的在公共场所对自然人实施实时远程生物识别(包括人脸识别),因其侵犯了人的权利和自由,引发人处于监控之下的感觉,间接阻碍了享受自由集会和其他基本权利,而且,它的实时操作方式不容进一步确认或更正,从而对人的自由和权利意味着更高的风险,应当被禁止。但存在例外情况:搜寻失踪的受害者,反恐,侦查和验证严重刑事犯罪案中的罪犯或嫌疑人。而一切对自然人进行远程生物识别的人工智能系统,因其技术的不准确性,会带来有偏见的结果和引起歧视性的影响,所以一律被归为“高风险”一类。

也就是说,和欧洲议会的全面禁止态度不同,欧盟委员会虽说禁止公共场所实时人脸识别,却又给出了例外情况,这也因此被诟病为“有漏洞”和“力度不够”。

今年6月,欧盟数据保护委员会(EDPB)和欧盟数据保护监管局(EDPS)联合对欧盟委员会的人工智能草案表态,呼吁禁止一切在公共场所自动识别生物特征(包括人脸、指纹、声音等)的人工智能,认为有例外情况的禁止,会沦为一场没有实际意义的禁止。表态文件中指出,公共场所应该不仅指的是真实生活里的场景,还应该涵盖线上。比如处于争议当中的ClearView AI。文件也质疑了对于“实时”和“事后”的区分,并表示,后者同样有侵入性,时间不应当是问题的重点。确实,不能排除的情况是,事后的生物特征识别可能会汇总更多的数据,对个人隐私和个人数据保护的侵犯可能更深入。

持坚决反对态度的还有众多民间组织。今年年初,一项名为“Reclaim Your Face”的欧洲公民倡议行动启动,该行动呼吁禁止基于生物特征识别技术的大规模监控,尤其是自动人脸识别。今年6月,来自55个国家包括Access Now、European Digital Rights在内的约175个组织发表公开信,呼吁在公共场所全面禁止生物特征识别监控。有些机构虽质疑人脸识别技术,不过持相对温和的观望立场。欧洲委员会在其今年年初发布的《人脸识别准则》中,主张暂停实时人脸识别技术。

在欧盟,对人脸识别的争议焦点可以粗略地归纳为几个关键词:数据主体的不知情和非自愿,大规模监控,人脸技术带来的偏见和歧视。这些词成为数据保护机构、人脸识别质疑派和反对派最为敏感的关键词。

2017年,德国联邦刑事侦察局、联邦内政部和德国铁路在柏林一火车站进行了一次为期一年的自动人脸识别测试,并在一年后发布了该人脸识别成功率超过80%的测试结果。混沌计算机俱乐部(CCC)对这个数字表示质疑,并认为,人脸识别技术试验的目的就是让监控常态化。去年年初,因为阻力太大,德国内政部长放弃了在德国一百多个火车站和机场使用自动人脸识别技术的打算。

上个月发布的、受委托于欧洲议会绿党/欧洲自由联盟(Greens/EFA)的研究报告《欧盟成员国的生物特征&行为识别大规模监控》表明,公共场所远程生物识别在欧盟境内的使用大多处于试验性质,且为短期,并通常因为合法性问题得到中断,如布鲁塞尔国际机场的实时人脸识别试验项目,里斯在狂欢节期间的实时人脸识别等。报告指出,在涉及到如何处理进入公共监控空间的不经数据主体同意的个人数据问题上,比较含糊。在2019年的伦敦公共场所人脸识别测试期间,曾出现了有人因为遮挡脸部从而被罚款的情况。报告认为,用于执法目的的身份甄别,和生物特征大规模监控的边界是模糊的,功能潜变(Function creep)的发生则是容易的。如何在保障公民的自由,以及人脸识别应用的透明和可靠性,是个挑战。

未知和不确定,质疑和谨慎发生在一个相对“蛮荒”的领域,不足为奇。但人脸识别在欧盟并非完全出于监管真空之下。人脸识别技术的使用涉及到个人数据的收集和处理,所以它其实适用于《通用数据保护条例》(GDPR),该条例对“生物特征数据”给出了明确的定义,并指出“人脸图像”属于生物特征数据。如果对个人数据的收集和处理用于执法用途,则适用于《执法指令》(LED),执法部门只有在严格必要的情况下才能处理生物特征数据。同时,因为人脸图像等生物特征数据为敏感数据,属于隐私,还会牵扯到《欧洲人权公约》(ECHR)、《欧盟基本权利宪章》(the Charter)和108公约+(convetion108+)。另外,来自欧洲人权法院、欧盟法院等的判例也会产生影响。

而今,人工智能法草案出炉,监管其实并不是它唯一的初衷。在中美数字领域的强劲发展势头下,欧洲想要“欧洲制造”的人工智能:“AI made in Europe”。伴随着草案的面世,人工智能拥护派在担忧:欧盟会成为世界上第一个出台限制人工智能技术的大经济区,而该技术在决定着未来,欧盟在通往未来之路上却已然落后。

这个顶着“AI领域里的GDPR”名号的人工智能法草案最终会被打磨成什么样子,将会是一个庞杂的、各方角力的过程。■


(注:本文仅代表作者个人观点。责编邮箱    info@or123.net)



分享到:

欧盟如何考量对人脸识别的监管?

发布日期:2021-11-10 10:42
|欧洲想要“欧洲制造”的人工智能,但人工智能草案中对生物特征识别的限制让人担忧欧盟在通往未来之路上已然落后。



张冬方

【OR  商业新媒体】

上周,Facebook宣布将关闭其人脸识别系统,并删除相关用户数据。此举想必并非纯属自发自觉,而是在对人脸识别技术的争议在加剧、监管在收紧的大背景下的权衡之举。

上月初,欧洲议会通过了一项禁止在公共场所基于生物识别技术/人脸识别技术的大规模监控的决议。该决议并非法律,但是它所代表的明确立场可以影响到已进入草案阶段、正在被研究和讨论的人工智能法(Artificial Intelligence Act)。

今年4月,欧盟委员会公布了一份关于规范人工智能的草案(Proposal for a Regulation of the European parliament and of the council laying down harmonised rules on artificial intelligence(Artificial Intelligence Act) and amending certain union legislative acts)。该草案将人工智能的应用归为三个风险等级:不可接受的风险,即威胁到人的安全、生计和权利的应用,将被禁止。比如可能怂恿儿童做出危险行为的玩具上的智能语音;高风险,比如用于扫描和筛选求职者简历的软件,这类应用则需要符合一定的规范和要求,比如事前合格评定等;第三类则为小风险或无风险。

在此草案中,以人脸识别为主的生物特征识别技术是最引人注目的焦点之一。草案对远程生物识别系统中的两个应用场景做了区分:实时(real time)和事后(post),前者对于生物特征数据的捕获、对比和识别即刻发生,后者则存在滞后性。而出于执法目的在公共场所对自然人实施实时远程生物识别(包括人脸识别),因其侵犯了人的权利和自由,引发人处于监控之下的感觉,间接阻碍了享受自由集会和其他基本权利,而且,它的实时操作方式不容进一步确认或更正,从而对人的自由和权利意味着更高的风险,应当被禁止。但存在例外情况:搜寻失踪的受害者,反恐,侦查和验证严重刑事犯罪案中的罪犯或嫌疑人。而一切对自然人进行远程生物识别的人工智能系统,因其技术的不准确性,会带来有偏见的结果和引起歧视性的影响,所以一律被归为“高风险”一类。

也就是说,和欧洲议会的全面禁止态度不同,欧盟委员会虽说禁止公共场所实时人脸识别,却又给出了例外情况,这也因此被诟病为“有漏洞”和“力度不够”。

今年6月,欧盟数据保护委员会(EDPB)和欧盟数据保护监管局(EDPS)联合对欧盟委员会的人工智能草案表态,呼吁禁止一切在公共场所自动识别生物特征(包括人脸、指纹、声音等)的人工智能,认为有例外情况的禁止,会沦为一场没有实际意义的禁止。表态文件中指出,公共场所应该不仅指的是真实生活里的场景,还应该涵盖线上。比如处于争议当中的ClearView AI。文件也质疑了对于“实时”和“事后”的区分,并表示,后者同样有侵入性,时间不应当是问题的重点。确实,不能排除的情况是,事后的生物特征识别可能会汇总更多的数据,对个人隐私和个人数据保护的侵犯可能更深入。

持坚决反对态度的还有众多民间组织。今年年初,一项名为“Reclaim Your Face”的欧洲公民倡议行动启动,该行动呼吁禁止基于生物特征识别技术的大规模监控,尤其是自动人脸识别。今年6月,来自55个国家包括Access Now、European Digital Rights在内的约175个组织发表公开信,呼吁在公共场所全面禁止生物特征识别监控。有些机构虽质疑人脸识别技术,不过持相对温和的观望立场。欧洲委员会在其今年年初发布的《人脸识别准则》中,主张暂停实时人脸识别技术。

在欧盟,对人脸识别的争议焦点可以粗略地归纳为几个关键词:数据主体的不知情和非自愿,大规模监控,人脸技术带来的偏见和歧视。这些词成为数据保护机构、人脸识别质疑派和反对派最为敏感的关键词。

2017年,德国联邦刑事侦察局、联邦内政部和德国铁路在柏林一火车站进行了一次为期一年的自动人脸识别测试,并在一年后发布了该人脸识别成功率超过80%的测试结果。混沌计算机俱乐部(CCC)对这个数字表示质疑,并认为,人脸识别技术试验的目的就是让监控常态化。去年年初,因为阻力太大,德国内政部长放弃了在德国一百多个火车站和机场使用自动人脸识别技术的打算。

上个月发布的、受委托于欧洲议会绿党/欧洲自由联盟(Greens/EFA)的研究报告《欧盟成员国的生物特征&行为识别大规模监控》表明,公共场所远程生物识别在欧盟境内的使用大多处于试验性质,且为短期,并通常因为合法性问题得到中断,如布鲁塞尔国际机场的实时人脸识别试验项目,里斯在狂欢节期间的实时人脸识别等。报告指出,在涉及到如何处理进入公共监控空间的不经数据主体同意的个人数据问题上,比较含糊。在2019年的伦敦公共场所人脸识别测试期间,曾出现了有人因为遮挡脸部从而被罚款的情况。报告认为,用于执法目的的身份甄别,和生物特征大规模监控的边界是模糊的,功能潜变(Function creep)的发生则是容易的。如何在保障公民的自由,以及人脸识别应用的透明和可靠性,是个挑战。

未知和不确定,质疑和谨慎发生在一个相对“蛮荒”的领域,不足为奇。但人脸识别在欧盟并非完全出于监管真空之下。人脸识别技术的使用涉及到个人数据的收集和处理,所以它其实适用于《通用数据保护条例》(GDPR),该条例对“生物特征数据”给出了明确的定义,并指出“人脸图像”属于生物特征数据。如果对个人数据的收集和处理用于执法用途,则适用于《执法指令》(LED),执法部门只有在严格必要的情况下才能处理生物特征数据。同时,因为人脸图像等生物特征数据为敏感数据,属于隐私,还会牵扯到《欧洲人权公约》(ECHR)、《欧盟基本权利宪章》(the Charter)和108公约+(convetion108+)。另外,来自欧洲人权法院、欧盟法院等的判例也会产生影响。

而今,人工智能法草案出炉,监管其实并不是它唯一的初衷。在中美数字领域的强劲发展势头下,欧洲想要“欧洲制造”的人工智能:“AI made in Europe”。伴随着草案的面世,人工智能拥护派在担忧:欧盟会成为世界上第一个出台限制人工智能技术的大经济区,而该技术在决定着未来,欧盟在通往未来之路上却已然落后。

这个顶着“AI领域里的GDPR”名号的人工智能法草案最终会被打磨成什么样子,将会是一个庞杂的、各方角力的过程。■


(注:本文仅代表作者个人观点。责编邮箱    info@or123.net)



|欧洲想要“欧洲制造”的人工智能,但人工智能草案中对生物特征识别的限制让人担忧欧盟在通往未来之路上已然落后。



张冬方

【OR  商业新媒体】

上周,Facebook宣布将关闭其人脸识别系统,并删除相关用户数据。此举想必并非纯属自发自觉,而是在对人脸识别技术的争议在加剧、监管在收紧的大背景下的权衡之举。

上月初,欧洲议会通过了一项禁止在公共场所基于生物识别技术/人脸识别技术的大规模监控的决议。该决议并非法律,但是它所代表的明确立场可以影响到已进入草案阶段、正在被研究和讨论的人工智能法(Artificial Intelligence Act)。

今年4月,欧盟委员会公布了一份关于规范人工智能的草案(Proposal for a Regulation of the European parliament and of the council laying down harmonised rules on artificial intelligence(Artificial Intelligence Act) and amending certain union legislative acts)。该草案将人工智能的应用归为三个风险等级:不可接受的风险,即威胁到人的安全、生计和权利的应用,将被禁止。比如可能怂恿儿童做出危险行为的玩具上的智能语音;高风险,比如用于扫描和筛选求职者简历的软件,这类应用则需要符合一定的规范和要求,比如事前合格评定等;第三类则为小风险或无风险。

在此草案中,以人脸识别为主的生物特征识别技术是最引人注目的焦点之一。草案对远程生物识别系统中的两个应用场景做了区分:实时(real time)和事后(post),前者对于生物特征数据的捕获、对比和识别即刻发生,后者则存在滞后性。而出于执法目的在公共场所对自然人实施实时远程生物识别(包括人脸识别),因其侵犯了人的权利和自由,引发人处于监控之下的感觉,间接阻碍了享受自由集会和其他基本权利,而且,它的实时操作方式不容进一步确认或更正,从而对人的自由和权利意味着更高的风险,应当被禁止。但存在例外情况:搜寻失踪的受害者,反恐,侦查和验证严重刑事犯罪案中的罪犯或嫌疑人。而一切对自然人进行远程生物识别的人工智能系统,因其技术的不准确性,会带来有偏见的结果和引起歧视性的影响,所以一律被归为“高风险”一类。

也就是说,和欧洲议会的全面禁止态度不同,欧盟委员会虽说禁止公共场所实时人脸识别,却又给出了例外情况,这也因此被诟病为“有漏洞”和“力度不够”。

今年6月,欧盟数据保护委员会(EDPB)和欧盟数据保护监管局(EDPS)联合对欧盟委员会的人工智能草案表态,呼吁禁止一切在公共场所自动识别生物特征(包括人脸、指纹、声音等)的人工智能,认为有例外情况的禁止,会沦为一场没有实际意义的禁止。表态文件中指出,公共场所应该不仅指的是真实生活里的场景,还应该涵盖线上。比如处于争议当中的ClearView AI。文件也质疑了对于“实时”和“事后”的区分,并表示,后者同样有侵入性,时间不应当是问题的重点。确实,不能排除的情况是,事后的生物特征识别可能会汇总更多的数据,对个人隐私和个人数据保护的侵犯可能更深入。

持坚决反对态度的还有众多民间组织。今年年初,一项名为“Reclaim Your Face”的欧洲公民倡议行动启动,该行动呼吁禁止基于生物特征识别技术的大规模监控,尤其是自动人脸识别。今年6月,来自55个国家包括Access Now、European Digital Rights在内的约175个组织发表公开信,呼吁在公共场所全面禁止生物特征识别监控。有些机构虽质疑人脸识别技术,不过持相对温和的观望立场。欧洲委员会在其今年年初发布的《人脸识别准则》中,主张暂停实时人脸识别技术。

在欧盟,对人脸识别的争议焦点可以粗略地归纳为几个关键词:数据主体的不知情和非自愿,大规模监控,人脸技术带来的偏见和歧视。这些词成为数据保护机构、人脸识别质疑派和反对派最为敏感的关键词。

2017年,德国联邦刑事侦察局、联邦内政部和德国铁路在柏林一火车站进行了一次为期一年的自动人脸识别测试,并在一年后发布了该人脸识别成功率超过80%的测试结果。混沌计算机俱乐部(CCC)对这个数字表示质疑,并认为,人脸识别技术试验的目的就是让监控常态化。去年年初,因为阻力太大,德国内政部长放弃了在德国一百多个火车站和机场使用自动人脸识别技术的打算。

上个月发布的、受委托于欧洲议会绿党/欧洲自由联盟(Greens/EFA)的研究报告《欧盟成员国的生物特征&行为识别大规模监控》表明,公共场所远程生物识别在欧盟境内的使用大多处于试验性质,且为短期,并通常因为合法性问题得到中断,如布鲁塞尔国际机场的实时人脸识别试验项目,里斯在狂欢节期间的实时人脸识别等。报告指出,在涉及到如何处理进入公共监控空间的不经数据主体同意的个人数据问题上,比较含糊。在2019年的伦敦公共场所人脸识别测试期间,曾出现了有人因为遮挡脸部从而被罚款的情况。报告认为,用于执法目的的身份甄别,和生物特征大规模监控的边界是模糊的,功能潜变(Function creep)的发生则是容易的。如何在保障公民的自由,以及人脸识别应用的透明和可靠性,是个挑战。

未知和不确定,质疑和谨慎发生在一个相对“蛮荒”的领域,不足为奇。但人脸识别在欧盟并非完全出于监管真空之下。人脸识别技术的使用涉及到个人数据的收集和处理,所以它其实适用于《通用数据保护条例》(GDPR),该条例对“生物特征数据”给出了明确的定义,并指出“人脸图像”属于生物特征数据。如果对个人数据的收集和处理用于执法用途,则适用于《执法指令》(LED),执法部门只有在严格必要的情况下才能处理生物特征数据。同时,因为人脸图像等生物特征数据为敏感数据,属于隐私,还会牵扯到《欧洲人权公约》(ECHR)、《欧盟基本权利宪章》(the Charter)和108公约+(convetion108+)。另外,来自欧洲人权法院、欧盟法院等的判例也会产生影响。

而今,人工智能法草案出炉,监管其实并不是它唯一的初衷。在中美数字领域的强劲发展势头下,欧洲想要“欧洲制造”的人工智能:“AI made in Europe”。伴随着草案的面世,人工智能拥护派在担忧:欧盟会成为世界上第一个出台限制人工智能技术的大经济区,而该技术在决定着未来,欧盟在通往未来之路上却已然落后。

这个顶着“AI领域里的GDPR”名号的人工智能法草案最终会被打磨成什么样子,将会是一个庞杂的、各方角力的过程。■


(注:本文仅代表作者个人观点。责编邮箱    info@or123.net)



读者评论
OR
+

您可能感兴趣的资讯
OR
+
最新资讯
OR
+
广告
OR
MORE +

2021.7.9-3logo
关闭
特别推荐
OR
+
最新资讯
MORE +

欧盟如何考量对人脸识别的监管?

发布日期:2021-11-10 10:42
|欧洲想要“欧洲制造”的人工智能,但人工智能草案中对生物特征识别的限制让人担忧欧盟在通往未来之路上已然落后。



张冬方

【OR  商业新媒体】

上周,Facebook宣布将关闭其人脸识别系统,并删除相关用户数据。此举想必并非纯属自发自觉,而是在对人脸识别技术的争议在加剧、监管在收紧的大背景下的权衡之举。

上月初,欧洲议会通过了一项禁止在公共场所基于生物识别技术/人脸识别技术的大规模监控的决议。该决议并非法律,但是它所代表的明确立场可以影响到已进入草案阶段、正在被研究和讨论的人工智能法(Artificial Intelligence Act)。

今年4月,欧盟委员会公布了一份关于规范人工智能的草案(Proposal for a Regulation of the European parliament and of the council laying down harmonised rules on artificial intelligence(Artificial Intelligence Act) and amending certain union legislative acts)。该草案将人工智能的应用归为三个风险等级:不可接受的风险,即威胁到人的安全、生计和权利的应用,将被禁止。比如可能怂恿儿童做出危险行为的玩具上的智能语音;高风险,比如用于扫描和筛选求职者简历的软件,这类应用则需要符合一定的规范和要求,比如事前合格评定等;第三类则为小风险或无风险。

在此草案中,以人脸识别为主的生物特征识别技术是最引人注目的焦点之一。草案对远程生物识别系统中的两个应用场景做了区分:实时(real time)和事后(post),前者对于生物特征数据的捕获、对比和识别即刻发生,后者则存在滞后性。而出于执法目的在公共场所对自然人实施实时远程生物识别(包括人脸识别),因其侵犯了人的权利和自由,引发人处于监控之下的感觉,间接阻碍了享受自由集会和其他基本权利,而且,它的实时操作方式不容进一步确认或更正,从而对人的自由和权利意味着更高的风险,应当被禁止。但存在例外情况:搜寻失踪的受害者,反恐,侦查和验证严重刑事犯罪案中的罪犯或嫌疑人。而一切对自然人进行远程生物识别的人工智能系统,因其技术的不准确性,会带来有偏见的结果和引起歧视性的影响,所以一律被归为“高风险”一类。

也就是说,和欧洲议会的全面禁止态度不同,欧盟委员会虽说禁止公共场所实时人脸识别,却又给出了例外情况,这也因此被诟病为“有漏洞”和“力度不够”。

今年6月,欧盟数据保护委员会(EDPB)和欧盟数据保护监管局(EDPS)联合对欧盟委员会的人工智能草案表态,呼吁禁止一切在公共场所自动识别生物特征(包括人脸、指纹、声音等)的人工智能,认为有例外情况的禁止,会沦为一场没有实际意义的禁止。表态文件中指出,公共场所应该不仅指的是真实生活里的场景,还应该涵盖线上。比如处于争议当中的ClearView AI。文件也质疑了对于“实时”和“事后”的区分,并表示,后者同样有侵入性,时间不应当是问题的重点。确实,不能排除的情况是,事后的生物特征识别可能会汇总更多的数据,对个人隐私和个人数据保护的侵犯可能更深入。

持坚决反对态度的还有众多民间组织。今年年初,一项名为“Reclaim Your Face”的欧洲公民倡议行动启动,该行动呼吁禁止基于生物特征识别技术的大规模监控,尤其是自动人脸识别。今年6月,来自55个国家包括Access Now、European Digital Rights在内的约175个组织发表公开信,呼吁在公共场所全面禁止生物特征识别监控。有些机构虽质疑人脸识别技术,不过持相对温和的观望立场。欧洲委员会在其今年年初发布的《人脸识别准则》中,主张暂停实时人脸识别技术。

在欧盟,对人脸识别的争议焦点可以粗略地归纳为几个关键词:数据主体的不知情和非自愿,大规模监控,人脸技术带来的偏见和歧视。这些词成为数据保护机构、人脸识别质疑派和反对派最为敏感的关键词。

2017年,德国联邦刑事侦察局、联邦内政部和德国铁路在柏林一火车站进行了一次为期一年的自动人脸识别测试,并在一年后发布了该人脸识别成功率超过80%的测试结果。混沌计算机俱乐部(CCC)对这个数字表示质疑,并认为,人脸识别技术试验的目的就是让监控常态化。去年年初,因为阻力太大,德国内政部长放弃了在德国一百多个火车站和机场使用自动人脸识别技术的打算。

上个月发布的、受委托于欧洲议会绿党/欧洲自由联盟(Greens/EFA)的研究报告《欧盟成员国的生物特征&行为识别大规模监控》表明,公共场所远程生物识别在欧盟境内的使用大多处于试验性质,且为短期,并通常因为合法性问题得到中断,如布鲁塞尔国际机场的实时人脸识别试验项目,里斯在狂欢节期间的实时人脸识别等。报告指出,在涉及到如何处理进入公共监控空间的不经数据主体同意的个人数据问题上,比较含糊。在2019年的伦敦公共场所人脸识别测试期间,曾出现了有人因为遮挡脸部从而被罚款的情况。报告认为,用于执法目的的身份甄别,和生物特征大规模监控的边界是模糊的,功能潜变(Function creep)的发生则是容易的。如何在保障公民的自由,以及人脸识别应用的透明和可靠性,是个挑战。

未知和不确定,质疑和谨慎发生在一个相对“蛮荒”的领域,不足为奇。但人脸识别在欧盟并非完全出于监管真空之下。人脸识别技术的使用涉及到个人数据的收集和处理,所以它其实适用于《通用数据保护条例》(GDPR),该条例对“生物特征数据”给出了明确的定义,并指出“人脸图像”属于生物特征数据。如果对个人数据的收集和处理用于执法用途,则适用于《执法指令》(LED),执法部门只有在严格必要的情况下才能处理生物特征数据。同时,因为人脸图像等生物特征数据为敏感数据,属于隐私,还会牵扯到《欧洲人权公约》(ECHR)、《欧盟基本权利宪章》(the Charter)和108公约+(convetion108+)。另外,来自欧洲人权法院、欧盟法院等的判例也会产生影响。

而今,人工智能法草案出炉,监管其实并不是它唯一的初衷。在中美数字领域的强劲发展势头下,欧洲想要“欧洲制造”的人工智能:“AI made in Europe”。伴随着草案的面世,人工智能拥护派在担忧:欧盟会成为世界上第一个出台限制人工智能技术的大经济区,而该技术在决定着未来,欧盟在通往未来之路上却已然落后。

这个顶着“AI领域里的GDPR”名号的人工智能法草案最终会被打磨成什么样子,将会是一个庞杂的、各方角力的过程。■


(注:本文仅代表作者个人观点。责编邮箱    info@or123.net)



读者评论
+

您可能感兴趣的资讯|政经频道
MORE +