当像人工智能这样复杂、危险和复杂的技术席卷我们的生活时，一套明确定义的使用规则至关重要。此前，公众关注的焦点主要集中在个人数据的不当使用上。随着人工智能成为许多企业和服务中的关键技术，人们的注意力正正确地转向解决人工智能偏见问题。虽然不太可能完全消除
人工智能系统中的偏见，但法规可能对其使用施加某些限制。
这就是欧盟委员会在 2021 年 4 月提出人工智能法规（人工智能法规草案）提案的原因。经过三年的制定，人工智能法规草案是欧盟第一个关于人工智能使用的详细立法。
虽然立法程序很可能会在未来几年内完成，但现在是每个AI 服务提供商 开始评估其当前 AI 计划与即将出台的法规的兼容性的时候了。法律实施后，公司将有两年多的时间来实施适当的措施。
在本文中，我们将简要回顾 AI 法规草案的要点，审视欧洲数据保护委员会 (EDPB) 最近对该草案的批评，并讨论公司可以采取哪些措施来最大程度地降低违规风险。
该条例
人工智能法规草案按风险对人工智能系统进行分类：
不可接受的风险人工智能系统。 此类别包括三种禁止使用的系统：
公共场所的远程实时生物特征识别系统。从本质上讲，这禁止公司和政府将面部识别系统用于执法目的，但有一系列例外情况，我们将进一步解决。
利用人们的心理和身体脆弱性来扭曲一个人的行为并改变一个人的决策的系统。这尤其是整个草案中定义最模糊的系统类型之一，需要进一步澄清。
使用人工智能根据个人特征和社会行为评估个人可信度的社会评分系统。
高风险的人工智能系统。 这包括评估个人信誉或工作绩效并协助管理和招聘的系统。此类系统必须遵循最严格的要求，包括实施风险管理和数据质量监控系统、人工监督、记录保存等。本质上，组织必须证明人工智能系统是可解释的、一致的和通过定期进行符合性评估透明化。
有限和最低风险的人工智能系统。 人工智能驱动的聊天机器人、库存管理工具和生物识别系统等也必须是透明的。简而言之，组织将被要求通知用户他们正在与计算机交互，或者媒体内容已在人工智能的帮助下生成或更改。
EDPB 关于监管的联合意见
2021 年 6 月，EDPB 发布了关于人工智能的联合意见。虽然总体上董事会对草案反应积极，但它也要求进行一些重要的修改。
数据保护是核心
首先，EDPB 强烈建议草案中基于风险的方法必须与保护个人数据的 GDPR 原则保持一致。换句话说，EDPB 呼吁使用已建立的个人数据保护 GDPR 框架作为部署高风险人工智能系统的先决条件。鉴于这两个系统之间明显的密切关系，这是一个非常有效的观点。
不可接受的风险人工智能系统也不例外
EDPB 还声称，不可接受的风险 AI 系统的可能影响（例如，有缺陷的面部识别系统）与该技术的潜在好处不成比例。人工智能草案中使用不可接受的风险人工智能系统的例外列表是深刻的，许多可信的研究人员指出，这会带来一系列复杂的漏洞。
用户与提供者的责任
人工智能草案将与高风险人工智能系统相关的几乎所有责任转移给技术提供者，而不是其用户（组织）。EDPB 强调，在实践中，人工智能系统的开发人员几乎无法控制这些系统的使用方式，因此要求转移责任。
这对企业意味着什么？
对于许多组织而言，最紧迫的问题是何时可以执行该法规。鉴于 GDPR 从草案转变为成熟的法规需要 6 年时间，而且人工智能进一步扩展了个人数据保护的复杂性，因此草案可能需要更多时间才能执行。然而，这并不是推迟准备的诱因。
在过去的两年里，来自世界各地的一系列监管机构一直在努力限制自动化系统的使用。例如，自加拿大政府开始要求公司提供其自动决策系统的详细算法影响评估以来，已经过去了一年。
这种新监管现实的必然性促使组织创建专门的风险管理计划、报告机制、数据隐私协议等。本质上，每个使用属于高风险类别的人工智能系统的组织都需要一个人工智能治理系统以及一个专门的委员会，负责合规的人工智能使用。目前，组织为即将出台的法规做准备的最有效方式是尝试进行合规性评估，这将在法规生效后变得普遍。这将揭示缺失的风险缓解实践，并有助于标准化和文档化。
结论
人工智能法规草案相当模棱两可，但这并不奇怪，因为考虑到所有人工智能方面是一项无限复杂的任务。EDPB 为解决这些歧义而采取的不妥协方法是有道理的。目前，立法者可能需要数年时间才能找出可行的框架，以在不涉及伦理问题的情况下大规模实现人工智能的全部潜力。
相关帖子DA内容精选
- 大厂数据分析面试指南！来自亚马逊、谷歌、微软、头条、美团的面试问题！
|
扫码加好友，拉您进群
全部版块
我的主页
收藏
