2024 年的人工智能：监控新法规并遵守现有法律

人工智能 (AI) 技术在整个经济领域的快速应用引发了许多新的法律问题。在本文中，我们讨论了 2024 年需要关注的五个关键问题，包括：

• 包括欧盟《人工智能法案》在内的人工智能法规正在形成，并可能开始影响几乎所有行业。

• 预计在人工智能系统的训练和使用方面会出现更多涉嫌侵犯版权的诉讼。

• 人工智能技术将日益带来网络安全挑战和隐私风险，利用人工智能系统的公司必须应对这些挑战和风险。

👇👇人工智能合规公开课来啦！！👇👇

👉扫码即可立即学习👈

电脑端观看：http://navo.top/RNNFRv

• 人工智能在就业决策中的使用将受到就业相关法律的限制。

• 随着公司将人工智能融入产品和流程，需要强有力的内部治理政策来管理与使用专有和机密信息以及用于人工智能输入的客户和员工个人信息相关的风险。

为了遵守各个司法管辖区的现有规则并为正在制定的新规则做好准备，公司需要监控监管发展并考虑是否提交意见或以其他方式参与影响其利益的问题的立法或监管规则制定。

世界各国政府才刚刚开始起草和通过针对人工智能技术的法律。随着人工智能应用的不断扩大，我们预计，到 2024 年，特定行业和更广泛的综合性人工智能法规将影响几乎所有行业。

欧盟对人工智能的使用制定了规则，即《欧盟人工智能法案》（EU AI Act）和《人工智能责任指令》（AILD）。

欧盟人工智能法案。2023年 12 月 8 日，经过三天的马拉松式谈判，欧盟政策制定者就欧盟人工智能法案达成协议。

欧盟人工智能法案在成为法律之前仍需经过最后几步，但政治协议意味着其关键参数已经确定。临时协议规定，欧盟人工智能法案将在生效两年后适用，但某些具体条款除外。

该法案草案需要得到欧盟理事会和欧洲议会的批准，欧洲议会由欧盟 27 个国家的代表组成。

该立法将适用于将人工智能系统投放到欧盟市场的供应商，并将采取“基于风险”的方法，根据风险水平对系统进行分类和监管。

例如，引入了新规定来考虑通用人工智能系统，要求基础模型在投放市场之前履行特定的透明度义务，并对高影响基础模型实施更严格的制度。

该法律草案还认为某些用例相关的风险是不可接受的，

• 例如禁止从互联网或安全录像中抓取面部信息以创建面部识别数据库；

• 禁止在工作场所和教育机构中进行情绪识别；

• 禁止认知行为操纵；

• 禁止社交评分；

• 禁止通过生物特征分类推断敏感数据，例如性取向或宗教信仰；

• 禁止某些个人预测性警务情况。

不过，该法律草案也对“开源模型”给予了广泛的豁免。

草案规定，该法的范围不得影响成员国的国家安全权限（或任何受托承担该领域任务的实体），也不适用于仅用于研究和创新目的的人工智能系统。

与此同时，欧盟正在修改其产品责任制度，更新现有的产品责任指令，并采用新的产品责任指令，以协调欧盟成员国之间的产品责任民事责任。

修正案将解决严格和过错责任制度，为欧盟公民提供对有缺陷或有害人工智能产品的追索权。重要的是，AILD 将建立可反驳的推定，即人工智能系统提供商的过错与这些系统的输出之间存在因果关系。

这些制度不仅会影响希望在欧盟推出和使用人工智能模型的公司，还可能有助于制定欧盟成员国和其他司法管辖区的未来立法。

相比之下，英国采取了渐进式、行业主导的人工智能监管方式，这在其 2023 年 3 月的白皮书中有所体现。英国政府已开展磋商并征求人工智能行业的反馈意见，以指导其对人工智能实践的监管。预计在未来一年，英国将与其行业特定监管机构分享高层指导和初步监管路线图。

这些监管机构随后将针对金融、医疗保健、竞争和就业领域提供量身定制的建议。届时，英国政府将评估是否需要制定具体的人工智能法规或人工智能监管机构，这将为 2024 年在英国部署人工智能系统的公司的商业行为提供参考。

美国尚未通过全面的人工智能法律。然而，2023年10月，拜登政府发布了一项全面的行政命令（AI行政命令），指示美国各政府部门和机构评估人工智能技术的安全性和其他相关风险，并实施有关采用和使用人工智能的流程和程序。

联邦和州机构以及立法者也对监管人工智能技术表现出浓厚的兴趣。

除欧盟和美国外，包括中国、印度和日本在内的 37 个国家已经提出了与人工智能相关的法律框架。

包括 ChatGPT 和 Google Bard 在内的生成式 AI 模型通常都基于大量内容和数据进行训练。这些内容和数据可能包括从公开网站中提取的受版权保护的作品。

许多内容创作者和所有者已提起诉讼，声称使用这些内容侵犯了第三方的权利，包括版权。

数据编纂者和模型训练者辩称，他们的活动根据版权法属于“合理使用”。这些案件才刚刚开始在法庭上审理。

人工智能技术有能力扩大恶意行为者的武器库，以实施复杂的网络攻击（例如，大型语言模型可用于编写恶意代码、设计高级网络钓鱼攻击或更有效地传播恶意软件和勒索软件）。

此外，人工智能系统本身可能容易受到数据完整性攻击（例如，通过“模型中毒”，即通过将恶意信息引入训练数据进行的攻击）。

为了应对这些风险，美国《人工智能行政命令》要求对开发某些人工智能工具的公司制定测试和报告规则。因此，公司必须确保其网络安全政策能够充分识别、衡量和管理这些风险。

公司如果构建或使用基于包含个人信息（无论是从第三方购买还是从公开网站提取）的训练集的人工智能模型，或以其他方式收集个人信息，包括通过用户输入（例如通过网络会议软件内置的笔记和总结技术），可能会涉及不同司法管辖区的隐私法。

此外，美国联邦贸易委员会最近以3比0的投票结果通过了一项决议，授权其在涉及使用或声称使用人工智能的产品和服务的非公开调查中发出民事调查要求（CID），这是一种类似于传票的强制程序。

许多公司已经开始利用人工智能来提高招聘流程的效率，例如，准备职位描述、筛选和评估求职者，以及分析数据以预测求职者未来的成功。人工智能还可用于分析员工生产力、衡量绩效和确定晋升候选人。

雇主在招聘和晋升中使用人工智能必须遵守禁止基于种族、肤色、宗教、性别、国籍、残疾或年龄歧视的法律，包括美国 1964 年《民权法案》第七章、《美国残疾人法案》和《就业年龄歧视法案》

2022 年和 2023 年，美国平等就业机会委员会 (EEOC)发布了指导意见，其中列举了人工智能工具可能违反反歧视法的方式，以及将人工智能融入人力资源政策和实践时应采用的最佳做法。

此外，州和地方立法者也关注人工智能在招聘和晋升方面的应用。例如，纽约市地方法律 144 要求使用自动化就业决策工具 (AEDT) 筛选候选人以进行招聘或晋升的雇主公开此类 AEDT 年度独立偏见审计的日期和结果摘要。

伊利诺伊州还于 2022 年颁布了《人工智能视频面试法案》，对使用人工智能分析视频面试的雇主提出了某些要求。

加利福尼亚州、新泽西州、纽约州、佛蒙特州和华盛顿特区也提出了立法，以规范人工智能在招聘和晋升中的使用。

此外，雇主和就业机构必须向居住在纽约市的雇员和求职者提供使用 AEDT 的通知。

在裁员时，雇主不仅必须注意遵守反歧视法，还必须注意遵守美国《工人调整和再培训通知法》以及同等的州和地方法律。

此外，待决立法可能会影响雇主；例如，2022 年的美国《算法问责法案》将指示联邦贸易委员会要求组织在使用人工智能系统做出关键决策（例如裁员对象）时对偏见进行影响评估。

随着人工智能越来越广泛地融入到产品和商业实践中，以及影响人工智能使用的法规逐渐成型，公司应该实施并定期更新清晰、强大的内部治理政策，以最大限度地降低风险和责任。

文章整理于skadden.com，由隐私合规交流圈 隐小私整理，转发请备注出处

 分享内容：

• AIGP核心领域

• 理解现有和新兴的人工智能法律和标准

• 了解《欧盟人工智能法案》的要求

• 了解其他新兴的全球法律

• 了解主要风险管理框架和标准之间的异同

 特邀嘉宾：WEI

• 超十年数据合规工作经验

• CIPM/CIPPE持证者

• Fellow of Information Privacy(FIP)

 直播时间：

北京时间：6月28日(周五)下午19:30-21:00

 直播间福利：

👇👇👇往期直播回顾👇👇👇

👉扫码即可立即学习👈

电脑端观看：http://navo.top/Z3MvEf

👉扫码即可立即学习👈

电脑端观看：http://navo.top/YJFBfq

👉扫码即可立即学习👈

电脑端观看：http://navo.top/eQvUfi

👉扫码即可立即学习👈

电脑端观看：http://navo.top/VRru6z

👉扫码即可立即学习👈

电脑端观看：http://navo.top/yYJRFn