2023年，人工智能政策制定和监管从一个小众的话题变成了热点新闻，这在一定程度上要归功于OpenAI的ChatGPT。与此同时，人们也有更多的机会了解人工智能系统如何运行以及为何停摆。
从政策制定的角度来看，2023年是具有里程碑意义的一年：欧盟商定了第一部全面的人工智能法案，美国参议院举办听证会并颁布行政命令，中国针对推荐算法等人工智能相关内容制定了具体规则。如果说2023年是立法者就愿景达成一致的一年，那么2024年将是政策开始转化为具体行动的一年，这是值得期待的事情。
2023年，人工智能真正进入了美国的政治对话之中。这一次，“人工智能”不仅仅是美国政治争辩的话题，美国政府对此采取了具体行动。
拜登政府于10月底发布了关于人工智能的行政命令，该行政命令要求提高透明度和建立新标准。
2024年将延续2023年的势头，拜登政府的行政命令中详细说明的许多项目都将得到落实。人们还将获知更多有关新成立的美国人工智能安全研究所的信息，该研究所将负责执行该命令的绝大部分内容。参议院多数党领袖Chuck Schumer最近表示，除了行政命令之外，还可能出台新的法律。已有几项立法提案涉及人工智能的部分领域，例如透明度、深度伪造和平台责任。前沿模型论坛执行董事Chris Meserole表示，美国国家标准与技术研究所已经提出了一个框架，在该框架下将根据人工智能的类型和用途进行风险等级划分（类似于欧盟《人工智能法案》的框架）。欧盟刚刚就《人工智能法案》达成一致，这将是世界上第一部全面的人工智能法。
欧洲国家和欧盟议会将在2024年上半年进行技术调整并正式批准《人工智能法案》，在最乐观的情况下，对人工智能某些用途的禁令最早可能会在2024年年底实施。2024年对于人工智能行业来说将是忙碌的一年，因为整个行业都面临着需要遵守的新规则。尽管大多数人工智能应用程序将获得《人工智能法案》的豁免，但开发基础模型和应用程序的企业被认为是对基本权利构成“高风险”的，例如那些原本应用于教育、医疗保健等领域的应用程序。开发基础模型（GPT-4等其他人工智能产品所基于的模型）的企业必须在该法律生效后一年内落实法律内容。其他科技公司有两年的时间来调整以适应这些规则。涉及警察的事务必须符合新的欧盟标准。在欧洲，警方将不被允许在公共场所使用该技术，除非他们首先获得法院批准，将这项技术用于打击恐怖主义、防止人口贩卖或寻找失踪人员等特定目的。部分人工智能相关用途将在欧盟被完全禁止，例如创建像Clearview AI这样的面部识别数据库，或者在工作场所或学校中使用情绪识别技术。《人工智能法案》将要求企业在开发模型时提高透明度，这将使企业和使用高风险人工智能系统的组织对由此造成的任何伤害承担更多的责任。为了满足新的要求，人工智能企业必须重新考虑如何构建系统，并更为严格地记录他们的工作内容，以便接受审查。例如，该法案将要求企业对其模型采取更加透明的训练方式，这是为了确保被视为高风险的人工智能系统使用具有足够代表性的数据集进行训练和测试，以最大限度地减少偏差。欧盟认为，最强大的人工智能模型，例如OpenAI的GPT-4和谷歌的Gemini，可能会给公众带来“系统性”风险，因此需要额外的工作来满足欧盟标准。相关企业必须采取措施评估和降低风险以确保系统安全，并且需要报告严重事件并分享能源消耗的详细信息。开源人工智能企业可以免受《人工智能法案》大部分透明度要求的约束，除非它们正在开发像GPT-4这样的计算密集型模型。不遵守规定可能会面临巨额罚款或导致其产品被禁止进入欧盟。欧盟还在制定另一项名为《人工智能责任指令》的法案，该法案将确保受到该技术伤害的人们能够获得经济赔偿。相关谈判仍在进行中，今年可能会加速该谈判进程。欧洲其他的一些国家正在采取不干涉的做法。例如，谷歌DeepMind的所在地英国就表示，短期内没有监管人工智能的计划。然而，世界第二大经济体欧盟以外的任何公司如果想在欧盟贸易区域内开展业务，仍然必须遵守《人工智能法案》。中国人工智能监管的主要特征为针对不同的人工智能领域进行专项立法，包括在算法推荐服务、深度伪造、生成人工智能领域设有单独的规则。这种监管方式的优点在于能够对新风险做出快速反应。2024年中国将从更长远、更全面的视角制定工智能监管政策
2023年6月，国务院发布2023年度立法工作计划，人工智能法草案等预备提请全国人大常委会审议。该部法律将涵盖人工智能的各个方面。
2023年8月，中国社会科学院发布了《人工智能法示范法1.0(专家建议稿)》。该文件提出设立“国家人工智能办公室”，监督中国人工智能发展，要求每年发布独立的基础模型“社会责任报告”，并设立风险较高的人工智能领域的“负面清单”。对于生成式人工智能公司来说，需要重视合规问题，尤其是在模型安全和知识产权侵权等方面。此外，我国AI大模型需依法向监管部门备案、申报安全评估。2024年，我们可能会看到世界上的其他地区出台更多人工智能法规，非洲是值得关注的地区之一。欧洲中心政策官员Melody Musoni表示，非洲联盟可能会在2024年初发布非洲大陆人工智能战略，旨在制定各国可以复制的政策用以保护非洲消费者免受西方科技公司的侵害。
卢旺达、尼日利亚和南非等一些国家已经起草了国家人工智能战略，并正在努力制定相应的教育计划和行业友好政策来支持人工智能公司。联合国、经合组织、G20和区域联盟等已开始创建有关人工智能的工作组、咨询委员会并制定原则、标准和声明。经合组织等同类组织将有助于在不同地区进行一致性的监管，从而减轻人工智能公司的合规负担。免责声明：本文转自赛博研究院。文章内容系原作者个人观点，本公众号编译/转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！
转自丨赛博研究院
国际技术经济研究所（IITE）成立于1985年11月，是隶属于国务院发展研究中心的非营利性研究机构，主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题，跟踪和分析世界科技、经济发展态势，为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号，致力于向公众传递前沿技术资讯和科技创新洞见。
地址：北京市海淀区小南庄20号楼A座
电话：010-82635522
微信：iite_er
还没有评论，来说两句吧...