研讨实录 |《智能新纪元：生成式人工智能的发展与治理》新书发布会

一、出版初衷：在制度赛道上为国内的人工智能发展助力

二、人工智能技术应用的最新趋势

中国人民大学高瓴人工智能学院准聘助理教授林衍凯认为， 人类智能具有工具使用与分工协作两大关键特性。与之对应的，在ChatGPT的基础上，人工智能已经发展出了大模型自主智能体。OpenAI、Google等陆续发布的项目已经证明大模型能够模仿人类使用外部工具，达到了接近乃至超越人类的工具使用性能，达到工具智能。在其基础上，迈向通用人工智能需要做到的就是通过任务分工与协作来执行复杂任务实现群体智能，如清华的ChatDev、斯坦福AI小镇、人大RecAgent等。

微软全球助理法律顾问、微软亚太研发集团法律事务部总经理罗立凡表示，微软和Open AI的合作取得了阶段性的成功，生成式人工智能的应用已从简单的搜索问题向垂直领域深耕，未来将会融入到所有的领域。他认为2024年人工智能有三大发展趋势。一是小语言模型，它可以在设备上离线运行，在执行具体任务上，通过使用高质量数据训练，在特定的垂类领域达到与大语言模型相当的性能。二是多模态人工智能，包括图象、视频、音频通过一个接入口就可以提供服务。三是助力科学研究，以加快科学发展速度。虽然难以预测人工智能今后的发展，但可以确定会带来各行各业变革式的改变，大大提升效率。

抖音集团法律研究总监李颖提出，AI Agent的发展方向有两种：一是类似于人的“功能性”，如协同办公；二是类似于人的“社会性”，如在虚拟世界的互动。在商业化实践上有三种方向：一是垂直领域的Agent产品；二是通用助理类的Agent产品；三是Agents应用开发平台。AI Agent的未来趋势短期来看，在垂直领域的应用落地更快、早期有技术积累的厂商将引领行业标准、操作系统厂商预计率先实现实质性突破。长期来看，AI Agent未来会有更多的自主性，并基于协同性的提高涌现超级个体和超级个体公司；AI Agent会促进基础设施的实现，平台会成为一个重要的载体；最后，她还分享了关于AI Agent的三点法律思考。

副研究员、《AI赋能超级个体》作者翟尤，认为当前全球AIGC行业格局尚未确定，细分应用型公司竞争激烈，不同公司都在尝试跨越多个细分场景或者模态，今年下半年多模态将成为“标配”。从产业发展形态上，他认为目前海外产业发展呈现“倒三角”形态：底层算力层由个别厂商垄断；基础模型层趋于集中于头部企业；行业模型层企业数量不多，很多会参考开源底座；应用层基于纯API调用制作产品的企业数量十分庞大。国内产业发展则呈现“橄榄型”：底层的优质算力企业数量极少；最上层基于API调用制作产品的企业数量也比较少；处于基础模型和行业模型的企业数量较多。

三、人工智能治理的新动向

中国信息通信研究院政策与经济研究所高级工程师，AIIA政策法规工作组秘书长程莹，对人工智能带来的变革性影响有四个判断：一是AIGC作为新型生产工具，革新内容生产方式。二是AIGC应用加剧各方数据资源竞争博弈。三是AIGC将革新人机交互形式，迈向人机共生新阶段。四是部分AIGC作为通用目的技术，成为经济社会底层基础设施。对于AIGC带来的风险挑战，她认为一方面体现为原有风险的叠加放大，比如技术自身缺陷、版权追责困境、伦理问题等；同时还在于新的突出问题，比如在生物合成、化学、核能（CBRN）等领域带来的风险等。

淘天集团法务部数据合规负责人顾伟，认为从大模型这几年的发展趋势来看，对数据的需求量是越来越高的，而只有到一定数据级，模型对某些问题的处理性能才能呈现快速增长。同时在数据类型上，早期模型的训练数据以网页数据、图书、代码等为主，随着多模态的发展，数据内容多元化的趋势更明显，而随着人工智能应用的普及，对不同领域数据集的要求也会更多。他认为，在训练数据的合规使用上，目前法律的要求比较原则，为更好地促进人工智能产业创新发展，通过知识产权合理使用规则创新，和个人信息的合理使用，保证训练数据的数量、质量和多样性非常重要。

海问律师事务所合伙人傅鹏针对生成式人工智能运营中的具体合规问题做了分享。比如针对调用或接入境外大模型的场景，他认为两类情况会构成向境外传输数据，需要落实相关合规申报义务。一是自用型跨境场景，如企业调用境外大模型来完成企业内部的数据处理活动；二是服务型跨境，如企业在产品中嵌入了境外大模型的接口，当境内用户使用产品特定功能时，企业会将有关数据传输到境外，调用境外的大模型。针对备案问题，他认为实践中是有一些场景不需要进行备案，比如企业内部调用大模型生成代码，但作内部研发使用，不涉及舆论场景；还比如针对专门领域的特定受众，调用大模型生成了结果，如生物医药企业进行的一些数据生成和分析。

信通院人工智能研究所工程师赵逸飞从中国人工智能产业发展联盟的成立使命和工作成果展开，对联盟具身智能工作组在具身智能标准体系及具身智能与机器人、大语言模型的关键技术和演进方向的研究工作进行了解读，介绍了《2024具身智能产业全景图》等研究成果和下一步工作计划，从技术进步和应用的角度为人工智能产业发展和治理提供新的思路。

四、多个人工智能热点话题

微软公司高级律师、微软亚太研发集团高级法务总监何淼提出，“在生成式人工智能的版权问题上，确实有一个利益平衡的探索过程。微软在开发相关技术时高度重视版权保护，为保障技术发展和版权保护之间平衡不断进行了尝试。我们的Azure OpenAI服务具有Content filtering的功能可以进行版权保护和降低侵权的风险。此外，如果使用了我们的工具仍然面临侵权诉讼，微软承诺为客户提供抗辩支持。”

某人工智能企业大模型合规法务吴少卿对于很多模型公司不主张对AI生成内容拥有版权的原因，特别提出了三个理由：一是版权难以争取，关于生成内容的版权归属目前仍存在法律不确定性；二是现有很多商业模式不依赖版权来获利；三是避免拥有版权可能带来的法律责任。

某科技集团数据合规执行总监朱玲凤指出，数据是模型训练的基础，而其获取路径取决于模型的训练目标和方向。在使用开源数据前，需要仔细评估其匹配的开源协议。不同于开源软件，模型开源包括了数据集、代码和模型，且考虑了个人信息保护和版权影响。比如Bigcoder提供版权过滤器，允许用户请求移除其贡献的代码，能确保其内容不被用于训练数据。除了开源，也可以考虑隐私计算工具。比如G7在近期提出了利用合成数据实现医疗数据打通，可以识别特定区域的疾病增加，可能与环境因素有关，也可能识别到某地区医疗资源不足等问题。通过合成数据可以保障在原始数据的分布比例基础上实现数据的可用性，同时通过合成来解决个人信息保护的问题。

理想汽车法律研究运营负责人田喜清，在谈到生成式人工智能的监管政策时，希望可以进一步增加相关政策的透明度和确定性，比如是否可以公开大模型备案的具体流程和具体要求，以及明确哪些可以不用备案等。同时，她认为人工智能的快速发展迫切需要高质量、大规模、安全可信的语料数据资源，构建这种高质量大规模的中文基础语料库对于提升生成式人工智能的训练质量至关重要。

微软公司高级律师、微软亚太研发集团高级法务总监何淼，指出生成式AI的发展依赖于海量数据，这对于技术创新至关重要，数据的限制可能在提升安全性方面有所帮助，但是怎么掌握平衡也是很重要的。

某人工智能企业大模型合规法务吴少卿认为，人工智能产业分工日益细化，复杂的产业生态导致责任分配变得尤为重要，随着场景的丰富和角色的多样化，明确每个参与者的责任和自由度至关重要。他认为在数据处理和知识产权的角色及责任关系上，尤其是在内容安全方面，服务提供者通常应承担主要责任，但模型厂商在某些情况下也需提供技术支持。