上千份问卷披露用户生成式AI风险感知：最怕虚假信息与欺诈

2024年是大模型“应用落地之年”，随着大模型应用的日益普及，更多用户开始使用和掌控它。对新技术抱有期待的同时，也引发了公众对于虚假信息、算法歧视、侵犯知识产权、数据安全、个人隐私泄露、就业冲击等担忧。

问卷结果显示，大多数受访者（76.76%）对生成式AI的潜在风险“略有了解”，“非常了解”的人占比仅为12.01%，另有11.23%的人表示完全不了解。这说明虽然大部分人对生成式AI有一定的认识，但深入了解的比例相对较低。结合使用频率看，使用生成式AI越频繁的人，对其潜在风险的了解程度越高。

受访者对于不同潜在风险的担忧程度也存在显著差异。其中虚假信息与欺诈最令受访者担忧，其次是隐私与数据安全，另外科研诚信风险、版权作品被盗用风险的担忧程度也较高。

结合性别特征继续分析发现，受访女性对生成式AI带来的隐私风险的担忧程度整体都高于男性。反观职业替代风险方面，男性选择完全不担心或不太担心被AI替代的比例明显高于女性，说明面对AI“抢饭碗”的竞争，男性比女性认为自身不可替代性更强。

生成式AI潜在风险类型多样，但大体上涉及用户隐私数据安全、版权作品保护、深度伪造和AI情感陪伴上瘾等，报告就该四个方面作出进一步分析。

在隐私数据安全风险方面，约三成受访者了解网络平台利用个人数据训练大模型，另有57.83%的受访者对此有所耳闻，这显示出当前公众对数据“喂养”大模型议题的高关注度。交叉分析发现，使用大模型服务频率越高以及学历越高的受访者，对平台利用个人数据训练大模型的情况更为了解。

调查还发现，大多数用户并不排斥将数据免费提供给网络平台使用——赞同将用户数据用于训练大模型的比例超过一半，但前提是平台作出具体说明且保护好个人数据。如果加上“无所谓”的人群，合计比例接近六成。不过，不可忽视超四成受访者不赞同平台使用个人数据训练，且要求平台提供拒绝和退出功能。另外，超七成受访者采取过措施来保护自己在网络平台的数据和隐私。

从生成式AI出世以来，是否应将版权作品用于大模型训练纳入合理使用制度保护范畴的问题就持续困扰着司法实务界。调查发现，仅11.23%的人赞同将版权作品用于训练大模型纳入合理使用范畴，高达42.72%的人认为必须征得版权人同意方能使用，还有43.33%的认为需要分情况讨论，例如区分商业和非商业使用、区分作品的深加工和浅加工。

版权归属问题上，14.87%的受访者认为，生成内容版权完全归用户自己；另有高达72.82%的受访者则考量在生成内容可版权性的基础上，再进一步把受版权法保护的作品属于用户。两个数据指向的最终版权归属均为用户，合计比例达87.69%。

AI生成影像、换声及换脸技术被滥用可能带来虚假信息制造和传播问题，对个人权益、社会安全等构成严重威胁。问卷结果显示，近九成受访者对AI拟声、AI换脸等深度合成技术被滥用的情况“有所耳闻”，7.65%的受访者表示有过相关遭遇，二者合计占比94.42%，说明公众对深度合成技术滥用的认知普遍较高。

如何解决这些技术滥用问题？32.22%受访者认为当下最迫切的是制定出台规制AI造假的政策文件，即支持通过立法扼制技术滥用现象的人最多；其次是对AI生成内容添加明确的标识（22.94%）；加大行政监管打击惩处力度（17.29%）排在第三，平台加大对AI生成内容的监测审核（13.35%）位列第四。

交叉对比还可以看出，在“非常了解”生成式AI风险的受访者中，25.76%认为最迫切的应对措施是对AI生成内容添加明确标识，“略有了解”的比例也为23.4%，而完全不了解风险的群体中，这一比例仅16.76%。这说明对生成式AI风险感知越高，越重视生成内容标识的必要性。

AI陪伴已经是当下人工智能领域成长最快速的赛道之一，但随着“AI复活热”引发一系列法律伦理争议，今年10月一起与AI陪伴产品有关的美国少年自杀诉讼案出现，其潜在风险正逐渐显露。

问卷结果显示，超过八成（81.67%）受访者听说过满足情感需求的AI陪伴产品，还有7.46%使用过产品，11%受访者没听说过。从性别来看，听说过此类产品的女性受访者比例略高于男性，但男性的使用比例略高于女性，他们更倾向于认为AI陪伴产品能提供情感代偿。

问及AI陪伴产品能否提供情感代偿，37.14%受访者选择“不好说”，占比最高；36.77%持否定意见，另外26.09%给肯定答案。说明公众对AI陪伴产品能带来的情感交互体验，持保留态度的居多。超四成受访者认为应对所有AI陪伴产品用户作出提醒和限制，39.20%认为仅对未成年人、老年人等特殊群体有必要。

随着公众对生成式AI潜在风险的关注愈发加深，越来越多受访者认为应通过专门的法律来应对隐私保护、数据安全以及AI带来的伦理挑战等问题。

调查结果显示，近九成受访者对AI立法持积极态度。具体而言，超过一半（53.40%）的受访者认为应尽快制定专门的法律框架，以应对生成式AI带来的潜在风险。同时，约34.28%受访者虽然不认为立法必须立即出台，但也支持启动立法程序，开展相关讨论与准备。这两项合计占据了87.68%的比例。

交叉分析可以发现，受访者对AI立法的支持度与他们的教育水平、职业背景密切相关。高中及以下学历的群体中，约42.5%的受访者支持尽快制定法律；大专和本科学历群体的支持度显著提高，分别为56.32%和57.46%。值得注意的是，硕士和博士群体则表现出较为审慎的态度，虽然支持尽快立法的比例仍然较高，但有更大比例的人倾向于认为应启动立法程序，分别为42.86%和45.07%。

从职业看，律师、法务人员和高校科研人员对人工智能立法的态度较为审慎。50.85%的律师支持启动立法程序；高校学者及科研人员中，45.45%的人支持尽快立法，43.18%主张启动立法程序。相比之下，企业主和公司职员对立法的支持则较为强烈，其中54.84%和54.27%的人支持尽快出台法律，这或许反映了其对人工智能在商业领域应用的期待以及对规范化管理的迫切需求。

事实上，人工智能立法已被我国立法部门提上日程。全国人大常委会2024年度立法工作计划，将“人工智能健康发展等方面的立法项目”列入预备审议项目；国务院2024年度立法工作计划亦明确“预备提请全国人大常委会审议人工智能法草案”。今年6月，国家网信办副主任王崧专门回应了人工智能立法的热点问题，称将注重专门性立法和综合性立法相结合，推动人工智能健康有序发展。