随着AI技术的快速发展与普及，生成合成虚假内容的门槛不断降低，由此酝酿的更多侵权乃至犯罪行为成为各国共同的治理目标，其中“AI造谣”就是突出一类。

当地时间2月23日，在全球隐私大会（Global Privacy Assembly，GPA）国际执法合作工作组的协调下，来自全球40余个国家及地区的61个隐私监管机构共同签署了《关于人工智能生成图像与隐私保护的联合声明》（下称《联合声明》）。该声明强调，未经同意利用AI技术生成他人私密图像可能构成刑事犯罪，并呼吁开发和使用人工智能内容生成系统的相关主体采取保护措施，保障隐私安全。

欧盟隐私监管机构（EDPS）发布联合声明。

建立数据删除机制，加强弱势群体保护

近年来，利用AI生成技术制造虚假信息诽谤他人、利用AI换脸技术制作传播淫秽内容等行为屡见不鲜，严重损害他人肖像权、名誉权等。《联合声明》提醒，研发与使用人工智能内容生成系统必须符合适用的法律框架，包括数据保护及隐私相关法律法规，同时强调，未经同意利用AI制作他人私密图像或构成刑事犯罪。

尽管不同地区的具体法律要求存在差异，《联合声明》针对所有开发和使用人工智能内容生成系统的主体提出了四项基本原则：

（1）采取强有力的保障措施，防止滥用个人信息以及在未经同意的情况下生成他人私密图像或其他违法内容，尤其是涉及儿童的相关内容。（2）保障信息披露透明度，向用户清晰地说明AI系统的能力、缺陷、已采取的保护措施以及滥用后果等，避免产生误导。（3）建立有效的数据删除及响应机制，提供有效且易于访问的渠道，便于用户请求删除涉及个人信息的有害内容，并迅速回应此类请求。（4）针对特定群体采取强化保障措施，向儿童、家长、监护人和教育工作者等提供清晰、符合其年龄认知的信息，以应对儿童面临的特定风险。

在协同治理方面，《联合声明》提到，联合签署方将酌情分享各自应对AI内容生成技术被滥用问题的相关治理举措，包括立法、执法、宣传教育方案等。声明还呼吁各国组织主动与监管机构沟通协作，从技术研发之初便建立完善的防护机制，确保技术发展不以牺牲个人隐私、尊严、安全及其他基本权利为代价。

多国立法防止AI生成技术滥用

《联合声明》的出台基于哪些背景？据多家外媒报道，这或与近期聊天机器人Grok被滥用于生成色情图像一事有关。

据了解，Grok是集成在社交平台X（原Twitter）中的AI工具，其图像编辑功能曾允许用户对平台上发布的照片进行修改。自去年12月更新此功能后，不少用户利用该工具请求AI“为图片中的女性穿上比基尼”“去除衣物并生成性暗示姿势”等内容，导致大量伪造涉真实人物的性暴露内容在X平台上传播。

这一现象很快引发国际监管层关注，Gork遭到多个国家的批评与抵制。1月，印度尼西亚、马来西亚接连宣布暂时封禁Grok；英国、法国、巴西、欧盟等方面官员及监管机构纷纷谴责Gork使用乱象，并宣布开展相关调查。监管与舆论双重压力之下，X平台宣布采取一系列措施制止Grok生成色情图像。

随着全球范围内对人工智能技术实施有效监管渐趋紧迫，《联合声明》应时而生。南都N视频记者梳理发现，签署《联合声明》的61个隐私监管机构来自六大洲超40个国家和地区，涉及欧盟、加拿大、英国、澳大利亚、新加坡、韩国、法国、德国、英国、中国香港等。其中超六成隐私监管机构来自欧洲。

南都N视频记者还注意到，《联合声明》不少签署方所在的主要地区，近年来已通过设立法律法规、发布指引等形式，防止AI生成技术滥用。

比如，新加坡《刑事法（杂项修正）法案》将未经同意生成他人虚假私密图像认定为犯罪。澳大利亚政府通过了《2024年刑法修正案（深度伪造色情内容）法案》，制作和传播此类内容最高可判处七年监禁。在中国香港，未经同意生成或传播涉及真实个人的虚假内容，还可能构成《个人资料(私隐)条例》（PDPO）规定的“起底罪”，最高可处100万港元罚款及5年监禁。

采写：南都N视频记者 樊文扬