2025年6月20日，由首都互联网协会指导，阿里巴巴智能信息事业群主办的“AIGC生成合成淫秽色情内容黑灰产治理”研讨会在阿里巴巴北京朝阳科技园举行。来自中国政法大学、中国传媒大学、信通院人工智能研究所、南都大数据研究院及北京大成律师事务所的专家齐聚一堂，深入剖析AIGC技术催生的新型网络犯罪形态。

当下，互联网黑灰产正借力大模型技术实现迭代演变。湖北柯某AI生成色情小说案、韩国“N号房2.0”Deepfake犯罪事件等典型案例，揭示淫秽内容生产已从UGC升级至AIGC范式。会上，信通院安全工程师现场演示了黑灰产通过多模态合成技术生成淫秽内容，利用隐喻指令绕过平台检测，形成“技术开发-素材供应-跨境分发”的协作链条。阿里巴巴大模型安全负责人分享了AIGC生成合成淫秽色情内容的主要发生场景、内容及账号特征，并对相关灰黑产的盈利模式进行分析。

本次会议聚焦人工智能生成内容治理议题，从多个角度探讨了人工智能在内容生态质量、谣言虚假信息、版权确权、个人隐私和数据安全等方面面临的安全问题和挑战，重点研讨了AIGC生成合成淫秽色情内容黑灰产的刑法认定与治理路径。与会专家从构建多元主体协同治理的角度出发，提出通过规范内容标识和动态安全监测搭建治理框架，通过责任评估和激励制度促进平台自律，通过强化数据监督和研究支撑促进社会共治等治理对策。

首都互联网协会将持续关注网络治理中的痛点、难点问题，积极应对AI技术衍生的新风险、新问题，推动构建政府、企业、社会、网民多方协同，从源头到终端的全方位治理体系，促进人工智能向善发展，维护网民合法权益，营造良好网络生态。