深度合成技术,是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。
在深度合成技术向社会生活的各个领域渗透之时,深度合成内容负面风险持续加剧且产生实质危害。随着深度合成技术的开放开源、深度合成产品和服务的增多,深度合成内容制作的技术门槛越来越低,实现了技术的“平民化”。通过深度合成技术制造虚假视频、虚假音频进行诬陷、诽谤、诈骗、勒索等违法行为已屡见不鲜。
网络深度合成内容监测系统基于IDC网络流量,实现伪造音视频、伪造图像视频识别,将数据上报至国家侧综合管理平台,同时接收国家侧综合管理平台下发的指令。
网络深度合成内容监测系统包括执行单元EU、控制单元CU两部分内容:
执行单元EU
● 在IDC机房部署执行单元EU,实现流量采集还原和数据去重功能,并将流量还原、数据去重后得到的图像、音视频文件传输至集中部署控制单元CU。
控制单元CU
● 爬虫能力:实现https加密的web网站图片、视频、音频文件爬取、下载,对加密流量的文件内容爬取;以及对无任何特征的url链接内容爬取;
● 初检能力:实现数据存储和转发、音频初检和图像/视频初检功能,并将检出的疑似特定人、非特定人伪造样本结果进行上报传输至部级综合管理平台。
Product architecture
深度合成信息检测处置平台企业侧系统包含企业执行单元(EU)和企业控制单元(CU)。
企业执行单元(EU)在基础电信企业各IDC机房(含专线)分布部署,涉及流量还原和数据去重功能模块;
企业控制单元(CU)由省级基础电信企业集中部署,涉及数据存储和转发,音频初检引擎和视频初检引擎功能模块。
各EU单元按照有关策略采集现网流量数据,经流量还原、数据去重后得到的图像、音视频文件传输至集中部署的CU单元;CU单元各模块对相关文件进行分析处理后,将检出的疑似特定人、非特定人伪造样本结果进行上报传输。