瑞莱智慧CEO田天：深度合成内容爆发式增长 安全治理需引起重视

新浪科技讯 3月3日下午消息，近日，《深度合成十大趋势报告（2022）》发布，人工智能系统提供商瑞莱智慧CEO田天以及中国社会科学院哲学所研究员、科学技术哲学研究室主任段伟文等人在接受新浪科技采访时表示，深度合成内容正迎来爆发式增长，然而目前公众数字素养及深度合成内容鉴别能力仍需提升，深度合成内容治理需要社会各方重视。

目前，深度合成技术正在视频换脸、网络内容传播等方面，受到越来越多的关注，同时也发展出多元化的商业应用，如果不加以引导和治理，将会产生巨大的负面影响。田天看到，随着技术的不断成熟，深度合成内容正在迎来爆发式增长。研究论文的持续增加、开源技术工具和大量代表性方法的涌现，令深度合成内容的效果更加逼真、制作也更加高效，尤其是生成对抗网络等算法的出现，让合成内容达到了“真假难辨”的程度。

然而，随着新型伪造方法层出不穷、网络传播环境的日趋复杂，加上基于检测算法存在漏洞缺陷等，反深伪检测技术面临“强对抗性”，也正在让深度合成技术面临着越来越来的治理问题。据瑞莱智慧副总裁唐家渝介绍，当前深度伪造技术检测工作主要面临两大难点：一是肉眼难以辨别，传统人工内容审核团队无法应对，二是深度伪造检测面临“强对抗性”，新型伪造方法层出不穷、网络传播环境复杂、深度学习检测算法模型存在结构性缺陷等。

中国社会科学院哲学所研究员、科学技术哲学研究室主任段伟文看到，在深度合成技术安全运用领域，目前公众的数字素养以及深度合成内容鉴别能力仍然需要提升，相关企业也非常迫切地希望政府相关部门和各界积极开展有关法律伦理、治理上的对话和相关规范的制定，以及相关最佳实践的推广，这其实都是为了实现创新和治理之间的动态平衡，实施敏捷、稳健治理，同时使科技更好地服务数字化转型、数字生活。

田天指出，深度合成内容的治理是一项长期的工作，未来仍需要社会各方的通力协作。田天表示，瑞莱智慧希望为人工智能和深度合成技术的规范发展出力。对于深度伪造内容，相关的检测工具十分重要，瑞莱智慧研发的深度合成内容检测平台DeepReal，将协助各界、各个机构，让深度合成技术健康发展。（文猛）