深度合成技术助推良性发展

真伪难辨的AI换脸视频、逼真的音视觉合成特效、火爆出圈的虚拟数字人……这些创新应用皆标志着AI算法的突飞猛进，同时也成为了深度合成技术走入寻常百姓家的具体体现。

“深度合成技术，是利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。”瑞莱智慧副总裁唐家渝向《中国电子报》记者介绍说。

从该技术的正向应用价值来看，深度合成已被广泛应用于影视、音乐、科技、教育、生活、娱乐、咨询等各个领域，需求场景趋于多元且成熟。比如北京冬奥会期间的手语AI解说小聪、登上春晚舞台的虚拟偶像洛天依以及动画、游戏中快速生成的人物形象等等。

“深度合成“与其他技术不同，由于人工智能的安全性问题主要来源于算法本身的不安全，它更容易被误用和滥用。以深度合成技术为例，不法分子可以利用它给社会带来巨大的威胁。”

他指出，未来人工智能产业的发展，一方面必须扩大应用的场景，另一方面也必须保证数据和算法的安全性、鲁棒性。科技发展和应用如何才能在最大程度上做到趋利避害，是一个需要长期探索和研究的课题。

如今，信息网络已经深入到我们生活的各个角落，如果深度合成技术被无节制的滥用，我们的眼见、耳闻都不再为实，社会信任也将荡然无存。因此，必须以法律的形式引导技术向善。2022年1月28日，国家网信办最新公布了《互联网信息服务深度合成管理规定(征求意见稿)》(简称《深度合成征求意见稿》)，为深度合成技术做出了一系列较为明确的规定和指引。可以看到，深度合成技术正在逐步迈入一条良性的发展轨道。

“处理Deepfake(深度伪造)没有灵丹妙药，需要采取多种应对措施，包括技术、法律和更广泛的社会措施。”段伟文表示。对于深度合成服务提供者而言，应当加强信息内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核，建立健全用于识别违法和不良深度合成信息内容的特征库，完善入库标准、规则和程序，对违法和不良信息依法采取响应处置措施，并对相关深度合成服务使用者依法约束采取警示、限制功能、暂停服务、关闭账号等处置措施。

同时，还应定期审核、评估、验证算法机制机理，提供具有对人脸、人声等生物识别信息或者可能涉及国家安全、社会公共利益的特殊物体、场景等非生物识别信息编辑功能的模型、模板等工具，应当自行开展安全评估，预防信息安全风险。

田天指出，希望国家加快推动法治建设，逐步完善配套的法规政策，但同时也要倡导发展自律自治，健全常态化的联动机制，加强检测相关技术研究与宣传，推动形成全社会对深度合成共同治理的格局，鼓励与促进该技术更多的正向应用、正向发展。

（文章来源：中国电子报）