近年来，互联网技术快速发展，文字、图像、视频等内容以各种形式在网络空间“百花齐放”。然而，人工智能、大数据、互联网等技术与内容产业的深度融合，在给社会创造福祉的同时，也为传播制造假新闻、色情信息、诈骗等不法行为提供了便利。
技术赋能内容“安全生产”“智能生产”
新技术是一把“双刃剑”。
从早期的“P图”到“变声”，再到如今备受争议的视频“换脸”，随着手机运算能力的进步和软件发展，这些技术门槛大大降低。尤其是，当下流行的AI“换脸”技术，其背后的种种安全隐患，频频成为社会舆论关注的话题，甚至已经引起各国政府的重视。
2019年6月，以换脸技术为卖点的DeepFake(深度伪造)被恶意使用，促使美国提出《2019年深度伪造报告法案》(Deepfakes Report Act of 2019)，要求评估深度伪造技术的安全风险。该法案中，“数字内容伪造”被定义为，使用新兴技术(包括人工智能和机器学习技术)来制造或操纵音频、视觉或文本内容，意图产生误导的效果。
2019年12月，德国联邦政府在答复国会议员质询时表示：“人工智能视频‘换脸’技术会从根本上削弱公众对录音和录像真实性的信任感，因此也会降低公共信息可信度。这种技术一旦被用于操纵舆论，将给社会和政治带来巨大风险。”
“是否产生误导是数字伪造内容关键的判断标准。技术本身是中立的，如果用来生成虚拟主播、美化图片等应用是值得鼓励的，但如果用来制造虚假信息，伪造票据等误导消费者，则是不被允许的。”在第二届中国内容科技创业大赛期间，参赛企业中科睿鉴CEO曹娟接受了人民网记者专访说。她认为，数字内容伪造不仅仅是技术论问题，也是社会学问题。
2013年，曹娟和她的团队开始研究社交媒体新闻的可信度认证及虚假新闻大数据分析技术，开创了多模态融合的网络谣言检测方法，并研发了国内人工智能虚假新闻认证系统“睿鉴AI识谣”，并成功应用在各监管机构、媒体平台。
来源 | 睿鉴AI小程序
在曹娟看来，基于内容科技的数字伪造检测技术，可以概括为内容的“安全生产”和“智能生产”。安全生产，即将数字伪造内容检测赋能到内容生产的应用场景中，保证内容的真实性，并能迅速检测出数字内容是否存在合成、侵权等情况；智能生产,即为媒体与企业提供新闻质量评估和AI生成标题服务，利用人工智能技术帮助媒体与企业提升数字内容产出的质量与效率。
“内容科技”需要深入到一线应用
“做技术别高高在上，必须深入到一线应用场景才能做出真正的改变。”
曹娟认为，只有将技术与内容场景特点进行深度融合，对内容产业的各种应用场景进行细分，才能充分发挥科技的作用，从而形成技术“门槛”和行业标准。
一张高分辨率、未经过压缩的图片和一张低分辨率、经过多次压缩的图片，内容篡改的方式不同，检测的方法也需相应变化。
在数字伪内容检测领域，没有一把能够解决所有问题的“万能钥匙”。传统的内容风控系统面对现有的数字伪造内容常常出现“心有余而力不足”的情况。这也对数字伪造内容检测的经验层、数据层、算法层提出了更高的要求。
目前，中科睿鉴的伪造图像视频检测系统可以在无需原图的情况下检测图片或视频的多种篡改类型和篡改位置，特定真实应用数据上检测准确率高达90%。
曹娟认为，内容产业在生产、传播过程中，有着复杂而多样的动态变化，科技赋能内容场景的过程，也是满足内容产业多样化需求的过程。
同时，内容科技的发展也需要紧跟新兴技术发展的脚步。传统媒体数字化转型是不可逆转的趋势，如何运用新兴技术为传统媒体储备的海量内容资源赋能，既是媒体亟需解决的痛点，也是内容科技持续发力的方向。