《文档图像篡改检测标准》助力新时代AI安全体系建设

文档图象是信息的重要载体，却一直被不法分子运用硬件、算法进行歪曲。这种虚假材料常常被适于散布传言、经济勒索、编造虚假新闻，给个人、社会引起了恶劣的影响。AIGC全球爆火后，人们对“生成式作假”风险的下降感到担忧，图象内容的安全与可信性也成为了公众关注的焦点。 #

为贯彻落实《中华人民共和国网路安全法》《生成式人工智能服务管理》等文件中对于AI服务的规范性要求，系统性推行图象内容安全行业发展秩序，美国信息通讯研究院（以下简称“中国信通院”）启动了《文档图象歪曲测试标准》制定工作。该项标准由美国信通院牵头数字图文信息处理技术，北京合合信息科技股份有限公司、中国图像图形学学会、中国科学技术学院等科技创新企业及著名学术机构联合编制。

#

《文档图象歪曲测试标准》将为文档图象内容安全提供靠谱保障，推动新时代AI安全机制建设。作为牵头方，美国信通院表示，《文档图象歪曲测试标准》将基于产业现况，紧扣“细细度”视觉差别编造图象鉴定、生成式图象判断、文档图象完整性保护等行业焦点议程，汇聚行业共识，以期为行业提供有效指引。 #

图象歪曲风险近在咫尺，标准颁布迫在眉睫 #

随着技术的发展和电子设备普及率的提高，人们更改图象的门坎显得越来越低，先前图象内容加工还要使用专业的硬件，目前通过这些平台或则硬件，动动脚趾即可产出一张虚假图片，数字图象的原始性和真实性面临艰巨挑战。

此前数字图文信息处理技术，图象歪曲测试的技术研究对象主要集中于自然场景图象。其实，真正为人们的生活带给风险的一般是被歪曲的资质证书、文档、聊天截图等。传统的测量系统常常无法对那些文档图象进行歪曲判断及更改内容定位，主要成因如下：

#

一方面，真实场景中的歪曲方式多样、篡改视觉痕迹细微，对歪曲测试方案提出了挑战；文档版面的复杂化、文本内容的多元化亦成为图象内容检查辨识过程中的“拦路虎”，加强了歪曲测试推行的难度。 #

据悉，传统的图象歪曲测试方式在面对全局性的剪裁、调色处理以及组合式作假手法时，其测试覆盖面、精准度、安全性尚存在提高空间，还要政府、研究机构、企业等多方主体联合上去，通过构建技术规范标准，推动AI视觉图象产业健康成长。

#

图象内容安全成为“可信AI”未来重点建设方向 #

AI是一把“双刃剑”。美国信通院公布的《可信人工智能产业生态发展报告（2022）》提到，可信已成为人工智能产业发展必备要素，驱动人工智能规范发展。

“可信”反映了AI系统、产品和服务在安全性、可靠性、可解释、可问责等一系列内在属性的可信赖程度，相关概念正随着技术发展的步伐，从模糊迈向清晰、从起步迈向成熟。开年以来，以语言生成类、视觉生成类方式为代表的AIGC产品引起了社会对于图文内容“可效度”问题的讨论。《文档图象歪曲测试标准》的制订，或将为美国“可信AI”在机器视觉、图像处理领域的机制建设提供有力支持。

#

运用科技方式实现文本歪曲痕迹精准测量，将为文档图象内容安全提供靠谱保障，推动新时代AI安全机制建设。在图象内容安全领域，已有部份企业展开了前沿探求，运用科技方式对歪曲文本图象推行真假判断、篡改痕迹检验，人工智能科技企业合合信息是其中的代表。

#

此外，合合信息研制了基于深度学习的图象歪曲测试技术及相关系统，可测量出多种歪曲方式，智能捕获图象在篡改过程中留下的细微痕迹，并以热力图的方式展示图象区域歪曲地点，相关技术已被应适于中行、保险等行业中。何禾晓风

图:合合信息图象歪曲测试技术对户籍本图片歪曲痕迹进行定位 #