7月7日舉行的2023年世界人工智能大會可信AI論壇上，合合信息展示“三大技術，一項標準”，探索AI在圖像內容安全領域可信化發(fā)展的多重可能。
合合信息AI圖像安全技術方案主要包括三項重點技術：AI圖像篡改檢測、生成式圖像鑒別、OCR對抗攻擊技術，以應對日益高發(fā)的惡意P圖、生成式造假和個人信息非法提取等現(xiàn)象。
以AI圖像篡改檢測為例，去年的世界人工智能大會上，合合信息PS篡改檢測技術首次亮相，“像素級”起底修改痕跡，覆蓋身份證、護照等多種證照識別類目，吸引了社會各界關注。
該技術今年持續(xù)優(yōu)化升級，應用面也拓展至“截圖篡改檢測”。該技術的主要難點在于，能否從沒有明顯視覺差異的圖片中，找出被篡改的截圖，以及找出的圖片中，誤檢率是否可控。與證照篡改檢測相比，截圖檢測難度更大。為此，合合信息提出了一種基于HRNet的編碼器－解碼器結構的圖像真實性鑒別模型，結合圖像本身的信息，包括但不限于噪聲、頻譜等，從而捕捉到細粒度的視覺差異，達到高精度鑒別目的。
圖像安全的重要性與日俱增，標準規(guī)范的出臺迫在眉睫。中國信通院牽頭啟動了《文檔圖像篡改檢測標準》制定工作，合合信息、中國科學技術大學等科技創(chuàng)新企業(yè)及知名學術機構聯(lián)合編制，將為文檔圖像內容安全提供可靠保障，助力AI安全體系建設。
