央廣網(wǎng)北京6月22日消息（記者卜葉）近年來，線上辦公、線上娛樂被越來越多的人接受，與此同時，也為互聯(lián)網(wǎng)內(nèi)容的監(jiān)管和治理帶來很大的挑戰(zhàn)。央廣網(wǎng)邀請中國信通院云大所內(nèi)容科技部工程師陳文弢講解內(nèi)容審核發(fā)展現(xiàn)狀和前沿技術(shù)，助力突破產(chǎn)業(yè)發(fā)展難題。

原文如下：

從全球角度看，社交媒體的快速發(fā)展為違法和不良信息的傳播，提供了快速傳播的渠道。歐盟、美國、新加坡等相繼發(fā)布一些法律法規(guī)、規(guī)章制度，規(guī)范網(wǎng)民的互聯(lián)網(wǎng)行為；推特、Meta、Instagram等大型的社交平臺，也在積極建設(shè)專業(yè)的內(nèi)容審核隊伍，比如Meta聘請來自不同文化背景、不同地區(qū)的審核員提升全球化的審核需求。

我國也面臨網(wǎng)絡(luò)生態(tài)治理難題。國家陸續(xù)發(fā)布《互聯(lián)網(wǎng)跟帖評論服務(wù)管理規(guī)定（修訂草案征求意見稿）》等多個規(guī)章制度加強互聯(lián)網(wǎng)內(nèi)容的治理和監(jiān)管，對互聯(lián)網(wǎng)內(nèi)容生態(tài)治理起到了約束和管理的效果，行業(yè)內(nèi)逐漸形成“機器+人工”的內(nèi)容審核方式。

“機器+人工”的內(nèi)容審核方式主要基于關(guān)鍵詞過濾，為了發(fā)展更智能高效的審核方式，業(yè)界發(fā)展出基于云計算、人工智能和深度學(xué)習(xí)的審核架構(gòu)。文本審核中，算法能夠識別色情、暴力、違法犯罪、辱罵、廣告等內(nèi)容，除此之外，還可以定制專屬內(nèi)容進行識別。視頻審核基于截幀技術(shù)，截取視頻關(guān)鍵幀生成圖像，轉(zhuǎn)換成圖片，再對圖片進行審核，審核內(nèi)容包括敏感標(biāo)識、敏感人物、血腥暴力、色情等。音頻審核中，首先將音頻轉(zhuǎn)成文字，然后再通過文字模型進行審核。

目前，這種審核技術(shù)已經(jīng)與各個行業(yè)出現(xiàn)深度融合的態(tài)勢，比如新聞行業(yè)對錯別字、人員排序、職位職稱內(nèi)容的識別，金融行業(yè)對是否仿冒他人注冊、身份識別等安全問題的審核，教育領(lǐng)域關(guān)注的未成年人保護，能否檢測吸煙、酗酒等行為。

內(nèi)容審核技術(shù)日趨成熟，但仍面臨巨大挑戰(zhàn)。首先，審核存在滯后性，某些信息在認定為違規(guī)信息前可能已在互聯(lián)網(wǎng)大肆傳播；一些信息現(xiàn)在不是敏感信息，以后可能會變成敏感信息，此外，違法違規(guī)信息的“偽裝”“變異”技術(shù)在不斷升級，以躲避檢測識別。

為了應(yīng)對這些困難，中國信通院云大所依托內(nèi)容科技產(chǎn)業(yè)推進方陣開展了一些相關(guān)的技術(shù)研究和標(biāo)準制定工作。同時，準備對現(xiàn)有標(biāo)準進行更新、完善，擬增加深度偽造、特定人物識別，以及安全等專項評測標(biāo)準，回應(yīng)社會關(guān)切。同時，探索搭建第三方服務(wù)平臺，滿足行業(yè)內(nèi)容審核需求，對審核人員進行培訓(xùn)，通過這些第三方服務(wù)，突破違法違規(guī)信息發(fā)現(xiàn)不及時，信息樣本共享難的問題。