內(nèi)容安全審核 | 共建網(wǎng)上美好精神家園，網(wǎng)晴科技助力網(wǎng)絡(luò)文明建設(shè)

時(shí)間：2023-06-01 04:36:02 | 來源：網(wǎng)站運(yùn)營

時(shí)間：2023-06-01 04:36:02 來源：網(wǎng)站運(yùn)營

內(nèi)容安全審核 | 共建網(wǎng)上美好精神家園，網(wǎng)晴科技助力網(wǎng)絡(luò)文明建設(shè)：弘揚(yáng)時(shí)代新風(fēng)，建設(shè)網(wǎng)絡(luò)文明。8月29日，2022年中國網(wǎng)絡(luò)文明大會(huì)在杭州落下帷幕。會(huì)上緊緊圍繞網(wǎng)絡(luò)內(nèi)容建設(shè)、網(wǎng)絡(luò)生態(tài)建設(shè)、網(wǎng)絡(luò)法治建設(shè)、網(wǎng)絡(luò)文明社會(huì)共建、算法治理、網(wǎng)絡(luò)謠言治理等方面進(jìn)行了深入研討交流，發(fā)布了2021年度中國網(wǎng)絡(luò)誠信十件大事、《中國網(wǎng)絡(luò)誠信發(fā)展報(bào)告2022》和網(wǎng)絡(luò)文明主題歌曲《敬長風(fēng)》等。

值得關(guān)注的是，與首屆大會(huì)相比，今年大會(huì)新增了新時(shí)代中國網(wǎng)絡(luò)文明建設(shè)成果展示。其中，互聯(lián)網(wǎng)企業(yè)展區(qū)主要展示網(wǎng)信企業(yè)助力網(wǎng)絡(luò)文明發(fā)展所取得的成果。多家企業(yè)參展，以大量生動(dòng)鮮活的案例，對(duì)新時(shí)代網(wǎng)絡(luò)文明建設(shè)的豐富實(shí)踐經(jīng)驗(yàn)作了系統(tǒng)性總結(jié)。

每個(gè)網(wǎng)絡(luò)主體都是網(wǎng)絡(luò)文明共建共享的貢獻(xiàn)者和受益者，尤其作為網(wǎng)絡(luò)空間主要建設(shè)者的互聯(lián)網(wǎng)企業(yè)，是歷屆中國網(wǎng)絡(luò)文明大會(huì)的重要參與者。

在2021年首屆中國網(wǎng)絡(luò)文明大會(huì)上，近百家互聯(lián)網(wǎng)企業(yè)就曾現(xiàn)場共同簽署了《互聯(lián)網(wǎng)企業(yè)切實(shí)履行主體責(zé)任建設(shè)文明網(wǎng)絡(luò)生態(tài)承諾書》，承諾將切實(shí)履行主體責(zé)任，營造良好網(wǎng)絡(luò)生態(tài)，共筑清朗網(wǎng)絡(luò)空間。

加強(qiáng)網(wǎng)絡(luò)文明建設(shè)，網(wǎng)站平臺(tái)需做好內(nèi)容審核

網(wǎng)絡(luò)文明是新形勢下社會(huì)文明的重要內(nèi)容，是建設(shè)網(wǎng)絡(luò)強(qiáng)國的重要領(lǐng)域。加強(qiáng)網(wǎng)絡(luò)文明建設(shè)、鼓勵(lì)優(yōu)質(zhì)內(nèi)容生產(chǎn)傳播是時(shí)代賦予各網(wǎng)站平臺(tái)的重大課題。

作為信息內(nèi)容生產(chǎn)傳播的重要渠道，網(wǎng)站平臺(tái)需充分發(fā)揮信息內(nèi)容管理第一責(zé)任人作用，自覺遵守國家法律、法規(guī)和政策，把準(zhǔn)內(nèi)容導(dǎo)向，規(guī)范內(nèi)容管理，及時(shí)清理平臺(tái)不良信息，打擊網(wǎng)絡(luò)違規(guī)違法行為，自覺凈化網(wǎng)絡(luò)文化環(huán)境，做網(wǎng)絡(luò)文明建設(shè)引領(lǐng)者，構(gòu)建網(wǎng)絡(luò)文明環(huán)境。

這就對(duì)網(wǎng)站平臺(tái)的內(nèi)容審核能力提出了更高的要求。然而不管網(wǎng)站平臺(tái)規(guī)模多大，自身都很難確保在內(nèi)容審核方面的專業(yè)性。尤其隨著用戶和內(nèi)容數(shù)量的繼續(xù)增長，監(jiān)管力度越來越強(qiáng)，內(nèi)容審核的挑戰(zhàn)也越來越嚴(yán)峻。

“AI+人工”，高效應(yīng)對(duì)海量審核任務(wù)

在行業(yè)的需求和政策的引導(dǎo)下，內(nèi)容審核行業(yè)應(yīng)運(yùn)而生。作為專業(yè)內(nèi)容安全服務(wù)商，網(wǎng)晴科技專業(yè)人工內(nèi)容審核團(tuán)隊(duì)協(xié)同“網(wǎng)晴內(nèi)容安全大腦”，以“AI+人工”的審核方式，為多家央媒、主流媒體、政企用戶及互聯(lián)網(wǎng)用戶提供全方位的內(nèi)容安全服務(wù)，用專業(yè)度為用戶筑牢“兜底防線”，營造強(qiáng)有力的內(nèi)容安全屏障。

“網(wǎng)晴內(nèi)容安全大腦”是網(wǎng)晴科技自主研發(fā)的全能力智能審核平臺(tái)，覆蓋涉政專項(xiàng)模型、人臉檢測模型、涉政人物檢測模型、旗幟檢測模型、聲紋庫識(shí)別能力、LOGO檢測模型、劣跡藝人檢測、二維碼/條形碼識(shí)別、OCR文本識(shí)別等數(shù)十種算法模型，可以實(shí)現(xiàn)音、視、圖、文全類型審核，有效識(shí)別出有誤內(nèi)容。

文本內(nèi)容審核功能基于自研內(nèi)容安全大腦，結(jié)合億級(jí)自有敏感詞庫，根據(jù)不同場景使用不同的策略模型、語義推理模型，能夠滿足多場景使用需求，提高審核效率，有效避免涉政違規(guī)、暴恐、色情、違禁、不良價(jià)值觀、廣告等多種內(nèi)容安全風(fēng)險(xiǎn)。同時(shí)也提供包括音似字、形似字錯(cuò)誤等字詞校對(duì)問題識(shí)別，以及多字、少字、語法冗余、重疊詞錯(cuò)誤、地名地域搭配錯(cuò)誤等句法校對(duì)問題識(shí)別。

圖片內(nèi)容審核功能基于自有涉政專項(xiàng)敏感圖庫，適用于各類文章圖片審核、封面圖審核、圖集審核等場景，可以精準(zhǔn)鑒別涉政違規(guī)、涉黃、暴恐、違禁、不良價(jià)值觀、廣告等內(nèi)容安全風(fēng)險(xiǎn)。

音頻內(nèi)容審核可以實(shí)現(xiàn)音頻到文本快速轉(zhuǎn)換，采用ASR識(shí)別、聲紋識(shí)別等技術(shù)精準(zhǔn)甄別是否有涉政違規(guī)、涉黃、暴恐、違禁、不良價(jià)值觀、廣告等內(nèi)容安全風(fēng)險(xiǎn)。

視頻內(nèi)容審核為業(yè)界首創(chuàng)實(shí)時(shí)逐幀審核，在不影響識(shí)別率的情況下做到對(duì)視頻內(nèi)容審核的快速響應(yīng)，有效甄別視頻中是否有不良畫面，檢測視頻是否有內(nèi)容安全風(fēng)險(xiǎn)。

直播內(nèi)容審核在直播過程中進(jìn)行切片機(jī)審，實(shí)現(xiàn)機(jī)審結(jié)果快速輔助人工審核。支持對(duì)接主流直播平臺(tái)，并且具備彈幕審核、評(píng)論審核的能力，對(duì)問題直播可進(jìn)行一鍵下線操作。

“網(wǎng)晴內(nèi)容安全大腦”會(huì)將所有的檢測結(jié)果綜合展示在審核平臺(tái)中。不同威脅等級(jí)的內(nèi)容會(huì)以不同的顏色標(biāo)識(shí)，從而形成多層級(jí)、多維度的立體審核展示。

若需要進(jìn)一步審核，“網(wǎng)晴內(nèi)容安全大腦”會(huì)依據(jù)內(nèi)部調(diào)度策略將內(nèi)容分派給人工，進(jìn)行單審、雙審或三審。

網(wǎng)晴科技的人工審核團(tuán)隊(duì)包括新聞、出版相關(guān)專業(yè)人才，還配有主流媒體資深編輯組成的專家團(tuán)隊(duì)，深度介入時(shí)政、財(cái)經(jīng)、文史等方面的內(nèi)容，把關(guān)完善審核策略。此外，人工審核團(tuán)隊(duì)7×24小時(shí)在線，能及時(shí)處理審核問題，全力確保審核的時(shí)效性。

此外，針對(duì)大規(guī)模內(nèi)容安全審核場景，網(wǎng)晴科技為客戶提供降本增效的多種解決方案。客戶可根據(jù)自身的體量和需求，自由選擇AI審核或AI+人工審核或私有化平臺(tái)部署，讓內(nèi)容審核更具針對(duì)性和靈活性。

網(wǎng)絡(luò)空間是億萬民眾共同的精神家園。共建網(wǎng)上美好精神家園需要國家監(jiān)管部門、內(nèi)容生產(chǎn)者、內(nèi)容服務(wù)平臺(tái)、內(nèi)容服務(wù)使用者以及內(nèi)容安全服務(wù)者的共同推進(jìn)。網(wǎng)晴科技將始終全面保障用戶的內(nèi)容安全，守護(hù)清朗網(wǎng)絡(luò)空間，助力網(wǎng)絡(luò)文明建設(shè)，這既是責(zé)任，也是使命。