就在剛剛，微信官方公眾號(hào)“微信公開課”推送題為<微信移動(dòng)端內(nèi)容安全鑒別工具來了！運(yùn)營(yíng)者的“避雷”利器>的文章，該小程序目前主要提供三個(gè)方面的能力：①、風(fēng)險(xiǎn)自測(cè)：相當(dāng)于一個(gè)簡(jiǎn)單的測(cè)評(píng)，根據(jù)你所選擇的信息；②、風(fēng)險(xiǎn)檢測(cè)：目前支持對(duì)文字和圖片的檢測(cè)，后續(xù)會(huì)增加視頻和音頻的檢測(cè)；③、行業(yè)動(dòng)態(tài)：發(fā)布互聯(lián)網(wǎng)行業(yè)內(nèi)容安全動(dòng)態(tài)、相關(guān)法律法規(guī)等內(nèi)容。

就如官方介紹中說的一樣，我個(gè)人最感興趣的是第二部分關(guān)于風(fēng)險(xiǎn)檢測(cè)的，目前僅支持文字和圖片的檢測(cè)，視頻和音頻檢測(cè)暫時(shí)還未開放。重點(diǎn)測(cè)試了文字和圖片檢測(cè)，文字可以智能識(shí)別文字中是否有敏感內(nèi)容，但是某些敏感內(nèi)容似乎檢測(cè)不出來，檢測(cè)機(jī)制應(yīng)該是騰訊官方的一個(gè)敏感詞庫(kù)，然后根據(jù)各種算法匹配出來的。而圖片檢測(cè)也主要是針對(duì)違法圖片檢測(cè)，但對(duì)于圖片版權(quán)問題是沒有檢測(cè)能力的，這一點(diǎn)要是做到就給力了。

另外，文字檢測(cè)和圖片檢測(cè)均支持通過https服務(wù)端接口調(diào)用其檢測(cè)能力，也可以通過小程序云開發(fā)調(diào)用其能力，而且調(diào)用次數(shù)限制對(duì)于一般應(yīng)用足夠了。后續(xù)微構(gòu)網(wǎng)絡(luò)可能會(huì)針對(duì)這些接口能力跟大家分享相關(guān)內(nèi)容。

以下是官方介紹內(nèi)容：

風(fēng)險(xiǎn)自測(cè)

點(diǎn)擊“開始檢測(cè)”進(jìn)入“風(fēng)險(xiǎn)自測(cè)”頁面，開發(fā)運(yùn)營(yíng)者們可以勾選自己的產(chǎn)品功能、各功能發(fā)布內(nèi)容情況。

小程序會(huì)自動(dòng)計(jì)算給出產(chǎn)品風(fēng)險(xiǎn)評(píng)級(jí)，并根據(jù)功能情況提供系統(tǒng)的安全解決方案，包括針對(duì)性的風(fēng)險(xiǎn)提示、相應(yīng)的風(fēng)險(xiǎn)防控建議。幫助開發(fā)運(yùn)營(yíng)者們了解產(chǎn)品風(fēng)險(xiǎn)現(xiàn)狀，從中獲取防控風(fēng)險(xiǎn)的內(nèi)容安全解決方案。

產(chǎn)品可能存在哪些風(fēng)險(xiǎn)，怎么防范，它都能一一道來，幫助消滅運(yùn)營(yíng)中的“危險(xiǎn)分子”。

內(nèi)容鑒別

小程序目前具有圖片和文字鑒別功能，開發(fā)運(yùn)營(yíng)者可點(diǎn)擊主頁的“文字鑒別”或“圖片鑒別”，輸入相應(yīng)內(nèi)容，它將針對(duì)內(nèi)容中是否含有違法有害信息進(jìn)行鑒別。

不僅能鑒別違法有害信息，它還有能力介紹和接入引導(dǎo)文檔，一站式安全能力服務(wù)讓開發(fā)者、運(yùn)營(yíng)者們從“體驗(yàn)”到“理解”再到“接入”，全程無縫“滑行”。

行業(yè)動(dòng)態(tài)

小程序還包含定期更新的互聯(lián)網(wǎng)行業(yè)內(nèi)容安全動(dòng)態(tài)、相關(guān)法律法規(guī)等內(nèi)容，幫助開發(fā)運(yùn)營(yíng)者及時(shí)掌握行業(yè)情況。

能力進(jìn)化：新功能上線進(jìn)行時(shí)

作為公眾號(hào)小程序運(yùn)營(yíng)的“避雷”利器，“珊瑚內(nèi)容安全助手”小程序?qū)⒉粩嗌?jí)，定期更新行業(yè)安全動(dòng)態(tài)信息，進(jìn)一步完善內(nèi)容安全能力。

在不久的將來，它還會(huì)推出音頻和視頻鑒別能力，幫助開發(fā)運(yùn)營(yíng)者們避開更多“雷區(qū)”。

只有當(dāng)生態(tài)系統(tǒng)穩(wěn)定平衡時(shí)，珊瑚礁才能茁壯生長(zhǎng)。我們歡迎每位開發(fā)運(yùn)營(yíng)者接入小程序，合規(guī)運(yùn)營(yíng)，與我們共同建立綠色、健康的微信生態(tài)。