就在剛剛，微信官方公眾號“微信公開課”推送題為<微信移動端內(nèi)容安全鑒別工具來了！運營者的“避雷”利器>的文章，該小程序目前主要提供三個方面的能力：①、風險自測：相當于一個簡單的測評，根據(jù)你所選擇的信息；②、風險檢測：目前支持對文字和圖片的檢測，后續(xù)會增加視頻和音頻的檢測；③、行業(yè)動態(tài)：發(fā)布互聯(lián)網(wǎng)行業(yè)內(nèi)容安全動態(tài)、相關(guān)法律法規(guī)等內(nèi)容。

就如官方介紹中說的一樣，我個人最感興趣的是第二部分關(guān)于風險檢測的，目前僅支持文字和圖片的檢測，視頻和音頻檢測暫時還未開放。重點測試了文字和圖片檢測，文字可以智能識別文字中是否有敏感內(nèi)容，但是某些敏感內(nèi)容似乎檢測不出來，檢測機制應(yīng)該是騰訊官方的一個敏感詞庫，然后根據(jù)各種算法匹配出來的。而圖片檢測也主要是針對違法圖片檢測，但對于圖片版權(quán)問題是沒有檢測能力的，這一點要是做到就給力了。

另外，文字檢測和圖片檢測均支持通過https服務(wù)端接口調(diào)用其檢測能力，也可以通過小程序云開發(fā)調(diào)用其能力，而且調(diào)用次數(shù)限制對于一般應(yīng)用足夠了。后續(xù)微構(gòu)網(wǎng)絡(luò)可能會針對這些接口能力跟大家分享相關(guān)內(nèi)容。

以下是官方介紹內(nèi)容：

風險自測

點擊“開始檢測”進入“風險自測”頁面，開發(fā)運營者們可以勾選自己的產(chǎn)品功能、各功能發(fā)布內(nèi)容情況。

小程序會自動計算給出產(chǎn)品風險評級，并根據(jù)功能情況提供系統(tǒng)的安全解決方案，包括針對性的風險提示、相應(yīng)的風險防控建議。幫助開發(fā)運營者們了解產(chǎn)品風險現(xiàn)狀，從中獲取防控風險的內(nèi)容安全解決方案。

產(chǎn)品可能存在哪些風險，怎么防范，它都能一一道來，幫助消滅運營中的“危險分子”。

內(nèi)容鑒別

小程序目前具有圖片和文字鑒別功能，開發(fā)運營者可點擊主頁的“文字鑒別”或“圖片鑒別”，輸入相應(yīng)內(nèi)容，它將針對內(nèi)容中是否含有違法有害信息進行鑒別。

不僅能鑒別違法有害信息，它還有能力介紹和接入引導(dǎo)文檔，一站式安全能力服務(wù)讓開發(fā)者、運營者們從“體驗”到“理解”再到“接入”，全程無縫“滑行”。

行業(yè)動態(tài)

小程序還包含定期更新的互聯(lián)網(wǎng)行業(yè)內(nèi)容安全動態(tài)、相關(guān)法律法規(guī)等內(nèi)容，幫助開發(fā)運營者及時掌握行業(yè)情況。

能力進化：新功能上線進行時

作為公眾號小程序運營的“避雷”利器，“珊瑚內(nèi)容安全助手”小程序?qū)⒉粩嗌墸ㄆ诟滦袠I(yè)安全動態(tài)信息，進一步完善內(nèi)容安全能力。

在不久的將來，它還會推出音頻和視頻鑒別能力，幫助開發(fā)運營者們避開更多“雷區(qū)”。

只有當生態(tài)系統(tǒng)穩(wěn)定平衡時，珊瑚礁才能茁壯生長。我們歡迎每位開發(fā)運營者接入小程序，合規(guī)運營，與我們共同建立綠色、健康的微信生態(tài)。