小程序因內(nèi)容違規(guī)而離線？想要審查和識別違規(guī)但不知道如何開始？

上周，我們上線內(nèi)容安全接口并使用這個“神器”來幫助每個人解決問題。

今天，讓我們仔細看看這個“神器”，以幫助您更好地解決上述問題。

這個幫手幫你做內(nèi)容審核

用戶通過小程序發(fā)布的內(nèi)容大而且多變，并且不可能逐個檢查。

小程序內(nèi)容安全接口輔助開發(fā)者準確快速驗證小程序的文本、圖片內(nèi)容是否包含淫穢色情，非法犯罪，政治參與等，防止不良信息混入，維持小程序內(nèi)容健康。

溫馨提醒，即使開發(fā)人員擁有內(nèi)容安全的界面，這也是一個很好的“幫手”，并且不能掉以輕心。

三大能力，快速發(fā)現(xiàn)并處理違規(guī)內(nèi)容

可以成為“好幫手”，當然還有“超級能力”。 小程序內(nèi)容安全界面提供三種功能，從圖像到文本，以準確識別違規(guī)內(nèi)容。

圖片智能鑒黃

無論是用戶通過照片上傳的內(nèi)容，自定義頭像，還是文章評論的圖片圖片智能鑒黃接口都能夠進行主動識別及獲取色情量化程度信息，都能實現(xiàn)準確快速的色情傾向判斷。

智能人臉識別

“眼盲”面部識別能力可以提取圖中的面部信息并執(zhí)行相似度判斷，包括重要政治人物、公眾人物和其他圖像人臉識別，以幫助開發(fā)人員避免違規(guī)和侵權(quán)風險。

惡意文本檢測

該文本包含許多潛在的非法元素。內(nèi)容安全界面提供更高級智能的惡意文本檢測能力，可以準確識別文本內(nèi)容中的非法文本信息，并協(xié)助檢測違規(guī)和惡意內(nèi)容。

這些場景已經(jīng)能實際使用了

目前，內(nèi)容安全界面已經(jīng)能夠用于小程序處的文本，圖像等的內(nèi)容驗證。

用戶的個人資料、媒體類用戶發(fā)表的文章及評論、游戲類用戶編輯上傳的素材等，開發(fā)人員可以使用內(nèi)容安全界面進行文本檢測。

此外，內(nèi)容安全接口可以檢測用戶拍照上傳、電商類商品上架圖片、用戶頭像、媒體類用戶文章配圖、社交類用戶上傳的圖片。

更多你關注的Q&A

在了解了小程序內(nèi)容安全界面的基本信息后，您可能會有一些問題：這個界面適合誰？有什么影響？問答了解——

Q1： 開放內(nèi)容安全接口能為開發(fā)者帶來什么好處？

A：我們注意到，近年來，由于產(chǎn)品中存在非法內(nèi)容，它已經(jīng)受到處罰，甚至關閉了貨架，開發(fā)者的內(nèi)容審核工作刻不容緩。因此，我們推出了內(nèi)容安全界面，希望能夠幫助開發(fā)人員及時發(fā)現(xiàn)和處理圖像和文本內(nèi)容中的違規(guī)行為，從而使開發(fā)人員能夠?qū)Ｗ⒂诟哔|(zhì)量的小程序開發(fā)。

Q2： 哪些小程序可以使用內(nèi)容安全接口，有使用要求嗎？

A：目前，內(nèi)容安全接口面向所有的小程序開發(fā)者，免費提供一定額度的接口調(diào)用量主要為小程序內(nèi)容審查工作提供幫助，平臺不保留小程序開發(fā)人員提交的測試數(shù)據(jù)。如果呼叫量要求超過上限，則開發(fā)者可以通過業(yè)務邏輯優(yōu)化，自行開發(fā)的內(nèi)容審查手段和其他第三方內(nèi)容審查界面進行內(nèi)容審查。

Q3： 有了內(nèi)容安全接口，開發(fā)者是不是就能省略內(nèi)容審核工作？

A：目前，內(nèi)容安全界面僅提供內(nèi)容審核的基礎能力來幫助開發(fā)人員發(fā)現(xiàn)有害內(nèi)容，但對于內(nèi)容檢測結(jié)果以及其他非法內(nèi)容（如暴力，恐怖，血腥），開發(fā)人員仍需要進行良好的管理職責。自行開展審核并對有害內(nèi)容進行刪除等處理，并且不能忽略內(nèi)容審核工作。

同時，開發(fā)人員可以通過《文本內(nèi)容安全接口》和《圖片內(nèi)容安全接口》了解有關小程序內(nèi)容安全接口的更多信息，以創(chuàng)建更環(huán)保，更健康的小程序生態(tài)系統(tǒng)。