3月27日，今天的標(biāo)題產(chǎn)生了一個(gè)名為“灰狗”的微信小程序，正式結(jié)束了為期兩個(gè)月的內(nèi)部測(cè)試期。 “灰狗”本周正式推出，這是中國(guó)第一個(gè)反庸俗信息小程序。

這個(gè)小程序誕生于今天的標(biāo)題反庸俗算法模型，用于識(shí)別粗俗信息。用戶可以將文本或文章鏈接放入搜索框以查詢消息的健康狀況。

但是，在文本檢測(cè)方面，“灰狗”團(tuán)隊(duì)規(guī)定，用戶輸入的單詞數(shù)量必須超過(guò)10個(gè)單詞才能進(jìn)行測(cè)試。

為此，“灰狗”團(tuán)隊(duì)給出了一個(gè)解釋?zhuān)河脩舻谋尘?，背景等越充分，機(jī)器判斷的準(zhǔn)確性就越高。

一些參與內(nèi)部測(cè)試的用戶曾在“灰狗”上測(cè)試過(guò)“你餓了，我給你以下”字樣。數(shù)據(jù)顯示內(nèi)容健康指數(shù)為51％。昨天，Hedgehog再次測(cè)試了該指數(shù)的含量為56％。

“戈?duì)柭眻F(tuán)隊(duì)沈陽(yáng)app開(kāi)發(fā)

解釋說(shuō)，與色情文學(xué)不同，處理粗俗信息的困難之一是人們對(duì)庸俗判斷標(biāo)準(zhǔn)具有一定的主觀性。色情信息很簡(jiǎn)單，粗俗的信息有偏見(jiàn)，對(duì)于像“狗”這樣的機(jī)器來(lái)說(shuō)更難。

今天的標(biāo)題方法是將粗俗標(biāo)準(zhǔn)分為兩個(gè)層次：幾乎每個(gè)人似乎都同意的標(biāo)準(zhǔn)底線，以及因人而異的主觀判斷。

那么，在算法機(jī)制背后，“精神之犬”如何判斷一段文字或鏈接到一個(gè)網(wǎng)站作為粗俗？

“雕文”團(tuán)隊(duì)給出的解釋是算法模型處理粗俗內(nèi)容并且具有最常見(jiàn)的路徑之一：“收集數(shù)據(jù) - 標(biāo)記樣本 - 訓(xùn)練模型”。

對(duì)于用戶輸入的文本或鏈接，“灰狗”將首先提取，分段和語(yǔ)義識(shí)別，然后根據(jù)設(shè)定的規(guī)則輸出相應(yīng)的分?jǐn)?shù)，等級(jí)和結(jié)論。

但是，當(dāng)測(cè)試人員用圖像和視頻測(cè)試鏈接時(shí)，測(cè)試結(jié)果不是很好。

“雕文”團(tuán)隊(duì)給出的解釋是，由于圖像和視頻提取需要很長(zhǎng)時(shí)間，因此返回結(jié)果很慢?？紤]到該工具的即時(shí)性，暫時(shí)不支持檢測(cè)。

“灰狗”的誕生將包含在今天的標(biāo)題內(nèi)容審查系統(tǒng)中。它與今天的標(biāo)題內(nèi)容審查機(jī)制有關(guān)，如“狗”和“工作犬單位”?？梢岳斫?，“精神狗”是標(biāo)題審查機(jī)制的反粗俗部分的簡(jiǎn)化版本。

據(jù)了解，就內(nèi)容審查而言，今天的頭條新聞目前正在投資4,000多名專(zhuān)業(yè)審計(jì)團(tuán)隊(duì)。

“灰狗”團(tuán)隊(duì)表示，這是中國(guó)最大的審計(jì)團(tuán)隊(duì)，并建立了180多個(gè)色情，粗俗，頭銜，虛假信息和低質(zhì)量模型。結(jié)合手工和技術(shù)手段，有效提高了內(nèi)容審查的效率和準(zhǔn)確性。學(xué)位。

事實(shí)上，今天的頭條新聞?dòng)?jì)劃去年這件事。今年1月底，“灰狗”團(tuán)隊(duì)為全社會(huì)招募了反庸俗的測(cè)試人員，最終從包括政府在內(nèi)的5000多名注冊(cè)用戶中選出了30名代表。部門(mén)工作人員，媒體記者，編輯，大學(xué)教授，學(xué)生，互聯(lián)網(wǎng)公司產(chǎn)品經(jīng)理和技術(shù)人員，自我媒體人員等。

在內(nèi)部測(cè)試階段，“灰狗”團(tuán)隊(duì)根據(jù)測(cè)試人員的反饋添加了大量手動(dòng)策略，以幫助改進(jìn)“靈魂犬”小程序。增加的策略包括：對(duì)于權(quán)威媒體報(bào)道和詩(shī)歌內(nèi)容，建議傾斜算法;對(duì)于政府和其他機(jī)器難以直接處理的內(nèi)容，必須通過(guò)人工審核來(lái)判斷。