智能算法推薦到底是不是原罪

時(shí)間：2023-01-27 01:28:01 | 來(lái)源：電子商務(wù)

時(shí)間：2023-01-27 01:28:01 來(lái)源：電子商務(wù)

文 | 大友

來(lái)源 | 智能相對(duì)論(aixdlun)

近日，人民網(wǎng)連發(fā)《不能讓算法決定內(nèi)容》、《別被算法困在“信息繭房”》、《警惕算法走向創(chuàng)新的反面》三篇評(píng)論文章，指出以今日頭條為代表，單純依靠算法推薦的平臺(tái)存在價(jià)值觀缺失、制造信息繭房、競(jìng)爭(zhēng)手段屢破底線三大問(wèn)題。而后，人民網(wǎng)又發(fā)表文章《今日頭條如何用算法打擊“標(biāo)題黨”》，為算法正名。

人民網(wǎng)如此頻繁的關(guān)注智能算法推薦，那么智能算法推薦到底是什么?于今日頭條意味著什么?為今日頭條帶來(lái)了哪些問(wèn)題?今日頭條的智能算法推薦又當(dāng)何去何從?

一、智能算法推薦是什么?

所謂智能算法推薦，是把合適的內(nèi)容推送給合適的人，平臺(tái)相當(dāng)于流量分發(fā)機(jī)器。推薦算法大致分為三類：基于內(nèi)容的推薦算法、協(xié)同過(guò)濾算法、基于知識(shí)的推薦算法，此外還有以加權(quán)、串聯(lián)、并聯(lián)等方式融合以上算法的方法。

相比人工推薦，智能算法推薦投入產(chǎn)出比更高、覆蓋面更廣、個(gè)性化程度更高，但風(fēng)險(xiǎn)把控能力相對(duì)較低。

近來(lái)年，智能推薦算法在信息分發(fā)市場(chǎng)中的地位越來(lái)越重要，甚至已呈現(xiàn)出算法推薦超過(guò)人工推薦的趨勢(shì)。

盡管智能推薦算法五花八門，在內(nèi)容分發(fā)市場(chǎng)發(fā)揮的作用也越來(lái)越大，但是算法沒(méi)有思維，有思維的是隱藏在算法背后的人，算法的呈現(xiàn)形式由人的價(jià)值觀決定，由人的利益驅(qū)使。人工智能技術(shù)與服務(wù)提供商第四范式的互聯(lián)網(wǎng)業(yè)務(wù)負(fù)責(zé)人周開拓在接受記者采訪時(shí)表示，“算法推送出的內(nèi)容是企業(yè)自己在其中進(jìn)行權(quán)衡的結(jié)果”，“人工智能，其實(shí)先有人工，后有智能，算法本身是沒(méi)有傾向的。我們?cè)谕菩械臅r(shí)候會(huì)把用戶體驗(yàn)拆成兩小塊，一個(gè)是短期體驗(yàn)，另一個(gè)是長(zhǎng)期體驗(yàn)。所以長(zhǎng)期和短期體驗(yàn)的權(quán)衡，不是算法決定，而是人為決定。”

二、智能算法推薦于今日頭條意味著什么?

2012年，移動(dòng)資訊平臺(tái)領(lǐng)域仍是騰訊新聞、搜狐新聞等傳統(tǒng)PC端媒體的天下，其內(nèi)容提供手段沿襲傳統(tǒng)媒體模式：優(yōu)質(zhì)內(nèi)容+編輯精選。然而隨著泛娛樂(lè)化、社交化時(shí)代的到來(lái)，用戶已不滿足于被動(dòng)接收信息，他們渴望生產(chǎn)內(nèi)容、渴望創(chuàng)造影響力，傳統(tǒng)移動(dòng)資訊平臺(tái)難以滿足用戶的個(gè)性化需求。

張一鳴緊緊抓住這一機(jī)遇，于2012年3月創(chuàng)立今日頭條，致力于為用戶提供個(gè)性化、社會(huì)化的移動(dòng)資訊平臺(tái)，基于數(shù)據(jù)挖掘，為用戶推薦有價(jià)值的、個(gè)性化的信息，提供連接人與信息的新型服務(wù)。誕生僅一年多時(shí)間，今日頭條便已在中國(guó)手機(jī)新聞客戶端活躍用戶分布榜單中占據(jù)一席之地，并高居用戶滿意度榜單榜首。

(圖片來(lái)源：艾媒咨詢2013年中國(guó)手機(jī)新聞客戶端活躍用戶分布)

(圖片來(lái)源：艾媒咨詢2013年中國(guó)手機(jī)新聞客戶端用戶滿意度)

2014年6月，今日頭條估值為5億美元，截至目前，經(jīng)過(guò)三輪融資，估計(jì)已近200億，其估值在三年內(nèi)增長(zhǎng)約40倍。據(jù)公開數(shù)據(jù)顯示，2017年5月，今日頭條激活用戶數(shù)已經(jīng)超過(guò)7億，月活躍用戶數(shù)超過(guò)1.5億，單用戶日均使用時(shí)長(zhǎng)超過(guò)Facebook，達(dá)到76分鐘，日均啟動(dòng)次數(shù)約9次。

智能算法推薦在今日頭條的個(gè)性化服務(wù)及快速崛起中扮演著至關(guān)重要的角色。據(jù)了解，今日頭條共有4萬(wàn)臺(tái)服務(wù)器進(jìn)行運(yùn)算，來(lái)保證以秒級(jí)速度收集信息，對(duì)用戶特征作出反應(yīng)并推送信息，2016年更是成立人工智能實(shí)驗(yàn)室，主要研究自然語(yǔ)言理解，計(jì)算機(jī)視覺(jué)， 機(jī)器學(xué)習(xí)(算法與系統(tǒng))，人機(jī)交互等AI技術(shù)。

憑借著智能算法，今日頭條快速抓取用戶數(shù)據(jù)，精準(zhǔn)分析用戶需求，高效把關(guān)內(nèi)容質(zhì)量、進(jìn)而實(shí)現(xiàn)個(gè)性化推薦，這也是今日頭條能夠殺出重圍，在移動(dòng)資訊領(lǐng)域站穩(wěn)腳跟的核心優(yōu)勢(shì)。

智能算法推薦帶來(lái)了哪些問(wèn)題?

智能算法推薦于今日頭條的發(fā)展功不可沒(méi)，然而由于根據(jù)閱讀量、閱讀時(shí)長(zhǎng)、轉(zhuǎn)發(fā)量、過(guò)往閱讀行業(yè)實(shí)施推薦，缺少必要的內(nèi)容審核機(jī)制，容易導(dǎo)致為抓住用戶眼球而犧牲文章質(zhì)量問(wèn)題的出現(xiàn)。正如人民網(wǎng)《不能讓算法決定內(nèi)容》一文所說(shuō)，”內(nèi)容能否推送、推送給誰(shuí)，由機(jī)器說(shuō)了算，依據(jù)的標(biāo)準(zhǔn)就一條：能不能抓眼球、能不能吸引用戶。單一的標(biāo)準(zhǔn)不僅容易忽視優(yōu)質(zhì)內(nèi)容更為豐富的面向和維度，也增加了把關(guān)內(nèi)容產(chǎn)品的難度和成本。這也就不難理解，為什么即使事后不斷處罰違規(guī)的內(nèi)容賬號(hào)，卻無(wú)法停止劣質(zhì)內(nèi)容的再次生長(zhǎng)“。

今日頭條質(zhì)量低下問(wèn)題已多次引起官方關(guān)注。2017年以來(lái)，今日頭條三度遭約談，成為低俗內(nèi)容重災(zāi)區(qū)。1月6日，北京市網(wǎng)信辦發(fā)現(xiàn)今日頭條”頭條問(wèn)答“欄目多次登載”庸俗討論話題“，對(duì)今日頭條提出嚴(yán)肅批評(píng)，并責(zé)令其整改;4月，央視曝光了今日頭條向用戶推送”艷俗“直播平臺(tái)：火山直播，4月18日，北京網(wǎng)信辦、市公安局、市文化市場(chǎng)行政執(zhí)法部隊(duì)聯(lián)合約談今日頭條、火山直播等平臺(tái)，責(zé)令限期整改。7月，北京市網(wǎng)信辦約談今日頭條、微博等網(wǎng)絡(luò)信息平臺(tái)，并永久”封殺“了一批”內(nèi)容低俗“的違規(guī)自媒體帳號(hào)。

今日頭條自己不生產(chǎn)內(nèi)容，依靠智能算法抓取別人的內(nèi)容，容易導(dǎo)致侵權(quán)問(wèn)題的發(fā)生。智能相對(duì)論(ID:aixdlun)粗略統(tǒng)計(jì)，近半年來(lái)，今日頭條涉及的版權(quán)糾紛就有近10起。

今日頭條內(nèi)容質(zhì)量低下、版權(quán)糾紛等問(wèn)題的出現(xiàn)，真的是智能算法推薦的錯(cuò)嗎?人民網(wǎng)《今日頭條如何用算法打擊“標(biāo)題黨”》一文中提到，”很多“標(biāo)題黨”常用的內(nèi)容元素其實(shí)都是可以在文本層面進(jìn)行總結(jié)的，交由機(jī)器處理的效率會(huì)更高“，實(shí)則間接為智能算法推薦正名。

正如周開拓所說(shuō)，”人工智能，其實(shí)先有人工，后有智能，算法本身是沒(méi)有傾向的“，”算法推送出的內(nèi)容是企業(yè)自己在其中進(jìn)行權(quán)衡的結(jié)果”。內(nèi)容質(zhì)量低下，源于平臺(tái)的利益目的及部分用戶對(duì)“低俗”內(nèi)容的需求。今日頭條的算法推薦與內(nèi)容識(shí)別大部分是依靠用戶的行為，會(huì)在用戶瀏覽信息時(shí)智能抓取關(guān)鍵詞，并給用戶畫像，對(duì)用戶進(jìn)行歸類，進(jìn)而根據(jù)關(guān)鍵詞匹配出相關(guān)內(nèi)容，最后將這些內(nèi)容推薦給用戶，若用戶閱讀的低俗內(nèi)容多，則相應(yīng)推薦的低俗內(nèi)容也會(huì)多。

智能算法推薦是技術(shù)發(fā)展的產(chǎn)物，技術(shù)本身并沒(méi)有錯(cuò)，只是在高速發(fā)展的背景下，承擔(dān)了平臺(tái)利益屬性及部分用戶“低俗“需求的罪過(guò)。

今日頭條智能算法推薦的出路在哪?

人民網(wǎng)的一評(píng)、二評(píng)、三評(píng)，根源直指內(nèi)容質(zhì)量低下，為走出困境，今日頭條需提高內(nèi)容質(zhì)量，重視人工編輯的作用。

1、今日頭條遲遲不愿在提升內(nèi)容質(zhì)量上發(fā)力，源于其兩難選擇

今日頭條的內(nèi)容質(zhì)量問(wèn)題自成立之日起，便為大眾所詬病，然而直至今日，仍是漏洞重重。2017年4月，經(jīng)過(guò)北京市網(wǎng)信辦、北京市公安局、北京市文化市場(chǎng)行政執(zhí)法總隊(duì)聯(lián)合調(diào)查，今日頭條并未能有效履行主體責(zé)任，在信息審核、應(yīng)急處置、技術(shù)保障等方面存在制度缺失，在直播內(nèi)容、用戶分類管理、真實(shí)身份信息認(rèn)證、處理公眾舉報(bào)等方面存在重大管理漏洞。

究其原因，在于剔除較為低俗的內(nèi)容和作者會(huì)導(dǎo)致大量用戶流失，而用戶的流失又可能會(huì)使優(yōu)質(zhì)原創(chuàng)作者將重心轉(zhuǎn)移到到其他自媒體平臺(tái)。對(duì)今日頭條而言，主動(dòng)嚴(yán)格監(jiān)管廣告內(nèi)容勢(shì)必會(huì)影響其商業(yè)利益，但放松監(jiān)管又會(huì)對(duì)平臺(tái)信譽(yù)產(chǎn)生影響，兩難境地必將經(jīng)過(guò)一番博弈。

2、時(shí)至今日，面對(duì)官媒的連續(xù)實(shí)捶，今日頭條不得不直面問(wèn)題

9月21日，今日頭條對(duì)人民網(wǎng)的三評(píng)做出回應(yīng)稱將“正視不足，勉力前行”，并指出，“機(jī)器學(xué)習(xí)和人工編輯，在現(xiàn)階段，是相輔相成的。未來(lái)也是如此。再聰明的人工智能，也只是一個(gè)需要不斷升級(jí)的工具，而人是不可替代的。這是一個(gè)不斷磨合和優(yōu)化的過(guò)程。這也是人民網(wǎng)三篇評(píng)論的價(jià)值所在。”

3、今日頭條欲走出困境，提高內(nèi)容質(zhì)量、重視人工編輯的作用是關(guān)鍵，算法推薦+人工編輯是大勢(shì)所趨

信息爆炸時(shí)代，如果沿用過(guò)去的人工推送的形式，顯然會(huì)面臨效率低下、難以滿足“千人千面”的個(gè)性化需求等問(wèn)題，而算法推送則大幅提升了推送效率和推送針對(duì)性，使用戶從海量信息中解放出來(lái)。但是由于無(wú)法準(zhǔn)確判斷內(nèi)容價(jià)值，單純依賴算法進(jìn)行個(gè)性化推薦容易導(dǎo)致內(nèi)容質(zhì)量低下，需要人工編輯修正對(duì)機(jī)器進(jìn)行干預(yù)，降低點(diǎn)擊率對(duì)算法推薦的影響，加強(qiáng)對(duì)高價(jià)值內(nèi)容的人工干預(yù)，算法推薦與人工干預(yù)相結(jié)合將是大勢(shì)所趨。

面對(duì)普遍存在的內(nèi)容質(zhì)量困局，已有平臺(tái)開始實(shí)踐算法推薦+人工編輯的優(yōu)化路徑。2016年10月，一點(diǎn)資訊請(qǐng)來(lái)原新浪網(wǎng)總編輯陳彤做總編輯，CEO李亞在也毫不掩飾的說(shuō)：陳彤加入一點(diǎn)資訊，就是因?yàn)闄C(jī)器算法有缺陷。2016年12月16日，F(xiàn)acebook上線Fact-Checking(事實(shí)審核)機(jī)制，將用戶舉報(bào)過(guò)多的信息交付機(jī)構(gòu)記者來(lái)判斷，如果記者判斷這則內(nèi)容是假新聞，就會(huì)將內(nèi)容標(biāo)記為存在爭(zhēng)議，一方面會(huì)在前端頁(yè)面提示給用戶此內(nèi)容可能失實(shí)，另一方面會(huì)從分發(fā)量的角度進(jìn)行控制。2017年5月，扎克伯格發(fā)帖稱Facebook會(huì)再招聘3000名內(nèi)容審查員，在此次招聘后將會(huì)達(dá)到7500人。審查員會(huì)過(guò)濾社交媒體上的不適當(dāng)內(nèi)容，如戀童癖、身體暴露、種族仇恨等內(nèi)容。

面對(duì)官媒的壓力、大眾的輿論，今日頭條需及早完成流量與質(zhì)量博弈，找到一條算法推薦和人工編輯的平衡之路。

智能相對(duì)論(微信id:aixdlun)：2個(gè)前人工智能行業(yè)管理咨詢老鳥+1個(gè)老媒體人組成的三人幫，深挖人工智能這口井，評(píng)出咸淡，講出黑白，道出深淺。