4、GPT-3的高級(jí)文本功能成了虛假信息行為者津津樂道的工具
時(shí)間：2022-03-27 20:21:02 | 來源：行業(yè)動(dòng)態(tài)
時(shí)間：2022-03-27 20:21:02 來源：行業(yè)動(dòng)態(tài)
GPT-3是OpenAI開發(fā)的一個(gè)高級(jí)項(xiàng)目，GPT-3可生成類似人類寫作的內(nèi)容，GPT-3這個(gè)功能非常強(qiáng)大、令人真假難辨，而且據(jù)喬治敦大學(xué)的兩位安全研究人員的說法，可能非常危險(xiǎn)。
GPT-3人工智能文本生成器是有史以來最大的神經(jīng)網(wǎng)絡(luò)，只要提供一個(gè)文本提示或一個(gè)句子，GPT-3就可以返回完全通順的文本段落。GPT-3還可以生成有效的計(jì)算機(jī)代碼，GPT-3甚至還寫了一篇關(guān)于自己的、包含了高度信息的博文。哪里可能出岔子呢？
喬治敦大學(xué)安全和新興技術(shù)中心的研究分析員Drew Lohn和 Micah Musser成功從OpenAI申請(qǐng)到這個(gè)自動(dòng)語言工具的使用。他們要在六個(gè)月的時(shí)間內(nèi)了解GPT-3能夠造成什么樣的危害。
二位研究人員利用不同的對(duì)照組測試了關(guān)于政治或社會(huì)問題的多個(gè)樣本，目的是看讀者是否能區(qū)分人類和機(jī)器所寫的內(nèi)容的區(qū)別。GPT-3將美聯(lián)社的兩篇正當(dāng)?shù)男侣剤?bào)道改寫成支持唐納德-特朗普或反對(duì)前總統(tǒng)的文章，一個(gè)專家小組無法哪是原稿哪是GTP-3改寫過的文章。
二位研究人員指出，GPT-3特別擅長讀取少少的幾條指令生成推文，GPT-3的速度和準(zhǔn)確性令其有可能利用一個(gè)社交媒體賬戶傳播出大量的信息。
Lohn表示，我不確定其影響是否得到足夠的重視以及被深究過。這些技術(shù)可以帶來很多潛在的好處。我們需要對(duì)這類決定進(jìn)行討論。
在線咨詢