OpenAI第三代超強NLP模型，能設(shè)計網(wǎng)頁能寫郵件

時間：2023-07-21 21:24:02 | 來源：網(wǎng)站運營

時間：2023-07-21 21:24:02 來源：網(wǎng)站運營

OpenAI第三代超強NLP模型，能設(shè)計網(wǎng)頁能寫郵件：AI 又進化了。

你正在設(shè)計網(wǎng)頁，我要一個“長得像西瓜的按鈕”——

然后機器就自動生成了這個：

還可以做其它制定：

大字寫：歡迎來到我的通訊頁，底下一個藍色的訂閱按鈕。

對黑字不滿意？可以加一個“in red”（large text in red），就變成紅色字體。

你跟它說：我要一個彩虹色的按鈕！

它就能給你集齊七種顏色。

做到這些，一行代碼都不要寫！只需要講人能聽懂的話，機器就可以理解你的意思，然后生成代碼，最終實現(xiàn)效果。

實現(xiàn)這個功能的程序員，自己都忍不住驚呼：簡直太酸爽了！

AI 能如此理解人話，善解人意，是因為大名鼎鼎的研究機構(gòu) Open AI 又開發(fā)了第三代語言模型 GPT3，并開放了申請使用。

GPT-3，1750 億參數(shù)，45TB 訓練數(shù)據(jù)

2020 年 5 月 29 日，知名 AI 研究機構(gòu) OpenAI 公布了其下一代文本生成神經(jīng)網(wǎng)絡(luò) GPT-3（Generative Pretrained Transformer 3）的研究論文。

這是一款無監(jiān)督式 Transformer 語言模型，作為 GPT-2 的后繼，GPT-3 完整版的訓練規(guī)模包含了 1750 億個參數(shù)，是前者的 117 倍，是今年 2 月份微軟剛剛推出全球最大深度學習模型 Turing NLP 的幾十倍，其訓練數(shù)據(jù)更是達到了驚人的 45 TB。

OpenAI 表示，GPT-3 已經(jīng)成功地實現(xiàn)了某些 “元學習” 任務(wù)，比如不同語言之間的翻譯，它可以自動抽象及提煉輸入輸出的內(nèi)容。

同 GPT-2 相比，GPT-3 在基準測試的成績有了大幅提高，預(yù)訓練 GPT-3 需要幾千 petaflop/s-days，而 GPT-2 的這個數(shù)字是幾十。OpenAI 對此表示，它的表現(xiàn)或許已經(jīng)接近現(xiàn)有 NLP 方法的上限。

與此同時，OpenAI 還公布了一個基于 GPT-3 的 API 產(chǎn)品，外界預(yù)期，如果 GPT-3 表現(xiàn)出高度的穩(wěn)定性和實用性，這將成為其走向全面商業(yè)化運作的第一步。

猶記得，GPT-2 推出的時候，OpenAI 還遮遮掩掩拿出一個半成品供大家使用，認為它具備一定 “危險” 性，很可能被人濫用產(chǎn)生不良后果。如今終于可以大大方方地開放使用申請，以便進一步迭代和挖掘潛能。

OpenAI 對商業(yè)化方面有這樣的表述：首先，將技術(shù)產(chǎn)品變現(xiàn)，將更好地反哺產(chǎn)品本身的研發(fā)、優(yōu)化。

其次，GPT-3 API 的很多基礎(chǔ)模型非常龐大，需要大量的專業(yè)知識和性能優(yōu)異的機器，這將導致小公司或個人無法從中獲益，而大企業(yè)實現(xiàn)壟斷的局面。

最后，假如出現(xiàn)了濫用的情況，我們有能力從源頭切斷其使用。并且，我們將會與內(nèi)測用戶一起，預(yù)防可能的危害行為，以及制定相應(yīng)標準。

簡直像“擁有智能”

獲得試用的程序員們，就像擁有了超級外掛。

可以生成一個郵件助手，只要輸入關(guān)鍵字，就可以生成完整的回復。

比如，你收到了一封郵件，有人想給你的項目投資 10 萬美元。你想的簡單粗暴：謝謝，不用，我們接受投資 15 萬起，項目的預(yù)估市場有 90 億。

雖然話一下就能說清楚，但是寫郵件有各種格式，還要考慮社交辭令，這些都要花費時間和精力。讓 AI 幫你吧。

“我不確定你是不是注意到了，但是我們的投資至少15萬美元起。我不確定10萬美元足夠可以參加這一輪投資。但是我很高興你愿意出這么多……”

是不是一下就 “得體” 了，完全像 “人” 寫的。

它有多智能呢，有人和 GPT-3 對話，做了一個圖靈測試。

Q: 你最喜歡的動物是什么?

A: 我最喜歡的動物是狗。

Q: 為什么？

A: 因為狗又忠誠又友善。

Q: 狗可能會情緒不好的兩個理由是什么？

A: 狗情緒不好的兩個理由是要么它餓了，要么它熱了。

Q: 長頸鹿有多少眼睛？

A: 長頸鹿有兩只眼。

……

Q: 為什么沒有三條腿的動物？

A: 動物沒有三條腿因為它們會跌倒。

它還可以挑戰(zhàn)更困難的問題：

這 5 個關(guān)于重量比較的問題中，GPT-3 回答對了 4 個。把烤面包機誤認為比鉛筆輕。

如果在正常問題中，摻雜一些反常識的問題，它會怎么回答？

GPT-3 能回答出長頸鹿有 2 只眼睛，蜘蛛有 8 只眼。但是卻會說：你的腳有兩只眼，太陽有一只眼，刀片有一只眼。

好像它不會意識到提問不對勁，只會老老實實地作答，而且也不會說“我不知道”。

雖然它有時候會 “說出” 讓人驚艷的句子，像個機靈鬼：

圖 | 有人用 GPT-3 做了一個隨機的句子生成器，這是隨意輸入單詞得到的一個“警句”

OpenAI 聯(lián)合創(chuàng)始人：GPT-3 被吹捧太過了

從其表現(xiàn)來看，GPT-3 確實很好地支持了多種形式的輸入，并且能較 “人性化” 地理解各種復雜需求和不同的表達方式，并給出基本滿意的結(jié)果。

但與此同時也存在著另外一種聲音，認為 GPT-3 并沒有實現(xiàn)真正的創(chuàng)新，只是 GPT-2 的放大版。

1750 億，的確在 transformer 參數(shù)數(shù)字方面是一個極大的飛躍，但縱觀其基礎(chǔ)架構(gòu)并沒有太大變化，從某種意義上說，把它叫做 GPT-3 也挺合理的：它的確是 GPT-2 的延續(xù)。

對此，OpenAI 聯(lián)合創(chuàng)始人 Sam Altman 試圖淡化對 GPT-3 的吹捧之風。

他在 Twitter 表示：GPT-3 的吹捧太過了，雖然感謝大家的贊美，但不可否認它仍然存在某些嚴重的弱點，有時候也會犯非常愚蠢的錯誤。GPT-3 的水平仍處于早期階段，我們距離真正的人工智能世界還有很長的距離。