GraphPipe能夠如何幫助人工智能開(kāi)發(fā)人員

時(shí)間：2022-04-14 11:03:01 | 來(lái)源：行業(yè)動(dòng)態(tài)

時(shí)間：2022-04-14 11:03:01 來(lái)源：行業(yè)動(dòng)態(tài)

GraphPipe可幫助開(kāi)發(fā)人員有效地服務(wù)遠(yuǎn)程人工智能模型也就是模型可以通過(guò)互聯(lián)網(wǎng)訪問(wèn)，而不是在本地運(yùn)行。在今天，這樣做已經(jīng)是可能的了；它只是缺乏效率或者標(biāo)準(zhǔn)化。

Abrams表示：你基本上是將每個(gè)單獨(dú)的模型都包裝在自定義的API中。 Abrams表示：這不難做到；只是非常單調(diào)乏味。另一種選擇是使用TensorFlow Serving的協(xié)議緩沖，但該軟件僅適用于使用TensorFlow構(gòu)建的模型，而且可能難以構(gòu)建和部署。

現(xiàn)有方法在處理大量數(shù)據(jù)方面也不是很好，而這種限制可能會(huì)扼殺開(kāi)發(fā)人員的創(chuàng)造力，因?yàn)樗麄儠?huì)避免使用依賴(lài)大型數(shù)據(jù)集的模型。

Abrams表示，例如，如果你的遠(yuǎn)程人工智能模式是試圖將貓的圖片和狗的圖片區(qū)分開(kāi)，現(xiàn)有的傳輸技術(shù)可能沒(méi)問(wèn)題，因?yàn)槟阒皇窍蚰Ｐ桶l(fā)送一個(gè)圖像，然后得到表示這是貓的圖片還是狗的圖片的一點(diǎn)點(diǎn)數(shù)據(jù)，以及一點(diǎn)點(diǎn)關(guān)于所描述的對(duì)象在圖像中的位置的數(shù)據(jù)。但是，他說(shuō)，如果你要發(fā)送的是一個(gè)巨大的浮點(diǎn)數(shù)陣列，而且要得到的結(jié)果是另一個(gè)巨大的浮點(diǎn)數(shù)陣列，這種技術(shù)就不行了。

如果你要將來(lái)自多個(gè)不同模型的結(jié)果合并到一個(gè)模型中，或者如果你在一個(gè)位置訓(xùn)練模型的一部分并將它們部署到另一個(gè)地方，你可能就需要更有效的通信?；蛘?，對(duì)于面向客戶(hù)的移動(dòng)應(yīng)用或物聯(lián)網(wǎng)應(yīng)用，終端設(shè)備通常缺乏在本地運(yùn)行模型的能力，并且必須向遠(yuǎn)程服務(wù)發(fā)出請(qǐng)求，這就需要高效且穩(wěn)定的連接。

Abrams表示：這似乎是人工智能領(lǐng)域中可以使用一些幫助的地方。

最后，GraphPipe為開(kāi)發(fā)人員提供了互操作性方面的優(yōu)勢(shì)。今天，存在著很多種彼此競(jìng)爭(zhēng)的機(jī)器模型格式TensorFlow、Caffe2、MXNet等等但是沒(méi)有標(biāo)準(zhǔn)化的方法來(lái)保證它們給出的數(shù)據(jù)是一致的。有人提議用ONNX（開(kāi)放式神經(jīng)網(wǎng)絡(luò)交換，Open Neural Network Exchange）這種格式解決這個(gè)問(wèn)題。GraphPipe也嘗試實(shí)現(xiàn)一致性，但是卻是在網(wǎng)絡(luò)I/O層面。Abrams表示：聚焦于I/O層面的一個(gè)好處是你不必處理將模型轉(zhuǎn)化為不同格式的問(wèn)題，而這往往是很多問(wèn)題的根源。