Amazon SageMaker Serverless Inference（預(yù)覽版）
時間：2022-03-04 22:04:01 | 來源：行業(yè)動態(tài)
時間：2022-03-04 22:04:01 來源：行業(yè)動態(tài)
，讓開發(fā)者無需配置或管理底層基礎(chǔ)設(shè)施即可部署機器學(xué)習(xí)模型進行推理，按執(zhí)行時間和處理的數(shù)據(jù)量付費。
由此，我們可以看到云上的 Serverless 服務(wù)越來越多，無服務(wù)器計算的能力已經(jīng)從計算、存儲、數(shù)據(jù)庫服務(wù)擴展到數(shù)據(jù)分析，以及機器學(xué)習(xí)的推理。以前機器學(xué)習(xí)的推理需要啟動大量的資源來支撐峰值請求。如果使用 EC2 推理節(jié)點，空閑資源會推高成本，而使用 Amazon Lambda 服務(wù)，就不需要再考慮集群節(jié)點管理這些事情，服務(wù)會根據(jù) Workload 自動預(yù)置、擴展和關(guān)閉計算容量，只為執(zhí)行時間和處理的數(shù)據(jù)量付費，相比之下能節(jié)省很多。
Amazon Serverless 服務(wù)在不斷進化的同時，計算架構(gòu)也在不斷改進，比如用戶可以將原來的 Intel x86 處理器，通過平臺提供的選項配置為 Amazon Graviton2 ARM 處理器，性能更快且能便宜 20%。有技術(shù)專家認為，平臺也會朝著更智能的方向發(fā)展，現(xiàn)在需要用戶改配置選擇更便宜的 ARM 處理器，未來服務(wù)完全可以做到自動選擇計算平臺。
作為云計算的一種演進方式，無服務(wù)器的愿景必定會改變我們對編寫軟件的看法。以前從來沒有一種方法可以像云計算這樣考慮如何使用數(shù)百萬個處理器內(nèi)核和 PB 級內(nèi)存進行設(shè)計，而現(xiàn)在無服務(wù)器已經(jīng)進入到通用和可用的階段，用戶無需考慮如何管理這些資源。
就像 Werner Vogels 博士在主題演講里講的那樣：如果不用云計算，這些大型架構(gòu)根本無法實現(xiàn)。所以現(xiàn)在，用屬于 21 世紀的架構(gòu)去隨心構(gòu)建你夢想的系統(tǒng)吧（Build systems the way you always wanted to，but never could）。
在線咨詢