智能湖倉原本就是敏捷的架構
時間:2022-03-05 10:20:01 | 來源:行業(yè)動態(tài)
時間:2022-03-05 10:20:01 來源:行業(yè)動態(tài)
。在智能湖倉架構中,Amazon Lake Formation 能夠?qū)⒔?shù)據(jù)湖的時間從數(shù)月縮短到數(shù)天。用戶可以使用像 Amazon Glue 這樣的 Serverless 數(shù)據(jù)集成工具快速實現(xiàn)數(shù)據(jù)入湖;使用 Amazon Athena 這樣的 Serverless 查詢引擎直接實現(xiàn)基于 SQL 語言的湖上數(shù)據(jù)查詢分析。無論是超大型公司還是工作室,都可以從這種敏捷的構建方式中快速獲益,提取數(shù)據(jù)的價值。
為了讓構建方式更敏捷,在 2021 亞馬遜云科技 re:Invent 大會上,亞馬遜云科技宣布推出更多數(shù)據(jù)分析服務的無服務器版,借助無服務器的能力,讓用戶可以更敏捷地構建自己的數(shù)據(jù)存儲、分析、智能應用解決方案。
- Amazon Redshift Serverless ,讓數(shù)據(jù)倉庫更敏捷,支持在幾秒鐘內(nèi)自動設置和擴展資源,用戶無需管理數(shù)據(jù)倉庫集群,實現(xiàn) PB 級數(shù)據(jù)規(guī)模運行高性能分析工作負載;
- Amazon Managed Streaming for Apache Kafka (Amazon MSK) Serverless ,讓流式數(shù)據(jù)接入與處理,支持快速擴展資源,簡化實時數(shù)據(jù)攝取和流式傳輸,實現(xiàn)全面監(jiān)控、移動甚至跨集群加載分區(qū),自動調(diào)配和擴展計算和存儲資源,讓用戶可以按需使用 Kafka;
- Amazon EMR Serverless 讓大數(shù)據(jù)處理更敏捷,用戶無需部署、管理和擴展底層基礎設施,使用開源大數(shù)據(jù)框架(如 Apache Spark、Hive 和 Presto)運行分析型應用程序;
- Amazon Kinesis Data Streams on Demand 讓流式數(shù)據(jù)分析與實時數(shù)據(jù)場景搭建更敏捷。每分鐘可以處理數(shù) GB 的寫入和讀取吞吐量,而不必預置與管理服務器、存儲,在成本和性能之間取得平衡且變得更加簡單。
來自亞馬遜云科技的數(shù)據(jù)顯示,現(xiàn)在每天有數(shù)以萬計的用戶每天在使用 Amazon Redshift 處理超過 2EB 的數(shù)據(jù)。全球最大的制藥公司之一羅氏制藥(Roche)首席云平臺和機器學習工程師 Yannick Misteli 博士表示:Amazon Redshift Serverless 可減輕運營負擔,降低成本,并幫助羅氏制藥規(guī)?;瘜嵺` Go-to-Market 策略。這種極簡的方式改變了游戲規(guī)則,幫助我們快速上手并支持各種繁重的分析場景。
正如 Yannick Misteli 提到的一樣,近些年來,底層的技術創(chuàng)新推動業(yè)務層的改變,而業(yè)務層的訴求也倒逼底層技術的進步。游戲規(guī)則正在技術升級中改變。如今,智能是絕大多數(shù)技術的演進目標。在亞馬遜云科技的智能湖倉架構中,也將智能提到了一個相當重要的位置。
智能湖倉架構下,數(shù)據(jù)庫服務與人工智能和機器學習深度集成。在具體的產(chǎn)品上,亞馬遜云科技提供了 Amazon Aurora ML、Amazon Neptune ML、Amazon Redshift ML 等諸多數(shù)據(jù)庫原生的機器學習服務。
同時,在智能湖倉架構中,還有云原生人工智能平臺 Amazon SageMaker ,它提供了多類機器學習庫和開發(fā)工具包,幫助用戶快速構建人工智能應用。當用戶需要面對大量數(shù)據(jù)處理場景時,可以使用 Amazon SageMaker 內(nèi)置的工具輕松快速連接到 Amazon EMR 集群進行大數(shù)據(jù)處理。而 Amazon EMR Serverless,也幫助人工智能相關的數(shù)據(jù)處理與分析變得足夠敏捷。
在 Gartner 2021 年發(fā)布的報告《Magic Quadrant for Cloud Database Management Systems》中,亞馬遜云科技連續(xù) 7 年被評為領導者,這項報告面向的主要是對各大廠商提供的云數(shù)據(jù)庫、云數(shù)據(jù)分析工具進行全景評估,并給出最終位置的測評報告,含金量可見一斑。亞馬遜云科技參與評測的產(chǎn)品均為智能湖倉架構中的代表產(chǎn)品,這個領導者地位背后代表的技術成熟度不言自明。
我們可以看到,智能湖倉提供的每一款服務工具的迭代,都在向更敏捷、更安全、更智能的數(shù)據(jù)架構目標邁進。數(shù)據(jù)架構作為企業(yè)數(shù)字化轉(zhuǎn)型的最底層,也是應用現(xiàn)代化的底層動力。智能湖倉帶來的數(shù)據(jù)管理方式的變革,也承載著亞馬遜云科技對應用現(xiàn)代化的構想。