什麼是 Neocloud?這款 AI 基礎架構採購方案,部署只需數月,而非數年
什麼是「新雲」?
所謂的「新雲」(neocloud)是一種專門提供人工智慧 GPU 運算租賃服務的雲端供應商,其唯一使命就是:大規模訓練與運行 AI 模型。新雲的獨特之處在於其背景來源與發展速度。多數新雲最初都是電力公司,因此在架設任何 GPU 之前,便已解決了 AI 基礎設施中最棘手的瓶頸——電力供應。這項先發優勢讓它們能在數月內建置運算容量,而傳統供應商則需耗時數年。
對於任何從事人工智慧硬體運輸的業者而言,新雲端服務商是市場上最重要的新興買家。本文將說明它們是什麼、為何其運作模式與其他資料中心營運商截然不同,以及這對物流意味著什麼。
《AI 基礎設施採購指南》
人工智慧基礎設施市場有四類買家。超大規模供應商(Hyperscalers)是規模最大的雲端服務供應商,其業務範圍已從雲端儲存擴展至人工智慧運算。託管服務供應商(Colocation providers)則是為他人建造並營運資料中心的房地產營運商。前沿實驗室(Frontier labs)則是正在建立自身模型建構能力的AI研究公司。新興雲端服務商(Neoclouds)則是發展迅速的第四類買家,他們正在重塑AI硬體的採購、運輸與部署方式。
為什麼新雲電力公司會是第一家?
大多數新興雲端服務商最初都是加密貨幣礦場或能源企業,這意味著它們早已掌控了人工智慧基礎設施中最稀缺的資源:電力。確保電網容量是將新運算資源投入運作的最大瓶頸,而主要市場的接入排隊時間如今已長達數年之久。
由於這些營運商早已確保了電力供應,因此得以跳過那段會拖慢其他業者進度的等待階段。傳統超大規模雲端服務商的建置過程,從規劃到正式上線通常需要大約三年時間。Neoclouds 則能在約十八個月內讓據點上線,有時甚至更短。當最棘手的難題已獲解決,後續的建置進度便會以截然不同的速度推進。
新雲(neocloud)與超大規模雲端服務商(hyperscaler)有何不同?
簡而言之:新興雲端服務商以服務範圍為代價,換取速度與優先使用權。超大規模雲端服務商為數百萬客戶提供龐大的雲端服務選項;而新興雲端服務商則專注於一件事——人工智慧的 GPU 運算——並能以更快的速度完成。
| 屬性 | Neocloud | 超大規模雲端服務商 |
|---|---|---|
| 生存時間容量 | 約 18 個月或更短 | 大約 3 年 |
| 來源 | 能源或加密貨幣挖礦背景 | 雲端儲存延伸至運算領域 |
| GPU 存取 | 首批獲得新矽晶片的廠商之一 | 數量龐大,但排在隊列後面 |
| 主要工作量 | 模型訓練 | 廣泛的雲端服務與推論 |
| 採購 | 快速,數月內即可部署 | 長期週期與年度報價請求 |
有兩項差異至關重要。首先,新雲服務商通常能透過與 GPU 製造商的直接合作關係,率先取得最新加速器,因此新世代產品的首批出貨往往會先送達他們手中。新架構在廣泛部署之前,實際上已在新雲環境中經過驗證。其次,新雲服務商不會採用緩慢的年度採購週期。他們能在數月內完成部署,並期望供應商(包括物流夥伴)能配合這般步調。
訓練與推論:新世代雲端服務實際執行什麼
如今,新雲主要聚焦於訓練,而非推論。訓練是建構新模型的過程;推論則是當您使用 AI 聊天機器人時所獲得的即時回應。多數人互動的版本運行於其他地方;而其背後的模型,極有可能是在新雲環境中進行訓練的。
這種聚焦對物流至關重要,因為培訓群組正是最新、最密集且最具價值的硬體設備最先部署之處,且隨著每一代設備的推出,相關需求也持續變化。新雲端(Neoclouds)是新部署活動的持續來源,這使得能夠與之同步適應、而非僅依循固定操作手冊的合作夥伴能獲得回報。
為什麼超大規模雲端服務供應商要透過新興雲端平台來調度運算資源?
超大規模雲端服務商並非與新興雲端服務商競爭,而是越來越多地透過後者來調度人工智慧運算能力。幾家規模最大的雲端公司簽訂長期合約,並讓新興雲端服務商承擔建設所需的資本支出、建置工作及後勤支援。此舉將一項龐大且進度緩慢的資本性專案轉化為營運支出,同時也使超大規模雲端服務商的資產負債表更為輕盈。
其結果是,新雲服務的成長速度遠比其當前規模所顯示的還要快,因為來自巨頭的需求正透過它們流轉。這也形成了一套值得關注的、橫跨晶片製造商、新雲服務及其客戶的循環投資模式,因為它一方面加速了成長,另一方面卻也集中了風險。
對物流而言至關重要的三種新雲端服務類型
新雲端服務並非全都相同。對於任何打算遷移硬體的用戶而言,有三種典型模式至關重要。
「自建自營」巨頭。這些營運商擁有自己的資料中心及電力設施,並以吉瓦級規模進行建置。他們營運著該領域中規模最大、最複雜的部署。
以電力為先的校園式數據中心建設商。這些營運商往往來自能源或加密貨幣挖礦領域,他們會先取得土地和電力資源——包括在北歐等新興電力優勢地區——然後在該處興建模組化數據中心。他們通常自行掌控貨運業務,因此物流能力往往在早期階段就成為討論的重點。
主權人工智慧營運商。這些業者建立國家級或政府級資料中心,使各國及大型組織能夠掌握自身資料的主導權。在印度及歐洲各地等市場,這類業務通常透過區域性「新雲端」營運商進行,這使得原本就極為緊迫的時程表,更因海關及跨境流程而增添複雜性。
新興雲端企業對物流合作夥伴有何需求
最重要的是,新興雲端服務商需要速度。它們能在數月內完成部署,並期望後勤作業能以同樣的速度推進,不受緩慢採購流程的拖累。由於這是個新興領域,它們正從零開始建立供應鏈關係,並根據合作夥伴的能力而非既有合約來選擇合作對象。
除了速度之外,有四項需求一再浮現。他們需要一個能夠隨著各世代需求變化而靈活調整的合作伙伴;他們需要具備高價值的 GPU 硬體,且其來源至資料中心機房的全過程須透過文件記錄的追溯鏈加以保障;他們需要多條並行的供應鏈——包括 GPU、網路、儲存及電源——並能配合單一的部署日期進行協調;此外,他們還需要能觸及那些正在興建新產能、且具備電力優勢的新興地區。
Omni 如何支援 neocloud 的部署
Omni 正是為這種速度與路線而打造,其依據的是實際成績,而非發展藍圖:
- 自 2006 年起便在台灣走廊地區設有據點。與機場直連的倉儲設施,不僅能縮短貨物在起運地的滯留時間與暴露時間,還能將貨架級系統的貨物直接送入航空運輸網絡。
- 專屬包機運能。當部署任務無法等待客機腹艙貨位時,Omni 將依照客戶的時程安排運送貨物,包括透過包租的寬體飛機運送完整的機架級 GPU 基礎設施。
- 有據可查的流轉紀錄。從工廠到倉庫入庫,再到資料中心機房,每個交接環節均經過驗證,因此可確保調試日期有效。
- 多供應鏈協調。Omni 會根據單一部署日期,協調 GPU、網路設備、儲存設備及電力設備的運輸時程,並由遍佈亞洲、北美及歐洲的內部海關團隊與當地團隊提供支援。
- 35 年的高科技運作規範。Omni 數十年來一直為半導體、電子和網路產業的供應鏈提供支援,而這正是當今 neocloud 部署所要求的運作規範。
常見問題
Neoclouds 詳解:常見問題
基礎設施與供應鏈團隊最常針對「新雲端」提出哪些問題?從其定義、與超大規模雲端服務商的差異,到他們對物流合作夥伴的期望。
什麼是「新雲」?
所謂的「新世代雲端服務商」(neocloud),是指專門為人工智慧(AI)提供 GPU 運算租賃服務的雲端服務供應商,其重點在於訓練與執行 AI 模型,而非提供通用型雲端服務。許多此類企業最初都是能源或加密貨幣挖礦公司,因此早已掌握 AI 基礎設施所仰賴的電力資源,這使它們能夠以異常迅速的速度擴充運算能力。
為什麼新雲電力公司會是第一家?
確保電網供電是將新人工智慧運算資源投入運作的最大瓶頸,而主要市場的接電排隊時間長達數年。大多數新興雲端服務商最初都是加密貨幣礦場或能源企業,它們早已鎖定電力資源,因此能夠跳過這段等待期,並在比傳統營運商短得多的時間內建置資料中心。
「新雲」與「超大規模雲端服務商」之間有何區別?
超大規模雲端服務供應商提供範圍廣泛且規模龐大的雲端服務,通常需要約三年時間來建置新運算能力。新興雲端服務商則專精於人工智慧的 GPU 運算,往往能率先取得新款晶片,並能在約十八個月或更短時間內將運算能力上線。簡而言之,新興雲端服務商是以服務廣度為代價,換取速度與優先取得新技術的優勢。
為什麼新世代雲端服務的部署速度比超大規模雲端服務商更快?
大多數新興雲端服務商在進軍人工智慧領域前便已確保電力供應,這消除了建置資料中心時最大的限制。再加上採購流程迅速,且能及早取得新硬體,使它們能在數月內完成部署,而非像傳統建置方式那樣需要數年時間。
訓練與推論之間有什麼區別?
訓練是指利用規模龐大且密度極高的 GPU 叢集來建構新的人工智慧模型。推論則是您在使用人工智慧應用程式時所獲得的即時回應。當今的 Neoclouds 主要聚焦於訓練,而最新穎且最具價值的硬體往往會優先部署於此。
新雲服務商是否正在取代超大規模雲端服務商?
並非取代,而是日益成為其動力來源。數家大型超大規模雲端服務供應商透過長期合約,將人工智慧運算能力導向新興雲端服務商,讓新興雲端服務商承擔資本成本、建置及物流,而超大規模雲端服務供應商則將此視為營運支出。這正是新興雲端服務商能如此快速成長的原因之一。
新雲的主要種類有哪些?
對於任何計劃遷移硬體的企業而言,以下三種類型至關重要:擁有自有資料中心與電力供應、並以吉瓦級規模進行建置與營運的巨頭;以電力為優先考量、在新的地區取得土地與電力資源,並在其上建造模組化資料中心的園區開發商;以及建造國家級或政府級資料中心的國家級 AI 營運商,使各國及組織能夠掌握對自身資料的控制權。
新雲端企業對物流合作夥伴有何需求?
速度至上。Neoclouds 能在數月內完成部署,並期望後勤支援能與此步調同步,避免採購流程拖延。他們還需要一位夥伴,能在硬體需求變動時靈活調整,透過有據可查的保管鏈來保護高價值的 GPU 硬體,並針對單一部署日期協調多條並行供應鏈,包括在新興的電力優勢地區。
Omni 如何提供協助:Omni能按時將機架級 GPU 基礎設施從「台灣走廊」運送至資料中心機房,並針對單一部署日期協調 GPU、網路、儲存及電力設備的運輸事宜,同時獲得亞洲、北美及歐洲各地內部海關團隊與當地團隊的支援。
要在絕不能延誤的時間表內建置新雲端容量嗎?
探索人工智慧基礎設施的物流