企業AI新局|台非紅鏈商機、巨頭佈局解析

企業AI新局|台非紅鏈商機、巨頭佈局解析

貓貓AI 科技與財經脈動 · Episode #213 · · PT11M

Host · 小明

Summary

本集節目深入探討台灣在全球AI浪潮中嶄露頭角的「魔幻數字」,解析台灣股市市值超越英國、躍居全球第七背後的「AI本賺比」驅動力。節目聚焦科技巨頭如Google、Amazon、Meta等數百億美元的龐大資本支出(CapEx),如何催生了Cognizant AI Factory等企業級AI服務,透過Fractional GPU技術解決高成本與供應商鎖定問題,並強調HBM4和CoWoS-L等關鍵硬體的瓶頸與NVIDIA、Google在台的戰略佈局。此外,節目也揭示台灣在智慧醫療領域,憑藉「健康台灣深耕計畫」及本一科技、長佳智能、宏碁智醫等公司的創新應用與國際化,將AI從「燒錢」轉化為實際獲利,證明台灣不只在硬體供應鏈具備「信任溢價」,在垂直應用上也展現了強勁的「主權AI」實力。最後,提出持續關注CapEx效益、AI服務落地及智慧醫療國際化的重要觀察點,強調台灣在AI時代的關鍵戰略地位。

Transcript

歡迎收聽貓貓AI 科技與財經脈動,我是小明。 大王: 各位老聽眾好,我是大王。 今天我們要來聊一個讓我覺得有點... 魔幻的數字,而且這個數字, 是跟台灣息息相關的。

什麼魔幻數字? 是我的存款數字嗎? 那真的夠魔幻,已經是負的了。 大王: 當然不是你那個啦。 我們要講的,是全球股市的新版圖。

你知道嗎? 在AI科技巨頭強勁上漲的推動下,台灣與南韓股市總市值,最近已經接連超越了英國。 台灣現在躍居全球第六或第七大股市,南韓也成了第八大,凸顯了亞洲AI供應鏈的核心地位。

哇靠! 真的假的? 我們一個小小的台灣,GDP才多少,股匯市可以跟英國比? 這… 這很扯欸。 英國佬臉上掛得住嗎?

他們不是老牌金融強權嗎? 大王: 你看,Bloomberg親自認證的數字。 這背後的原因,其實我們之前就聊過,就是AI啦,而且是實實在在的AI「本賺比」在驅動。

以前我們講「本夢比」,大家是看故事、看願景。 現在,當AI從雲端落地,變成實際的硬體需求,變成龐大的資本支出, 也就是我們常說的CapEx,全名Capital Expenditure。

這些錢就實打實地流向了像台灣跟南韓這種在AI供應鏈上擁有堅實護城河的國家。

所以意思是,我們的晶片、我們的伺服器、我們的散熱,這些東西是真的賺到錢了, 不是畫大餅就對了? 大王: 完全沒錯。

不只是「賺到錢」,更重要的是它形成了一種新的「信任溢價」。 你想喔,現在全球地緣政治這麼緊張,「非紅供應鏈」的重要性就凸顯出來了。

它代表的是在敏感科技領域中,你需要一個沒有地緣政治風險、 值得信任的供應鏈。 所以我們看到,連中東那些主權基金,以前都投資石油的,現在也開始積極佈局台灣AI基礎設施供應鏈,

深化「非紅供應鏈」的戰略地位,推動台灣成為「全球AI創新樞紐」。

中東的錢也要來台灣? 這… 這畫面太美我不敢看啊。 不過大王,這些錢砸下去,聽起來都是要蓋數據中心、買晶片什麼的, 可是這些大企業真的知道自己要買什麼、要怎麼用嗎?

我怎麼覺得很多公司談AI,都還停留在「AI很貴」這個階段啊。 大王: 你說到點子上了小明。 這就是我們今天要拆解的第二層。

當四家主要的雲端科技巨頭,Google、Amazon、Microsoft、 Meta,都在財報會議上不斷上修他們的資本支出CapEx,

動輒數百億美元砸下去,這就明確表示他們正大幅增加對AI和雲端服務基礎設施的投資。 但錢花得多,不代表花得巧。

對啊,像Meta執行長祖克柏他就說2024年CapEx預期上調到350億到400億美元, Alphabet也說第一季CapEx就花了120億美元,

Amazon更扯,全年CapEx預計超過600億美元。 這些數字,真的燒到我會怕欸。 大王: 確實會怕。

這些CapEx,其實很大一部分都花在AI基礎設施的建置上。 這些雲端巨頭都在玩命似的擴建AI基礎設施,目的就是為了鞏固他們在AI時代的領先地位。

但有些分析師認為,CapEx的暴增,可能只是因為AI晶片、 電力跟數據中心的建造成本太高,再加上競爭激烈,而不是因為對高回報有信心。

他們甚至擔心,這可能會嚴重侵蝕這些超大規模雲端服務商的營運現金流。

所以這些大企業砸錢下去,一方面要搶地盤、搶AI算力,但另一方面, 他們也必須想辦法把這些天價CapEx,變成實實在在的「本賺比」, 不然股東會爆氣啊。

大王: 完全正確。 那這些問題,就催生了一種新的服務模式,叫做「AI工廠」。

AI工廠? 是生產AI的工廠嗎? 聽起來就很高大上。 大王: 對,可以這麼理解。 像最近IT服務公司Cognizant就跟Dell Technologies和NVIDIA合作,

重磅推出了一個所謂的Cognizant AI Factory。 他們宣布啟動AI工廠,旨在為企業客戶提供一站式、模組化的AI服務, 涵蓋從模型訓練、部署到營運的全生命週期管理。

喔? 聽起來跟我們之前說的AI服務商有點像,但它特別在哪裡? 大王: 這個AI工廠特別強調提供開放式架構,幫助客戶避免供應商鎖定, 講白話一點,就是讓你不會被單一廠商「綁架」。

他們還聲稱,能有效降低AI解決方案的總體擁有成本,也就是TCO, 高達50%到60%,並提升AI處理速度30%。

哇,TCO降低一半耶,這很驚人啊。 但我聽了反而毛毛的,這種數字真的可能嗎? 會不會是新的話術啊?

我記得之前有講過,單片GPU的利用率其實是很低的對不對? 大王: 你沒記錯。 這就是Cognizant AI Factory背後的技術亮點之一: Fractional GPU技術。

這個詞,講白話一點,就是『碎片化』的GPU。 你想,傳統上,一片GPU可能一次只能跑一個大的AI工作負載, 但實際上,很多企業的工作負載不需要用到一整片GPU。

那剩下的算力不就閒置了? Fractional GPU就是把一片GPU切割成多個微型實例, 動態調度算力,讓多個業務單位或客戶可以安全地同時跑AI工作。

這確實可以大幅提升GPU的利用率,理論上就能降低成本。

所以不是他們AI變得便宜,是他們把「算力單位」切得更小、 更精準,讓企業不用一次買一大塊用不到的算力就對了?

這有點像我們以前聽過的雲端服務,也是把硬體資源虛擬化。 大王: 沒錯,就是這個概念。 Cognizant的策略反映出企業級AI應用正從單點技術導入走向系統化、

平台化的整合,預示AI服務市場的成熟與競爭格局變化。 這對台灣這種硬體供應鏈來說,是個好消息,因為他們需要更多的HBM、 CoWoS、液冷散熱,還有更穩定的電力,去支撐這些AI工廠。

你又提到HBM跟CoWoS了。 HBM,也就是High Bandwidth Memory, 高頻寬記憶體,這個是AI晶片裡面不可或缺的超高速記憶體。

CoWoS呢,這是台積電獨家的先進封裝技術,它的全名是Chip-on-Wafer-on-Substrate。

講白話一點,就是把很多晶片像蓋積木一樣堆疊在一起,讓它們能更快、 更有效率地溝通。 這兩個東西上次我們聊的時候,我只記得很貴很缺,而且台積電在狂蓋廠。

現在情況有比較好嗎? 聽起來Google他們燒錢蓋AI工廠,不就更缺這些東西? 大王: 確實是這樣。

Google的世界模型,那簡直是個硬體吞噬者。 他們的發展進程中,正加速催生「實戰」產品與通用AI助理應用, 這進一步強化了對尖端硬體的需求,直接把整個供應鏈往極限推。

像最新的HBM4記憶體,還有台積電的CoWoS-L先進封裝技術, 這個『L』指的是Local Interconnect,它是一種專門設計來連結更多記憶體晶片、 提供更高效能的版本。

這些都是AI心臟最核心的零件,可以說,現在每一分錢的CapEx, 都更精準地轉換成對這些頂級硬體的「本賺比」。

這麼說,我之前看到的新聞,說什麼SK Hynix、Samsung、 Micron,這些記憶體大廠都在狂衝HBM4的量產時間, 就是因為這些CapEx在燒錢,讓他們不得不加速就對了?

大王: 完全正確。 你想,SK Hynix把HBM4量產時間從2026年提早到2025年, 三星也說要在2026年初量產。

Micron更猛,今年第一季就開始大量生產36GB 12H的HBM4記憶體, 是專為NVIDIA的Vera Rubin平台設計的。

這些時間點的加速,背後都是因為NVIDIA、Google、 Amazon這些大戶的需求,太過急迫。

但這裡要注意喔,即使他們在加速,HBM4的良率,尤其像三星初期樣品良率只有50%左右, 這還是個大挑戰。

這意味著高昂的成本與有限的產能。

50%? 那不就跟在玩骰子一樣? 出一片良品,就有一片廢品? 這成本會不會太高啊? 難怪這麼缺。

大王: 就是說啊,這背後都是天文數字的研發和生產成本。 但就算良率有挑戰,需求還是硬在那邊。 更關鍵的是台積電的CoWoS-L產能,這才是現在瓶頸中的瓶頸。

NVIDIA的Blackwell架構、還有Rubin AI晶片, 都大量需要CoWoS-L。 我們看到,NVIDIA就包下了台積電2025年超過70%的CoWoS-L先進封裝產能,

甚至預計2026年會佔台積電總CoWoS產能的60%左右。

70%! 這…這根本就是把台積電當自己家了啊! 那Google他們呢? Google不是也有TPU?

他們也搶得到嗎? 大王: Google當然也在搶,而且很積極。 這就是為什麼我們看到一個非常重要的信號:Google去年底在台灣開了他們在美國總部以外, 最大的AI基礎設施研發中心。

他們官方說法是,要 leverage 台灣完整的供應鏈和製造能力, 把專案開發週期加速高達40%。

這意思很白話,就是他們要更貼近台灣的硬體供應鏈,確保他們的TPU, 也就是Tensor Processing Unit,Google自己開發的專用AI晶片,

能搶到足夠的CoWoS產能,同時也把研發和供應鏈的協作效率拉到最高, 以滿足其世界模型與通用AI助理應用的龐大硬體需求。

這樣講起來,Google跟NVIDIA,一個要世界模型, 一個要AI工廠的GPU,他們都在台灣這個硬體主戰場搶位子, 台灣真的是AI時代的兵家必爭之地了。

不過大王,這些都是講硬體面、基礎設施面,有沒有什麼是台灣用AI賺到錢, 是比較軟性的應用? 像上次你提到什麼智慧醫療,我記得衛福部有什麼深耕計畫對不對?

大王: 你記憶力很好欸小明! 沒錯,這就是我們今天要拆解的第三層。 當大家都還在關注AI硬體軍備競賽的時候,台灣其實在一個非常高附加價值的垂直領域,

已經把AI「本賺比」做得有聲有色,那就是智慧醫療。 台灣智慧醫療領域已展現具體商業化模式與國際合作案例,將「健康台灣深耕計畫」的數據價值轉化為實質獲利。

喔? 有具體例子了嗎? 像衛福部那個500億的「健康台灣深耕計畫」,有沒有新進度? 大王: 當然有啊,而且很多已經開始驗證「本賺比」了。

我們舉幾個例子,像「本一科技」,他們開發的「臺醫照護GPT」系統, 已經在奇美醫院落地。

他們的HIS Copilot AI系統,HIS就是Hospital Information System, 醫院資訊系統的縮寫。

而這個Copilot AI,講白話一點,就是幫助醫護人員處理行政作業的智慧輔助工具, 可以幫醫護人員省下多少行政工時?

每天高達250分鐘!

哇靠! 250分鐘,這不就是四個多小時嗎? 等於一個護理師一天一半的工作時間都可以被AI取代? 這也太猛了吧!

那不是要裁員了? 大王: 小明,你又爆氣了。 這不是取代,這是把時間還給人。 你想想,護理師花那麼多時間在處理行政文書,他們真正想做的是什麼?

是照護病人啊。 AI把行政工作自動化,讓護理師可以把更多時間用在更有價值、 更有溫度的病人照護上,這就是「AI不是取代人,而是把時間還給人」的最佳寫照。

本一科技因此還拿了國家新創獎,他們採用的是Meta的Llama-4和Microsoft的Phi-4這種異構模型策略, 非常靈活。

嗯,這說法我接受。 那還有其他例子嗎? 台灣的智慧醫療真的有辦法衝出國際嗎? 大王: 當然有啊。

像「長佳智能」,他們不只跟西門子醫療和Qmed Asia簽訂策略聯盟, 要把AI影像醫學解決方案推向歐美跟東南亞市場,最近還跟群聯電子合資成立「長聯科技」,

要開發AI醫療照護機器人,預計明年上市。 這就是從軟體應用,進一步延伸到具身AI機器人的實體落地, 展現台灣在智慧醫療領域的商業化與國際合作潛力。

哇,機器人照護! 這聽起來就很有未來感。 大王: 再來,「宏碁智醫」的AI醫療軟體,現在已經導入全球超過500間醫療院所了, 台灣、日本、東南亞、甚至中美洲跟歐洲都有。

他們的aiMed智醫通平台,講白話一點,這就是一個智慧醫療的輔助系統, 可以把醫護人員的語音或文字即時轉化成結構化的醫療紀錄,大幅提升效率。

還有「雲象科技」,他們的數位病理影像管理系統aetherSlide, 這個系統主要用來處理醫院的病理切片影像,拿到了美國FDA跟歐盟IVDR雙認證,

現在在台灣市佔率超過七成,也打進了德國跟日本的指標性醫院。

FDA跟歐盟認證,這可不是隨便拿的欸,這代表他們的技術是真的達到國際水準了。 所以台灣的智慧醫療,是真的有本事把數據變黃金,還能把產品賣到全世界去了。

大王: 沒錯,這就回應了我們節目一開始的「魔幻數字」。 台灣跟南韓股市超越英國,除了AI硬體基礎設施的「本賺比」之外,

像台灣這種在垂直應用上,特別是智慧醫療這種高附加價值領域的實際落地與國際化, 也貢獻了非常紮實的「本賺比」。

這不只是一個經濟上的數字,更是一種地緣政治上的「信任溢價」體現。 在全球產業變革中,誰能提供穩定、可靠、技術領先的解決方案, 誰就能吸引資金,誰就能在新世界中掌握話語權。

聽你這樣講,台灣這次真的不是只有「本夢比」,是有血有肉的「本賺比」在衝了。 那接下來,我們投資人跟產品設計師,除了繼續關注AI巨頭的CapEx之外, 還要觀察什麼?

大王: 好,接下來的觀察點就很重要。 第一,我們要持續關注這些雲端巨頭,Amazon、Google、 Microsoft、Meta,他們CapEx的實際效益。

他們錢花下去,會不會真的讓他們的雲端服務營收、AI產品營收繼續衝高, 還是會像OpenAI那樣,變現遇到瓶頸?

因為這些巨頭的CapEx,就是整個AI硬體供應鏈最大的驅動力, 也是觀察AI基礎設施軟硬體整合商、以及受AI賦能而轉型成功的傳統服務企業表現的關鍵指標。

我記得你說過OpenAI有營收未達標的問題,所以這「本賺比」的考驗是真的。 大王: 沒錯。 第二,要看像Cognizant AI Factory這種企業級AI服務商,

他們實際的客戶採用率、成本降低效益,跟有沒有產生新的供應商鎖定。 這會影響到整個企業AI服務市場的競爭格局和未來的獲利模式, 以及這些AI服務供應商的實際表現。

所以就是看他們號稱的TCO降低50-60%,是不是真的有感, 還是只是嘴上說說。 大王: 精確。

第三,在硬體方面,我們要密切關注HBM4、CoWoS-L的量產進度跟良率改善, 特別是Samsung、SK Hynix、Micron跟台積電他們的進展。

這些是AI最核心的稀缺資源,任何進度或瓶頸,都會直接影響到AI發展的速度和成本。

還有液冷散熱對不對? 我記得你以前也有提過,AI這麼熱,散熱也很關鍵。 大王: 對,液冷散熱的應用擴展也會是觀察重點,尤其是在數據中心跟伺服器層面。

液冷散熱技術的應用範圍正從GPU擴展至CPU、儲存與交換器機櫃, 兩相液冷等新一代技術的研發與商用進度將成為台灣散熱廠商的關鍵增長動能。

像NVIDIA的Rubin Ultra平台預計會採用微通道冷板MCL技術, 健策的量產進度會是關鍵指標。

Google的TPU也已經用到第四代液冷技術了。 另外,像JEDEC SPHBM4這種成本較低的替代方案,

JEDEC是電子元件產業標準協會的簡稱,而SPHBM4則是他們提出的一種新的HBM記憶體規格, 目的在於提供成本更低的替代選擇。

它的市場接受度如何,以及中國廠商會不會大量採用,也會影響CoWoS的長期供需平衡。

嗯,所以不只是看最頂尖的,也要看那些試圖繞過瓶頸的新方案。 大王: 沒錯。 最後一個觀察點,也是我覺得最有料的,就是台灣的智慧醫療這些應用, 有沒有辦法加速複製到國際市場?

像本一科技、長佳智能、宏碁智醫、雲象科技這些公司,他們能不能把「健康台灣深耕計畫」的成功模式, 帶到東南亞、帶到歐美,甚至帶到非洲友邦,真正實現商業模式的國際驗證,

證明台灣AI不只會製造硬體,還會應用,還會輸出高附加價值的解決方案。 這會是台灣AI真正展現「主權AI」護城河的關鍵,也是評估智慧醫療領域實際成長潛力及台灣產業結構升級轉型的進展。

所以總結來說,AI從「本夢比」走向「本賺比」,這是一場硬仗, 不只考驗技術,也考驗商業模式。 台灣雖然小,但只要抓對了AI硬體跟高附加價值應用這兩條主線,

加上「非紅供應鏈」的信任溢價,還是可以在全球這場AI大戰中, 佔據一個非常關鍵的戰略位置。 大王: 沒錯,而且這場仗,才剛開始而已。

感謝大王今天的深度拆解。 我們下週貓貓AI 科技與財經脈動再見。 大王: 下週見。