AI晶片戰再起、記憶體狂燒!台AI從本夢比到實利

AI晶片戰再起、記憶體狂燒!台AI從本夢比到實利

貓貓AI 科技與財經脈動 · Episode #244 · · PT15M30S

Host · 小明

Summary

本集《貓貓AI》深度剖析白熱化的AI晶片戰,AMD憑藉強勁營收與Meta、OpenAI等巨頭的大筆訂單,對NVIDIA的霸主地位構成嚴峻挑戰;NVIDIA則以新一代Vera Rubin平台與先進技術應戰,將AI算力推向新高。節目進一步揭露HBM記憶體供不應求、價格飆漲的隱形戰場,以及台灣在全球AI供應鏈中的關鍵角色,帶動經濟成長率創下16年新高。然而,在AI紅利狂潮下,節目也警示「K型復甦」造成的不均衡發展。最終,主持人強調投資人應從「本夢比」轉向「本賺比」,聚焦AI產業鏈中提供實質應用與基礎設施的「AI水電工」型企業,方能穩健掌握這波超級週期。

Transcript

貓貓AI 科技與財經脈動的各位老朋友、新朋友,大家好! 我是小明。

大家好,我是熙宇。 又到了我們爆氣聊科技、諷刺看財經的時候了。

欸熙宇,這幾天看著新聞,我真的是有點爆氣。 市場上大家還在狂追AI,但你知道嗎,現在這場AI晶片戰, 已經打到了一個新的境界,已經不是你追我跑,而是直接衝撞了。

對啊,小明,如果你有在追這個領域的話,會發現最近這個風向啊, 真的變得很激烈。 大家知道,過去AI晶片市場NVIDIA幾乎是獨霸,但最近局勢開始不一樣了。

你看AMD的表現,完全就是「我來了,準備好沒? 」那種感覺。

你講到AMD我就來氣! 以前AMD就是那個老二,永遠追著NVIDIA跑,結果現在呢? 人家數據中心業務在第一季營收飆升了57%,這根本是爆發式成長欸!

這個數字你怎麼看?

哇,這個數字也太驚人了吧。 要知道,AMD能在資料中心這塊跟NVIDIA掰手腕,還能年增57%, 這可不是蓋的。

講白話一點,就是他們家的MI系列AI晶片,現在真的是被市場「吃爆」了。 而且,不僅是營收驚人,光是Meta這一家巨頭,就與AMD簽訂了為期多年的AI晶片供應協議,

高達6 GW的Instinct GPU,首批1 GW預計今年下半年就要部署。 更令人咋舌的是,Meta甚至還有取得AMD 1.6億股認股權證的選項。

這根本是深度綁定,不只是單純買晶片,簡直是直接買下AMD的半個未來啊!

買下半個未來? 這也太扯了吧! Meta都這樣all in了,那OpenAI呢? 我記得之前好像也有消息說OpenAI也要找AMD。

沒錯! 小明你記得真清楚。 OpenAI也跟AMD簽了巨額晶片訂單,預計帶來四年上千億美元的新營收, 算力容量同樣高達6 GW。

而且,AMD還預告2026年將推出MI400系列,這個MI400系列啊, 它會採用最新的CDNA-Next架構,單顆晶片具備432GB HBM4記憶體,

頻寬高達19.6 TB/s,他們自己就說,MI400系列就是針對記憶體容量和擴展頻寬, 要來跟NVIDIA的Vera Rubin系列一較高下。

你看,Meta跟OpenAI,這兩個在AI領域呼風喚雨的頂級巨頭, 都開始轉單、加碼AMD。 這背後是什麼意思?

講白話一點,就是這些AI大廠,他們不希望自己的命脈完全被NVIDIA一家鎖死。 這是一種分散風險,也是一種策略上的制衡,這也是我們一直強調的「實體護城河」概念。

這我懂,這些大廠想自己掌握更多供應鏈彈性,而不是被單一供應商「鎖定」。 但換個角度想,NVIDIA也不是省油的燈啊,他們最近又出了什麼招?

確實。 NVIDIA當然不會坐以待斃。 他們發布Blackwell平台後的Vera Rubin AI超級運算平台, Jensen Huang自己描述它是「AI工廠的引擎」。

它不只是一個新的GPU,更是一個完整的系統,包含Rubin GPU跟Vera CPU。 NVIDIA宣稱,這個平台可以讓「代理式AI」這類複雜工作負載的吞吐量,

比Blackwell平台還要提升10倍!

10倍? 這也太猛了吧! 這不是一個小改款,這根本是另一個等級的跳躍。 那他這次用了什麼黑科技,可以讓性能提升這麼多?

這邊要注意喔,NVIDIA這次除了GPU之外,也特別強調了Vera CPU。 它整個平台的電晶體數量,Rubin GPU有3360億, Vera CPU也有2270億。

而且他們特別強調,這個平台可以讓「專家混合模型」的訓練效率, 所需GPU數量減少四倍。 這表示什麼?

這表示NVIDIA不只是在堆疊算力,它更是在優化整個AI訓練跟推論的效率。 他們還跟台積電合作,採用3奈米製程,然後搭配HBM4記憶體, 預計今年第三季就要出貨了。

說到HBM記憶體,這又是另一個爆氣點了。 我記得從去年開始,HBM就一直缺貨一直漲價,根本就是AI的「火箭燃料」嘛!

現在狀況怎麼樣了?

小明你講到重點了,這真的超級重要,真的很重要。 HBM高階記憶體持續供應緊俏且價格高漲,根本就是現在AI晶片戰背後的隱形戰場。

你看美光,最近直接宣佈他們2026財年的HBM產能已經全數售罄了。 全數售罄喔! 而傳統DRAM跟NAND Flash的合約價,第二季預計會季增58%到63%,

NAND Flash更是季增70%到75%。 摩根士丹利就預估,這輪記憶體短缺將至少持續兩到三年,甚至更久, DRAM晶片已經成為AI基礎設施建設的主要瓶頸了。

喔,這數字我聽了真是嚇到。 這代表HBM的價格會持續飆漲,然後利潤會全部被記憶體廠賺走。 那NVIDIA跟AMD他們不會很頭大嗎?

這不是直接影響他們的成本結構嗎?

當然頭大啊! 所以他們都在積極佈局。 NVIDIA很聰明,它為了Vera Rubin平台,同時認證了三星、 SK海力士還有美光這三大HBM供應商,就是不希望被任何一家記憶體廠鎖死。

SK集團董事長崔泰源最近在Computex也說了,他們計劃未來五年內要將晶圓產能翻倍, 而且預計記憶體供應瓶頸會持續到2030年。

這不是短期現象,這是長期結構性的供不應求。

2030年? 這簡直是把整個記憶體產業的未來都拉到一個新的高度了。 難怪台積電董事長魏哲家也出來講話,說AI晶片需求爆炸性成長,

導致整個供應鏈普遍緊張,台積電正在加速擴充產能,努力不成為瓶頸。 他說:「AI發展最大的挑戰並非只有台積電,而是整個供應鏈都在承受前所未有的壓力,

從電力、記憶體、設備、封裝、測試到散熱,幾乎每個環節都存在瓶頸。 」這句話聽起來,真是爆氣又寫實。

沒錯,台積電的地位實在是太關鍵了。 HBM的生產,尤其是HBM4,現在都已經跟台積電的先進製程綁得很緊。

像SK海力士跟台積電就簽了合作備忘錄,要共同開發HBM4及下一代先進封裝技術, 目標2026年就投入生產。

摩根士丹利也預估,台積電CoWoS產能到2027年將達到每月16.5萬片晶圓。 其中NVIDIA就佔了約六成。

這顯示AI不只是晶片層次的競爭,更是整個供應鏈從最上游的設計、 中游的晶圓代工,到下游的先進封裝,環環相扣,每一個環節都是「實體護城河」。

投資人要持續關注AMD與NVIDIA最新財報中AI晶片業務的表現、 HBM產能擴張與價格走勢,以及台積電CoWoS產能的實際進度。

嗯,這個「實體護城河」的概念我們一直強調,現在看來又更廣了, 連記憶體和先進製程都成了關鍵。 而且這次的晶片戰,從過去NVIDIA一家獨大,到現在AMD強勢搶單,

背後反映的是AI巨頭對於供應鏈韌性、分散風險的強烈需求。 雖然NVIDIA市場份額仍然高達八成,但AMD的市佔率預計也將成長到5%到7%。

這表示客戶有了更多選擇,也代表這場戰役才剛開始。

確實是這樣。 這個新的競爭格局,其實也讓市場上對於「本夢比」跟「本賺比」的判斷, 變得更加清晰了。

以前大家只是想像AI未來會多厲害,現在則是越來越聚焦,錢會流向那些真正能把AI算力轉換成實際營收跟獲利的地方。

說到「本賺比」,那台灣這邊的經濟表現最近怎麼樣? 有這麼多AI訂單進來,GDP是不是也跟著起飛了?

小明你問到一個超級關鍵的問題。 我們之前聊過台灣AI產業從「本夢比」走向「實質獲利」,現在更多實證出來了。

美國銀行最近就將台灣2024年GDP增長預期從先前的2.9%大幅上調至3.7%, 同時預計台灣AI相關出口將年增30%。

這不是小幅調整,這是全球主要金融機構對台灣AI產業的最新樂觀評估。

3.7%? 這在成熟經濟體裡面是很難得的數字耶! 主計總處自己怎麼說? 他們是不是也這麼樂觀?

不只樂觀,是更樂觀! 主計總處最新預測,直接把2024年全年經濟成長率上修到3.94%, 這可是高於市場預期的。

而且第一季經濟成長率更是高達6.51%。 這波成長,就是AI發展與算力需求帶動台灣半導體及相關廠商在AI供應鏈的關鍵地位, 讓出口跟民間投資都顯著擴張。

你看,NVIDIA執行長黃仁勳都說了:「AI現在開始賺錢了」。

哇,這個數字真是太魔幻現實了。 現在看來,不只金融,整個台灣的科技產業都在靠著AI築起一道道「實體護城河」, 把「本夢比」變成「本賺比」。

沒錯! 而且今年的Computex也展現了AI產業從「算力競賽」邁向「實質應用」與「生產力實踐」的轉折點。

技嘉就展示了從AI工廠到臨床醫療的全流程落地能力。 明基佳世達集團董事長陳其宏也強調,「AI的價值不在於技術的複雜度, 而是在於其轉化為企業生產力的實踐」。

台灣的緯創、英業達、技嘉這些AI伺服器廠商,第一季的營收和EPS都表現亮眼, 特別是技嘉,第一季EPS創歷史新高,AI伺服器出貨量年增110%。

這些都是實實在在的「本賺比」。

但這麼好的數字,有沒有什麼隱憂? 如果所有人都賺得盆滿缽滿,那大家就不用爆氣了啊。

當然有,小明你很敏銳。 台灣商業發展研究院,簡稱CDRI,他們最近就發報告說,台灣確實已經躍居「AI盛世」的核心樞紐地位, 這是百年一見的機會。

但他們也提醒,現在的復甦是「不均衡復甦」,也就是「K型復甦」的常態化。

K型復甦? 你是指什麼?

講白話一點,就是大者恆大,強者越強。 AI的紅利大部分集中在大型科技公司和AI供應鏈的領頭羊身上。

CDRI的報告就顯示,批發零售業一枝獨秀,但住宿餐飲業、 不動產及服務業的就業數據仍然疲弱。 這表示,那些傳統的中小型企業,他們在數位轉型、綠色轉型、

AI轉型這些方面,面臨很大的挑戰,常常是「看得到卻吃不到」這些紅利。 這也呼應了我們在EP242提到,台灣金融業的FinLLM專案也是一種國家隊形式,

試圖讓更多金融機構能共享AI紅利,避免這種K型分化。 但這次美國銀行的報告也提供了一個新的視角,他們預期AI動能將逐步改善「廣泛消費」, 這也值得我們持續觀察。

所以,一方面是AI產業狂飆,台灣GDP表現亮眼; 另一方面,傳統產業可能還在掙扎。 這對我們投資人來說意味著什麼?

是要繼續重壓AI概念股嗎?

我自己的看法是,投資人現在要更聰明、更精準。 今年的Computex其實也展現了一個轉折點,AI已經從單純的「算力競賽」邁向「實質應用」了。

野村投信的投資策略部副總經理樓克望就提到,AI正式從過去以雲端算力為核心的技術競賽, 邁入實體應用全面落地的新階段。

所以,我們要看那些真正能把AI技術轉化成具體產品力、實質營收的公司。

具體產品力? 這怎麼理解?

比如說,現在AI伺服器對液冷系統的滲透率,預計今年會衝破70%。 這就不是單純的晶片了,這是整個基礎設施、散熱技術、電源供應, 這些「AI水電工」型的產業。

這些東西可能不那麼酷炫,不像大模型那麼sexy,但他們才是AI真正能跑起來的「實體護城河」。 所以投資人應該更關注那些能從AI的巨大「資本支出」中,穩定賺取「本賺比」的企業,

而不是只追逐「本夢比」的泡沫。 就像總統賴清德說的,台灣擁有「全世界最完整的AI產業生態系」, 應該成為「全球科技資本匯聚的中心」,而這個核心就是「最完整的AI產業鏈」。

這個願景很宏大,但落實起來,就是要看這些環節的「本賺比」。 我們也要持續關注台灣主要AI相關上市企業的最新財報與訂單狀況, 以反映實質營運效益。

聽到液冷散熱滲透率衝破70%,我真的覺得太誇張了,這簡直是把整個硬體產業的規格都拉高了。 我們之前聊AI對基礎設施的考驗,像電力、水資源,現在連散熱都變成兵家必爭之地了。

這也再次證明了我們在EP241講的,基礎設施的承載力才是將短期紅利轉化為長期國力的關鍵。

對啊,這真的是整個產業鏈的重組。 所以,總結來說,現在AI晶片戰不僅是NVIDIA跟AMD的直接對抗, 更是背後整個供應鏈,從記憶體、先進製程,到液冷散熱這些基礎設施的「本賺比」之爭。

台灣在全球AI供應鏈中的關鍵地位,讓經濟數據亮眼,但同時也要警惕「K型復甦」帶來的挑戰, 以及AI紅利能否真正擴散到廣泛消費。

所以,我們要關注的,不只是哪個晶片跑得快,而是整個AI生態系裡面, 哪一個環節真正能將「燒錢黑洞」變成「現金流奶牛」。

我們作為投資人,就是要擦亮眼睛,去辨識這些真正的「AI水電工」了。

沒錯,這也是我們貓貓AI一直以來想傳達的核心理念。 在AI的超級週期裡,機會很多,但風險也很多,唯有紮實理解其「實體護城河」與「本賺比」的內涵, 才能在這波浪潮中穩健前行。

各位聽眾,今天節目就到這邊,希望今天的分析能讓大家對AI晶片戰和台灣的經濟脈動有更深的理解。 下次見!