AI晶片戰火燒!AMD攻Nvidia、記憶體噴發;台灣FinLLM啟航,錢景?

AI晶片戰火燒!AMD攻Nvidia、記憶體噴發;台灣FinLLM啟航,錢景?

貓貓AI 科技與財經脈動 · Episode #221 · · PT20M40S

Host · 小明

Summary

本集節目深入探討AI產業的資金流向與未來挑戰。從美光HBM記憶體與台積電CoWoS先進封裝的「本賺比」狂潮,到博通數百億美元融資擴張AI晶片,凸顯了實體硬體供應鏈的巨大商機與資本投入。同時,節目也討論了AMD與NVIDIA在AI PC市場的激烈競爭,以及Google「世界模型」Project Genie這種基礎型AI的長期燒錢模式與「傑文斯悖論」帶來的潛在投資報酬率差距。台灣方面,則以「金融大語言模型」(FinLLM)為例,展現其在「非紅鏈」和「信任溢價」策略下的垂直應用決心。然而,所有AI發展的最終瓶頸,卻都指向了最底層、最傳統的電力基礎設施不足,警示若電力供應無法及時升級,AI的巨大潛力將難以全面落地。

Transcript

嘿,大家好,歡迎收聽貓貓AI 科技與財經脈動,我是小明。

我是熙宇。

熙宇啊,最近這個股市真的很有趣,尤其是AI相關的板塊。 美光這個股價是怎麼回事? 根本是用噴的啊!

連續第七個交易日創歷史新高,市值直接衝上八千億美元,這到底是什麼概念? 這根本就是AI超級週期的深水區了吧!

小明,你說的沒錯,美光的股價表現確實非常亮眼。 這背後,其實就是我們之前一直提到的「AI記憶體超級週期」正在加速進入深水區, 而且印證了這個產業的長期投資吸引力。

HBM,這種為AI運算打造的高頻寬記憶體,現在根本就是整個AI產業的燃料, 而且這個燃料還不是說你想加就加得到,是稀缺中的稀缺。

燃料? 我看根本是火箭燃料吧! 直接衝破天際。 我是說,之前大家都在講什麼AI本夢比,現在看美光這毛利率, 還有直接把2026年產能都賣光的氣勢,這根本就是實打實的「本賺比」了,

不是在做夢!

沒錯,美光的執行長Sanjay Mehrotra就非常直接地說了, 他們HBM的產能到2026年已經全數售罄,而且許多重要客戶甚至都已經簽了三到五年的長期供應協議。

這表示什麼? 這不是單純的市場短期波動,這是一個結構性的轉變,記憶體已經從過去那種週期性的大宗商品, 轉變成了AI運算裡面不可或缺的戰略資產。

瑞銀更預測,到2026年資料中心高階記憶體消耗將佔總供給的七成, 這凸顯了這些「實體護城河」資產的稀缺性,以及它們對AI基礎設施成本的巨大影響。

這真的很扯欸,直接三年、五年長約綁死,這擺明就是知道後面會更缺、 更貴嘛! 那他們的毛利率是真的高到嚇人嗎?

嚇人,真的很嚇人。 美光在最近的財報顯示,他們HBM的毛利率高達74.9%。 更驚人的是,執行長還證實,連他們那些「非HBM產品」,也就是我們一般電腦裡常見的傳統DDR5記憶體模組,

毛利率都衝到79%,超越HBM的74%。 這其實就是HBM產能排擠效應的結果,因為HBM的生產太吃晶圓, 把DRAM產能都挪去生產HBM了,導致傳統記憶體也跟著水漲船高。

這代表整個記憶體市場都被AI需求帶動,進入了一個全面性的超級週期。

哇,這有點像我之前去買演唱會票,結果沒買到VIP特區的, 只好買了一般區的,結果發現一般區的票價也翻了好幾倍,因為大家根本就沒得選, 對吧?

所以美光等於是把整個記憶體市場都吃爆了,不只是高階HBM, 連普通的記憶體也跟著大賺特賺。 那其他的「AI水電工」型企業,像是台積電這種,他們有跟上這個節奏嗎?

不然光有記憶體,沒晶片整合,也沒用啊。

當然有。 台積電也在瘋狂擴產CoWoS這種先進封裝技術。 他們預計到2026年底,要把CoWoS的月產能擴大近四倍,

目標是達到每個月12.5萬到13萬片晶圓,這顯示了其對AI晶片整合的關鍵地位。 為什麼要這樣做?

因為HBM必須跟GPU緊密整合,CoWoS就是這個關鍵的橋樑。 而且台積電還會策略性地把一些毛利相對較低的CoW段訂單釋出給OSAT業者,

像日月光這種,自己則專注在高毛利的CoWoS-L、CoPoS這些更先進的技術上, 這也確保了其在先進封裝領域的領先地位和盈利能力。

哇,所以這就像是記憶體是高級食材,晶片是主廚,CoWoS就是把食材處理好送到主廚手上的那個關鍵助手, 而且還是唯一能做這件事情的助手,對吧?

難怪這些供應鏈都被鎖死,這真的是「實體護城河」護到一個極致。

對啊,這就是我們之前也常常提到的「AI水電工」投資策略的核心: 資金現在就是要流向這些擁有實體資產、供應鏈位置又極度稀缺的環節。

而且你看喔,不只記憶體,連晶片開發這邊,像博通這種大廠, 最近也傳出正洽談高達350億美元的私募信貸交易,就是為了要擴大他們的AI晶片業務。

這顯示了晶片大廠對AI市場前景的堅定信心與龐大資本投入, 預示著下一階段的產能競爭。

350億美元! 挖哩勒,這根本是天文數字吧? 這群金主是吃了秤砣鐵了心,也要把錢砸下去搶AI晶片大餅?

他們不怕這是一個本夢比的無底洞喔?

這就很有趣了。 從這些私募巨頭的角度來看,他們看到的是AI晶片未來巨大的市場潛力。 博通自己預計,到2027年,光他們AI晶片的銷售額就會超過1000億美元。

更不用說,博通在AI基礎設施領域,特別是客製化AI加速器市場, 份額已經超過70%。 所以這350億美元的融資,對他們來說,是搶佔未來市場份額的「戰略投資」,

確保他們在客製化AI晶片,尤其是在那些大型雲服務商和企業客戶的ASIC訂單上, 能有足夠的彈藥去競爭。

喔,所以這是一個非常明確的「本賺比」導向,對吧? 不是在賭一個虛無縹緲的未來,而是看到實實在在的訂單跟市場需求。

不過講到晶片,現在AI PC不是也炒得很兇嗎? AMD跟NVIDIA這兩家在AI PC戰場上,目前誰比較有看頭啊?

這邊就要提到AMD了。 他們在最近的世界行動通訊大會MWC上,推出了Ryzen AI 400系列, 還有企業級的Ryzen AI PRO 400系列處理器。

這些晶片最屌的地方就是內建了高達60 TOPS的NPU算力, 每秒可以進行六十兆次的AI相關運算。

這算力已經非常高了,代表你的AI應用,可以在筆電、在PC上直接跑, 不用全部都丟到雲端去,大幅降低雲端API成本,讓AI應用更普及、 更即時。

60 TOPS是什麼概念? 這已經很高了嗎?

講白話一點,這算力已經非常高了。 NVIDIA這邊也不甘示弱,他們的N1X晶片也想搶攻AI PC市場,

甚至推出DGX Spark這個「AI工廠」解決方案,直接把1 PetaFLOP的AI運算效能下放到桌上型電腦。

這很明顯,AMD Ryzen AI 400系列與NVIDIA N1X晶片在AI PC市場的競爭已經白熱化,

預示著AI應用從雲端走向邊緣的趨勢,這將為軟硬體整合帶來新的商業模式與投資機會。

邊緣AI這件事,我記得我們之前提過好幾次了,但這次看起來是真的要落地了, 而且還是兩大巨頭正面對決。

不過熙宇,你剛剛前面講美光,又講博通的融資,都是幾百億幾千億的, 感覺AI產業就是在燒錢、燒錢、一直燒錢。

那Google那個之前炒得很兇的「世界模型」Project Genie, 他們投入這麼多錢,到底燒出什麼東西來了?

有沒有看到變現的可能啊? 還是它就只是個燒錢的黑洞?

小明你這個問題問得很好,這正是現在AI領域一個很重要的辯論點。 我們剛聊的HBM、CoWoS、AI晶片,都是看得見、摸得著的「實體」投資, 而且有很明確的「本賺比」路徑。

但Google的Project Genie,它的定位就完全不一樣了。

怎麼說不一樣?

Google DeepMind在去年八月就開始跟信任測試者驗證Genie 3, 今年一月底也正式開放Project Genie給他們的Google AI Ultra訂閱用戶去測試。

它主打的功能,就是可以透過文字提示,生成那種互動式的3D虛擬世界。 你可以把它看作是探索通用人工智慧AGI道路上的長期投資。

當時市場確實很緊張,Project Genie發表之後, 遊戲公司的股價直接跌一片,大家都很恐慌,覺得遊戲產業是不是要被AI顛覆了。

但這只是初步的市場反應。

聽起來好像很威猛啊。 那它真的有那麼神嗎? 還是又是另一個「本夢比」的大餅?

這裡就回到你說的「燒錢黑洞」問題了。 Google自己後來在GDC大會上澄清,說Project Genie的目標並不是要取代遊戲開發, 而是要協助「想像新的遊戲體驗」。

講白了,它現在還很早期,更多是概念驗證跟技術探索。 不過,Alphabet今年第一季財報確實亮眼,總營收來到1099億美元, Google Cloud成長63%,營收達200億美元,

營業利益更是翻倍成長到66億美元,積壓訂單也翻倍到4600多億美元。 媒體評論說,它正在「從敘事走向現金流的關鍵拐點」。

那資本支出呢? CapEx,也就是投資固定資產的錢,這才是重點吧? 感覺他們花掉的錢跟賺到的錢根本不成比例啊?

沒錯,資本支出第一季就飆到357億美元,年增107%! 他們還上調了2026全年AI資本支出的預測,從1750億到1850億美元, 現在提高到1800億到1900億美元。

而且他們的CFO還預計,2027年的CapEx會「顯著增加」。 這真的是很驚人的數字,基本上就是說,Google為了發展AI,

尤其是像「世界模型」這種長期的、通往AGI的項目,是在不計成本地砸錢。 執行長Sundar Pichai也公開說:「短期內我們受到算力限制, 如果能滿足需求,雲端營收本來可以更高。

」這意思就是,他們砸錢是為了滿足市場上爆炸性的AI算力需求, 而這些需求已經實實在在地貢獻到Cloud的營收了。

像AI新創Anthropic就跟Google Cloud簽下為期五年, 總金額高達2000億美元的雲端服務大單,這就是活生生的「本賺比」。

砸錢沒問題啊,重點是要能變現嘛。 這種燒錢法,會不會就變成一個巨大的「投資報酬率差距」? 搞不好錢燒完了,東西也沒出來,或是出來了也沒人買單。

我記得之前也有報導,說很多AI新創都倒光了欸。

這邊就要提到一個很重要的經濟學概念,叫做「傑文斯悖論」。 它說的是,當資源的使用效率提高的時候,總體的消耗量反而不會減少, 甚至會不減反增。

這是什麼意思? 講白話一點,AI不是會越來越聰明、越來越有效率嗎? 那照理說不是應該越用越省錢嗎?

怎麼會耗費更多資源? 這邏輯不對吧?

想像一下,Google的Gemini查詢,現在的能耗可能已經降低了33倍, 碳足跡減少了44倍。

單次查詢變便宜了,對不對? 可是因為它變便宜了、變好用了,所以大家會更積極地去用它, 應用場景會爆炸性地擴大。

於是,你雖然單點效率提高了,但總體使用量卻暴增,最終導致整體運算、 能源、儲存資源的需求量反而急劇攀升。

像有研究就指出,一個AI查詢的能耗,可能是傳統Google搜尋的23倍, 生成一個三秒影片的能耗,甚至相當於一個燈泡點亮一年。

這就是「廉價的資源被更積極地浪費」。

喔,我懂了! 這就像以前燈泡很貴的時候,大家會節約用電,但後來燈泡便宜了, 家裡就裝一堆燈,整天開著,結果總電費反而更高?

所以AI現在也是一樣,越便宜越高效,大家就越會用,結果總體算力需求和成本就往上疊。 這聽起來有點毛骨悚然耶,這會不會把整個社會都拖垮啊?

不只社會,這也影響到市場。 根據Wilbur Labs的報告,2024年成立的AI新創公司裡面, 有高達40%在2026年初就倒閉了。

連OpenAI的CEO Sam Altman都承認,AI領域存在過度投資的風險。 亞馬遜的Jeff Bezos也說,這是一個「工業泡沫」。

這些警訊都在提醒我們,並非所有AI投資都能轉化為實際收益, 單位經濟效益不佳、燒錢太快、變現太慢,是關鍵問題。

靠,連這些大佬都出來警示了,那真的是有問題啊! 所以說,Google砸這天文數字搞世界模型,對我們投資人來說, 風險就很大囉?

感覺就是一個大黑洞,短期內很難看到實際的ROI,也就是投資報酬率。

對於純粹追求「本賺比」的投資人來說,Google的「世界模型」可能確實還在早期階段, 變現路徑不夠清晰。

它更多是一種通往通用人工智慧的長期戰略投入,有點像基礎科學研究。 它會推動整個AI生態系的發展,但具體到Google能從Project Genie直接賺多少錢, 現在還很難說。

不過值得注意的是,台積電作為所有AI巨頭的供應商,就像The Motley Fool的分析師說的, 它「維持中立定位,不直接參與終端產品競爭」,所以像台積電這種公司,

無論是輝達、博通、Google還是OpenAI的晶片訂單, 它幾乎都能通吃,幾乎可以確保能搭上AI成長浪潮。

這樣聽起來,台灣這邊的佈局就顯得務實很多了。 我們前面說到HBM、CoWoS這種硬體,我們是直接的「AI水電工」。

但台灣除了賣水,在AI的應用面,也有在動起來嗎? 像之前提到的「非紅鏈」跟「信任溢價」,這在應用上怎麼體現?

很好,小明你拉到重點了。 台灣很清楚自己的優勢在哪裡,所以我們的AI戰略,除了鞏固硬體製造這個「非紅鏈」的護城河之外, 也開始在垂直應用上發力。

一個很棒的例子就是最近台灣金融業集體啟動的「金融大語言模型」專案, 簡稱FinLLM。 它由金管會指導,金融總會、資策會、三家金控及多家金融機構共同推動,

展現了台灣在特定產業垂直應用AI的決心。 這可視為台灣AI發展在特定產業領域的「國家級」基礎建設,

不僅強化本土AI實力,也呼應了台灣在「非紅鏈」戰略下,發展獨立且可信賴AI生態系的戰略布局。

FinLLM? 講白話一點,這是在搞一個台灣版的金融AI大腦嗎?

沒錯,你可以這麼理解。 金管會主委彭金隆就特別提到,建立我國的金融大語言模型,可以把在地法規、 監理實務、產業知識都內化到模型裡面,這樣就能降低對境外模型的依賴,

有助於資料治理跟資安的自主能力,這就是「信任溢價」在軟體應用上的體現。 金融業這種高度監理的行業,就是需要這種「說中文、懂金融、

具在地化理解」的模型,來提升金融服務效率、精準風險管理與客製化客戶體驗。

哇,這個厲害! 這不就是直接打造一個「主權AI」的金融專屬大腦嗎? 這樣金融機密資料就可以不用傳到國外那些大模型的雲端去,安全又合規, 而且還更懂台灣的狀況。

這很有戰略意義耶。

沒錯,而且這個專案還有明確的時程,預計在今年8月就會發布第一版的銀行模型, 年底前完成最終版本,甚至明年第一季就會推出基於FinLLM的AI Agent。

這聽起來就是直接從「本夢比」跳到「本賺比」的實質應用了。

這樣看來,台灣現在策略就是,硬體繼續賣水給全世界,軟體應用就從這些具備「信任溢價」的垂直領域下手, 做自己的「主權AI」?

完全正確。 台灣半導體供應鏈持續強化「非紅供應鏈」優勢,現在財政部預估, 受惠AI運算系統需求極度強勁,台灣五月的出口規模將達到678億到709億美元之間,

年增率高達31%到37%,這簡直是「超級好」的貿易表現。 所以這是一種從基礎設施到上層應用,全面強化「非紅鏈」價值的策略。

但這也帶來了一個隱憂,一個非常非常大的隱憂。

什麼隱憂? 該不會又是電吧?

小明你真是老司機了,猜對了,就是電力。 這幾天,行政院長卓榮泰還有台電董事長曾文生,都陸續在能源論壇上談到AI時代的用電挑戰。

國科會副主委林法正就直言,預估2026到2030年間,光IC產業新增的用電量就高達5.4 GW, 這可是54億瓦特的電力啊。

你想想看,這差不多是好幾個中型發電廠才能供應的量,一個單一的大型AI資料中心, 它的用電規模就可以達到40到60 MW。

這對我們台灣的電網是多大的壓力?

40到60 MW,這一個資料中心就吃掉一個小型電廠的量了吧? 這真的很扯! 我們電網夠不夠力啊?

不會AI晶片都做好了,結果資料中心沒電可以用吧? 這不是開玩笑的欸!

所以曾文生董事長就說了,AI時代的用電型態正在快速改變, 挑戰不只在於電源供給,更關鍵的是輸配電網跟變電設施能不能即時到位。

這不像蓋電廠那麼單純,這需要更精密的電力調度跟基礎設施升級。 行政院長卓榮泰雖然承諾到2032年前,台灣的電力供應將會「充裕無虞」, 但這個挑戰是真實存在,而且是迫在眉睫的。

如果電力供應跟不上,再多的HBM、再強的CoWoS、再厲害的FinLLM, 都只是空中樓閣,無法真正落地。

哇,這就是「AI水電工」裡,那個「水電」的「電」啊! 我們一直說台灣在AI時代是賣鏟子、賣水管的,現在才發現, 連挖出來的金礦,燒出來的算力,都需要電力這個更底層的「水電工」來支撐。

這不只是企業要考慮的,政府真的要超前部署,不然就算我們有「信任溢價」, 沒電什麼都免談。

完全同意。 最近TAcc+執行長王崇智也在舊金山的一場活動上說:「不只是做AI, 而是開始思考AI怎麼真正落地。

」這句話就點出了核心,無論是晶片、記憶體,還是金融大語言模型, 最終都要能「落地」才能產生實際價值。

而「落地」最大的前提,就是穩定的基礎設施,尤其是電力。 政府在電力基礎設施上的投入,特別是電網韌性、能源轉型跟變電設施的建設進度, 將是決定台灣能否真正承接這波AI巨量機會的關鍵。

聽你這樣講,我覺得這一集聊下來,雖然AI充滿機會,但挑戰真的也是一個比一個硬。 從美光HBM的爆棚,到博通的巨額融資,再到Google世界模型的燒錢,

還有台灣發展FinLLM的決心,每個環節都牽動著巨大的資金流動。 但最後,全都還是卡在那個最底層、最傳統,但也最不可或缺的「電力」。

這真的很有趣,科技再怎麼往前衝,底層的限制還是一樣的。

是啊,所以對我們投資人來說,接下來觀察的重點,除了這些AI巨頭的財報中, 其資本支出的效益如何轉化,以及像FinLLM這種「主權AI」的實際部署進度跟商業變現成果之外,

更要緊盯台灣政府在電力基礎設施上的投入,特別是HBM4這種下一代關鍵記憶體的驗證和量產進度。 這將會是決定台灣能否真正承接這波AI巨量機會,從「非紅鏈」優勢轉化為長期經濟實力的關鍵。

一旦電力供應跟不上,所有美好的願景都可能變成一場空。

確實,如果電力問題沒解決,那我們前面講的那些「信任溢價」跟「本賺比」, 都可能變成一場空。 這集真的太有意思了,讓我們重新審視了AI時代最底層,也最容易被忽略的,

那個最關鍵的「水電工」角色。 好了,時間也差不多了,感謝熙宇今天的深度分析,也謝謝大家的收聽。

謝謝小明,謝謝大家。

我們下週貓貓AI再見囉!

掰掰。