台灣FinLLM啟動:金融AI國家隊上場,真能賺爆?

台灣FinLLM啟動:金融AI國家隊上場,真能賺爆?

貓貓AI 科技與財經脈動 · Episode #242 · · PT12M32S

Host · 小明

Summary

本集《貓貓AI》爆氣分析台灣金融業如何透過「台灣金融大語言模型」(FinLLM)專案,打造一道新型態的「實體護城河」,這不僅是金管會領軍16家金融機構共建的「國家隊」,更是一場結合「在地知識」與「信任溢價」的關鍵戰役。節目深入解析FinLLM如何利用「主權AI語料庫」與「聯邦學習」技術,在確保數據隱私與資安的前提下,訓練出「最懂台灣金融」的AI,有效解決通用模型在金融場景中「幻覺」導致的法規風險。熙宇強調,FinLLM的真正價值在於其獨特的訓練語料庫,將AI的「本夢比」轉化為「本賺比」,為未來金融業的Agentic AI與Result-as-a-Service(RaaS)模式打下基礎。小明則進一步指出,這不僅是金融科技的躍進,更是台灣「主權AI」戰略的縮影,預示著產業的「K型分化」,新創公司也能在FinLLM這個「作業系統」上找到新的「AI水電工」型投資機會,投資人應密切關注這場隱形但關鍵的產業重組。

Transcript

各位貓貓AI的忠實聽眾,歡迎來到,我是小明。

大家好,我是熙宇。

哎,熙宇,你最近有沒有覺得,每次新聞報什麼「AI大模型」啊、 「國家隊」啊,聽起來都超威的? 感覺好像按個鈕,AI就能魔法般地解決所有問題,是不是?

我最近在追台灣金融大語言模型,FinLLM 這個專案,我看新聞稿寫得天花亂墜, 什麼「在地化最懂台灣金融的AI模型」啊,聽起來就是超級高大上。

啊你現在跟我說這還是一場戰役? 到底有多硬核?

小明啊,你這問題問得好。 確實,大家現在對AI的想像力都快飛到外太空了。 不過,我們一般講的「AI大模型」,簡單來說,就是像ChatGPT這種,

用海量資料訓練出來,能理解、生成人類語言的超大型AI程式。 但實際上,真正的AI落地,尤其是在像金融這種高度監管、數據又超級敏感的產業, 根本不是你想像中那樣按個鈕就好。

它背後是一場超硬核的「實體護城河」戰役,這不是砸錢就能搞定, 而是燒錢、燒腦,更燒知識的深層戰役。

你說的沒錯,台灣金融大語言模型 FinLLM 確實是近期一個非常重要的進展。 這個專案在2026年4月22日,已經由金管會領軍,正式在金融科技創新園區啟動了,

一口氣串聯了台灣16家金融機構,包括像中信金、國泰、富邦這些 Tier 1 的大咖, 甚至連純網銀將來銀行跟中華郵政都加入了。

這次的啟動,除了確認投入四千萬到七千萬台幣,最值得關注的, 是他們已經明確規劃,不只今年底前要推出銀行業的初版模型,

預計明年第一季還要推出以 FinLLM 為基礎的 AI Agent。

喔喔喔,聽起來確實很像一個國家隊在打團體戰喔! 投入這麼多錢,串聯這麼多大咖,這不就是我們之前在 EP241 還有 EP240 講過的,

在AI浪潮下,台灣這種「非紅鏈」的「信任溢價」正在被放大嗎? 而且這些金融業組國家隊,會不會就是一種建立新的「實體護城河」的方式?

沒錯,小明,你點到重點了! 這確實是「非紅鏈信任溢價」的一個絕佳案例,而且它在建構的, 就是一種新型態的「實體護城河」。

你知道嗎,數發部長林宜敬在啟動典禮上就講了,如果你拿一個國際大語言模型去問它台灣金融業的問題, 它可能回答得頭頭是道,但實際引用的可能是國外的法規,甚至會出現「幻覺」。

所謂「幻覺」,就是AI一本正經地胡說八道,給出貌似合理卻完全錯誤的資訊, 就像一個很會唬爛的朋友,講得頭頭是道,結果全是錯的,這就是一個很嚴重的「語境斷層」問題。

幻覺? 哇靠! 這在金融業可不是開玩笑的耶! 如果AI給你一本正經地亂報什麼錯誤的金融法規,那輕則造成客戶損失, 重則整個公司都要被金管會罰到脫褲子啊!

這真的很扯欸,一個錯誤的資訊,代價是天文數字!

對啊,所以 FinLLM 的核心價值,就是要解決這個問題。 所謂「語境斷層」,就是指AI雖然懂中文,但它不理解台灣這個特定環境下的文化、 法律、習慣這些背景知識,所以理解上會出現落差。

FinLLM 就是要訓練一個「最懂台灣金融」的AI。 它不是要從頭打造一個新模型,而是基於我們數位發展部提供的「主權AI語料庫」,

再結合16家金融機構各自累積的產業知識、法規文本、內部文件, 去進行「微調」和「蒸餾」。 這就讓這些通用模型,透過這些台灣專屬的知識,訓練成一個精通台灣金融的專才,

才能正確理解台灣特有的法規、文化和市場脈絡。 用中國信託金控資訊長賈景光的話來說,過往金融業使用通用大語言模型面臨三大痛點: 在地化不足、法規理解不足、金融專業理解不足。

FinLLM就是要解決這些。

哇,所以這背後真正的「本賺比」其實是那個「在地化」的知識啊! 我記得有一位匿名專家在馬克解讀金融科技的報導裡就提到:「FinLLM真正的核心資產不是模型本身, 是訓練語料。

」這個說法現在聽起來真的太有道理了。 那金管會主委彭金隆說這個專案有「強化國家主權AI應用」、

「推動金融業技術升級」跟「促進普惠金融」三大效益,是不是也是基於這個「在地知識」的護城河?

確實是這樣。 這個專案最精髓的點,就像你引用的那位專家說的,「語料」才是真正的金礦。 因為這些語料庫,特別是像各家銀行內部那些寶貴的、沒有公開過的專業文件, 才是真正有價值的東西。

把它們餵給模型,就等於為台灣金融業打造了一個獨一無二的「在地化金融大腦」。 這不僅降低了法規誤判的風險,也強化了台灣在資料治理和資安上的自主能力, 這就是「主權AI」最實際的意義。

這個跟我們之前講的實體護城河不一樣,這護城河是知識與信任建構的, 更無形,但更難被複製。

欸,那這個聽起來很棒啦,但是說到16家金融機構要一起「餵養」這個AI大腦, 我就有點爆氣了。 你知道嗎,金融業是最重視數據隱私和資安的行業,每一家銀行都有自己的異質系統,

自己的客戶資料,要怎麼把這些東西整合起來,還能確保安全, 這不是隨便講講就可以的耶! 這中間的「隱形瓶頸」會不會超級多?

光是資料格式統一,協調各家 IT 部門,我就覺得頭很痛了!

小明,你說到點子上了,這真的是 FinLLM 專案最難、 也最關鍵的一環,這也是為何它能成為一個國家級的「基礎建設」。

你看,雖然有國家高速網路與計算中心NCHC提供「GPU 算力」支援, 也就是那些高性能的顯示卡提供的強大計算能力,NVIDIA 也提供了 Taipei-1 超級電腦的技術顧問,

甚至他們用的 APMIC 的 PrivModel 技術, 都是基於 NVIDIA 的 NeMo 框架,這些都是提供強大的「算力水電工」罷了, 它們是提供基礎設施。

而這次有新的進展是,亞太智能機器APMIC也正式加入 FinLLM 計畫, 專門負責模型的訓練執行、交付、調校跟佈署,這也是一個非常重要的「AI水電工」角色,

確保這套複雜系統能真正運行起來。 但真正的挑戰,是怎麼把16家金融機構的數據,在符合法規和隱私的前提下, 安全、有效地匯集起來訓練模型。

這背後會用到很多像「聯邦學習」Federated Learning 這種技術。

聯邦學習? 這是什麼意思? 聽起來很像科幻電影裡面的東西。

講白話一點,「聯邦學習」的核心概念就是「數據不動、模型動」。 也就是說,每家銀行自己的資料不用離開他們家,模型會像一個「特派員」一樣,

到各家銀行去學習他們的資料,把學習到的「經驗」帶回來,但不會帶走任何原始數據。 這些「經驗」再匯總起來,讓整個 FinLLM 模型變得更聰明。

這樣就能在數據不離開各自場域的前提下,共享知識、協同訓練, 同時確保數據的隱私和安全。 這證明了「AI水電工」不僅僅是硬體,也包括這些能讓AI有效落地的軟體與服務。

哇,聽起來真的超複雜的,這根本不是表面上看起來「按個鈕」就搞定的事情。 這也讓我想到我們之前在 EP239 討論過 Meta 大裁員然後把資源轉移到 AI,

還有 Agentic AI 和 RaaS 模式的崛起。 FinLLM 這種做法,是不是也正在為未來金融業的 Agentic AI 和 Result-as-a-Service 打基礎?

它其實是讓 AI 可以更精準、更在地化地提供「結果」,而不是只是「工具」?

沒錯,小明,你的連結非常到位! FinLLM 的最終目標,當然不只是作為一個聰明的聊天機器人。 它最終會發展出像「Agentic AI」這樣的「金融代理人」。

所謂「Agentic AI」,就是那種不只當工具,還能自己規劃、 執行任務,甚至主動解決問題的AI。

這些 AI Agent 會「自動化」地去執行複雜的金融任務, 例如,自動進行法規遵循檢查、自動分析風險報告、甚至在一定範圍內自動回應客戶的查詢。

這就是從「工具」進化到直接交付「結果」的「RaaS」模式。

有了 FinLLM 提供的在地知識基礎,這些金融 Agent 才能真正發揮作用, 降低「幻覺」風險,提供可信賴的結果。

這就真正將 AI 的「本夢比」轉化成「本賺比」了。 中國信託銀行董事長陳佳文也說,現在企業已快速分化為「AI相關」與「非AI」兩類, 前者在營收與市值上大幅領先。

FinLLM正是讓台灣金融業全面進入「AI相關」領域的關鍵。

所以,表面上看起來是金融業在搞 AI,但骨子裡,這其實是整個台灣在為下一波的 AI 應用築基。 而且這種國家隊協作的模式,對金融科技的 startups 來說, 會不會反而是新的機會?

還是會把他們的市場都吃掉? 感覺又是一種「K型分化」?

這確實會帶來「K型分化」。 一方面,大型金融機構透過 FinLLM 這種集體協作模式, 可以共享成本、建立統一的標準,加速自身的 AI 轉型,這會讓他們變得更強,

形成新的「實體護城河」。 但另一方面,這也為新創公司創造了新的合作機會和市場空間。 FinLLM 作為一個國家級的基礎設施,就像我們之前在 EP240 談到的,

像是多層陶瓷電容 MLCCs 這種元件,它雖然小,卻是AI伺服器裡很關鍵的零組件。 同樣地,FinLLM 讓上層的應用服務有了更堅實的基礎。

怎麼說? 所以他們不會被吃掉,反而是會搭上順風車?

對。 你可以把 FinLLM 看成是金融業的「Linux 核心」或是「作業系統」。 有了這個核心,新創公司就可以在上面開發各種垂直、客製化的金融應用服務,

比如說專精在區塊鏈金融、綠色金融、或是針對特定客群的智慧理財 Advisor。 他們可以利用 FinLLM 強大的在地化金融知識庫,開發出更精準、 更符合台灣市場需求的產品。

這就像是「AI水電工」的生態系,越底層的基礎設施建得好, 上層的應用就越能百花齊放。 這也是為什麼我們一直強調,投資人不能只看那些光鮮亮麗的AI概念股,

更要關注那些默默提供基礎設施、解決實際痛點的「AI水電工」型企業。 FinLLM 專案已納入國發會「AI新十大建設推動方案」中, 這更是從國家戰略層面確立了其基礎設施的地位。

聽你這樣講,FinLLM 表面上是金融業的 AI 轉型, 實際上是在為整個台灣的「主權AI」戰略鋪路。

它不僅鞏固了台灣在「非紅鏈」供應鏈中的「信任溢價」,更為金融業的「本賺比」開闢了新道路。 這不只是一項技術專案,更是一場關於國家競爭力、產業升級,

以及如何在 AI 浪潮下實現「K型分化」共榮的實驗。 所以,大家應該要把這個專案,視為台灣未來經濟發展的一個重要觀察指標, 絕對不是只看帳面上的幾千萬台幣而已。

沒錯,FinLLM 不只是金融的未來,更是台灣科技戰略的縮影。 它揭示了在 AI 超級週期裡,真正能帶來長期價值的,不只是最前端的模型,

更是那些能把數據、算力、法規和產業知識,整合起來的「實體護城河」。 投資人必須看懂這些隱形但關鍵的基礎建設,才能在這一波浪潮中, 找到真正的投資機會。

所以,各位貓貓AI的聽眾,在AI瘋狂發展的現在,當台灣金融業都開始自己打造「最懂台灣」的AI大腦時, 你的投資組合,準備好迎接這場「主權AI」帶來的產業重組了嗎?