AI代理、邊緣AI:生成式AI掀產業部署革命
千尋與服務設計 · Episode #5 · · PT24M36S
Host · 姜千尋
Summary
本集「千尋與服務設計」深入探討了AI世界的最新進展與產業劇變。首先,AI代理正從學術走向日常生活,化身為瀏覽器與「數位員工」,帶來便利的同時也引發資安隱憂,強調人機信任與防護的重要性,並分享了學術界在可靠性與跨文化信任上的突破。接著,節目揭示AI部署策略的典範轉移,小型高效模型與邊緣AI的崛起,讓AI得以在本地設備運行,促成雲邊協同智慧的新模式,以「每瓦效能」取代純粹運算速度為價值核心。最後,分析OpenAI積極平台化、將ChatGPT打造成AI應用商店的策略,以及科技巨頭們投入數百億美元的巨額融資潮,加速了AI產業的估值飆升與集中化。節目總結,在這些快速變革中,以人為本的服務設計對於平衡AI創新、實用性、安全性與倫理規範至關重要,確保AI最終能成為人類的可靠夥伴。
Transcript
哈囉哈囉,各位服務設計的探險家們! 我是你們的好朋友姜千尋,歡迎再度踏上「千尋與服務設計」的精彩旅程!
過去幾集,我們一起見證了具身智能AI的華麗登場、資安攻防戰的風起雲湧, 還有科技巨頭們如何在AI巨浪中翻手為雲覆手為雨。
AI這個雙面刃,它既是效率提升的魔法棒,也引發了數據倫理和治理的滔天巨浪, 一再提醒我們:在這個AI狂飆的時代,「以人為本」的服務設計有多麼、 多麼關鍵!
而今天! 我們要繫好安全帶,繼續深入AI這個比科幻電影還精彩萬分的世界! 準備好跟我一起探索了嗎?
我們將揭開AI代理的神秘面紗,見證邊緣AI與小型高效模型如何顛覆遊戲規則, 最後,再一起俯瞰AI產業那簡直是「風起雲湧」到讓人心跳加速的劇變!
是不是超級期待? 好的,首先登場的重磅嘉賓就是——「AI代理」! 它可不再只是實驗室裡的理論模型,而是從學術突破一路狂奔, 直接衝進了我們的日常生活中,甚至變成了我們的專用瀏覽器!
但等等,方便歸方便,它也悄悄地帶了一些值得我們深思的問號喔。 哇塞! 這些具身智能AI瀏覽器,用起來是方便得不得了,簡直就是個無所不能的數位助理!
但! 是! 它的資安漏洞也像雨後春筍般層出不窮啊! 你看看OpenAI的ChatGPT Atlas,就是個熱門案例, 它簡直像個聰明卻又有點傻氣的新朋友,讓人又愛又怕,對吧?
就在去年的12月27日,OpenAI的ChatGPT Atlas瀏覽器就面臨了嚴峻的資安審查,
駭客們竟然能透過提示詞注入、跨站請求偽造和網路釣魚等等這些你聽起來就覺得頭皮發麻的方式發動攻擊!
到了12月31日,YouTube上還有影片,詳細解釋了這些透過惡意URL進行的攻擊手法, 是不是有點毛骨悚然?
LayerX的發現更是讓人驚掉下巴:AI瀏覽器用戶比傳統瀏覽器高出足足85%的機率面臨網路釣魚攻擊風險!
天啊! 這數據不就在提醒我們,服務設計師們在享受AI帶來的便利時, 更要絞盡腦汁,思考如何確保人機之間的信任以及堅不可摧的資安防護嗎?
LayerX直言:「企業需要將具有記憶功能的AI助理瀏覽器視為其企業攻擊面的一部分。 」而Cyberscoop也語重心長地警示我們:「自動化正在改變網路瀏覽,
但隨之而來的是企業不容忽視的複雜資安環境。 」這些資安警訊,真的大大凸顯了在享受AI代理便利的同時,
服務設計必須把人機信任與資安防護放在最、最、最首位,才能確保我們的數位夥伴是真正可靠的。 這也促成了像Linux基金會成立Agentic AI Foundation這樣的組織,
他們的目標就是要建立開放標準,避免AI生態碎片化,真是太重要了! 你是不是也隱約感受到了呢? AI的發展重心,已經從那個只會「預言」的塔羅牌大師,搖身一變,
成為能自主操作的「數位員工」了! 具身智能在2025年,已經不再是高高在上的理論,而是實實在在的基礎設施了!
它不再只是給你建議,而是直接「捲起袖子」幫你完成任務! 12月27日,Binary Verse AI就精準點出這個產業趨勢: 從「模型即預言機」轉向「模型即操作員」!
緊接著,12月29日就有報導指出,AI代理已經從理論直接走向了基礎設施, 你看,連Linux基金會都成立了Agentic AI Foundation,
就是要為開放、可互操作的代理生態系統建立共享標準! Binary Verse AI觀察得太到位了:「你可以感受到行業正在從『模型即預言機』轉向『模型即操作員』,
這一轉變體現在AI代理人新聞、AI監管新聞,以及團隊實際需要應對的AI和技術發展上: 代理人正在獲得『手』,從建議轉為行動,像是瀏覽器代理、簡報製作器、
程式碼協作者,甚至是『數位員工』。 」這簡直是說得一針見血啊! 這意味著,AI代理人已經成為我們日常生活中不可或缺的工具了, 從幫你瀏覽網頁、製作簡報,到撰寫程式碼,它們無所不能!
但這也代表,我們服務設計師需要更深入地思考,如何設計這些「數位員工」的協作模式與信任機制, 讓它們真正成為人類的得力助手,而不是一不小心就變成潛在的麻煩喔!
當然,學術界的大佬們也沒閒著,他們持續在AI代理的可靠性、 信任度、推理能力等等方面取得突破性的進展!
我們快來看看這些燒燙燙的最新研究! 就在去年的12月27日和29日,GitHub上就更新了兩篇超級重要的研究論文,
一篇是關於「可靠AI導師的多代理對抗框架」,另一篇則是「防止提示詞注入的多模態框架」, 這些都是在為AI的安全性與可靠性打下堅實的基礎啊!
同一時間,12月29日,YouTube上的AI Frontiers頻道也一口氣總結了62篇arXiv論文, 內容包羅萬象,包括AI推理的正式法則、對擬人化AI的跨文化信任差異,
以及強化學習的獎勵系統等等! 其中,最讓我眼睛為之一亮的,就是混合模型在預測癌症疼痛發作方面的準確率, 竟然、竟然高達90%!
這簡直是醫療領域的一大福音啊! 想想看,這能幫助多少人! 研究還表明,「推理定律」能顯著提升AI性能;
同時也發現一個很有趣的現象——「對擬人化AI的信任度,竟然會因為文化而異」! 這些研究把AI代理的發展推向了更深層次,也提醒我們服務設計者,
未來必須要更細緻地考慮AI的文化適應性與倫理規範,確保AI在不同的文化環境下, 都能被信任並發揮最大效用。
好了,AI代理的精彩世界暫告一段落,接下來,我們要將目光轉向AI部署策略的另一場「典範轉移」大戲——那就是「邊緣AI與小型高效模型的崛起」!
這可是AI普及化的關鍵喔! 你知道嗎? 以前總覺得AI模型越大越厲害,但現在,這股風向可變了! 大型AI模型正悄悄讓位給那些參數更少、卻更精巧、更高效的「小型高效模型」,
簡稱SLMs! 它們簡直就是AI世界裡的小巨人啊! 像Microsoft的Phi系列和Google的Gemma系列,
都證明了AI不再只是雲端巨獸的專利,連我們手上的筆記型電腦都能輕鬆跑得動, 這簡直是把AI的門檻大大、大大降低了!
12月29日,Peiko的報告就明確指出小型高效模型和邊緣AI的崛起, 特別點名了Microsoft Phi和Google Gemma這些模型, 竟然能在我們的筆記型電腦上高效運行!
緊接著,2026年1月1日,Google的T5Gemma-2多模態模型也驚豔發布了, 它更強調了對筆記型電腦友好的編解碼器架構,超適合處理多語言任務, 是不是超棒的!
到了1月2日,更有專家分析說,其實啊,參數在百億到千億之間的小模型, 就已經具備足夠的推理能力了,根本不需要那些兆級的超級大模型來處理特定任務!
這真的是大翻轉! 根據IIM信息的數據,預計2025年全球邊緣AI晶片出貨量將超過25億顆,
其中超過六成將應用於消費電子與工業物聯網,而邊緣AI解決方案市場的年複合成長率更是高達恐怖的40%以上!
Amresh Kumar就激動地指出:「Phi-2僅有27億參數, 卻在推理和程式碼生成任務上,達到了比其大10到25倍的模型性能。
」他也特別強調:「Google的Gemma模型,無論2B還是7B參數版本, 都證明了負責任的AI開發和令人印象深刻的功能可以共存於緊湊的形式中。
」一位台大教授也分析道:「參數在百億到千億之間的小模型已具備足夠的推理能力, 不需要兆級的大模型就能處理特定任務。
」SLMs的快速發展,直接推動了邊緣AI部署的普及,它不僅解決了資源限制和隱私問題, 使得更多的AI推論能在本地設備上進行,大大加速了AI應用商業化的進程,
特別是在智慧型手機、PC、汽車、XR以及物聯網等終端品類。 這對我們服務設計師來說,意味著一個全新的機會:我們要針對這些輕量級、
個人化的AI應用場景,腦力激盪出更多創新、貼心的服務模式! 接下來,我們要看看雲端和邊緣AI這對「冤家」!
嘿,你以為它們還在打仗嗎? 錯了! 它們的戰火已經平息,現在轉向了更高明的「協同智慧」模式! 就像一個完美的團隊合作,效率和能耗,成了衡量價值的最新核心指標!
這場仗,再也不是單打獨鬥,而是策略聯盟了! 12月28日,中信建投的研究報告就特別強調了雲邊協同的混合式AI架構, 對於AI規模化擴展的重要性,可見一斑!
隔天,12月30日,半導體矽智財龍頭Arm更是語出驚人地發布技術預測, 預言2026年將徹底終結「到底雲端勝出還是邊緣勝出」的爭論, 轉向以協同智慧為核心的一體化AI協作體系!
而且,他們還強調了一點:未來,「每瓦效能」將取代單純的運算速度, 成為衡量晶片價值的核心指標! 這真是太有遠見了!
同一天,DIGITIMES也報導說,邊緣AI晶片新創業者正積極尋求5奈米以下的先進製程代工, 這都在在顯示了對運算力與能耗比的追求,已經到了極致!
儘管邊緣AI加速演進,但Deloitte在12月31日的報告中, 也預測到2026年,推論運算將佔所有AI計算能力約三分之二,
同時也指出對大型數據中心的依賴仍然會持續強化,這表示「混合式AI架構」仍將是主流! 東吳證券也預計2026年端側AI將正式接力雲AI,推動「端雲混合架構」成為技術基礎建設的核心範式。
Deloitte甚至預測,2026年全球AI數據中心的資本支出將高達4000億至4500億美元!
我的天啊! Arm的預測真是一語中的:「2026年,『雲端與邊緣哪個勝出』的長期爭論將逐漸平息, AI系統將加速形成以協同智慧為核心的一體化協作體系。
企業不再把雲端、邊緣與實體終端分別看待,而是根據各技術層級的優勢來設計AI任務和工作分配方案。 」並精準指出「每瓦效能將取代單純的運算速度,成為衡量晶片價值的核心指標。
」中信建投也認為:「全球AI應用商業化有望呈現持續加速。 」Deloitte的報告更是畫龍點睛地強調:「AI代理不僅僅能回答問題, 更能自主地感知環境、設定目標、規劃路徑並執行任務。
」東吳證券則預期「端側AI將正式接力雲AI,推動端雲混合架構場景成為技術基建核心範式。 」這對於服務設計來說,是個全新的考驗!
我們需要更巧妙地考慮這種混合式架構下,如何平衡中心化雲端計算的強大能力與邊緣設備的即時、 隱私優勢,才能設計出更彈性、更高效、更聰明的AI服務!
好了,接下來我們要進入今天的壓軸好戲了! 這簡直是一場AI界的「瘋狂派對」——「OpenAI平台化與巨額融資潮」!
在這場派對中,OpenAI不斷將自己平台化,就像把Party的場地擴大再擴大, 而那些科技巨頭們,則像飢渴的客人一樣,瘋狂撒錢,搶占每一個好位子!
OpenAI現在的野心,就是要將ChatGPT打造成AI界的「App Store」! 他們正積極擁抱平台化,廣發英雄帖,邀請全球的開發者一起來共建這個全新的AI生態系,
這真的是要將AI普及到地球的每一個角落啊! 早在2025年10月6日,OpenAI的Dev Day上, CEO Sam Altman就霸氣宣布推出App Marketplace,
目標就是要讓開發者能直接在ChatGPT內建應用,這不就是直接向Apple和Google的App Store生態發起挑戰嗎?
到了12月22日,OpenAI更是正式開放應用提交審核, 簡直是把AI應用市場的大門敞開了,歡迎各路好漢進場!
為了感謝開發者們的支持,12月27日OpenAI還特別將AI程式碼代理Codex的速率限制提高一倍, 這種操作,真是太懂得拉攏人心了!
你知道嗎,ChatGPT每週活躍用戶已經高達驚人的8億人次了! 這是一個多麼龐大、多麼充滿潛力的生態系啊!
OpenAI CEO Sam Altman信心滿滿地說: 「這將催生新一代互動式、適應性強且個人化的應用程式,你可以和它們對話。
我們希望這能大大幫助開發者快速擴展產品。 」OpenAI的平台化策略,將徹底重新定義AI應用的開發與分發模式, 這對我們服務設計師來說,意味著一個全新的、充滿無限可能的戰場!
我們要開始思考,如何在這樣一個嶄新的AI應用生態中,創造出既差異化, 又能與AI深度互動的服務!
而伴隨著平台化,AI產業的「熱錢」更是像洪水猛獸般湧入啊! 軟銀豪擲數百億美元、Meta也大舉收購、亞馬遜也躍躍欲試, 這些科技巨頭們簡直是瘋狂搶占AI人才與技術的灘頭堡!
這讓整個產業的估值水漲船高,簡直是一場盛大的資本「搶錢」派對! 12月26日,SoftBank集團就完成了對OpenAI驚人的225億美元追加投資,
使其總承諾達到了恐怖的400億美元! 這簡直是展現了他們對AI未來壓倒性的信心! 緊接著12月30日,Meta Platforms也不甘示弱,
竟然以超過20億美元的天價,收購了AI新創公司Manus, 要知道這家公司年經常性收入就已經高達1億美元了!
同一天,Amazon也傳出有意投資OpenAI高達100億美元的消息! 這些數字,足以顯示巨頭們對AI的渴望,簡直是飢渴難耐!
12月31日,SoftBank正式宣布完成對OpenAI的投資, 使OpenAI本輪總融資額達到了令人瞠目結舌的410億美元,
讓其估值衝破3000億美元,甚至有傳聞已經高達5000億美元! 這已經不是錢了,是天文數字啊!
2025年AI新創的融資額比2024年增長了60%,而全球科技巨頭的AI投資總額更是高達3200億美元!
Meta Platforms表示,Manus的通用AI代理將「在我們的消費者和商業產品中提供服務, 包括Meta AI」。
Manus的CEO Xiao Hong則充滿信心地說,加入Meta將讓平台「在不改變Manus運作方式或決策方式的情況下, 建立更強大、更可持續的基礎」。
SoftBank CEO孫正義也難掩興奮地表示,他們「深深認同OpenAI讓通用人工智慧造福全人類的願景」。
Sam Altman也回應說:「SoftBank很早就看到了AI的潛力, 並深信其對人類的影響。
」這些天文數字般的投資和併購,不僅把AI新創的估值推到了前所未有的高度, 也加劇了產業集中化。
我們服務設計師,真的要密切關注這股滔滔不絕的資金潮,它將如何塑造未來的AI技術版圖和應用生態, 因為這將決定我們未來幾年的發展方向,甚至我們的飯碗喔!
好的! 今天的節目,是不是資訊量大到讓你的腦袋爆炸啦? 我們從AI代理如何從實驗室走向我們的瀏覽器,看到了它帶來的超級便利, 但也別忘了,它也敲響了資安的響亮警鐘!
接著,我們發現AI不再是高高在上的雲端專利,小型高效模型和邊緣AI的崛起, 讓AI變得更接地氣、更個人化,幾乎可以走入每個人的生活!
同時,AI產業的資本遊戲也玩得震天響,OpenAI積極平台化, 就像是舉辦了一場沒有止盡的盛大派對,而科技巨頭們則是用數十億、 數百億的資金,瘋狂地搶占AI這塊超級大餅!
在追求技術創新的同時,「以人為本」的服務設計,才是讓AI真正造福人類的唯一關鍵! 我們如何巧妙地平衡AI的創新與實用性、安全性與倫理規範, 將會是我們未來最重要的挑戰!
因為,無論AI多麼強大、多麼聰明,最終,它都應該是人類最可靠的好夥伴, 而不是潛在的威脅! 對吧?
非常感謝大家的熱情收聽,我是你們的姜千尋,我們下週「千尋與服務設計」的空中再見囉! 掰掰!