NVIDIA CEO 黃仁勳 2025 GTC 演講,下一代 AI 運算效能暴增 40 倍,矽光子技術讓 NVIDIA 再領先 5 年,完整中英文字幕對照影片

NVIDIA CEO 黃仁勳 2025 GTC 演講,下一代 AI 運算效能暴增 40 倍,矽光子技術讓 NVIDIA 再領先 5 年,完整中英文字幕對照影片
GTC March 2025 Keynote with NVIDIA CEO Jensen Huang

NVIDIA 創辦人暨執行長黃仁勳在最新一屆 GTC 大會主題演講中,揭示了 AI 產業的劃時代發展及該公司雄心勃勃的技術藍圖,展現 NVIDIA 如何透過創新技術引領全球 AI 運算革命。

從電競顯卡到 AI 霸主

黃仁勳開場回顧了 GTC 從 25 年前專注於 GeForce 顯示卡的起點,到如今成為全球 AI 技術盛會的歷程。他特別宣布推出新一代旗艦級顯示卡 GeForce 5090,並強調 AI 如何徹底改變電腦繪圖技術,實現 100% 即時路徑追蹤,大幅提升精確度與時間穩定性。

AI 發展邁向「具代理能力」與「物理 AI」新階段

黃仁勳分析了 AI 在近十年的演進,從感知 AI、生成 AI,到現在的「具代理能力的 AI」(Agentic AI),能夠感知環境、理解上下文、進行推理、規劃行動並使用工具解決問題。他更預告下一波浪潮—「物理 AI」(Physical AI)將賦予 AI 理解物理世界的能力,包括摩擦、慣性、因果關係等物理特性,這將成為機器人技術發展的核心。

「AI 的每個階段都帶來新的市場機會,」黃仁勳表示,「具代理能力的 AI 需進行大量推理,實際所需計算量比去年預期高出 100 倍。」

資料中心轉型為「AI 工廠」

黃仁勳預測,全球資料中心資本支出將在 2030 年達到一兆美元,這主要源於運算模式從通用電腦上執行手動程式碼,轉變為在 GPU 上運行機器學習軟體的根本性轉變。

「未來的資料中心將成為 AI 工廠,專門生產用於各種應用的 Token,」黃仁勳強調,NVIDIA 的 CUDA-X 系列函式庫已在加速物理、生物、光刻、5G 通訊等領域的科學運算,全球已有 600 萬開發人員使用 CUDA。

Blackwell 架構實現顯著效能躍升

NVIDIA 全新的 Blackwell 架構已全面投產,其設計進行了根本性變革,從過去基於 HGX 的 8 GPU 系統,發展到採用解耦 NVLink 交換器和液體冷卻的全新系統,每個機架可實現 Exaflops 等級的運算能力。

黃仁勳展示了 Blackwell 在相同功耗下,效能較前代 Hopper 架構提升 25 倍,在推理任務上更達到 40 倍的飛躍。「在 100 兆瓦的 AI 工廠中,Blackwell 架構能在更少的機架和 GPU 下實現更高的 Token 輸出量,」黃仁勳解釋道。

領先業界的產品藍圖

黃仁勳分享了 NVIDIA 未來幾年的產品規劃:

- Blackwell Ultra:今年下半年推出,效能、記憶體與頻寬全面提升
- Vera Rubin:2026 年下半年,採用新一代 CPU、GPU (CX9)、網路 (MVLink 144) 和 HBM4 記憶體
- Rubin Ultra:2027 年下半年,將實現極致擴充能力 (MVLink 576),每機架功耗達 600 千瓦,運算能力達 15 Exaflops

為實現大規模 AI 運算,NVIDIA 發布了首款共封裝光學元件 (CPO) 矽光子系統,採用微環諧振器調制器 (MRM) 技術,大幅降低大型 AI 資料中心的功耗與成本。

企業 AI 與機器人技術成為焦點

在企業應用層面,NVIDIA 推出 DGX GB200 NVL72、DGX GH200 等企業級 AI 基礎設施產品,並宣布開放原始碼的 NVIDIA NIM (NVIDIA Inference Microservices) 系統,協助企業快速部署 AI 應用。

黃仁勳特別強調機器人技術的巨大潛力:「這很可能成為最大的產業。」NVIDIA 推出 Isaac Groot N1 通用人形機器人基礎模型,並與 DeepMind、Disney Research 合作開發 Newton GPU 加速物理引擎,大幅提升機器人模擬的真實度與效率。

作為台灣科技產業的驕傲,黃仁勳的演講不僅展現了 NVIDIA 的雄厚技術實力,也為台灣半導體與 AI 產業描繪了充滿機會的未來藍圖。隨著 AI 運算需求爆炸性成長,台灣在全球 AI 供應鏈中的關鍵地位將更加鞏固。

Read more

AI 顯微鏡解密語言模型思維:窺探語言模型「大腦」的運作方式

AI 顯微鏡解密語言模型思維:窺探語言模型「大腦」的運作方式

語言模型(如Claude)的運作方式一直以來都像是一個黑盒子,Anthropic 最新發表的兩篇研究論文揭露他們如何嘗試「打開」這個黑盒子,了解AI系統內部的思考過程。這項研究不只具有科學價值,也能幫助人類確保AI系統的可靠性與安全性。 AI的「思考」是如何形成的? 大型語言模型不像傳統程式那樣由人類直接編寫,而是透過大量數據訓練而成。在這個過程中,模型自行發展出解決問題的策略,這些策略隱藏在模型執行的數十億次計算中。因此,即使是開發者也不完全了解模型如何完成各種任務。 研究人員從神經科學獲得靈感,嘗試建立一種「AI顯微鏡」,用於識別AI中的活動模式和資訊流動。透過這種方法,他們發現了一些令人驚訝的結果: 關鍵發現 1. 跨語言的「思維語言」 Claude能說數十種語言,那麼它「腦中」使用的是什麼語言?研究顯示,當處理不同語言時,Claude會使用共享的概念空間。 例如,當用不同語言詢問「small的反義詞是什麼」時,模型啟動相同的核心特徵來表示「小」和「相反」的概念,然後觸發「大」的概念,最後將結果翻譯成問題使用的語言。

By Fox Hsiao
圖靈測試 75 年來首次被AI成功突破,GPT-4.5如何辦到的 ?

圖靈測試 75 年來首次被AI成功突破,GPT-4.5如何辦到的 ?

圖靈測試由計算機科學先驅艾倫·圖靈於1950年提出,被視為判斷機器是否具有智能的重要方法。測試的核心是一場「模仿遊戲」:一位人類審問者同時與兩位受試者(一位人類和一位機器)進行文字對話,雙方都嘗試說服審問者自己是真正的人類。如果審問者無法可靠地辨別出誰是人類,那麼機器就被認為通過了測試。 75年來,許多系統嘗試挑戰圖靈測試,但都未能成功。直到現在,研究人員發現大型語言模型(LLM)終於突破了這道門檻。 研究方法與突破性發現 研究團隊評估了四種系統:ELIZA(一種1960年代的規則型聊天機器人)、GPT-4o、LLaMa-3.1-405B和GPT-4.5,讓它們與真人一起參與標準的三方圖靈測試。測試參與者有5分鐘時間與系統和真人同時對話,最後判斷哪一方是人類。 研究結果令人驚訝: 1. GPT-4.5:當被提示採用特定人物角色時,它被判斷為人類的比率高達73%,顯著超過了真人被識別的機率(27%)。 2. LLaMa-3.1-405B:同樣提示詞下,被判斷為人類的比率達56%,與真人不相上下。 3. 對照組:未經特殊提示詞的GPT-4o和ELIZA則表現平平,僅有21

By Fox Hsiao
Sam Altman 被 OpenAI 解雇事件背後的真實故事

Sam Altman 被 OpenAI 解雇事件背後的真實故事

秘密、誤導與信任破裂。科技界當紅 CEO 被閃電開除又戲劇性回歸的內幕。 (改編自 Keach Hagey 所著新書《The Optimist: Sam Altman, OpenAI, and the Race to Invent the Future》(《樂觀主義者:Sam Altman、OpenAI 與創造未來的競賽》),本書將由 W.W. Norton 出版社於 2025 年 5 月 20 日出版。版權所有歸作者 Keach Hagey。) 2023 年 11 月中旬,一個溫暖的夜晚,億萬富翁創投家彼得·提爾(Peter Thiel)在洛杉磯藝術區一家名為

By Fox Hsiao
GPUs融化中!從「畫素註解」到「魔法繪師」:ChatGPT-4o圖像技術有多猛?

GPUs融化中!從「畫素註解」到「魔法繪師」:ChatGPT-4o圖像技術有多猛?

社群媒體上瘋傳著各種以ChatGPT-4o生成的吉卜力風格圖像,熱潮之猛烈,甚至讓OpenAI創辦人Sam Altman在3月28日發推特表示:"看到人們喜愛ChatGPT中的圖像功能真是太有趣了,但我們的GPU正在融化。我們將暫時引入一些使用限制,同時努力提高效率。希望不會太久!"——短短幾天,這則推文已獲得700萬次瀏覽,足見此功能的爆炸性影響。這些作品不僅令人驚嘆於其畫風以及角色連續性,更令人好奇其背後的技術突破。 與此同時 OpenAI 釋出了《GPT-4o系統卡的增補:原生圖像生成》技術報告,首次揭開了這款引爆網路的圖像生成技術的神秘面紗。 報告中的關鍵揭露令人驚訝:與之前的DALL·E系列截然不同,4o圖像生成並非獨立的擴散模型,而是深度嵌入GPT-4o架構中的自迴歸模型。這種根本性的架構差異,讓我們得以一窺AI視覺技術數十年來的演變歷程。 從早期需要人工標記每個像素的繁瑣工作,到如今能自動理解並創造精美圖像的全能模型,這一路徑不僅顯示技術的進步,更代表我們理解智能本質的深刻轉變。本文將帶您了解 AI 圖像訓練方法的演進過程,揭示從語義分割到弱監督學習,再到今日生成式

By Fox Hsiao