AI 為光通訊產業帶來新一波循環,光通訊在 AI 及 5G 上面扮演怎樣的關鍵角色?AI 對光通訊技術又將產生怎樣的變革? 800G 商用化,有機會普及嗎?本集我們邀請到擔任 2024 財報狗產業前緣論壇光通訊主題的與談人,陽明交通大學光電工程學系陳智弘教授,來與我們聊聊。
2024 財報狗產業前緣論壇:
低軌衛星 X 光通訊 X 先進封裝 三大主題
由財報狗 Jeff & 小鄭 & Sky 與六大產學專家的對話,帶你了解產業前緣
時間:2023/12/24 (日) 上午 10:00 - 16:00
地點:集思台大會議中心 B1 國際會議廳
活動傳送門:https://www.accupass.com/event/2309140837031993638427
✨ 2024 財報狗產業前緣論壇領航人訪談集數:EP246 、EP256、EP271
#財報狗 #2024財報狗產業前緣論壇
你可以在以下平台訂閱收聽:
- Apple Podcast
- Spotify
- Google Podcast
- 其他任何你收聽 Podcasts 的平台
這邊是一些訪談精華片段
陳教授經歷介紹
00:45 教授研究範疇,以及實際應用面介紹。
11:39 教授研究光通訊領域的歷程。
AI ML 如何帶動光通訊先進技術需求
05:07 AI 訓練帶動光通訊需求增加。
08:30 為何科技巨頭對於 AI 具有強烈建置需求。
55:13 NVIDIA 與產業鍊的微妙競合關係。
光通訊概念討論
17:30 光通訊、銅纜材料之間的差異。
21:02 教授將於洛杉磯發表「矽晶光電同調傳輸系統」介紹。
30:36 光通訊在 5G & 電信上的應用。
40:16 光通訊收發模組 & 規格討論。
Edge computation & Data Center
34:45 Edge computation 需求探討,對於 Data Center 後續需求
800G 商用化探討
42:35 400G 應用場景以及 800G 商用化的期待
Podcast 業務合作聯絡信箱: business@statementdog.com
財報狗社群
本集逐字稿
威宇:歡迎收聽財報狗 Podcast,我是主持人威宇,在我旁邊的是財報狗投資總監 Sky。
Sky:大家好。
威宇:今天是達人聊產業單元。在這個單元裡,我們會邀請在各個產業當中的人,來跟我們分享整個產業的概況、未來的趨勢。
我們也將在 12 月 24 日舉辦首次的財報狗產業前沿論壇,這次的論壇是由新光證券獨家贊助。我們有三大主題:先進封裝、光通訊、低軌衛星。每個主題都會由產學界的專家跟 Jeff、小鄭、Sky 一起對談,詳細資訊我們會放在資訊欄和財報狗社群。
今天這集嘉賓是我們光通訊主題 Panel Discussion 與談人,陽明交通大學光電工程學系陳智弘教授,陳教授你好。
陳智弘:你好、大家好。
陳教授經歷介紹
威宇:教授能不能夠先跟我們簡單說明一下,你在研究的範疇主要是哪些?如果實際應用在產業,或者是我們講說對社會主要是有哪些應用?
陳智弘:我主要的研究是光通訊為主。如果回到大概 20 幾年前的話,大部分光通訊的應用是在所謂的電信產業 Telecom 的 Business。但是 20 年前數位化開始產生之後,Data Center 開始慢慢起來之後 Data Center 反而成為另外一個更快速的 Driving Force,所以光通訊現在是大量應用在所謂的電信產業跟資料中心。
威宇:電信產業事實上是講電話嗎?
Sky:以前的電信產業是講電話,但是現在的電信產業可以想像成是鋪設一個大的水管,比如說這邊通訊要到美國,它必須從我們這邊經過中華電信的光纖,可能到基隆,海底光纜到日本、到美國。鋪設、建設這些光纜,這些東西都需要電信設備,在以前光通訊是以這個為主。
威宇:簡單來說就是光纖。
陳智弘:對,都是光纖。
Sky:以前大家講 FTTH Fiber to the Home、Fiber to the X,就是每個地方插光纖。
威宇:好,反正就是光纖,這個詞我也沒聽過。
Sky:你沒聽過?市場以前光纜業大家在講就是這個,它通常都是電信商發包就鋪設,簡單說就是提升網速。
威宇:教授提到大概在近 20 年這個東西開始被 Data Center 可能有更高速的資料傳輸的需求,它現在是比較大嗎?
陳智弘:應該是資料中心要更新的速度更快了,您可以想像在最近幾年蓋一個 Data Center,現在 Hyperscale 的 Data Center 如果大的話,可能跟交大的校區這麼大。
威宇:你說一個 Data Center 就跟交大的校區一樣?
陳智弘:對,大概是這樣,它有很多個 Warehouse。
威宇:交大其實很大。
陳智弘:對,大概跑一圈環校大概 2.2 公里這種數量級,所以可以有好幾個 Warehouse 蓋在那邊。
但是您想想看蓋好那個 Warehouse 以後,您可以看到在過去幾年 Data Center 所要處理的速度可能是在兩年內要增加 10 倍。這件事情對蓋 Data Center 是很困難的,我不可能在兩年內蓋 10 倍的 Data Center 出來,對不對?
而且我需要在同樣面積、同樣 Power 下去做這些事情。唯一我能夠做的事情是把 Data Center 裡面舊的儀器把它拉出來更換屬性,這個就會造成更換的速度會變得很快。這個更換的速度很快,就造成整個產業非常蓬勃地發展,因為它更換的速度會比電信業要快很多。
Data Center 更換的速度完全受到面積跟 Power 的影響,也就是需要在兩年內增加 10 倍的計算量,在同樣的面積跟同樣的 Power 下要提升你的速度 10 倍,所以這是很困難的事情。
威宇:所以在裡面更換的東西,應該不只光通訊,對不對?各種儲存、計算全部都要換。
陳智弘:沒錯,您說的完全對。在 Data Center 裡面我們看到的,現在 Typical 的 Data Center,沒有講到特別大的,大概會有 100 萬個 Optical 的 Interconnect 光的光連接,100 萬個;可能有 100K 個 Server,上面還有一些 Switch,可能有 10K 的 Switch。所以您可以想像,如果我要更新是慢慢一直都要更新上來的。
維護這個 Data Center 是一件很痛苦的事情,你去問 Amazon、Google 它們這些人,它們就每天開一個高爾夫球車,因為你想想看你有交大這麼大這麼多的,它每天都有東西壞,每天都要換,所以它每天做這種事情。它們對於這些事情,這些 Hyperscaler 對於這個 Reliability、Serviceability 都變得很要求的原因是這樣,因為它們要很快地換。
AI ML 如何帶動光通訊先進技術需求
威宇:我有一個問題,我可以想像從以前可能都還是用電子在做通訊的時候,我有一個大需求是我要換成光模組。當我如果都已經換到一定程度,就變得它比較像是在維護或者維修,壞了我再換,兩個的成長力道會不太一樣。
陳智弘:就是剛才說的,因為現在新的 AI Machine Learning,可以看到過去幾年的 Driving Force 其實就是 Video。您可以想像大概 10 年前的話,YouTube 要看 HD 絕對是很困難的。但是現在也許 HD 4K、8K,以前主要的 Driving Force 是那樣,所以那個等於是 Machine 到人的,那個成長其實是相對來講速度沒有那麼快的。
現在成長最快的是所謂 Machine to Machine 的 Training,你在 Training 的時候,Data Center 我們如果看成東西南北的話,通常把南北向這個叫作進出 Data Center 的 Traffic;東西向是 Data Center 裡面自己機器在互相交換 Information。
90% 的 Traffic 都是所謂 East-West 的 Traffic,比如說機器跟機器之間需要很大量地交換這些資訊,這些資訊的交換就是因為 AI Machine Learning 有很多資料要處理。
Sky:這個幫大家科普一下,南北向、東西向要看圖,把那個拓撲拿出來,上下是南北向、左右是東西。我之前也有找一下,因為我覺得這說法很奇妙。
威宇:我剛才也在想到底為什麼上下是……?
Sky:沒有,你就拿圖出來就知道了,上面就是北。
陳智弘:它可能覺得在裡面,你可以想東西比較像是橫向,橫向就是機器跟機器之間在講話。現在機器可以想像成有很多個 Server 疊在一起,這個 Server 之間要交換的時候,我跟隔壁人講話是東西向;我要出去的時候、跳到遠方、跳到北邊再出去。
Sky:我覺得好像是中國人發明的講法,我不知道是不是這樣子。
陳智弘:沒有,它們也是這樣用。
你可以到 Cisco 那邊 Google,基本上它們也是用這個。
威宇:這樣聽起來的話,現在反而因為各種數據計算或我們講的 AI、大數據起來以後,對於光通訊更新的速度反而是比以前來得更大嗎?
陳智弘:最近的確是。
威宇:最近是多最近?
陳智弘:我說最近大概三四年前開始,其實 AI Machine Learning 我們實驗室剛開始做也是……。應該是 2016 年那時候有一家公司叫 DeepMind,DeepMind 那時候第一次。
威宇:AlphaGo。
陳智弘:那一件事情對我的震撼是滿大的,那家公司也是我覺得非常酷的一家公司。我聽他演講過,他說公司成立的目的只有兩個,第一個他想要了解什麼是智慧,Wisdom 這件事情是怎麼一回事?如果可以的話,我可以把它 Harness,如果我們可以把智慧用機器 Harness 出來,我可以用它去解決人類面臨的各式各樣的問題。
它在 2016 年那時候第一次用電腦下圍棋擊敗人類,這件事情對我來講是一個震撼,我覺得是一個英文講 Watershed Moment 分水嶺。我們以前覺得機器再怎麼樣子,也許在某些領域是沒辦法超越人類,那件事情之後就證明。在那件事情之後,後來 Google 買了那家公司,在那個時候。
所以您可以看到所謂的 Microsoft、Amazon、Google、Facebook 整個營運能夠賺到錢的,完全是根據它們推薦給你演算法這些東西,這些東西都是後面很大量在計算。現在 Data center 用的兩大模型,一個是所謂推薦的模型,您可以看到 Amazon、Google、Facebook 完全是根據這個。因為它要根據你過去的東西,Push Information 給你。
我聽到的說法是像 TikTok、像 Facebook、Amazon 它們可能有 40% 的 Revenue 都是從推薦那邊來的。所以您可以比較一下,如果國內的一些廠商它沒有辦法推薦的話,它其實是喪失了 40% 的 Revenue。這是一件很可怕的事情,因為 Margin 本來就沒有特別高,所以你喪失了那個 Business。
另外一個很大的模型是所謂的 Large Language Model,它要跟你對談。
威宇:像是現在的 ChatGPT。
陳智弘:對,這兩個的需求其實在某一種程度上都是 Based on Transformer 這種架構,那個也是在 2017 年的時候出來。
威宇:Recommendation 也是 Transformer 嗎?Transformer 不是一個……?
陳智弘:Transformer 是一個 Operation,後來它們也有把 Transformer 用在那邊。
Sky:Meta 上一次在法說會有講,後來又開始導入它的那個 AI 模型讓它推進,我們之前也有講,在近期的法說會。
威宇:我不知道,因為 Transformer 其實是一個……。
Sky:它是一個 Model。
威宇:對,它是一個 Encoder-Decoder 的 Model,我不知道原來它有用在推薦上面。
陳智弘:它後來用途的廣泛也令大家覺得驚訝。其實 2017 年的時候,大家如果感興趣可以去看那篇 Google 的 Paper,叫《Attention is All You Need》。其實在那個之前,我們實驗室以前在做的時候就會用各式各樣的 Model,您可以想像那時候 Neural Network 很蓬勃發展。
就像動物園裡面有很多各式各樣的動物,有什麼 LSTM、CMM、RNN,有 Bypass、有各式各樣的東西大家都在想。但是 Transformer 出來之後,如果英文講的就是 Transformer 之後,你好像手上有一個錘子,任何東西都變成釘子一樣。
不管什麼問題,你先把 Transformer 拿出來,先錘一陣子再說。基本上那個是最好用的 Tool,所以像我們後來把 Transformer 當成基本的東西在上面改、Finetune 了。所以這件事情我也是覺得滿驚訝的,如果您看 ChatGPT 有一個叫 Andrej Karpathy,是 Stanford 畢業之後加入 Open AI,後來被 Elon Musk 拉去做 AI 的自動駕駛技術。
威宇:技術的那個。
陳智弘:後來他又回到 Open AI,他今年在 Microsoft 那邊有給一個 Talk,基本上講 ChatGPT。他自己也是滿納悶,他有很多 YouTube 介紹 Transformer,也滿值得看一下,那位先生挺有趣的。
威宇:剛剛有提到教授是在看到 DeepMind 的 AlphaGo 出來以後,對你來說是一個很震撼的事情。因為你本來是電機背景,對不對?
陳智弘:對。
威宇:你大概是從什麼時候開始踏入到光通訊的領域?
陳智弘:我念博士就是念通訊了,就是做光通訊的。其實我老師那時候拿到的是一個滿大的計劃,在美國最大的計劃、比較好的計劃,如果你是做工程的,大概最好的計劃是跟國防部拿的,叫 DoD 的計劃 Department of Defense,它們有一個專門 Award。
威宇:美國的嗎?
陳智弘:對,美國的,叫 DARPA。如果看 DARPA 的歷史是非常輝煌的歷史,Internet 是 DARPA 開始做的,因為 DARPA 那時候怕蘇聯要攻擊它,所以它們希望它們的系統能夠 Distributed。
威宇:這個計劃很久,從那個時候。
陳智弘:對,DARPA 是它們最多的一個 Agency,也是滿實用的。自動駕駛車也是,非常酷,它們 DARPA 就拉一堆人去亞利桑那的沙漠,還是內華達?它就說我現在給你的計劃非常簡單,它們 Phase 2 的時候是你可以把車子開到 1 公里外的話,就拿到你下一個 Contract 了。
Sky:Milestone 很簡單,開到那邊就對了。
陳智弘:對,它也沒有跟你廢話什麼的。我沒有 Criticize,但是我是覺得它們有些東西很有遠見。其實你可以看到它們很多,像現在 Chiplet、Optical Communication 這些後面的一些 Project,其實都是 DARPA 那邊開始出來做的。
威宇:你說 Chiplet 也是?
陳智弘:是,它們那時候非常清楚地知道摩爾定律已經快要到頂了。你也知道,從 3 奈米、5 奈米,看到火車就快撞到牆了,下一步要怎麼辦?它們那時候就要開始做這種,所以它們叫做 Heterogeneous Integration,其實都是它們非常早就開始做。
威宇:等一下,剛剛提到這個計劃的上面是美國國防部?
陳智弘:國防部,對,DoD。
威宇:所以美國國防部非常厲害,對於這個。
陳智弘:因為我記得它們那時候 Envision 的就是我希望每一個軍人身上、頭上的電腦,能夠有一個 Teraflop 的 Computation Power,它們就是逆著回來算。其實 LiDAR 也是,LiDAR 它們那時候想要做一個光達,您可以想像是我希望我的軍人頭盔上,100 公尺以外所有的東西,我都能夠知道。
Sky:隨便都看得到。
陳智弘:對,我要能夠 Identify 哪一個是 Hostile、哪個人對我是有敵意的,我要怎麼把這個 Information Coordinate 給我旁邊的人?
所以要有一個很輕薄很高度的計算力,跟旁邊的 Networking 都要做好。它要能夠很快地 Display 去告訴你要做什麼決定,它甚至把決定的 Recommendation 都列下來。
這件事情下一步就是要把這些能力移植到機器人上面,因為下一步戰場你可以看到機器人、無人機開始 Deploy 到下面去。所以這件事情對它們來講是很 Real 的事情,下一步就是要發生這些事情。
威宇:這整個的順序是什麼是?是 DARPA 的這個計畫有一個東西出來之後,才會再流到業界,還是它們同時在做這件事情?
陳智弘:DARPA 會 Call for Proposal,對不對?它們會拿到這個。產業界其實像 Intel 這些公司都會想要拿 DARPA 的計畫,所以它們是 Research,公司其實都有在做 DARPA。能夠拿到 DARPA 的計畫,工程上面來講是一件很好的錢可以用,因為那個錢滿多的,很穩定的錢。
威宇:所以其實這些公司……。
陳智弘:不好意思,岔太遠了。
威宇:沒有,我覺得這個很有趣。
Sky:我覺得這是科技的發展,其實滿有趣的。
威宇:對,直接把主題訂在這邊,沒有。所以其實像 Intel 這些,我們看起來它們在……,也不是看起來,它們的確是在做一個比較創新的技術或者在技術前沿發展。它們很多的錢其實也不是自己的研發費用,可能是去跟 DARPA 拿錢、拿個計畫來做。
陳智弘:對。因為像 20 年前那時候,全世界最厲害的公司,可能一個是 Lucent、一個是 IBM。Lucent 是以前 AT&T 的 Lab,那時候我們做通訊的最想進去的就是 AT&T 的 Lab。
全世界你可以看到很少公司 Research lab 有這麼多諾貝爾獎的,一個是 AT&T 的 Lab,一個就是 IBM 的 Lab。它們是寫在它們的公司治理,說每年要拿多少的 Revenue 放到這邊做 Research,它們對 DARPA 的影響也很大。
美國的科研計畫有兩種,一種是你可以自己去提,是 Bottom-up;另外一種其實是 Top-down ,我已經告訴你說我想要什麼東西了,就 Call for Proposal,你們可以提各式各樣的 Solution 給我,我來審。這個其實是國家的發展是很確定的時候,像 Fusion 這件事情就是。
如果您感興趣可以 Google,它們有一個叫 Grand Challenge for Engineering,它們覺得工程上面有哪些是重大的問題,Identify 了很多問題,大概有 10 到 15 個。這些能夠解決的話,對人類的福祉跟國家的進步是很大的幫助,所以它們有很多問題都是想要解決這些問題。
甚至連 Google 都會很高興說我這個公司成立,幫這個 Grand Challenge 解決了哪些是跟這些 Grand Challenge Engineering 的問題是相關的,我覺得美國的科研是很有趣、很有計畫。
Sky:很有系統性地在往前推。
陳智弘:對。比較不像我們是 Bottom-up,你好像可以隨便提,它很清楚我國家需要什麼,你要做的話,你就必須要 Match 我的 Suggest。
光通訊概念討論
威宇:了解,我們先把主題拉回到光通訊這邊。剛剛有聊到 AI 跟數據中心起來帶動了光通訊的需求爆發,我們之前在節目裡面其實有聊過滿多次,為什麼要光通訊?因為以前用電子,覺得電子能夠傳達的資訊量太低了,光跑得比較快,大概是一個這樣的概念。實際上有沒有什麼數字,或者讓我們更具體地想像這兩個差別有多少?
陳智弘:差別非常非常大。我們回到如果最原始的來講,你可以看到光是唯一的傳輸媒介,是沒有靜止質量的。也就是光子一出來,它就只能用光速去跑,它是全世界目前我們知道傳輸速度最快的,因為它沒有靜止質量。
電子是不一樣,電子是有質量的。但是電子它的確是有好處,為什麼它有好處?因為光一出來就是光速在跑,而且不管在什麼時候、不管在哪裡,它都是用光速在跑,沒辦法把它停下來。
可是電子你可以把它停下來,所以你可以有 Memory。所以我讀書的時候,我們其實是想要在光上面做一些,你聽到什麼光腦、Optical Computation 這些東西都是。但是後來我們那時候的結論是覺得 Optical Computation……,這樣說也許不好,我只是覺得很困難,因為我覺得很大一部分是因為它沒有 Memory、沒辦法 Slow Down 下來。
那您說的數據,因為如果您跟 5G 來看好了,現在 5G 最快的速度大概是 20 個 Gbps;一條光纖能夠傳輸的是 20 個 Tera,所以大概是 1,000 倍。為什麼光纖可以這麼好?因為它的傳輸損耗非常非常低,如果 5G 在空氣中,因為空氣中是四散,它跑 1 公里後收到的信號損耗是光傳輸的 5,000 倍左右。
威宇:1 公里?
陳智弘:對,1 公里,所以非常非常大。您可以看到即使是 5G,它也是用 EM Waves,也是光的一種,基本上都是電子。我們什麼時候會在電上跑?就是您的電腦,它是在電路板上跑的時候,那是用電子在傳的。
那個速度就會受到它是用銅金屬在導的,我們現在知道金屬導電力最好的一個是銀、一個是銅,銀太貴了,所以大部分還是用銅。銅的速度物理的限制就在那邊,這也是 DARPA 那時候,只要在非常近的距離,不得已我用銅,但是一出來以後希望再來就是用光。
威宇:以前的數據中心應該都是用銅,對不對?它們也不會用無線?
陳智弘:沒錯,不會用無線。
威宇:所以銅跟光的差距,因為您剛有提到銅有物理限制。
陳智弘:也是非常非常大。
威宇:大概多少?
陳智弘:就像我說現在銅纜跑得最快的,大概可以跑到 100 Gbps,100G,下一世代是 200G。即使跟光纖 20 個 Tera 來講,也是有一段的差距,容量來講。
最重要的原因是光上面有顏色,你可以把顏色看成是通道。在電銅纜上面,你只能傳一種顏色的訊號;在光纖可以想像成我可以傳紅橙黃綠藍靛紫,有不同的頻率。基本上它可以傳大概 100 多種不同的顏色,所以這個也是另外一個光纖很占優勢的地方。
威宇:這樣是數據可以一次傳比較多嗎?
陳智弘:對,可以有 100 多個通道一起傳,每個顏色都是通道。
威宇:了解。我們知道你即將要在洛杉磯發表矽晶光電同調收發傳輸系統,這名字有點長,這個研究是在講什麼東西?
陳智弘:同調是 Coherent 的意思,講直白一點是以前,我說的以前可能是 15 年前,所有光傳輸都是以我們所謂的開關。你可以想像我要傳信號的時候,我就是把光開關開關。
威宇:就跟電子那個 0 跟 1 一樣。
陳智弘:就跟以前烽火台一樣,烽火台是以前最原始的。
威宇:摩斯密碼那種。
陳智弘:亮暗亮暗那種。但是這個傳輸速度就有點浪費了,因為在光上面還有一個東西可以傳遞信號,就是我的相位。因為光是你可以想像像一個旋波的話,這邊是 0 度可以轉到 90 度、轉到 180 度、轉到 270 度,再轉一圈就 360 度。一個 SineWave 就是一個旋波,剛好是 360 度,是 2π。
我可以在上面用相位傳,不只是傳強度,也可以傳相位,就有兩個維度可以來傳遞效應。可是這個麻煩是我要偵測相位的話,就需要你剛才講的同調 Coherent 這件事情,因為我需要另外一道光跟它產生干涉。
大家在高中的時候有做過干涉的項目,干涉這件事情是你必須要……,如果做雙狹縫的干涉實驗,其實你是先割一個單狹縫,讓一個單狹縫的光進去到兩個狹縫之間,這兩個光其實在相位上是確定的。可以看到有干涉的條紋,干涉的條紋就是在相位上面,所以用這個來傳,它的速度一下子就會提升了非常多。
你一定會好奇為什麼在 15 年前大家都不做這件事情,要 15 年後才做?最重要的原因就是 IC 的進步。其實這一句話在我讀書的時候印象非常深刻,我的老師跟我講的,是一位諾貝爾獎得主的先生講的,他說 "If you find yourself compete with silicon, don't." 不要跟 Silicon 爭,光通訊在後面的進展完全是因為 Silicon 計算能力越來越好。
以前我們要做這個同調很麻煩,以前讀書的時候我們做這個很麻煩,有很多東西需要控制。但是後來有了 IC 進步越來越多之後,我們可以在上面做很多信號的處理,都是在 Silicon 上面做。Silicon 變得越做越複雜,處理的效率越來越好、速度越來越快。我們實驗室其實後面一直在做光的訊號處理的,原因就是這樣,光通訊整個進展跟 Silicon 的進展是非常相關。
威宇:所以我們現在的光通訊,其實並沒有把剛剛講的這個波在哪一個相位這件事情考慮進去?
陳智弘:有,以前要偵測相位的話,必須要把另外一道光控制得非常非常準,準的原因是因為你後面沒有辦法再處理信號。現在因為後面處理的能力變好,所以一些不準的東西、不好的東西都沒有關係。
您可以想像,我們的手機是很神奇的,那個信號是從很遠的 Tower 送到這邊來,它有經過很多不同的路徑,其實你收到的信號一定是很爛的。大家如果跟五六年前比的話,你會覺得速度越來越快、品質越來越好的原因是什麼?我們加了很多數學的東西在上面,確保傳收的品質不但是越來越好,也越來越快了。保證的那件事情其實在無線通訊裡面,也是非常多的在做數位信號處理。
威宇:所以這個研究比較像是我們有不同的計算方法。
陳智弘:對,基本上您說得對。
威宇:讓我們拿到的這個訊號可能有一些,就算一開始沒有處理得很好或者是沒有那麼好,最後還是可以有一個想要拿到的結果。
陳智弘:對,其實我們從無線那邊學到很多東西。因為無線的商機很大,它的速度跟光比起來沒有那麼快,所以我們發現有很多在無線上面可以用的東西。我們看到因為它在無線上面一直有,看起來越來越好,所以我們就會把那個同樣的科技轉移到光上面來。
威宇:了解。
Sky:所以像要分這些東西,是用什麼光波導分嗎?
陳智弘:您說要分光嗎?
Sky:對。
陳智弘:分光的話,我們用一個,其實在電上面也是一樣,用一個濾波器。像您剛才有提到有一家公司就是在做這種濾波器,濾波器您可以想像如果我有紅橙黃綠藍靛紫,就有不同顏色的玻璃,那個玻璃就可以濾、把它分開來。
Sky:其實這個台股很多公司,有人專門做玻璃上面的鍍膜。,
陳智弘:對。
Sky:每鍍幾層就可以分幾道光。
陳智弘:沒錯。
Sky:有人在講這個東西,這好像一個透鏡。
陳智弘:對。
Sky:上面鍍,大家買眼鏡的多層膜。
陳智弘:概念上是這樣。你買的眼鏡也是一樣,它會濾藍光、濾那些,其實是類似的概念,只是它要求的精準度也許更高一點。
Sky:是,了解。
威宇:教授之前好像還有提過 Dojo 的東西,Dojo 其實是有用到光通訊的嗎?
陳智弘:Dojo 目前沒有,其實現在大家做 Chiplet 後面還是會用到。Dojo是我覺得最酷的一個,Dojo 其實就是 Andrej Karpathy 另外一個部門在設計的,設計這個給他們用。他們那時候做完之後,我印象中是全世界第五快的 Super Computer。
像別人是想要把它疊在一起,用 3D 或 2D 的方式疊在一起;它們這種封裝的方式會受到基板的平整、翹曲的這些影響。Dojo 我滿確定,它自己講的、TSMC 有講,它是在 TSMC 那邊封的。
它們是比較像 Wafer-to-Wafer Bonding ,是把 16 個計算元……。您可以想像大概 16 個 GPU 封成一個大的晶片,那個大的晶片大概跟您這個差不多這麼大,所以很少看到有一個晶片這麼大的。但是您可以想像,如果我有這麼大的一個晶片在這邊,因為這個計算力肯定很大。你一定需要資料進去跟出來,進去跟出來一樣還是用光。
Sky:大家應該不知道它架構長什麼樣子,它沒有 Link 到外面來。
陳智弘:我現在看到的也許是 16 還是 25 個,它們就圍成一個方的矩陣,中間的交換是一樣。可是你最後這個資料還是要進出,因為這一塊還是不夠用,你還是要跟隔壁的人講講話。
Sky:我的意思是大家沒有它那個拓樸架構圖,只有那顆晶片大概長什麼樣子,剩下大家用推的。
陳智弘:大家如果感興趣的話,有一個 Conference 叫 Hotchip,我印象中是在 Hotchip 34 的時候,Dojo 有發表三個 Talk。大家如果感興趣的話,那三個 Talk 講得滿詳細的,那個也是大家都可以看得到,它有投影片、也有 YouTube 可以看。
Sky:因為它每年都有。
陳智弘:有,今年剛結束。
Sky:都在年中,確切的時間我不確定。
陳智弘:今年剛剛結束。
威宇:Dojo 要用到光通訊,像 NVIDIA 的那幾顆應該都要?
陳智弘:都要。
威宇:全部都是?
陳智弘:全部都要用光。我舉個例子,如果你傳輸用電纜 100G 的話,它大概最多現在大概只能傳 1.5 米,所以它沒有辦法傳很遠。當然像 NVIDIA 也沒有想要傳特別遠,可是它們一個 Rack 是希望能夠傳到 30 米到 50 米左右,就一定要用光。
威宇:一個 Rack?
陳智弘:它們叫一個 Pod,8 個 GPU 變成一個 DGX,4 個 DGX 變成一個 Rack,它們可能有 256 個放在一起,這些交換就大概是 30 米到 50 米左右。
威宇:所以它們有可能會從第一台連到最後一台,不會一連二、二連三這樣。
陳智弘:對,中間有 Switch 來幫忙做這件事情。所以那個是我剛才講的,它們買 Mellanox,它們叫 NVSwitch 在做這件事情。
威宇:NVIDIA 的技術叫 NVSwitch,特斯拉這邊還沒有講它們的技術要叫什麼。
陳智弘:它們沒有講,它們有一個 Data Processing Unit,我猜是 PCIe Base 的一個 Switch。因為現在一般外面常用不是 PCIe,就是 Ethernet 的 Switch,但是這兩個都有困難的地方。因為它們 Latency 這些都比較高,有些東西會受到 CPU 的控制。所以它們後來有想做一個叫 CXL 的 Switch,希望能夠解決這些困難。
威宇:有,我們在上一集有聊過 CXL,Intel 那邊。
Sky:可是現在大家在講的都是 2.0,大家已經在研究 3.0 了。但是實際在用、真的開始建進去的好像只有 2.0,而且很少,所以大家一直在看 3.0 有沒有可能有一個巨大的期待。有滿多,也不能說滿多,應該做網通 Switch 的公司有在做這個東西。
威宇:剛主要聊了很多 Data Center,有另外一個光通訊一大塊是我們講電信相關的。我們剛有講過 5G 是用電磁波,可是有時候 5G 也會看到跟光通訊綁在一起。
陳智弘:有,因為您可以想像,其實它們最想要做的是信號從手機電磁波放到無線的 Tower、那個塔台之後,第一件事情是它們把電的信號轉成光的信號往後傳。其實只有這一段是無線,一到塔台以後後面的地方其實都是光纖。
威宇:現在就已經是了嗎?
陳智弘:都是,基本上都是。因為它們的距離有些是 10 公里到 20 公里遠,那些一定都是用光纖傳,因為電纜是沒有辦法傳那麼遠,而且也不合效率。
Sky:現在主流應該是 10G PON?
陳智弘:它們想要弄快一點點,因為現在有 50G 的 PON。
Sky:因為最近有家公司說它有 50G PON 的東西。
陳智弘:所以它們是希望能夠傳,因為這個也是大家另外期待的一個,甚至有些人希望用 Coherent 傳。因為 Coherent 現在能夠做到像您的隨身碟這麼大,現在標準的那個可以傳到 400G。您可以想像它除了稍微貴,其實它是非常有效率的方案。
我那時候跟學生上課的時候,我舉說如果用交大有 1 萬人,假設每個人手上需要有 1G 的話,就是 1 萬 G。但是你用 1 萬 G,大概是 10 個 T,對不對?所以你用 400G,因為 400G 是一個隨身碟,只要一個 UI 可以插 32 個。
這個 Power 上去,我就可以把全交大的所有網路、全部需求都滿足了,放在機房就小小的。甚至您這邊的角落放一個 U 的東西,您可以想像,所以光是非常非常有效率、能夠傳很遠,而且它輕易可以傳到 80 公里。
威宇:聽起來……。
Sky:科技。
威宇:它都還沒有普及,我可以想像唯一的因素就是貴而已了嗎?
陳智弘:Coherent 是稍微貴一點,但是現在基本上只要傳超過 10 公里的,都是用 Coherent,因為它還是最有效率的。甚至有些在 Data center 裡面也在談,因為在 Data Center 下一個世代它們想要一個 Channel 200G;一個剛才說的模組,如果到 1.6T、3.2T 的時候,它如果用剛才我們講開關開關的,大概只能傳到 2 公里遠。
威宇:為什麼這種傳的方式的不同,或者是我訊號給的形式的不同,我用開關跟我用光波的這種東西,為什麼這個形式不同跟距離會有關?
陳智弘:這個最重要的原因是因為光纖有一個比較稍微麻煩的地方,我們叫做色散,英文叫 Dispersion。不同顏色的光,其實就跟我們小時候做三稜鏡的實驗一樣,玻璃為什麼可以把光分開來?因為不同顏色的光跑的速度不一樣。
在開關開關的時候就會碰到這件事情,你可以想像我有一包的信號在這邊,可是每個人因為它的頻率稍微有一點點變化,波長有點不一樣,它跑的速度就會不一樣。所以它跑遠以後,它就會越來越肥,一個開關原來是大家一起同步在那邊開關開關,但是後來因為有些跑得快、有些跑得慢,它就會散開來。
那你一定會問說 Coherent 會不會散?它也是會散,可是我可以用 DSP 把它救回來。這個直條那邊,因為我的信號那個相位的資訊已經完全都沒有了,所以我沒辦法救了,它沒辦法傳很遠的原因是這樣。
威宇:因為一種是我可以在事後的計算。
陳智弘:對,把它救回來。
威宇:我知道那個距離怎麼樣,我就再算回原本應該怎麼樣。
陳智弘:沒錯,您說的完全對。
Edge computation & Data Center
威宇:了解,這邊可能是5G最主要跟光通訊網關聯的地方嗎?我們在說手機或者各種通訊裝置傳到塔台是用電磁波,到塔台以後後面幾乎都是光通訊在傳。
陳智弘:沒錯。但是最近如果您注意的話,大概在兩三年前大家最熱門的其實叫做 Edge Computation。這個 Edge Computation 其實您可以想像,那時候 5G 出來,其實對大家來講有很多的想像的空間。第一個是自動駕駛車,很遺憾地我們一直都覺得五年以後才會有自動駕駛車。
威宇:永遠的五年。
陳智弘:有點那種感覺,第二個是 AR/VR,還有另外一個是 Gaming,這些都是對傳輸的 Latency 非常 Sensitive 的。我們把信號還是送到 Data Center 那邊再回來會太久,所以大家那時候就想說我要在 Local 的地方佈建很多 Edge 的 Data Center。
這件事情其實也一直都還是有,只是佈建的速度沒有我們想像的快,因為我覺得自動駕駛車是一個還沒有起來的原因。AR/VR 您可以看到像 Apple、像 Facebook,其實大家都想推這件事情,只是大家接受的普及率沒有那麼快。
但是如果那件事情起來的話,會有一個新的佈建的 Edge Computation,有時候小型的 Data Center 會起來。這些小型的 Data Center 之間要講話、要聯繫的話,會造成另外一個距離會比較長一點點。
因為不再像 Data Center,因為 Data Center 大概最遠是 2 到 5 公里之間。像 Microsoft 佈建的這種小型 Data Center,範圍可能從 10 公里到 80 公里都有。
您可以想像如果我要在台北佈建的話,我可能沿著環河北路,一個環狀旁邊就佈很多,我可以讓大家都能夠拿到這種服務。大家在開自動駕駛車、做 AR/VR、Gaming 都不會有 Delay,我的計算就從 Edge Data Center 那邊計算掉。
威宇:雖然叫 Edge Data Center,但它其實也會有點像我們現在的信號台的感覺。
陳智弘:對,您說的沒錯。它有提供一些儲存、計算比較 Local 的東西在那邊,有 AI 出來以後,它甚至會提供一些 Inference 幫你判斷。比如說您現在要做一件事情,我也許不需要送到遠端的 Data center,直接在 Edge 幫我 Inference 好就回來了。當然最好的是我們的手機直接幫你 Inference,但是那個可能會太耗電或計算量會太大了。
Sky:對,讓我想到高通有這樣講。它就說它所有東西都可以 Fuse 在一起,大家每個 Device 都算一點東西,大家集成在一起。
陳智弘:所以高通其實一直都在 Push 這個 Edge,它們其實在車用這邊著墨非常多。
威宇:它們的 Edge 應該是直接到 End Device?
Sky:它其實是所有可以 Reach 到的都可以。高通的那個可能是 Modem,或是只要是它可以發射這些東西的、有它的晶片的,它都希望可以把它拉進來算就對了。
威宇:剛剛講的那種 Edge Data Center 一個大概多大?
陳智弘:因為那個 Edge Data Center 可能很 Based on Power 很 Sensitive,所以像這種 Coherent 就會比較好,計算力也要很好。它們現在猜想的可能一兩個 Rack,可能 1/4 個貨櫃的這種 Data Center,就希望能夠提供它們足夠的服務。
威宇:大概是 4 個變電箱大小嗎?
陳智弘:基本上看您的服務要多少計算量、多少儲存量。
威宇:所以有一種可能是如果未來自動駕駛車很普及,我們路上就有很多個現在變電箱的 3、4 倍大小的東西在計算?
陳智弘:它們那時候的想法,自動駕駛車希望能夠帶動的一件事情其實就是像這樣。因為自動駕駛車可能大家比較願意花錢去做這件事情,因為 Tesla 其實幫大家想一個說車廠有點像可以變成 Apple 一樣,你可以 Subscription。
其實大家都想做 Subscription,所以一直想說我的 AR/VR 能不能做 Subscription,Gaming 也是 Subscription,所以大家都想做這件事情。
Sky:很可惜 Gaming 已經收掉了,它們美好的想像是用連線打類似格鬥遊戲,因為那個 Latency 要求很低,但失敗了,先收起來再說。但我覺得不是因為技術不到,是因為你要弄到那樣子要花太多錢了。
陳智弘:要等一下。
威宇:其實是需求有沒有起來到那個程度。
Sky:需求還沒有起來,碰一下說不行,先收起來好了。
威宇:賠錢了。
Sky:之後再來,很聰明。
威宇:所以剛剛講的這些東西,目前可能都還是高通或這些廠商想像未來有一種可能會這樣子,可是我們在業界還沒有實際開始,對不對?
陳智弘:車用大家其實是滿看好,因為車子我覺得……。你一定有經過 Tesla 的車,基本上就是一個大的那個,我想以後的車子會越來越像這樣。
另外一件事情,你可以想像家裡所有的家電會變成你可以控制。
威宇:智慧家電。
陳智弘:也許大家想像,像 Tesla 要做機器人的原因,你家裡可能會有一些機器人。這些東西可能您跟它溝通,它做 Inference、它需要 Information 的時候,有一些即時性的需求,也許它希望能夠 Offload 一點 Data Center 的計算量。
因為您可以想像以前也有好處,我集中在一起大家去算,可是這個的壞處是你要把資料送到那邊去又送回來,傳送這件事情本來就是要花錢。如果可以的話,最好你手機、家裡的電腦弄一弄就算了,但是不行的話,我也不要送太遠,所以這個有一點 Compromise。
威宇:我們在講光通訊,其實很大一塊就是有一個收發的模組,這個模組就是在傳送或者是接收訊號,目前主流規格應該還是 100G?
Sky:沒有,主流規格應該是……。它有一個圖,但這個沒有辦法用口頭講,有點困難。反正它是 100G、200G、400G 一路疊加上來的,本來大家一直在看的是 400G 今年滲透是不是會拉高。
威宇:看來還沒有。
Sky:已經拉高了,對台廠來說,大家會覺得 400G,大家就看 Switch 那些的,白牌 Switch 的確是有在上來沒有錯。
威宇:已經變大宗了嗎?
Sky:大宗好像還沒有,我說是台廠出貨還沒有,但是在它們那邊應該有,在 Data center 裡面的應該是有。
威宇:因為我聽過一種說法,是說 AI 400G 不夠,要直接跳到 800G。
Sky:對,就明年。不知道,大家在推,大家覺得 400G 不夠。
威宇:這邊也想問一下教授,教授應該也滿清楚這邊 Data Center,我們看 400G 目前商用化程度大概到哪個階段?
陳智弘:您說的的確對,NVIDIA 公佈新的 H100,它們光通訊的互聯是 800G,是 800G 的傳輸模組。但是的確現在在 Data Center 裡面,主流的是 400G,但是大家也是因為看好明年 800G。但是其他在 Campus、在公司,100G 還是主流。
如果要看整個的量的話,100G 的量還是最大的,但是 400G 在 Data Center 裡面開始,800G 是今年開始 NVIDIA 那件事情讓大家覺得 800G 看起來做得非常好。
威宇:因為 NVIDIA 一直有在跟大家講,你用我們這個 H100,它那個圖。它說你用一個 Rack,可以取代本來十幾台 Rack,它就有說你看這個用之前跟用之後,不管成本還是空間到底省了多少。
陳智弘:它是一個很好的 Sales,它說你買越多省越多。
Sky:早買早享受。
威宇:而且又便宜,空間又省,什麼都省。
Sky:哪有便宜?貴死了。
800G 商用化探討
威宇:所以這邊就會有點好奇,剛剛可能講說我們一般辦公場景 100G 就很夠用了,有買越多省越多嗎?所以大家以後都買 NVIDIA 或就算買 AMD,可能也都用到 800G 了。
陳智弘:我就說 Hyperscale 世界上就只有那七八家,因為它們要我剛才講的,你可以想像它們公司最核心的能力其實是 AI 為主。
它們如果沒有辦法提供這個 AI 的服務能力,服務價值會馬上迅速下來,所以這也是那時候 ChatGPT 出來,大家對 Google 很害怕的原因,怕它沒辦法競爭過 Microsoft。
這個計算能力對它們來講是基本,它們的服務是建構在這個計算能力上面,但是對於其他的人而言,我覺得壓力應該沒有這麼大,沒有一定要到 800G,這種因為只有這些 Hyperscale 才付得起這種錢。
威宇:所以 400G 跟 800G 價格差很多?
陳智弘:基本上您可以想像現在的 800G 是兩個 400G 兜在一起,硬是把它塞成在同一個地方。其實 800G 就是 8 個 100G,400G 是 4 個 100G,所以它是把兩個 400G 的東西放在一起。但是它可以封在一起,用更小的 Space、更好的 Power 去做這件事情。
威宇:這樣未來 400G 的場景會在哪邊?
陳智弘:Hyper scale 還是一直都是主流,但是您說會不會慢慢下放到 Campus 這邊?我覺得 Campus 或 Enterprise 這邊,Enterprise 我覺得是比較有可能。因為現在大家比較想要做的有點像是叫做 Hybrid cloud,我有些資料想要用這些模型來幫我訓練,可是我不想要我的資料送給……。
Sky:就不要送到遠端。
陳智弘:不要送到 Google,而且我訓練的模型只能給我自己用,為什麼要給別人用?
Sky:它們現在 Azure 的服務是本地雲,你自己架那個,所以還是用 Azure、還是用 Open AI。
陳智弘:所以您可以想像,像 TSMC、像MediaTek 如果要開發它們自己晶圓的數據分析、晶圓設計,我是希望那個模型是放在 Local 的地方,自己就要建立一個 Enterprise 小型的 Cloud。
這些大型的公司其實做這些事情是很划算的,因為它們如果要自動化,像台達電、像緯創、像這些,您可以想像這些大型的公司,這是第一步一定要建立的能力,因為可以把整個公司的數位化更推向下一步。
我覺得 Hybrid cloud 也是 Microsoft、Google、Amazon 它們想要賣給你的下一步。
威宇:Google 有嗎?Google 有想賣嗎?因為我知道 Microsoft 在地端一直都是滿積極的,可是 Google 有在合作地端嗎?
Sky:我是比較少聽到。
陳智弘:它們的 Cloud service 現在是第三名,對不對?我說它們提供 Cloud,AWS 是第一名、然後是 Microsoft。
但是您可以想像像這一步起來,現在您如果到 Google 的 Cloud 那邊,也是有各式各樣像動物園一樣的 AI Model 可以用,也可以下載那些。但是基本上企業最擔心的就是我不希望我的資料是往上送,所以 Hybrid cloud 這種 Service 是一定要做的。
威宇:這是微軟一直在做的,我們會聽到很多 Azure 會有封閉雲等等。
Sky:有,因為它們是給那個,它們叫 GCP,GCP 一些 SI 會幫你做這些服務,但是比較少聽它們特別講。
威宇:有?
Sky:有滿多 GCP 的。
威宇:沒有,我說 GCP 很多,可是我不知道原來有只屬於你們公司,機房直接搬過來那種。
Sky:應該有,我想應該是有。但台灣是比較麻煩,因為台灣有些行業是上雲的 Data Center 也是要在台灣。
威宇:對,所以這些全部都是 Azure、全部都用微軟。
Sky:因為它最近來台灣做一個 Data Center,9 月開始做。
陳智弘:這也是另外一種有點像 Edge 小型的 Local Data Center,所以怎麼樣把它做到模組化、能夠很快擴充,能夠 Upgrade、能夠 Service,這些其實您可以看到就是台灣這些 EMS 想要進入的很大的 Business。
威宇:剛剛教授有提到現在可能 800G 是大家明年比較期待的,你自己怎麼看這件事情?所謂的這個期待會有哪些變數嗎?或者是你覺得它的關鍵可能在什麼?
陳智弘:現在我覺得我是對 Chiplet 非常看好,Chiplet 現在大家能夠要解決的問題大概有三個。
你可以想像我要把很多的晶片封在一起,第一個最麻煩的就是熱。因為你晶片疊在一起,沒辦法無限地一直疊很高,散熱只能散到上面,中間的是沒辦法散。它們希望用半導體的製程,用 Liquid cooling 中間疊一些東西,直接做到半導體那邊讓它可以散熱。
散熱問題如果真的可以解決之後,第二步是 Power 怎麼送到這裡面,看 Tesla 那個 Dojo,它的 Power 是直接從下面往上送。我們的 PCB 通常 Power 都是從側邊送,側邊送很遠,Power 就損耗掉了,所以它們是直接在下面送。這是另外一個封裝,怎麼樣讓這個 Power 熱可以再往上送。
您可以想像如果我把更多計算、更多儲存都放在這邊,下一步要解決的是怎麼樣把資料送進去、拉出來。剛才講的 CPO 有機會做到這件事情,因為用光來把資料送進去、拉出來,就是這三件事。IO 這件事情如果能夠解決的話,其實如果是很驚人的想像的話,我們過去一直在做的一件事情就是把一個 Data Center 縮成一個 Rack、甚至縮成一個晶片。
也許就當一個科普,您可以想像現在手上的 iPhone,可以射多少 Apollo 15 的火箭射到那邊去,它的計算力是多少?查一下的話,那個數值一定超越你的想像。我們現在隨便買一個 PS5 的計算力,在 20 年前是全美最好的國家電腦的計算力都比不上。
如果 Chiplet 問題能解決,這個 Trend 也許可以繼續下去,就不會受到摩爾定律的限制。因為我們摩爾定律已經知道 3 奈米、2 奈米、1 奈米,它的進步都是有限的。但是如果這個問題能解決,我們也許能夠持續地把一個機房的計算力縮成一個晶片。
威宇:剛剛我問的是明年期待 800G 起來,這個期待的點可能會看什麼?回到這邊,最主要還是在說這個計算量到底能不能夠到需要到 800G 的程度?
陳智弘:就是我剛才講的,我們發現機器跟機器的溝通的成長,比人跟機器的溝通的成長快非常非常多,這是 Facebook 根據 Data Center 裡面看到的。
我們看到這個 Trend,大家對數位化的感覺也許每個人不一樣,我們知道數位化改變我們的食衣住行育樂,我們現在所有做的事情跟五年前很不一樣。
大家覺得我們現在數位化也許是在,用打棒球來說,可能是第 4 局、第 5 局,或者是有些人覺得第 3 局,有些人覺得第 6 局。我覺得如果這個數位化的過程一直持續往下走的話,機器跟機器的溝通的成長、機器跟人的成長是可以預期的。
如果那個 Traffic 還是一直往上增加,那個需求量就會一直起來,大家這麼看好 Data Center 的原因也是這樣。
Sky:如果從一個比較近期的現象來看,這可能一個是 AI 模型直接進入到大家的生活。不管是 Training 還是 Inference,其實都是需要這個 Traffic。因為要 Training、要 Inference,所以那個 Traffic 就變多了。
陳智弘:沒錯。
Sky:這個東西向、南北向的溝通就變多了,所以進而造成了這樣的需求。
陳智弘:昨天 Stanford 教授也講一個滿好的。
威宇:Andrew。
陳智弘:對,他就說可能不要把 AI 想成是一個工具,把它想成像 Utility,像電力設施。如果我們對 AI 的需求跟電力一樣的話,你希望插上電就有 AI 的計算力那些幫你做的事情。這樣子的話,背後是誰來提供?其實就是這些 Data Center、H Data center,你手上的晶片、手上的 Device 提供你這些東西。
Sky:因為我剛剛有提到上一個 Data Center 成長其實是來自於 Video,那個其實可以看,因為那個我有複盤過。反正看 Netflix 的成長,其實你可以看得出來它是長在哪裡。
但現在這個有趣的是可能它不是 Video 了,它應用在生活非常多東西。比較能夠直接看的,大家可能會先看 Microsoft,因為 Copilot 畢竟是大家看得到的,Office 365 大家看得到。
那樣的使用力因為已經有人算出來了,大概算一下那個公式,你會運用的算力會怎麼樣成長,有更多終端這種 AI 賦能的服務提升的話,應該就會越來越多。當然我自己照過去推是這樣,不知道我的看法有沒有錯誤,我們自己是想。
陳智弘:我是沒有算,但是如果感興趣的話,我記得 McKinsey 跟 Goldman 有給兩個報告,都可以下載來看。它們都有預測對經濟的影響、造成 Productivity 的增加是多少,我覺得那些東西的增加都是 Guarantee 這個 Cycle 我們可以持續地 Invest。
我剛才講的,一個公司也許核心能力就是提供這些服務,如果它們沒辦法提供的話,公司存在的價值就會受到質疑了。
威宇:教授除了在教學以外,還有參加很多這種產學合作嗎?剛聽起來對產業界也是滿了解的,有點好奇現在有參與哪一些產學合作比較可以講的嗎?
陳智弘:我產學合作做的滿多的,但是公司我就不方便講,因為公司的名稱……。
威宇:都是台灣的?
陳智弘:都是台灣的。
威宇:也都是在做可能通訊相關?
陳智弘:沒錯,基本上都是。
威宇:所以像你可能接下來即將去洛杉磯發表的這個研究,也是會跟這些公司合作出相關的商品嗎?
Sky:這就保密,一定會出,只是在哪裡而已。
威宇:有這麼快就可以直接商用嗎?
陳智弘:我剛才有跟 Linda 小姐講,她問我說我們做國科會的計畫跟做產業界的計畫,有什麼比較大的不一樣的地方?做國科會的計畫,如果是自己提的話,比較多的是我對科學的研究比較感興趣。
英文講說是 Blue Sky Research,你可能天馬行空,人家也不會太介意。但是跟產業界做的話,它們就是希望能看到 Dollar Sign,所以並沒有很介意文章發表這件事情,希望能夠就是服務到它們的客戶。
威宇:在這邊其實有一個新的研究出來,它們業界是有辦法馬上去做一些商用的東西?
陳智弘:基本上它們做的都是能夠看到三五年,有些甚至是它們的客戶叫它們做的。你可以想像像台積電、日月光為什麼要做 CPO 的封裝?一定是後面跟它講說你可能要試試看做一下這個。
Sky:因為其他競爭對手已經布局好了,包含了 NVIDIA 自己投資的一些公司,其實有一些技術上是新創,但是看起來是滿 Strong 的。
陳智弘:其實 NVIDIA 這件事情,大家忽然間覺得說好像……,因為以前大家覺得 Horizontal Integration 是最有效率、最 Cost-Effective 的方法。但是莫名其妙就有一下子,忽然你覺得 Vertical Integration 是比較好的。
Sky:就好像是對的,它這招玩得很狠,本來是大家一段一段跟你買,兜起來變成一個 Server。沒有,它現在跟你講這個講法,我現在整機賣給你。因為就像電腦理論上在台灣買是最便宜的,因為電腦大家可以自己裝,現在突然有一個人跟你說買我這台,這台可能是什麼 IBM 原裝電腦賣給你,跟你說效能超棒。
威宇:其實就是蘋果。
Sky:對,大概是這個概念。
陳智弘:Apple 就是整個 Vertical Integration 最……。
Sky:可是它在一個生產力的工具搞這個東西,我覺得滿酷的。
威宇:大家講 NVIDIA 這個很有趣,因為 NVIDIA 現在的供應鏈也都是它的競爭對手。
陳智弘:是。
威宇:大家其實還是很想要賺它的錢。
陳智弘:沒錯。
威宇:它現在站在一個很有趣的一個角色。
陳智弘:很有趣的位置。
威宇:現在它們最強的競爭對手或者是最 High-end 的競爭對手,這些供應鏈每個最 High-end 的競爭對手就是 NVIDIA,就是它們的大客戶。
陳智弘:沒錯,非常有趣的一件事情。
威宇:不知道它可以維持多久,因為其實這要在一個非常……。
Sky:只是一個競爭上面非常奇怪的事情。
威宇:非常強的競爭優勢跟定位,真的不知道可以維持多久。目前看起來應該是還滿強的,還看不到衰弱的現象。
Sky:因為我們有提到,因為在進來之前跟教授先聊了一下,其實我們剛剛講這些速度的這些東西,是 NVIDIA 之前在 2019 年有個併購。
它併的那個 Mellanox,後來一路延伸到現在,所以那個時候我說真的,我真的看不懂為什麼要併那個,而且那個是它史上最大、花最多錢的併購之一。因為 ARM 沒有成功,所以不算,如果除去了這個的話,所以其實影響到現在。
到現在為止,都受到那次的併購的影響就對了,台灣有很多供應鏈其實是跟那一家有關係,反而不是跟 NVIDIA,所以這個是我覺得滿有趣的。整個供應鏈裡面還有很多東西是……,因為有變化,所以有很多東西可以研究、可以思考。
威宇:感謝陳教授今天跟我們分享了很多光通訊的技術,還有應用上是怎麼樣。在投資上,這個爆發的時間點,或者是像剛剛 Sky 提到說供應鏈有滿多的變化,哪些供應鏈我們就留到論壇這邊再來討論。
如果大家想要了解更多教授對於光通訊產業的看法,也可以參考節目資訊欄,我們都有附上論壇的資訊,就感謝大家收聽。我們下集再見,拜拜~