從遊戲、通用運算，到成就AI霸業，黃仁勳打造NVIDIA的真正王冠「CUDA」
文：林宗輝（曾於Digitimes工作，從遊成擔任四年科技產業和技術編輯經驗，戲通以及從事超過六年半導體產業分析工作。用運業黃曾在證券市場從事投資分析工作。仁勳在北京麻省理工學院科技評論〔深科技〕擔任研究經理兩年。打造回台後曾為財訊雙週刊撰寫產業與財經分析文章。正王目前為波士頓Arthur W. Wood Company Inc公司半導體分析師）
今年以來AI熱潮影響了很多企業，從遊成而NVIDIA可以說是戲通最具代表性的一家，作為AI鏟子的用運業黃最佳供應商，不只業績在這波全球經濟動亂中逆勢成長，仁勳股價也跟著大漲，打造市值更是正王一舉破兆，把英特爾、從遊成超微都遠遠拋在後面。戲通
而在Computex主場演講中他們所揭示的用運業黃AI大未來更牽動業界所有人的心。可能很多人都以為，NVIDIA一開始就是瞄準AI生態發展，但實際上，AI技術對NVIDIA而言可以說是一場意外，當年黃仁勳創立NVIDIA時，根本沒有想到時至今日他會成為所謂的AI教父。
黃仁勳曾在多年前的一次採訪中透露，他成立NVIDIA的目的是為了建立一種能夠改變遊戲的市場生態的加速技術，為3D遊戲帶來更好更真實的畫面，讓大家能夠買這種產品去玩遊戲。
黃仁勳笑著說，他把這個願景跟他母親講時，他母親反而要他去找份正經的工作。
但就連當時的黃仁勳也沒想到，他口中這個能夠改變遊戲生態的加速技術，卻變成了改變人類世界的基石。
起於遊戲卻走入AI
NVIDIA創立於1993年，從一開始的產品規劃就是針對遊戲市場，但NVIDIA成立之初並沒有所謂的3D標準，NVIDIA從無到有發展出自己的一套技術，但因為有缺陷，並沒有成功讓業界支持。而產品的失敗也讓原本就窘迫的NVIDIA經營狀況不斷惡化，接近斷炊的程度。
1994年成立的3DFX也曾一度靠著傳奇3D加速卡Voodoo把NVIDIA壓到無法翻身，但因策略失誤失掉江山，後續NVIDIA也靠著微軟的DirectX翻身，甚至併購了3DFX，雖說競爭依然不少，但也算是站穩了腳步
而此時，黃仁勳似乎看到了遊戲市場的侷限性，比如說投入大，但回收未必多，且為了相容市場上的主流遊戲，必須花費龐大的人力成本，加上當時繪圖卡只是單純作為遊戲3D加速使用，那麼，如果能找出更多應用可以讓繪圖卡進行加速呢？
畢竟GPU內部進行的也是一連串的數學運算，如果能找到方法，將一般日常的通用運算轉換成GPU可以接受的格式，那不就可以用GPU來解決更多問題了嗎？
在這樣的發想下，黃仁勳與內部進行腦力激盪，希望能找出更多應用，為繪圖晶片創造更多的應用價值，而其結論，就是後來的CUDA。
CUDA的第一版在2007年推出，但當時不只是產業界唱衰，就連自家的開發人員也不看好這個技術。
他們認為，根本沒有應用會使用這種單執行緒效能極慢的玩意，但老黃獨排眾議，堅持要走這條路，他認為，遊戲應用有限，但運算需求無限，未來總有一天全世界都會需要GPU來進行通用運算。
不過CUDA推出後一直找不到關鍵應用，也缺少重要客戶的支持，但公司又要花費大筆金錢來開發應用、維持服務並推廣與行銷，隔年遇到金融風暴，顯示卡銷售也不好，NV的營收大跌，股價一度跌到只剩1.5美元，比AMD最慘的時候還要慘。
目標是通用運算，卻成就AI霸業
黃仁勳不放棄，他花了五六年的時間來完善整個CUDA開發生態，同時持續透過與學校合作來探討與推動GPGPU（圖形處理單元上的通用計算，General-purpose computing on graphics processing units）的運算需求，但因為NV一直砸錢在推動校園的運算教育與合作，這些額外的支出讓NV的財報一直都很不好看，股價也都長期處在個位數。
但經過幾年的努力，事情終於迎來轉機，有兩個Hinton的學生拿NV的GPU來參加一個叫做ImageNet的圖像識別速度比賽，這個比賽是由李飛飛和李凱創辦，目的是為了讓各家企業測試其運算能力的極限。
當時主要的運算架構都是CPU，當時幾乎都是英特爾的天下，快慢是用錢堆起來的，在比賽限制條件下其實落差也不大，但兩位學生拿NV的GPU一舉算出超越第二名數十倍的速度，精確度也比第二名高10％以上，兩位學生使用的是GTX580，他們使用了120萬張的圖像訓練集來進行訓練工作。
因為GTX580的記憶體太小，只有3GB，所以放不進120萬個訓練集，他們把訓練集切成兩部分，分散到兩塊GTX580上進行訓練，總共花了約六天的時間才完成訓練。完成的模型約6000萬個參數。
當然，這與GPT3的1750億及GPT4的一兆個參數相比之下，根本就是小朋友，但要記得，當初的GPU性能僅有現代架構的百分之一至千分之一，在當時，GPU展現出來的運算潛力著實震驚了科學界，
ImageNet的圖像識別速度比賽成為黃仁勳的突破口，過去他們把CUDA設定為通用運算的開發平台，並沒有針對AI進行特別設計，但經此一役，他們開始與業界合作推動AI生態，比如說與Google、臉書合作推動TensorFlow以及許多開源AI框架的導入、讓開發者可以在CUDA上一站到位完成大部分的AI應用開發。
Photo Credit: GettyImages