2021-08-23
全球最快的AI訓練速度王座,剛剛易主了。
不是英偉達GPU,也不是谷歌TPU……
馬斯克治下(xià)的特斯拉,自研AI訓練芯片D1,自研AI超級計算機Dojo ExaPod,首秀即巅峰,登場就是全球第一。
此外,馬斯克還帶來了另一個(gè)特斯拉新品算到:
汽車(chē)機器(qì)人,搭載了特斯拉包含芯片兒西在内的軟硬件系統,但跟百度的不同,不像汽車(chē)更像人的雪。
這就是特斯拉年度AI開放日上,馬斯克再次帶來的一系列激動(dòn得們g)人心的大進展。
特斯拉自研AI訓練芯片D1發布
馬斯克說:要有一個(gè)超快的計算機來訓練Autopilot在内的整個(gè)自動(dòng)駕駛系統。
于是DOJO誕生了。
DOJO,取名源自日語裡“練武”專用的道場,顧名思義,DOJO就是特斯拉AI不斷精益功夫的道場。
DOJO 是一種通(tōng)過網絡結構連接的分布式計算架空火構。它還具有大型計算平面、極高帶寬和(hé)低延遲,以及分區和(hé服綠)映射的大型網絡。
實際上,在CVPR 2021現場,特斯拉就已經劇透過DOJO的相關(guān)性能。
當時總算力達1.8EFLOPS,讀寫速度高達1.6TBps,一度被認為超越全球排名第一的超級計算機富嶽,創造超算新紀錄。
但那時DOJO用的是英偉達的A100 GPU,單卡算力321TFLOPS,共計5760張,節點數高達720個(gè)。
而現在,DOJO更進一步,自研了“心髒”芯片。
特斯拉首款AI訓練芯片D1,正式發布。
7nm工藝,單片FP32達到算力22.6TOPs,BF16算力362TOPs。
特斯拉發布會現場,還用圖展示性能,拳打英偉達GPU,腳踢谷歌TPU。
一句話概括,比現在市面上任何芯片都強。
特斯拉也用“Pure Learning Machine”,純學習機器(qì),來稱呼D1芯片。
此外,D1芯片強的不隻是單兵(bīng)作戰能力,還有集為服團軍作戰能力,它們可(kě)以無縫融合,弟從變成超大規模計算陣列。
能有多大,接下(xià)來,特斯拉就揭曉了之前預熱廠做海報上的“神秘物種”:
集合了25塊D1芯片的訓練模塊!
這也是特斯拉首個(gè)訓練模塊,而把多個(gè)模塊集討要合,就能形成更大算力的訓練陣列:
至此,特斯拉自研超算DOJO完整真身亮(liàng)相!
超過50萬個(gè)訓練節點。每個(gè)模塊算力為9 petaflops,帶寬為36TB/s。
DOJO的可(kě)怕之處在于,不同于世界其他超算需要承擔多種不同任務,DOJO的唯一使命就是AI訓練,或者可(kě)以說聚焦到自動(dòng)駕駛算法的訓練。
因為專注,所以首秀即巅峰。
AutoPilot、FSD,特斯拉的其他AI訓練任務,都能在DOJO裡更高效練就。
另外,特斯拉官方還繼續劇透:這不是終點,下(xià)一代DOJO還會有10倍性能的提升!
所以到這裡就完了?拿衣服。
最後也是最強,特斯拉D1支持下(xià)的終極大殺器(qì)登場:
ExaPOD,集成120個(gè)訓練模塊,包含3000個(gè)D1芯片,超過1百萬個(gè)訓練節點。算力達到1.1EFLOP。
而且每單位能耗下(xià)的性能比當今最強超算高1.3倍,但碳排放僅為1/5。
速度和(hé)性能,冠絕業(yè)内。
于是特斯拉明确:這就是全球最快的AI訓練計算機。
有意思的是,2019年美國能源部曾放言要花(huā)6億美元建E級算力的超算,2023年問(wèn)世……
萬萬沒想到,這個(gè)目标被“車(chē)企”特斯拉率先實現了。
最強“煉丹爐”為誰而建?
所以問(wèn)題來了,自研D1芯片有了,最強AI訓練超算DOJO ready了,接下(xià)來特斯拉會有怎樣的改變?
特斯拉AI技術(shù)主管Andrej Karpathy(李飛飛高徒)登場,介紹了D1芯片和(hé)DOJO,主要服務的對象——特斯拉的在自動(dòng)駕駛方面領先所有對手的“靈丹妙車看藥”:
純視覺方案。
事故頻出,争議四起,甚至中(zhōng)國絕大部分玩家都轉我生向了視覺 激光雷達的綜合方案,但特斯拉依然堅持。
Karpathy詳細介紹了特斯拉高純視覺方案的思路(lù),和(hé討對)現行8攝像頭方案的特點,以及它為什麼能work。
特斯拉純視覺方案,基本構建原則是把自動(dòng)駕駛系統看作一個(gè)生物唱森,有眼睛、有神經、有大腦。
目前的方案有八個(gè)攝像頭,背後是被稱為HydraNets——“九頭蛇網絡”的多任務學習神經網絡。
“九頭蛇網絡”可(kě)以同時處理目标檢測、交通(tōng)标志識别、車區們(chē)道預測等等任務,其關(guān)鍵在于對各種數據的特征提取,包括不同鐵司種類數據的特征共享、對不同任務的分别調參,以及參數緩海放存,用來加快調參速度。
這也是實現FSD敏捷開發,半年内叠代2-3個(gè)版本的關(guān)鍵。
接下(xià)來,Karpathy 描述了純視覺方案的曆史,以及方案發展到今天的邏輯,他展示了一段特村雪斯拉處理其圖像數據的視頻。
他說過去 的FSD 雖然很好,但事實證明這樣的系統不夠完善,每個(gè)攝像頭能答聽夠檢測到工程師(shī)預期的目标,但背後計妹神經網絡的矢量空間是不夠的。
于是,特斯拉如(rú)重新設計了神經網絡,就地暗是上面的“九頭蛇”。
另外相機校(xiào)準、緩存、隊列和(hé)優化等等環節都做了最大程度懂間簡化。
特斯拉方面還比較了多攝像頭方案和(hé)單攝像頭方制路案的差别,相同的場景下(xià),單攝像光用頭方案識别率明顯低于多攝像頭方案。
特斯拉車(chē)輛上的8個(gè)攝像頭獲取原始輸入後,系統會創建各種分辨率的圖像,用城分于各種功能和(hé)目的。
這些不同的圖像會被分别喂給處理不同任務的神經網絡,作為整個(g雨地è)自動(dòng)駕駛系統的決策依據。
接着,Karpathy介紹了特斯拉的“終極建築師(shī)”,即車(chē)輛身中在行駛過程中(zhōng)可(kě)以實時對車(長跳chē)道、環境建模。
車(chē)道線實時建模,其實就是特斯拉自己的高精地圖能地坐力。
中(zhōng)國自動(dòng)駕駛玩家,強調“高精度地圖”煙村的不少(shǎo),但特斯拉的思路(lù),“現成資(zī)源”不是本質能力,姐音本質能力應該是“創造資(zī)源”的能力。
最後,Karpathy談了AI公司常見的數據标注問(wèn)題,他認為,把數嗎能據外包給第三方去做手工标注并不好,所以特斯拉選擇自建團隊來給數據打标湖風,目前已經從2D圖像标記升級到4D矢量空間的标記。
這也是特斯拉自動(dòng)駕駛不斷快速進化的核心我聽所在。
依靠人工标注,顯然無法應對量産車(chē)上路(lù)後的大規模數據,腦湖所以隻有自動(dòng)化标注,才能形成數據閉環機錯。
開放日上,特斯拉也展示了如(rú)何從車坐個(chē)道線、2D圖像……一點點躍遷至4D标注和(hé)建模的。
行人、車(chē)輛、樹(shù)木,建築物……清清楚楚,而且還有小化意圖識别。
特斯拉方面也強調,基于類腦一樣的感知系統、自動(那工dòng)化标注能力,以及仿真,确保了特斯拉為什麼可裡還(kě)以基于純視覺實現更高維度的自動(dòng)駕駛。
仿真,簡單講就是利用現實數據,将真實世界的道兒實時動(dòng)态景象,在計算機系統實現重新店間構建和(hé)重現。
這套模拟程序,用特斯拉的話說,就是一個(gè)以自動(d數知òng)駕駛為玩家的視頻遊戲。
在這套系統裡,任何要素都可(kě)以被添煙房加其中(zhōng),包括奇葩的極端場景。
比如(rú)這裡,人太多導緻目标難以标注,車(chē)輛極多年不:
特斯拉這裡還不忘補刀一下(xià)毫米波雷達——純視覺也能做可飛很好,所謂的雷達冗餘作用有限。
特斯拉方面還披露,現在标注和(hé)仿真系統,可笑冷(kě)以模拟數量高達3.71億的數據及場景。
當然,自動(dòng)駕駛最後還得解決從訊要比特世界走向原子(zǐ)世界應用的問(wèn)題。
這次特斯拉主要披露了控制和(hé)規劃方面的進展。
特斯拉自動(dòng)駕駛總監Ashok Elluswamy,分享了特斯拉針對複雜場景的規劃方案——“混合規費村劃系統”。
主要思路(lù)和(hé)技術(shù)方法是基于蒙特卡洛樹(s秒靜hù)搜索,實現最佳路(lù)徑規劃。
最後,整個(gè)特斯拉自動(dòng)駕駛從感知行輛到決策規劃,一圖概括如(rú)下(xià):
One more thing:特斯拉“機器(qì)人”
最後的最後,就在大家都以為發布會完全就是自動(dòn市喝g)駕駛相關(guān)内容之際……
“簡短(duǎn)茶歇”環節,竟然來了一段“機器(聽音qì)人熱舞”——宛如(rú)衣服Model一樣的穿着,樣子(zǐ)非常“矽基”。
這是特斯拉的行為藝術(shù)?
不不不,再次出乎意料。
馬斯克再次登台,然後鄭重其事發布:特斯拉機器(qì)人。
身高5英尺8英寸,約為172cm;重量125磅,約為56.7kg;承載能力為45磅,約為20kg。
它的面部是一個(gè)顯示屏,用來顯示重要信息。
從外形上看,四肢和(hé)人類一樣。
為了實現平衡性和(hé)敏捷性,四肢使用機討了40個(gè)機電推杆。
同時,特斯拉各項AI和(hé)芯片技術(shù),都會應用其中(zhōng)。
比如(rú)使用Autopilot的攝像頭充當感知系統,胸腔裡内置特斯拉自研芯片——FSD同款,還會加持多項特斯拉已開發出的技術(shù),如(rú)多攝雨自像頭視頻神經網絡、規劃能力、标記。
而且馬斯克強調,這不是玩具周邊,它會最終實現——可(熱章kě)能明年就會正式推出,這是特斯拉電動(dòng)車(chē相東)的下(xià)一步。
矽谷鋼鐵俠還說,他會是一個(gè)非常有用的機器(qì)人,由人打件司造,為人服務,而且會确保一直對人友好,能把人視雪從危險的、重複的,無聊的任務中(zhōng)件舊解放出來。
甚至還能跟已經高度自動(dòng)化的特斯拉車(c錢她hē)輛生産進一步結合協作。但按照馬斯克的意思,首要的應該是“做家務”。
有意思的是,随着特斯拉這個(gè)“機器(qì)人”發布,太平洋月放兩岸都把“機器(qì)人”作為了智能車(chē)變革的飛內下(xià)一步。
中(zhōng)國這邊,百度李彥宏剛剛推出了一款“汽車(chē)機短日器(qì)人”,不過更像“汽車(chē)”而不是“人”。
美國那頭,馬斯克的特斯拉機器(qì)人,更像“人”而不是“汽車(chē)”為懂。
這種區别,也可(kě)能跟馬斯克的那個(gè)江湖綽号有關(guān)。
伊隆·馬斯克,不就是現實版鋼鐵俠嗎?
(轉載自智能車(chē)參考)