[新聞] 黃仁勳:讓AI去推理 就不會太耗電

看板Tech_Job (科技人)作者 (Speculative Male)時間5月前 (2024/06/05 04:43), 編輯推噓8(8012)
留言20則, 14人參與, 5月前最新討論串1/1
https://www.chinatimes.com/newspapers/20240605000458-260110?chdtv 黃仁勳:讓AI去推理 就不會太耗電 NVIDIA投資台灣因為「台積電很棒」 資料中心可設在無人區 不排除自行開發晶片 04:10 2024/06/05 中國時報 柳名耕 https://images.chinatimes.com/newsphoto/2024-06-05/1024/B03A00_P_01_02.jpg
台北國際電腦展4日開跑,「AI教父」輝達創辦人黃仁勳(中)現身會場逛展,吸引民眾 爭相搶拍及簽名。(鄧博仁攝) 輝達創辦人暨執行長黃仁勳4日在出席媒體交流會上提到,不能只訓練AI,最終應該要讓 它去推理,如此就不會太耗電,像氣候孿生平台就可以省下3000倍的能源;針對如何看待 大陸市場,黃仁勳說,有研究相關的規定,且過去20年有許多夥伴、客戶都在大陸,會盡 力提供最好的服務。 在抵達媒體交流會後,熱愛美食的他,忍不住吃了工作人員準備的火雞三明治,還頻頻碎 念自己5點就起床,到下午只吃了6片餅乾,而這3片乾癟的火雞肉,剛好可以補充能量, 並笑著提醒盡量問簡單的問題,否則只剩25%大腦容量的他,可能會沒辦法負荷。 針對美國政府的晶片禁令,輝達會怎麼看大陸的市場,黃仁勳表示,大陸的市場對輝達非 常重要,同時研究很多須遵守的限制,會努力去平衡,同時提供最好的服務給在大陸合作 20年的夥伴、客戶。 至於在兩岸敏感時刻,輝達仍決定在台灣設置第2座大型研發中心,以及更大的超級電腦 ,黃仁勳說,會有這樣的選擇,是因為台積電真的很棒,且極具彈性,雙方已經合作超過 25年,無論是晶片代工還是CoWoS封裝、測試以及上下游供應鏈都很完美,坦言曾考慮在 其他地方設點,但必須誠實地說「很難」。 由於輝達市值直逼蘋果,會不會去跟蘋果競爭,黃仁勳表示,輝達不會去跟蘋果競爭,蘋 果的東西很棒,但都是超微、英特爾、高通在跟蘋果競爭,輝達不是那個圈子的。 黃仁勳強調,因為輝達是市場的開創者,不是市場的追逐者,致力在創新,做的事情都是 領先的事情,或許有人說AI是他們現在的大事,但對輝達來說已經經歷15年了,並開玩笑 地說「輝達這麼可愛,怎麼會有人想要攻擊我們」。 針對政府提出關於發展AI的建議,黃仁勳指出有3點,第1點就是加速所有需要運算的東西 ,因為可以省下很多資源,也就是說買越多AI伺服器,就可以省下越多的資源。 第2點是不要只訓練AI,使用AI的最終是要讓它去推理,才是最重要的,就像是Earth-2氣 候孿生平台,可以提升1000倍的速度,省下3000倍的能源;第3點則是,AI資料中心不會 在乎它在什麼地方上學,所以可以選擇在沒有人,沒有電網的地方,利用太陽能、或者有 豐富能源的地方,蓋發電廠及運算中心,並在那個地方訓練AI。 輝達除AI伺服器、顯示卡、加速運算卡外,黃仁勳也提到不會擔心AI運算可能影響電力消 耗,輝達也不排除自行開發ASIC晶片(特殊應用積體電路),藉此去擴大現有的客戶群。 #蘋果 #大陸 #能源 #地方 #輝達 -- 沒說小乘大乘 上座部佛教馬哈希尊者具戒經講記拆穿佛教大乘妙法蓮華經騙局 上座部佛教明昆《南傳菩薩道》真釋迦牟尼佛的菩薩成佛之道 大乘菩薩成佛之道 妙法蓮華經 華嚴經 心經 金剛經 楞伽經 梵網經菩薩戒 圓覺經 楞嚴經大乘假佛經 阿彌陀佛 藥師佛大乘假觀世音 文殊 普賢 維摩詰 龍樹 地藏王大乘假菩薩 https://www.ptt.cc/bbs/soul/M.1523979060.A.68C.html 上座部佛教目犍連子帝須那先偽經大乘十方諸佛 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.230.132.222 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1717533815.A.854.html

06/05 04:56, 5月前 , 1F
有沒有可能你給他的理就是錯的 難道你們不好奇他的
06/05 04:56, 1F

06/05 04:56, 5月前 , 2F
虛擬地球是什麼圓嗎 說不定顛覆你傳統的認知 如果你
06/05 04:56, 2F

06/05 04:56, 5月前 , 3F
看過古地圖你一定會覺得古時候的人很好笑怎麼地圖上
06/05 04:56, 3F

06/05 04:56, 5月前 , 4F
還有章魚和怪物 現在地圖號稱以科學為本難道就是真
06/05 04:56, 4F

06/05 04:56, 5月前 , 5F
的嗎?
06/05 04:56, 5F

06/05 04:57, 5月前 , 6F
有一些事情根本經不起問
06/05 04:57, 6F

06/05 06:23, 5月前 , 7F
在核電廠旁邊建超級電腦?
06/05 06:23, 7F

06/05 06:50, 5月前 , 8F
機房設在高雄表示:
06/05 06:50, 8F

06/05 07:57, 5月前 , 9F
電力會流向善用它的手中
06/05 07:57, 9F

06/05 08:17, 5月前 , 10F
笑死,老黃認證無人區最好
06/05 08:17, 10F

06/05 08:27, 5月前 , 11F
跟礦場一樣蓋在水力發電廠旁邊
06/05 08:27, 11F

06/05 09:38, 5月前 , 12F
誒不是 現在ai llm充其量只有大腦的語言區和記憶區
06/05 09:38, 12F

06/05 09:38, 5月前 , 13F
的功能而已、那有什麼推理可言啊?
06/05 09:38, 13F

06/05 09:43, 5月前 , 14F
大陸(X) 中國(O) 中(共)時整天大陸大陸 真的很蠢
06/05 09:43, 14F

06/05 12:28, 5月前 , 15F
推理要在晚餐後
06/05 12:28, 15F

06/05 12:33, 5月前 , 16F
自行開發?
06/05 12:33, 16F

06/05 12:39, 5月前 , 17F
無人區?那蓋到山上吧,還可以直接降溫
06/05 12:39, 17F

06/05 13:27, 5月前 , 18F
他在講AI inference吧,不是你想的那種推理
06/05 13:27, 18F

06/05 14:56, 5月前 , 19F
讓ai自製晶片不就更棒棒
06/05 14:56, 19F

06/05 19:54, 5月前 , 20F
台積電很棒X 台灣電很便宜O
06/05 19:54, 20F
文章代碼(AID): #1cNtntXK (Tech_Job)
文章代碼(AID): #1cNtntXK (Tech_Job)