看板
[ Stock ]
討論串[心得] AI需求是供應商精心設計好的套路
共 4 篇文章
首頁
上一頁
1
下一頁
尾頁
內容預覽:
賣鏟子的人可以吹. 但是買鏟子都要負責公司的營收獲利 也不是笨蛋. 演算法可以精進 這不是軟體業的common sense 嗎?. 如果一樣的資金可以買到很好的性能 有人要多花數倍的成本買硬體設備 ?. 然後公司毛利較低 ?. 現實就是看到各家csp業者的資本支出大增. 所以你所說的龐大硬體需求，是
(還有108個字)
內容預覽:
單就這次美以對伊朗的戰爭. 就會發現世界的能源共應是如此的脆弱. 目前來說 整個世界的能源配置. 是以穩定共應人類食衣住行來設定的. 如果把矽基智慧(AI)與炭基智慧(人類). 放在同一個能量天平來計算. Gemini給的答案是一個成年人. 每天要消耗的能量大約可供. 1.5台高性能AI伺服器使用.
(還有594個字)
內容預覽:
大大 你這樣講不太對啊 記憶體和算力是等價互換. 拿個簡單說 在訓練端你永遠可以用gradient accumulation 來降低記憶體. 訓練無法一次跑四個樣本 那就一個個樣本跑 記憶體需求降四倍. (算力->記憶體) 這就是你下面舉例子. 在inference端也是有 記憶體和算力等價互換 K
(還有1505個字)
內容預覽:
我來說說，為甚麼說，AI需求是供應商精心設下的套路吧！. 剛踏入AI的人. 可能會覺得，AI的神經網路演算法(大規模平行矩陣運算)，. 好吃硬體資源啊，硬體規格的需求好大，幾乎看不到天花板。. 所以，很多人會有＂AI算力需求是永無止盡的＂這種錯覺，. 但用久了開始熟悉AI之後，你會發現，. 其實AI
(還有1576個字)
首頁
上一頁
1
下一頁
尾頁