[新聞]地表最快AI晶片發布,哈佛輟學生挑戰英偉達
原文標題：「地表最快」AI 晶片發布，哈佛輟學的本科生挑戰英偉達
原文連結：https://www.sohu.com/a/788693870_413981
發布時間：2024-06-26 20:01 來源: 愛範兒
記者署名：
原文內容：
在談到AI、大模型、算力等關鍵字時，如果要提及硬體產品，很多人應該會不假思索的說
出英偉達。
一位華爾街分析師曾如此評論到：
人工智慧領域正在進行一場戰爭，而英偉達是唯一的軍火商。
的確，在AI 時代下，英偉達的地位是獨特又難以撼動的。但現在，有一位勇者準備正式
挑戰這個局面。
2022 年，Gavin Uberti 和Chris Zhu 創立了Etched.ai。他們從一開始就獲得了包括
Ebay 前CEO Devin Wenig 在內的536 萬美元的種子輪投資。
在剛剛宣布融資1.2 億美元後，Etched 又發布了目前的最快的AI 晶片
此Sohu 非彼搜狐，它號稱可以在毫秒級別的時間裡處理數千個單字。每秒能處理超過50
萬個tokens，運行Llama 70B 模型。
什麼概念呢？這就相當於可以在兩秒鐘內寫完《聖經》，或是一年寫15 兆個tokens。
根據Etched 官網介紹，Sohu 在硬體層面上整合了Transformer 架構，是第一個專為
Transformer 模型設計的專用晶片（ASIC）。
正是這種專用性，為Sohu 帶來了效能的巨大提升。相較於英偉達H100，Sohu 的推理速度
相提升了8 至10 倍。
搭載八片Sohu 晶片的伺服器，可以取代整整160 個英偉達H100 GPU。
對於程式場景，Sohu 可以透過蒙特卡羅樹搜索，並行相應數百個結果，給出最優秀的答
案。
無論是語音助理還是智慧客服，Sohu 都能做到在幾毫秒內分析數千個單字。
並且Sohu 還支援多重推測解碼，可以以極快的速度即時生成新的內容。作為全球首款Transformer 專用積體電路（ASIC）晶片，每張Sohu 晶片只有一個核心，
使用了台積電4nm 製造工藝，並配有144GB HBM3E 高頻寬記憶體。
相較於英偉達的下一代Blackwell（B200）GPU，Sohu 的速度提高了一個量級，價格也會
更便宜。短短兩年時間，Etched 從零開始成長到現在這番模樣，實在是一個「奇蹟」。
Etched 的創辦人Gavin Uberti 和Chris Zhu 都是華裔，兩人也都有豐富的背景。Gavin Uberti 和Chris Zhu 都曾就讀哈佛大學，度過了一段大學部生活。後來出於一些
原因，他們選擇休學一年，並在OctoAI 找到了一份實習工作。
當時兩人的工作內容，主要是負責ApacheTVM 開源編譯器和微內核開發。但在實習時，他
們發現Arm 的指示集中的一些設計十分低效，使得他們的工作效率很差。
Gavin Uberti 說到：「這個問題無法解決，每次工作時我都得面對這個問題，這讓我和
Chris 覺得我們必須做得更好。」在思考如何解決這個問題時，他們突然發現可以利用
這個想法來設計一款AI 加速晶片。
於是兩人便選擇了從哈佛輟學，創辦了一家專注於LLM 的AI 晶片新創公司—— Etched。
在Gavin Uberti 看來，通用公版設計無法帶來獲得突破性的效能提升，所
以他們才研發Transformer 架構下的專用加速晶片。
Gavin Uberti 曾說：
必須在單一架構上下大力氣，讓晶片處理AI 任務，目標太大了，必須要針對更具體的任
務來設計晶片… 我們認為英偉達最終會這麼做。目前主流的AI 產品如ChatGPT、Claude、Gemini 和Sora 等，都是以Transformer 架構驅
動的。作為全球首款Transformer ASIC 晶片，再配上如此亮眼的成績，Etched 自然也
是吸引了一大波關注。
6 月25 日，Etched 宣布完成1.2 億美元的A 輪融資。這次融資由紐約創投機構Primary
Venture Partners 和Positive Sum Ventures 共同領投。
其天使投資人陣容也十分強大，包括創投家Peter Thiel、GitHub 執行長Thomas Dohmke
、自動駕駛公司Cruise 的共同創辦人Kyle Vogt， 以及Quora 的共同創辦人Charlie
Cheever，
在2022 年創立之初，Etched 就看中了Transformer 將會佔據主導地位的未來。 Gavin
Uberti 表示，「我們在人工智慧領域下最大的賭注。」
如果我們賭對了，Sohu 將改變世界。這就是我們敢於下注的原因。
心得/評論：
搞AI晶片都一定要有華人血統才純正? (誤)
繼上次說有整片晶圓就是一個晶片設計的公司後
另一個真正有實力挑戰NVIDIA的公司出現了
號稱比GB200還快八倍的晶片
不過要挑戰我大輝達，先能越過CUDA的護城河再說
https://i.imgur.com/NIYC5CT.png
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 122.116.228.113 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1719423441.A.DD7.html
推
06/27 01:39,
2天前
, 1F
06/27 01:39, 1F
※ 編輯: newbrain (122.116.228.113 臺灣), 06/27/2024 01:40:42
推
06/27 01:41,
2天前
, 2F
06/27 01:41, 2F
→
06/27 01:47,
2天前
, 3F
06/27 01:47, 3F
推
06/27 01:48,
2天前
, 4F
06/27 01:48, 4F
→
06/27 01:48,
2天前
, 5F
06/27 01:48, 5F
推
06/27 01:48,
2天前
, 6F
06/27 01:48, 6F
→
06/27 01:48,
2天前
, 7F
06/27 01:48, 7F
推
06/27 01:49,
2天前
, 8F
06/27 01:49, 8F
推
06/27 01:51,
2天前
, 9F
06/27 01:51, 9F
推
06/27 01:52,
2天前
, 10F
06/27 01:52, 10F
推
06/27 01:53,
2天前
, 11F
06/27 01:53, 11F
推
06/27 01:56,
2天前
, 12F
06/27 01:56, 12F
→
06/27 01:56,
2天前
, 13F
06/27 01:56, 13F
推
06/27 01:56,
2天前
, 14F
06/27 01:56, 14F
推
06/27 01:57,
2天前
, 15F
06/27 01:57, 15F
→
06/27 01:57,
2天前
, 16F
06/27 01:57, 16F
推
06/27 02:00,
2天前
, 17F
06/27 02:00, 17F
→
06/27 02:01,
2天前
, 18F
06/27 02:01, 18F
推
06/27 02:07,
2天前
, 19F
06/27 02:07, 19F
→
06/27 02:07,
2天前
, 20F
06/27 02:07, 20F
→
06/27 02:12,
2天前
, 21F
06/27 02:12, 21F
→
06/27 02:12,
2天前
, 22F
06/27 02:12, 22F
推
06/27 02:12,
2天前
, 23F
06/27 02:12, 23F
→
06/27 02:13,
2天前
, 24F
06/27 02:13, 24F
推
06/27 02:14,
2天前
, 25F
06/27 02:14, 25F
→
06/27 02:17,
2天前
, 26F
06/27 02:17, 26F
→
06/27 02:17,
2天前
, 27F
06/27 02:17, 27F
推
06/27 02:19,
2天前
, 28F
06/27 02:19, 28F
推
06/27 02:20,
2天前
, 29F
06/27 02:20, 29F
→
06/27 02:21,
2天前
, 30F
06/27 02:21, 30F
→
06/27 02:26,
2天前
, 31F
06/27 02:26, 31F
推
06/27 02:27,
2天前
, 32F
06/27 02:27, 32F
→
06/27 02:27,
2天前
, 33F
06/27 02:27, 33F
推
06/27 02:40,
2天前
, 34F
06/27 02:40, 34F
→
06/27 02:44,
2天前
, 35F
06/27 02:44, 35F
推
06/27 02:47,
2天前
, 36F
06/27 02:47, 36F
推
06/27 02:56,
2天前
, 37F
06/27 02:56, 37F
推
06/27 02:57,
2天前
, 38F
06/27 02:57, 38F
還有 92 則推文
推
06/27 09:09,
2天前
, 131F
06/27 09:09, 131F
→
06/27 09:09,
2天前
, 132F
06/27 09:09, 132F
→
06/27 09:17,
2天前
, 133F
06/27 09:17, 133F
推
06/27 09:24,
2天前
, 134F
06/27 09:24, 134F
我特都被比亞迪打趴了...這篇只是想跟大家講...搶賣鏟子的人一堆...要注意
※ 編輯: newbrain (122.116.228.113 臺灣), 06/27/2024 09:32:52
→
06/27 09:36,
2天前
, 135F
06/27 09:36, 135F
→
06/27 09:38,
2天前
, 136F
06/27 09:38, 136F
推
06/27 09:41,
2天前
, 137F
06/27 09:41, 137F
推
06/27 09:53,
2天前
, 138F
06/27 09:53, 138F
推
06/27 10:19,
2天前
, 139F
06/27 10:19, 139F
推
06/27 10:20,
2天前
, 140F
06/27 10:20, 140F
推
06/27 10:35,
2天前
, 141F
06/27 10:35, 141F
噓
06/27 10:50,
2天前
, 142F
06/27 10:50, 142F
→
06/27 10:50,
2天前
, 143F
06/27 10:50, 143F
推
06/27 11:21,
2天前
, 144F
06/27 11:21, 144F
推
06/27 11:21,
2天前
, 145F
06/27 11:21, 145F
推
06/27 11:23,
2天前
, 146F
06/27 11:23, 146F
噓
06/27 11:23,
2天前
, 147F
06/27 11:23, 147F
→
06/27 11:23,
2天前
, 148F
06/27 11:23, 148F
推
06/27 11:25,
2天前
, 149F
06/27 11:25, 149F
推
06/27 11:29,
2天前
, 150F
06/27 11:29, 150F
推
06/27 12:26,
2天前
, 151F
06/27 12:26, 151F
推
06/27 12:27,
2天前
, 152F
06/27 12:27, 152F
推
06/27 12:40,
2天前
, 153F
06/27 12:40, 153F
推
06/27 12:51,
2天前
, 154F
06/27 12:51, 154F
→
06/27 13:14,
2天前
, 155F
06/27 13:14, 155F
推
06/27 14:49,
2天前
, 156F
06/27 14:49, 156F
→
06/27 14:49,
2天前
, 157F
06/27 14:49, 157F
推
06/27 14:54,
2天前
, 158F
06/27 14:54, 158F
→
06/27 14:54,
2天前
, 159F
06/27 14:54, 159F
噓
06/27 17:01,
2天前
, 160F
06/27 17:01, 160F
→
06/27 18:03,
2天前
, 161F
06/27 18:03, 161F
→
06/27 18:03,
2天前
, 162F
06/27 18:03, 162F
噓
06/27 18:04,
2天前
, 163F
06/27 18:04, 163F
→
06/27 18:04,
2天前
, 164F
06/27 18:04, 164F
推
06/27 19:03,
2天前
, 165F
06/27 19:03, 165F
→
06/27 19:03,
2天前
, 166F
06/27 19:03, 166F
噓
06/27 19:13,
1天前
, 167F
06/27 19:13, 167F
推
06/28 07:44,
1天前
, 168F
06/28 07:44, 168F
噓
06/28 14:30,
1天前
, 169F
06/28 14:30, 169F
Stock 近期熱門文章
PTT職涯區 即時熱門文章
