Re: [請益] AI到底是遇到什麼問題?
看板Stock (股票)作者derekhsu (浪人47之華麗的天下無雙)時間8月前 (2024/08/03 07:39)推噓35(35推 0噓 60→)留言95則, 39人參與討論串14/18 (看更多)
※ 引述《neo5277 (I am an agent of chaos)》之銘言:
: 雖然這版是投資版,但是我覺得技術問題,還是先跟投資切開來比較好一點。
技術跟應用場景的問題我不談,之前的人已經談過了,大致上沒有問題。
不同領域的人可能體驗不太一樣,但LLM普及的程度並沒有這麼低,具體而言,主要是 ChatGPT ,在部分領域已經是不可或缺的必要工具,到了掛掉會影響到正常工作或不能工作的程度。
首先是 coding,就我而言,至少有50%的程式碼已經是由 ChatGPT 完成的,遇到 bug 我幾乎沒有再用 Google 或是 stackoverflow ,log 直接丟進 ChatGPT , 大部分情況下它都能大幅減少我的工作時間。
除了遇到有關於 pydantic 的問題,因為這個 module 最近出了V2,模型的回答經常會混合V1的答案,而且傻傻分不清楚,在之前舊的沒有納入 pydantic 的版本時,這問題更為嚴重,必須要自己先提供文件用RAG 讓它知道。
但是就我實際的觀察周邊的人,發現LLM 對於低階的工程師,高階的工程師的幫助個別顯著,但是對於中階工程師而且有使用上的困難。
低階的工程師處理的是低階的問題,本來基礎就不好,LLM本身的能力就能超越這些低階工程師。
高階工程師的能精準的知道自己需要的是什麼,哪些部分可以透過LLM來做比較快,那些自己來做比較不會出錯。懂得如何 prompting ,做問題拆解,所以也能很好的利用到LLM的好處。
而中階工程師就會卡在不上不下的狀況,低階的工作可以自己處理,但是有時候要處理高階工作時不知道要怎麼問LLM,不曉得怎麼做問題拆解,不知道怎麼為 LLM 的回答加入 constraints,那LLM的回答就經常不會是自己想要的答案,甚至是會繞遠路,簡單來講,就是不會發問,因為處理高階問題時,問出正確的問題,提供正確的限制式很重要。
我舉例來說,我自己做RAG的系統,很多人問問題的方式不是在問問題,而是提供幾個關鍵字,當作搜尋引擎在用,那回答的品質當然不好,這也是為什麼 OpenAI 還要做 SearchGPT 的原因之一。
同樣的狀況,也會發生在其他會大量使用到 LLM 的領域上面,必須學術研究。
我不相信現在還有大學生研究生不用 ChatGPT 的,但是但是它肯定也是只能對高階跟低階用戶比較有用,中階用戶因為不懂得問題拆解以及提問技巧,得到的有可能是無法讓人滿意,甚至可能是抄襲出來,虛構的答案,而這些是中階用戶很難判斷的。
LLM具體應用的場景絕對已經深入到某些領域而且已經無法回頭了。
現在的問題是為了持續擴大這個領域,各家公司必須持續軍備競賽,所以成本居高不下。
使用單位大量缺乏問題拆解能力以及提問能力的人無法滲透,即便現在有透過 multiagent 的技術試圖讓LLM能自己做問題拆解,但LLM的大局觀仍遠不如人類。
其實這就有點類似圍棋之前的狀況,LLM善於最後的收官階段,卻沒有大局觀不擅長整體布局,直到 AlphaGo 出現之後達到技術突破。
AIPC是各家CPU公司試圖讓自己從NVIDIA 沒有多少投入的 To C市場突破的一個行銷方式,我仍稱這種是行銷方式是我認為 CPU + NPU 這種應用在PC上面除了拿來做指紋辨識,臉部辨識,這種通用應用以外,To C的NPU場景還沒有那種我不得不用,不用會完蛋的那種應用。
而這種應用在NVIDIA的To B場景下已經有很多了。
如果OpenAI減緩研發腳步,停止讓LLM普及化的燒錢,專注於特定領域的應用,肯定可以很快的改善獲利,問題是這不是一個可以停下來的情況,誰能達到下一個階段的突破,誰就能吃下整個市場。
所以我認為不是LLM應用場景不足,而是目前投入成本不但高,而且根本停不下來。
-----
Sent from JPTT on my Vivo V2124.
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.8.37.233 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1722641986.A.4BF.html
推
08/03 07:52,
8月前
, 1F
08/03 07:52, 1F
→
08/03 07:52,
8月前
, 2F
08/03 07:52, 2F
推
08/03 07:54,
8月前
, 3F
08/03 07:54, 3F
→
08/03 07:54,
8月前
, 4F
08/03 07:54, 4F
推
08/03 07:56,
8月前
, 5F
08/03 07:56, 5F
→
08/03 07:57,
8月前
, 6F
08/03 07:57, 6F
推
08/03 08:08,
8月前
, 7F
08/03 08:08, 7F
→
08/03 08:08,
8月前
, 8F
08/03 08:08, 8F
推
08/03 08:18,
8月前
, 9F
08/03 08:18, 9F
→
08/03 08:19,
8月前
, 10F
08/03 08:19, 10F
→
08/03 08:19,
8月前
, 11F
08/03 08:19, 11F
推
08/03 08:22,
8月前
, 12F
08/03 08:22, 12F
→
08/03 08:22,
8月前
, 13F
08/03 08:22, 13F
→
08/03 08:23,
8月前
, 14F
08/03 08:23, 14F
推
08/03 08:24,
8月前
, 15F
08/03 08:24, 15F
→
08/03 08:24,
8月前
, 16F
08/03 08:24, 16F
推
08/03 08:32,
8月前
, 17F
08/03 08:32, 17F
→
08/03 08:33,
8月前
, 18F
08/03 08:33, 18F
推
08/03 08:47,
8月前
, 19F
08/03 08:47, 19F
推
08/03 09:08,
8月前
, 20F
08/03 09:08, 20F
→
08/03 09:08,
8月前
, 21F
08/03 09:08, 21F
推
08/03 09:16,
8月前
, 22F
08/03 09:16, 22F
推
08/03 09:17,
8月前
, 23F
08/03 09:17, 23F
→
08/03 09:17,
8月前
, 24F
08/03 09:17, 24F
推
08/03 09:17,
8月前
, 25F
08/03 09:17, 25F
→
08/03 09:17,
8月前
, 26F
08/03 09:17, 26F
→
08/03 09:24,
8月前
, 27F
08/03 09:24, 27F
→
08/03 09:24,
8月前
, 28F
08/03 09:24, 28F
→
08/03 09:24,
8月前
, 29F
08/03 09:24, 29F
推
08/03 09:27,
8月前
, 30F
08/03 09:27, 30F
→
08/03 09:27,
8月前
, 31F
08/03 09:27, 31F
推
08/03 09:29,
8月前
, 32F
08/03 09:29, 32F
推
08/03 09:30,
8月前
, 33F
08/03 09:30, 33F
推
08/03 09:32,
8月前
, 34F
08/03 09:32, 34F
推
08/03 09:43,
8月前
, 35F
08/03 09:43, 35F
→
08/03 09:43,
8月前
, 36F
08/03 09:43, 36F
→
08/03 09:43,
8月前
, 37F
08/03 09:43, 37F
推
08/03 09:45,
8月前
, 38F
08/03 09:45, 38F
推
08/03 09:46,
8月前
, 39F
08/03 09:46, 39F
→
08/03 09:46,
8月前
, 40F
08/03 09:46, 40F
→
08/03 09:52,
8月前
, 41F
08/03 09:52, 41F
推
08/03 09:57,
8月前
, 42F
08/03 09:57, 42F
推
08/03 09:57,
8月前
, 43F
08/03 09:57, 43F
→
08/03 10:01,
8月前
, 44F
08/03 10:01, 44F
→
08/03 10:01,
8月前
, 45F
08/03 10:01, 45F
推
08/03 10:08,
8月前
, 46F
08/03 10:08, 46F
→
08/03 10:08,
8月前
, 47F
08/03 10:08, 47F
推
08/03 10:12,
8月前
, 48F
08/03 10:12, 48F
→
08/03 10:12,
8月前
, 49F
08/03 10:12, 49F
推
08/03 10:15,
8月前
, 50F
08/03 10:15, 50F
推
08/03 10:19,
8月前
, 51F
08/03 10:19, 51F
→
08/03 10:19,
8月前
, 52F
08/03 10:19, 52F
→
08/03 10:20,
8月前
, 53F
08/03 10:20, 53F
推
08/03 10:23,
8月前
, 54F
08/03 10:23, 54F
→
08/03 10:23,
8月前
, 55F
08/03 10:23, 55F
→
08/03 10:24,
8月前
, 56F
08/03 10:24, 56F
→
08/03 10:24,
8月前
, 57F
08/03 10:24, 57F
→
08/03 10:25,
8月前
, 58F
08/03 10:25, 58F
→
08/03 10:35,
8月前
, 59F
08/03 10:35, 59F
→
08/03 10:36,
8月前
, 60F
08/03 10:36, 60F
推
08/03 10:38,
8月前
, 61F
08/03 10:38, 61F
→
08/03 10:38,
8月前
, 62F
08/03 10:38, 62F
→
08/03 10:38,
8月前
, 63F
08/03 10:38, 63F
推
08/03 10:41,
8月前
, 64F
08/03 10:41, 64F
→
08/03 10:41,
8月前
, 65F
08/03 10:41, 65F
→
08/03 10:41,
8月前
, 66F
08/03 10:41, 66F
→
08/03 10:41,
8月前
, 67F
08/03 10:41, 67F
→
08/03 10:41,
8月前
, 68F
08/03 10:41, 68F
推
08/03 10:45,
8月前
, 69F
08/03 10:45, 69F
→
08/03 10:57,
8月前
, 70F
08/03 10:57, 70F

→
08/03 11:27,
8月前
, 71F
08/03 11:27, 71F
→
08/03 11:27,
8月前
, 72F
08/03 11:27, 72F
推
08/03 11:28,
8月前
, 73F
08/03 11:28, 73F
→
08/03 11:29,
8月前
, 74F
08/03 11:29, 74F
→
08/03 11:29,
8月前
, 75F
08/03 11:29, 75F
→
08/03 11:29,
8月前
, 76F
08/03 11:29, 76F
→
08/03 11:38,
8月前
, 77F
08/03 11:38, 77F
推
08/03 11:55,
8月前
, 78F
08/03 11:55, 78F
→
08/03 11:55,
8月前
, 79F
08/03 11:55, 79F
→
08/03 12:20,
8月前
, 80F
08/03 12:20, 80F
→
08/03 12:21,
8月前
, 81F
08/03 12:21, 81F
→
08/03 12:25,
8月前
, 82F
08/03 12:25, 82F
→
08/03 12:25,
8月前
, 83F
08/03 12:25, 83F
→
08/03 12:25,
8月前
, 84F
08/03 12:25, 84F
→
08/03 12:25,
8月前
, 85F
08/03 12:25, 85F
推
08/03 13:05,
8月前
, 86F
08/03 13:05, 86F
→
08/03 13:07,
8月前
, 87F
08/03 13:07, 87F
→
08/03 13:08,
8月前
, 88F
08/03 13:08, 88F
→
08/03 13:09,
8月前
, 89F
08/03 13:09, 89F
→
08/03 13:09,
8月前
, 90F
08/03 13:09, 90F
推
08/03 13:51,
8月前
, 91F
08/03 13:51, 91F
→
08/03 13:51,
8月前
, 92F
08/03 13:51, 92F
推
08/03 14:46,
8月前
, 93F
08/03 14:46, 93F
→
08/03 14:46,
8月前
, 94F
08/03 14:46, 94F
→
08/03 15:46,
8月前
, 95F
08/03 15:46, 95F
討論串 (同標題文章)
Stock 近期熱門文章
53
99
PTT職涯區 即時熱門文章