AI 的擴散方式

不知有沒有人注意到蘋果這次 WWDC 釋出的架構,其實有分五種模型,其中部分是本地模型,而部分是雲端模型。另外,輝達和超微也釋出自己的 AI PC 晶片,而蘋果的 Mac Mini 或 Mac Studio 本身就很適合跑本地模型。

這代表 AI 的戰線已經擴展到本地裝置端,並不是所有的 AI 需求都一定要依賴雲端。

目前 AI 雲端算力的需求還很缺,但其實真正願意導入 AI 的就少數幾家大公司,而他們的算力需求,照流心自己的預估,應該是一個固定的量,只是這個量目前還未被滿足,你才會看到很缺的狀況。

你可以思考看看,當這些雲端算力的需求,突然間被滿足之後,那算力的價格會掉得多快?

最近也蠻多公司開始檢討算力的支出費用,因為 AI 導入初期,為了鼓勵員工使用 (用來淘汰他們自己?),token 用越多考績越好,結果很多人都亂用一通。現在 AI 算力開始照用量計費,公司突然發現很多支出都沒有創造產值,才開始重新制定算力額度和調整考績判斷。

由此可知,當一家公司的算力用量過多,很可能反過來壓抑算力的需求,因為費用太貴。

流心今天也看到一篇值得省思的文章 (忘了出處),大意是這樣,有人把一些本來 AI 的需求做成軟體放到 GitHub,這樣就不用一直花 AI 的費用。其實軟體發明的目的本就是如此,把一些固定的需求做成軟體,就能夠重複使用。

當企業發現 AI token 花費過高時,將需求重新轉化為軟體,也是可以預見的事情。這個轉化或許不是全部,仍然需要 AI,但是軟體和線上 AI 併行,應該是可以預見的作法。

總結來說,AI 的發展不會停,但是對於雲端算力的需求,或許有一天會快速到達滿足點。因為企業對於 AI 的導入,除了幾個前沿大型公司以外,剩下的企業導入 AI 應該都是漸進式的。而企業為了降低 AI 成本,除了採用本地端模型,也可能讓軟體和 AI 併行,而不是全面置換的方式。(除非有一天算力變得超級便宜)

寫這篇只是預告未來可能的發展,順便澆一點冷水。當所有散戶都開始興奮時,流心已經在思考何時退場的時機。AI 相關企業未來的「獲利」肯定非常好,但是超漲的「股價」卻是另一回事。行情持續看多沒有改變,但還是要保持理性。

留言