亞馬遜推出自家的 Jev 仿製品,決策模型充斥網路
亞馬遜網路服務(Amazon Web Services)發布了一個受TypeSafe的Jev啟發的開源決策模型,AI開發者越來越尋求更適合電腦自動化而非前沿大型語言模型(LLM)的智慧。
亞馬遜的 Strands Decider 2B 與 OpenAI 宣布類似產品同時推出,是一種高速、低成本的方式,能在預先決定的選項間篩選,並衡量其對選擇的信心程度。這個模型完全開源,現已可用,且規模小巧,可以本地運行。
亞馬遜知名工程師 Marc Brooker 在看到 Jev 並嘗試打造自己的模型後,構思了這個專案。這個自製專案相當成功——它曾短暫登上 Jevbench 同尺寸模型排名第一——因此亞馬遜工程師將其清理後,由其 Strands Labs 發布,該組織致力於開發部署 AI 代理的新工具與協議。
Brooker 表示,這類工具的需求是在與 AWS 客戶的對話中浮現的,因為他們的代理式工作流程並不總是需要具備完整功能 LLM 的能力或成本。
「最初讓我對這類模型感興趣,是因為它們是工作流程步驟的完美決策工具——『根據我所在的位置,我下一步該做什麼?』」布魯克說:這為客戶提供「一個工作流程步驟,得益於信心分數、封閉的答案領域,且延遲較低,潛在成本更低。」
像其他決策模型一樣,Strands 決策器建立在大型語言模型(LLM)的「軀幹」上,這裡指的是 Qwen3.5-2B,但它不是產生文字,而是提供校準過的選擇。TypeSafe 將他們的模型命名為 Jev,取自經濟學家 William Stanley Jevons,希望藉此引用他的理論:像電腦智慧這類東西的成本下降,實際上會增加其需求。
自TypeSafe提出構想以來,研究人員已製作出數十款類似模型,顯示出廣泛的興趣,但同時也引發了它們價值的疑問。Brooker 指出,挑戰在於如何在不犧牲智慧的前提下,優化模型的快速決策。
他說:「在追求準確度與校準的同時,也要在不影響其理解不同語言及擁有知識方面取得非常謹慎的平衡,這正是它通用、有趣且實用的原因。」
不過,他並不一定預期前沿實驗室會主導這個領域,尤其是因為市場較小,打造有趣東西的成本高達數百甚至數千美元。
TypeSafe 高層表示,他們正低調改進未來的模型。
執行長兼創辦人Diogo Almeida說:「我知道大家覺得這是淘金熱,但他們可能低估了讓模型真正變得智慧的難度,」他表示目前還沒看到公司真正出現的競爭。
「目前這批人看起來更像是想實作酷炫架構的機器學習人員,而非一支致力於讓智慧變得有用的團隊。」
