2026/09/22 19:01:08 · 林立興

jev 和開源 laya 都是決策模型
大膽預測 ... laya 會被偷偷放進去大模型
然後大模型的 /effort, /model 會多個 auto 選項

模型不會說明 auto 怎麼做到的
我估計就是用 laya 這類的決策模型

auto 之後
整體 token 消耗減少
kv cache 的依賴也減少

有機會 RTX 6000 單卡就能跑得又快又順
再來就是 ai gateway 也內建了
本地端跑不動自動調用雲端大模型

$20 訂閱戶用起來像 $100 訂閱戶
😎😎😎

林立興記 · 統一編號 93451795 · https://opencart.cc