Что думаешь? Оцени!
我在《把离线AI智能体装进口袋里》（The Dawn of Offline AI Agents in Your Pocket）一文中对此进行了详细阐述。但文章中的示例更像是Demo，而非生产解决方案。像 Gemma 3n 这样的模型虽然能够很好地处理函数调用，但它们体积过大：无法集成到应用程序包中，需要单独下载，即使在旗舰机型上推理速度也很慢。在低端设备上，它们根本无法运行。而较小的型号则经常出现故障，难以记住工具。
，详情可参考服务器推荐
Фото: Дмитрий Коротаев / Коммерсантъ，推荐阅读搜狗输入法下载获取更多信息
Implementers shouldn't need to jump through these hoops. When you find yourself needing to relax or bypass spec semantics just to achieve reasonable performance, that's a sign something is wrong with the spec itself. A well-designed streaming API should be efficient by default, not require each runtime to invent its own escape hatches.