deepopen-com/deepopen

DeepOpen 是基于laya的一款完全开源的非自回归System 1决策引擎，专为结构化类型决策场景设计。 https://github.com/deepopen-com/deepopen/tree/main/banking77 https://github.com/deepopen-com/deepopen/tree/main/clinc150 它摒弃了传统大模型逐Token生成文本的模式，在单次前向传递中即可完成100+种语言的多维度类型判断，单请求延迟低至33毫秒、批量处理仅7.2毫秒（T4显卡实测），依托严格正确评分规则RLCD完成强化学习训练，通过内置智能路由器自动为每个请求匹配最优检查点，彻底解决了传统大模型在分类、路由、打分场景下速度慢、成本高、易产生幻觉的痛点。 DeepOpen 在两个榜单打榜的初步结果： 模型： Deepopen（改进后的 Laya） 榜单： CLINC150 和 Banking77 本地测试： 对照参考成绩，分别位于第 2 位和第 5 位； DeepOpen 基于三大独立优化的检查点构建，内置的智能路由器可在亚毫秒内完成输入内容的脚本、语言识别，自动调度对应最优模型，无需开发者手动配置切换规则： 快速上手部署流程 直接通过PyPI一键安装最新版本： 通过内置Router入口点，自动完成语言检测和模型调度，预加载所有检查点后即可实现亚毫秒级路由切换： 根据业务场景灵活调整内存策略，避免不必要的显存占用： 内置生产级工作流程预设 DeepOpen 提供了预先调优的开箱即用问题模板，无需从零构建规则即可快速落地核心业务场景： 基准测试与行业对比 基于17416道题的共享基准数据集，DeepOpen与主流决策引擎的实测对比如下： 在高基数标签场景下，TypeSafe Jev在50+选项的任务中表现更优，而DeepOpen可通过调整headmaxlen参数扩展选项支持能力，将选项提示预算提升至512，即可支持70+选项的精准分类，满足绝大多数业务场景需求。 开源资源与生态 DeepOpen 全链路资源完全开放，开发者可快速获取所有资料： 参考资料[1] DeepL + OpenAI integrations - connect and automate | Bardeen.ai - www.bardeen.ai[2] Minutes.ai - Smart Government Innovation LAB - www.smartlab.gov.hk[3] benchmark.ng — Nigeria's AI Decision Engine - benchmark.ng[4] Phrase: AI-Powered Localization & Translation Platform - Phrase官网[5] DeepSeek Open Web UI 安装部署全攻略：从环境配置到可视化交互 - 百度智能云[6] Jev 是什么：前 OpenAI 研究员做的“不说话“模型，只输出带概率的结构化决策-CSDN博客 - CSDN博客[7] 前OpenAI研究员推Jev模型，绕开文本生成直出决策 - m.counselleap.cn[8] MCP服务器 - 开放式深度研究模型协议-MCP服务 - www.mcpworld.com[9] SGLang开源引擎：开源创新与推理革命的融合之路 - 百度智能云[10] GitHub - weibaohui/openDeepWiki: 完全AI驱动的 DeepWiki ,使用 Go + Eino 技术栈开发 · GitHub - GitHub[11] 正面硬刚 OpenAI o1！DeepSeek-R1：开启 AI 自主推理新时代，现已开源！ - 知乎 - 知乎[12]…