--- library_name: transformers license: apache-2.0 base_model: Qwen/Qwen3.5-9B base_model_relation: finetune pipeline_tag: text-generation language: - en - zh tags: - apus-openjev - decision-model - structured-output - bf16 --- # APUS-OpenJev-v1-9B [English](README.md) | [中文](README.zh-CN.md) · [Collection](https://huggingface.co/collections/apus-ailab/apus-openjev-v1-6ab1ee888eb002fcdd3a2825) · [Model family](https://huggingface.co/apus-ailab/APUS-OpenJev-v1) · [Technical Report](https://huggingface.co/apus-ailab/APUS-OpenJev-v1/blob/main/TECHNICAL_REPORT.md) · [Runtime](RUNTIME.md) 基于 Qwen3.5 的通用决策模型,面向浏览器动作选择、业务流程路由与基于自然语言原则的判断。本仓库提供 **9B checkpoint-3000 合并 BF16 权重**,可独立下载,无需另外加载 LoRA。 ## 技术特点 - 在当前请求提供的动态候选中打分与选择,返回完整候选分布。 - 配套原生运行时支持 `effort=low`(16层)与 `effort=high`(32层);文本生成使用 high。 - 共享 Qwen 语言表示与词表投影;上层程序可将决策结果组装为结构化业务输出。 ## 快速使用 ```bash python -m pip install huggingface_hub hf download apus-ailab/APUS-OpenJev-v1-9B --local-dir ./APUS-OpenJev-v1-9B cd APUS-OpenJev-v1-9B python -m pip install -r requirements.txt python examples.py . --device cuda:0 --effort high ``` ## 评测与训练 本仓库的合并模型在 [Frozen80 开发面板](https://huggingface.co/datasets/apus-ailab/APUS-OpenJev-Eval-Frozen80)完整深度得分为 **68/80 (85.00%)**,覆盖 Browser、HelpSteer3、BoolQ、MNLI 和属性判断。详细结果见 [merged-evaluation.json](merged-evaluation.json),训练与数据来源见 [training.md](training.md)。该面板用于工程回归,不能视为独立盲测或完整浏览器任务成功率。 候选分布是相对分数,未经校准不能当作正确率。合并为 BF16 后部分概率会变化,证据与限制见 [运行时指南](RUNTIME.md)。系列 9B 选择 checkpoint-3000,对应 85% 的开发面板成绩;checkpoint-5949 另保留在原系列库。 ## 系列与下载 4B、9B、35B-A3B 按独立模型仓库发布,由 Collection 统一导航。每库公开下载数由 Hugging Face 统计;原系列仓库及旧路径保留。35B-A3B 的正式整模以独立验证和实际发布状态为准。 ## GGUF 与 MLX 版本 本模型(Frozen80 68/80)的量化版本,适用于 Ollama / llama.cpp / LM Studio 以及 Apple Silicon Mac:[GGUF Collection](https://huggingface.co/collections/apus-ailab/apus-openjev-v1-gguf-6ab39d5e724c4d8a1021198f) · [MLX Collection](https://huggingface.co/collections/apus-ailab/apus-openjev-v1-mlx-6ab39d5fc988a1b1cb89dfc8)。 | 版本 | Frozen80 | 与 BF16 决策一致 | |---|---:|---:| | [GGUF Q8_0](https://huggingface.co/apus-ailab/APUS-OpenJev-v1-9B-GGUF) | 68/80 | 80/80 | | [GGUF Q4_K_M](https://huggingface.co/apus-ailab/APUS-OpenJev-v1-9B-GGUF) | 68/80 | 78/80 | | [MLX 8bit](https://huggingface.co/apus-ailab/APUS-OpenJev-v1-9B-MLX-8bit) | 69/80 | 79/80 | | [MLX 4bit](https://huggingface.co/apus-ailab/APUS-OpenJev-v1-9B-MLX-4bit) | 68/80 | 75/80 | ```bash ollama run hf.co/apus-ailab/APUS-OpenJev-v1-9B-GGUF:Q8_0 --think=false ``` Ollama 必须关闭 thinking(`--think=false` 或 API 中 `"think": false`)。各版本的逐题评测和使用说明见对应仓库。 ## 许可与致谢 感谢 [Qwen/Qwen3.5-9B](https://huggingface.co/Qwen/Qwen3.5-9B)。权重及配套代码许可见 [LICENSE](LICENSE) 与 [来源说明](provenance/)。文件身份及上游固定版本见 [release-manifest.json](release-manifest.json)。 **Authors:** gumpcheng ([xDAN2099](https://huggingface.co/xDAN2099)), zhangxu, [APUS AI-LAB](https://github.com/APUS-AI-Lab).