README.zh-CN.md

---
library_name: transformers
license: apache-2.0
base_model: Qwen/Qwen3.5-9B
base_model_relation: finetune
pipeline_tag: text-generation
language:
- en
- zh
tags:
- apus-openjev
- decision-model
- structured-output
- bf16
---
# APUS-OpenJev-v1-9B

[English](README.md) | [中文](README.zh-CN.md) · [Collection](https://huggingface.co/collections/apus-ailab/apus-openjev-v1-6ab1ee888eb002fcdd3a2825) · [Model family](https://huggingface.co/apus-ailab/APUS-OpenJev-v1) · [Technical Report](https://huggingface.co/apus-ailab/APUS-OpenJev-v1/blob/main/TECHNICAL_REPORT.md) · [Runtime](RUNTIME.md)

基于 Qwen3.5 的通用决策模型，面向浏览器动作选择、业务流程路由与基于自然语言原则的判断。本仓库提供 **9B checkpoint-3000 合并 BF16 权重**，可独立下载，无需另外加载 LoRA。

## 技术特点

- 在当前请求提供的动态候选中打分与选择，返回完整候选分布。
- 配套原生运行时支持 `effort=low`（16层）与 `effort=high`（32层）；文本生成使用 high。
- 共享 Qwen 语言表示与词表投影；上层程序可将决策结果组装为结构化业务输出。

## 快速使用

```bash
python -m pip install huggingface_hub
hf download apus-ailab/APUS-OpenJev-v1-9B --local-dir ./APUS-OpenJev-v1-9B
cd APUS-OpenJev-v1-9B
python -m pip install -r requirements.txt
python examples.py . --device cuda:0 --effort high
```

## 评测与训练

本仓库的合并模型在 [Frozen80 开发面板](https://huggingface.co/datasets/apus-ailab/APUS-OpenJev-Eval-Frozen80)完整深度得分为 **68/80 (85.00%)**，覆盖 Browser、HelpSteer3、BoolQ、MNLI 和属性判断。详细结果见 [merged-evaluation.json](merged-evaluation.json)，训练与数据来源见 [training.md](training.md)。该面板用于工程回归，不能视为独立盲测或完整浏览器任务成功率。

候选分布是相对分数，未经校准不能当作正确率。合并为 BF16 后部分概率会变化，证据与限制见 [运行时指南](RUNTIME.md)。系列 9B 选择 checkpoint-3000，对应 85% 的开发面板成绩；checkpoint-5949 另保留在原系列库。

## 系列与下载

4B、9B、35B-A3B 按独立模型仓库发布，由 Collection 统一导航。每库公开下载数由 Hugging Face 统计；原系列仓库及旧路径保留。35B-A3B 的正式整模以独立验证和实际发布状态为准。

<!-- OPENJEV-QUANT:START -->
## GGUF 与 MLX 版本

本模型（Frozen80 68/80）的量化版本，适用于 Ollama / llama.cpp / LM Studio 以及 Apple Silicon Mac：[GGUF Collection](https://huggingface.co/collections/apus-ailab/apus-openjev-v1-gguf-6ab39d5e724c4d8a1021198f) · [MLX Collection](https://huggingface.co/collections/apus-ailab/apus-openjev-v1-mlx-6ab39d5fc988a1b1cb89dfc8)。

| 版本 | Frozen80 | 与 BF16 决策一致 |
|---|---:|---:|
| [GGUF Q8_0](https://huggingface.co/apus-ailab/APUS-OpenJev-v1-9B-GGUF) | 68/80 | 80/80 |
| [GGUF Q4_K_M](https://huggingface.co/apus-ailab/APUS-OpenJev-v1-9B-GGUF) | 68/80 | 78/80 |
| [MLX 8bit](https://huggingface.co/apus-ailab/APUS-OpenJev-v1-9B-MLX-8bit) | 69/80 | 79/80 |
| [MLX 4bit](https://huggingface.co/apus-ailab/APUS-OpenJev-v1-9B-MLX-4bit) | 68/80 | 75/80 |

```bash
ollama run hf.co/apus-ailab/APUS-OpenJev-v1-9B-GGUF:Q8_0 --think=false
```

Ollama 必须关闭 thinking（`--think=false` 或 API 中 `"think": false`）。各版本的逐题评测和使用说明见对应仓库。
<!-- OPENJEV-QUANT:END -->

## 许可与致谢

感谢 [Qwen/Qwen3.5-9B](https://huggingface.co/Qwen/Qwen3.5-9B)。权重及配套代码许可见 [LICENSE](LICENSE) 与 [来源说明](provenance/)。文件身份及上游固定版本见 [release-manifest.json](release-manifest.json)。

**Authors:** gumpcheng ([xDAN2099](https://huggingface.co/xDAN2099)), zhangxu, [APUS AI-LAB](https://github.com/APUS-AI-Lab).