Instructions to use tokimoa/jp-gijiroku-qwen3-4b with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- MLX
How to use tokimoa/jp-gijiroku-qwen3-4b with MLX:
# Make sure mlx-lm is installed # pip install --upgrade mlx-lm # Generate text with mlx-lm from mlx_lm import load, generate model, tokenizer = load("tokimoa/jp-gijiroku-qwen3-4b") prompt = "Write a story about Einstein" messages = [{"role": "user", "content": prompt}] prompt = tokenizer.apply_chat_template( messages, add_generation_prompt=True ) text = generate(model, tokenizer, prompt=prompt, verbose=True) - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- LM Studio
- Pi
How to use tokimoa/jp-gijiroku-qwen3-4b with Pi:
Start the MLX server
# Install MLX LM: uv tool install mlx-lm # Start a local OpenAI-compatible server: mlx_lm.server --model "tokimoa/jp-gijiroku-qwen3-4b"
Configure the model in Pi
# Install Pi: npm install -g @earendil-works/pi-coding-agent # Add to ~/.pi/agent/models.json: { "providers": { "mlx-lm": { "baseUrl": "http://localhost:8080/v1", "api": "openai-completions", "apiKey": "none", "models": [ { "id": "tokimoa/jp-gijiroku-qwen3-4b" } ] } } }Run Pi
# Start Pi in your project directory: pi
- MLX LM
How to use tokimoa/jp-gijiroku-qwen3-4b with MLX LM:
Generate or start a chat session
# Install MLX LM uv tool install mlx-lm # Interactive chat REPL mlx_lm.chat --model "tokimoa/jp-gijiroku-qwen3-4b"
Run an OpenAI-compatible server
# Install MLX LM uv tool install mlx-lm # Start the server mlx_lm.server --model "tokimoa/jp-gijiroku-qwen3-4b" # Calling the OpenAI-compatible server with curl curl -X POST "http://localhost:8000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "tokimoa/jp-gijiroku-qwen3-4b", "messages": [ {"role": "user", "content": "Hello"} ] }' - Hermes Agent
How to use tokimoa/jp-gijiroku-qwen3-4b with Hermes Agent:
Start the MLX server
# Install MLX LM: uv tool install mlx-lm # Start a local OpenAI-compatible server: mlx_lm.server --model "tokimoa/jp-gijiroku-qwen3-4b"
Configure Hermes
# Install Hermes: curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash hermes setup # Point Hermes at the local server: hermes config set model.provider custom hermes config set model.base_url http://127.0.0.1:8080/v1 hermes config set model.default tokimoa/jp-gijiroku-qwen3-4b
Run Hermes
hermes
- Atomic Chat
- OpenClaw
How to use tokimoa/jp-gijiroku-qwen3-4b with OpenClaw:
Start the MLX server
# Install MLX LM: uv tool install mlx-lm # Start a local OpenAI-compatible server: mlx_lm.server --model "tokimoa/jp-gijiroku-qwen3-4b"
Configure OpenClaw
# Install OpenClaw: npm install -g openclaw@latest # Register the local server and set it as the default model: openclaw onboard --non-interactive --mode local \ --auth-choice custom-api-key \ --custom-base-url http://127.0.0.1:8080/v1 \ --custom-model-id "tokimoa/jp-gijiroku-qwen3-4b" \ --custom-provider-id mlx-lm \ --custom-compatibility openai \ --custom-text-input \ --accept-risk \ --skip-health
Run OpenClaw
openclaw agent --local --agent main --message "Hello from Hugging Face"
Configure OpenClaw
# Install OpenClaw:
npm install -g openclaw@latest# Register the local server and set it as the default model:
openclaw onboard --non-interactive --mode local \
--auth-choice custom-api-key \
--custom-base-url http://127.0.0.1:8080/v1 \
--custom-model-id "tokimoa/jp-gijiroku-qwen3-4b" \
--custom-provider-id mlx-lm \
--custom-compatibility openai \
--custom-text-input \
--accept-risk \
--skip-healthRun OpenClaw
openclaw agent --local --agent main --message "Hello from Hugging Face"jp-gijiroku-qwen3-4b
後継版があります: 実際の60分Zoom会議で見つけた弱点(日付捏造・完了報告の決定混入・期限誤借用・話者ラベル転写・報告内コミット宿題)を標的に継続学習した jp-gijiroku-qwen3-4b-v2 を公開しました。新規利用はv2を推奨します。
日本語の会議記録から出席者・決定事項・宿題(担当/期限)・次回予定を構造化JSONで抽出する4Bモデルです。音声文字起こし由来の崩れた入力(フィラー・句読点欠落・話者ラベル喪失・同音誤変換)に強いことを狙って、DeepSeek-V4-Flashの検証済み解答軌跡で蒸留しました。判断過程を書いてから最終行にJSONを出力します。
整った議事メモの抽出には、より小さく高速な jp-minutes-extractor-1.7b で十分です。本モデルは「録音→文字起こし→抽出」パイプラインの品質枠という位置づけです。GGUF版は jp-gijiroku-qwen3-4b-GGUF、Ollamaは ollama run tokimoa/jp-gijiroku-4b で使えます。
実測(ASR劣化転写の検証セット20件・4項目すべて正解の率)
| 指標 | 1.7B(公開中) | 本モデル |
|---|---|---|
| 全項目正解 | 12/20 | 16/20 |
| 出席者 | 16/20 | 19/20 |
| 宿題(担当・期限) | 16/20 | 19/20 |
| 決定事項の事実網羅(手書きカナリアASR版) | 66.7% | 83.3% |
| 整った入力の合成val(参考) | 39/50 | 38/50 |
崩れた転写では明確に上、整った入力では1.7Bと同等(速度は1.7Bが上)です。検証セットは学習と分離しています。
何をしたか
会議をプログラムで合成(正解が構成上既知・40%にwhisper風のASR劣化を注入)し、DeepSeek-V4-Flashに判断過程つきで解かせ、全フィールドが正解と機械照合できた軌跡1,584本のみを学習データにしました(採用率63.4%)。話者ラベルが消えた転写から「誰の宿題か」を推理する能力が、判断過程の学習で伸びています。
使い方
from mlx_lm import load, generate
repo = "tokimoa/jp-gijiroku-qwen3-4b"
model, tokenizer = load(repo, adapter_path=repo) # アダプタ同梱
q = """次の議事録から出席者・決定事項・宿題(担当と期限)・次回予定を抽出してJSONで出力してください。
(ここに文字起こしテキストや議事メモ)"""
prompt = tokenizer.apply_chat_template(
[{"role": "user", "content": q}], add_generation_prompt=True, tokenize=False)
out = generate(model, tokenizer, prompt, max_tokens=1000)
# 判断過程のあと最終行にJSONが出る → 最終行をパースする
print(out.strip().split("\n")[-1])
本文に日付が含まれない場合、dateフィールドは不定です(学習データは常に日付を含むため)。
プロンプトは上記の定型文をそのまま使ってください(学習分布の形式です)。出力スキーマ: {"date", "attendees", "decisions", "todos": [{"task","owner","due"}], "next_meeting"}
データと帰属
- 学習データ: 合成会議(正解既知・ASR劣化込み)に対する DeepSeek-V4-Flash の検証済み解答軌跡(DeepSeek Open Platform利用規約は蒸留を明示的に許可)
- ベース: Qwen/Qwen3-4B-Instruct-2507(Apache-2.0)の4bit MLX量子化(mlx-community)
Developed by tokimoa — データを外に出さないAI活用を支援しています
- Downloads last month
- 445
4-bit
Model tree for tokimoa/jp-gijiroku-qwen3-4b
Base model
Qwen/Qwen3-4B-Instruct-2507
Start the MLX server
# Install MLX LM: uv tool install mlx-lm# Start a local OpenAI-compatible server: mlx_lm.server --model "tokimoa/jp-gijiroku-qwen3-4b"