| cd /root/alea | |
| exec python3 -u -m alea.train \ | |
| --train data/pilot_open_train.jsonl --out runs/pilot_open_v8b \ | |
| --init-from runs/sft_v8b/final.pt \ | |
| --train-mode full --epochs 1 --batch 16 --accum 2 \ | |
| --lr-head 4e-5 --lr-backbone 3e-6 --lr-aux 3e-5 \ | |
| --use-aux-embed --use-ngram --use-ngram2 --use-ngram3 \ | |
| --attn sdpa --max-len 2048 --save-every 800 \ | |
| --label-smooth 0.08 --seed 42 | |