| cd /root/alea | |
| exec python3 -u -m alea.train \ | |
| --train data/sft_v6.jsonl --out runs/sft_v6 \ | |
| --init-from runs/rl_r8/final.pt \ | |
| --train-mode full --epochs 1 --batch 16 --accum 2 \ | |
| --lr-head 8e-5 --lr-backbone 8e-6 --lr-aux 8e-5 \ | |
| --use-aux-embed --use-ngram --use-ngram2 --use-ngram3 --attn sdpa --max-len 2048 \ | |
| --save-every 1000 --label-smooth 0.08 --seed 6 | |