| cd /root/alea | |
| exec python3 -u -m alea.rl_env \ | |
| --init runs/sft_v8b/final.pt --out runs/rl_v9 \ | |
| --envs hmm,kelly,newsvendor,bandit,nim,mastermind,blackjack,gridworld,hanoi,sudoku \ | |
| --steps 6000 --eps-per-env 16 --max-batch 20 --k 8 \ | |
| --beta 0.08 --report-w 1.5 --label-smooth 0.08 \ | |
| --sft data/rl_sft_v9.jsonl --sft-w 0.75 --sft-batch 4 \ | |
| --lr 3e-6 --lr-head 1e-5 --lr-aux 2e-5 \ | |
| --train-mode tail --tail-k 8 \ | |
| --use-aux-embed --use-ngram --use-ngram2 --use-ngram3 \ | |
| --attn sdpa --max-len 2048 --save-every 600 --seed 11 | |