Upload run_rl9.sh with huggingface_hub
Browse files- run_rl9.sh +12 -0
run_rl9.sh
ADDED
|
@@ -0,0 +1,12 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
#!/bin/bash
|
| 2 |
+
cd /root/alea
|
| 3 |
+
exec python3 -u -m alea.rl_env \
|
| 4 |
+
--init runs/sft_v8b/final.pt --out runs/rl_v9 \
|
| 5 |
+
--envs hmm,kelly,newsvendor,bandit,nim,mastermind,blackjack,gridworld,hanoi,sudoku \
|
| 6 |
+
--steps 6000 --eps-per-env 16 --max-batch 20 --k 8 \
|
| 7 |
+
--beta 0.08 --report-w 1.5 --label-smooth 0.08 \
|
| 8 |
+
--sft data/rl_sft_v9.jsonl --sft-w 0.75 --sft-batch 4 \
|
| 9 |
+
--lr 3e-6 --lr-head 1e-5 --lr-aux 2e-5 \
|
| 10 |
+
--train-mode tail --tail-k 8 \
|
| 11 |
+
--use-aux-embed --use-ngram --use-ngram2 --use-ngram3 \
|
| 12 |
+
--attn sdpa --max-len 2048 --save-every 600 --seed 11
|