run_sft7.sh

#!/bin/bash
cd /root/alea
exec python3 -u -m alea.train \
  --train data/sft_v7.jsonl --out runs/sft_v7 \
  --init-from runs/sft_v6/final.pt \
  --train-mode full --epochs 1 --batch 16 --accum 2 \
  --lr-head 6e-5 --lr-backbone 6e-6 --lr-aux 6e-5 \
  --use-aux-embed --use-ngram --use-ngram2 --use-ngram3 --attn sdpa --max-len 2048 \
  --save-every 800 --label-smooth 0.08 --seed 7