ngocdang83 commited on
Commit
e419228
·
verified ·
1 Parent(s): d289e1e

Warmup trong load() (mọi môi trường) — lần dịch đầu nhanh + đo sạch

Browse files
Files changed (1) hide show
  1. src/translator.py +9 -0
src/translator.py CHANGED
@@ -455,6 +455,15 @@ class HachimiTranslator:
455
 
456
  self._model_key = model_key
457
  self._backend = backend
 
 
 
 
 
 
 
 
 
458
  return self._status_message(model_key, backend, cached=False)
459
 
460
  def _status_message(
 
455
 
456
  self._model_key = model_key
457
  self._backend = backend
458
+
459
+ # Warmup: dịch 1 câu để CT2/torch cấp phát buffer + nạp kernel. Cold-run
460
+ # đầu rất chậm nếu không warmup → lần dịch đầu của user nhanh ngay + số đo
461
+ # thời gian sạch (không gánh chi phí khởi tạo). Best-effort, không fatal.
462
+ try:
463
+ self.translate_chunk("你好。", beam_size=1)
464
+ except Exception: # noqa: BLE001 — warmup hỏng không được chặn load
465
+ pass
466
+
467
  return self._status_message(model_key, backend, cached=False)
468
 
469
  def _status_message(