Spaces:
Running
Running
Warmup trong load() (mọi môi trường) — lần dịch đầu nhanh + đo sạch
Browse files- src/translator.py +9 -0
src/translator.py
CHANGED
|
@@ -455,6 +455,15 @@ class HachimiTranslator:
|
|
| 455 |
|
| 456 |
self._model_key = model_key
|
| 457 |
self._backend = backend
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 458 |
return self._status_message(model_key, backend, cached=False)
|
| 459 |
|
| 460 |
def _status_message(
|
|
|
|
| 455 |
|
| 456 |
self._model_key = model_key
|
| 457 |
self._backend = backend
|
| 458 |
+
|
| 459 |
+
# Warmup: dịch 1 câu để CT2/torch cấp phát buffer + nạp kernel. Cold-run
|
| 460 |
+
# đầu rất chậm nếu không warmup → lần dịch đầu của user nhanh ngay + số đo
|
| 461 |
+
# thời gian sạch (không gánh chi phí khởi tạo). Best-effort, không fatal.
|
| 462 |
+
try:
|
| 463 |
+
self.translate_chunk("你好。", beam_size=1)
|
| 464 |
+
except Exception: # noqa: BLE001 — warmup hỏng không được chặn load
|
| 465 |
+
pass
|
| 466 |
+
|
| 467 |
return self._status_message(model_key, backend, cached=False)
|
| 468 |
|
| 469 |
def _status_message(
|