Add adjustable cfg_value / inference_timesteps sliders (shared across tabs, defaults = model-card recommendation)

README.md

@@ -40,9 +40,11 @@ CER＝合成語音用 ASR 轉寫回文字後，與原文不一致的字元比例
 
 ## 參數說明
 
+兩個生成參數可在頁面上方的「⚙️ 生成參數」區調整（三個分頁共用），預設為模型卡建議值：
+
 | 參數 | 說明 |
 |---|---|
-| `cfg_value` | 引導強度，數值越大越貼合條件、但可能較不自然（模型卡建議 2.0） |
-| `inference_timesteps` | 取樣步數，越多通常品質越好、速度越慢（模型卡建議 10） |
+| `cfg_value` | 引導強度，數值越大越貼合條件、但可能較不自然（預設 2.0，可調 1.0–4.0） |
+| `inference_timesteps` | 取樣步數，越多通常品質越好、速度越慢（預設 10，可調 4–20） |
 
 > 合成的語音僅供研究與評估展示用途，正式使用前請人工檢視。授權：Apache-2.0。

app.py

@@ -91,6 +91,20 @@ except Exception as e:  # 任何讀取/解析問題都退回安全的建議值
 
 print(f"[BlueMagpie] checkpoint={CHECKPOINT}, generation params: {GEN_KWARGS}")
 
+# 介面上可調整的兩個生成參數；預設即官方建議值。
+DEFAULT_CFG = float(GEN_KWARGS.get("cfg_value", 2.0))
+DEFAULT_STEPS = int(GEN_KWARGS.get("inference_timesteps", 10))
+
+
+def _gen_kwargs(cfg_value=None, inference_timesteps=None):
+    """以官方建議參數為底，套用使用者在介面上調整的 cfg / 取樣步數。"""
+    kw = dict(GEN_KWARGS)
+    if cfg_value is not None:
+        kw["cfg_value"] = float(cfg_value)
+    if inference_timesteps is not None:
+        kw["inference_timesteps"] = int(inference_timesteps)
+    return kw
+
 # 語者向量：載入多語者表（優先 speaker_centroids.pt），建成「顯示名稱 -> 向量」。
 # 內附的李宏毅向量已取得本人授權；其餘為通用語者向量。
 _DISPLAY = {"hung_yi_lee": "李宏毅", "female_voice": "女聲"}
@@ -170,25 +184,27 @@ def _split_sentences(text):
 # 推論：三種模式都套用 GEN_KWARGS（官方建議參數）
 # --------------------------------------------------------------------------- #
 @gpu
-def tts_speaker(text, speaker=DEFAULT_SPEAKER):
+def tts_speaker(text, speaker=DEFAULT_SPEAKER, cfg=DEFAULT_CFG, steps=DEFAULT_STEPS):
     text = (text or "").strip()
     if not text:
         raise gr.Error("請先輸入要合成的文字。")
     audio = model.generate(
         target_text=text,
         speaker_centroid=SPEAKERS.get(speaker, SPK_CENTROID),
-        **GEN_KWARGS,
+        **_gen_kwargs(cfg, steps),
     )
     return (SR, _to_numpy(audio))
 
 
 @gpu
-def _clone_gpu(text, ref_path):
-    audio = model.generate(target_text=text, reference_wav_path=ref_path, **GEN_KWARGS)
+def _clone_gpu(text, ref_path, cfg, steps):
+    audio = model.generate(
+        target_text=text, reference_wav_path=ref_path, **_gen_kwargs(cfg, steps)
+    )
     return (SR, _to_numpy(audio))
 
 
-def tts_clone(text, recording):
+def tts_clone(text, recording, cfg=DEFAULT_CFG, steps=DEFAULT_STEPS):
     """聲音複製（免逐字稿）：把參考音檔直接交給模型（reference_wav_path 路徑，
     checkpoint step_0006000 起正式支援）。一段 3 秒以上的乾淨語音即可。"""
     text = (text or "").strip()
@@ -199,11 +215,11 @@ def tts_clone(text, recording):
     dur = _audio_seconds(recording)
     if 0 < dur < 3:
         gr.Warning(f"參考音檔只有約 {dur:.0f} 秒，建議 3 秒以上會更穩定。")
-    return _clone_gpu(text, recording)
+    return _clone_gpu(text, recording, cfg, steps)
 
 
 @gpu
-def tts_stream(text, speaker=DEFAULT_SPEAKER):
+def tts_stream(text, speaker=DEFAULT_SPEAKER, cfg=DEFAULT_CFG, steps=DEFAULT_STEPS):
     """長文逐句串流（指定語者向量）：把長文切成句子，逐句合成、合成一句就播一句。
 
     逐句串流直到接近單次 GPU 時間配額（約 100s）為止，盡量把整段長文串完，而非固定
@@ -219,6 +235,7 @@ def tts_stream(text, speaker=DEFAULT_SPEAKER):
     centroid = SPEAKERS.get(speaker, SPK_CENTROID)
     total = len(sentences)
     sentences = sentences[:_MAX_STREAM_SENTENCES]
+    gen_kw = _gen_kwargs(cfg, steps)
     start = time.time()
     done = 0
     for sent in sentences:
@@ -226,7 +243,7 @@ def tts_stream(text, speaker=DEFAULT_SPEAKER):
         if done and time.time() - start > _GPU_BUDGET_S:
             break
         audio = model.generate(
-            target_text=sent, speaker_centroid=centroid, **GEN_KWARGS
+            target_text=sent, speaker_centroid=centroid, **gen_kw
         )
         yield (SR, _pcm16(_to_numpy(audio)))
         done += 1
@@ -254,10 +271,11 @@ STREAM_EXAMPLES = [
 ]
 
 _PARAMS_NOTE = (
-    f"模型 checkpoint：`{CHECKPOINT}`，已套用官方建議參數："
-    f"`cfg_value={GEN_KWARGS.get('cfg_value')}`、"
-    f"`inference_timesteps={GEN_KWARGS.get('inference_timesteps')}`、"
-    f"`retry_badcase={'on' if GEN_KWARGS.get('retry_badcase') else 'off'}`。"
+    f"模型 checkpoint：`{CHECKPOINT}`，預設套用官方建議參數："
+    f"`cfg_value={DEFAULT_CFG}`、"
+    f"`inference_timesteps={DEFAULT_STEPS}`、"
+    f"`retry_badcase={'on' if GEN_KWARGS.get('retry_badcase') else 'off'}`；"
+    f"可展開下方「⚙️ 生成參數」自行調整。"
 )
 
 HEADER = f"""
@@ -274,6 +292,19 @@ HEADER = f"""
 with gr.Blocks(title="BlueMagpie-TTS Demo", theme=gr.themes.Soft()) as demo:
     gr.Markdown(HEADER)
 
+    with gr.Accordion("⚙️ 生成參數（預設為官方建議值，三個分頁共用）", open=False):
+        with gr.Row():
+            g_cfg = gr.Slider(
+                1.0, 4.0, value=DEFAULT_CFG, step=0.1,
+                label="cfg_value（引導強度）",
+                info="越大越貼合語者條件、但可能較不自然（建議 2.0）",
+            )
+            g_steps = gr.Slider(
+                4, 20, value=DEFAULT_STEPS, step=1,
+                label="inference_timesteps（取樣步數）",
+                info="���多通常品質越好、速度越慢（建議 10）",
+            )
+
     with gr.Tab("指定語者"):
         gr.Markdown(
             "用模型內附的**語者向量**控制音色。**李宏毅**老師的向量已取得本人授權；"
@@ -292,7 +323,7 @@ with gr.Blocks(title="BlueMagpie-TTS Demo", theme=gr.themes.Soft()) as demo:
             with gr.Column():
                 s_out = gr.Audio(label="合成結果", type="numpy")
         gr.Examples(EXAMPLE_TEXTS, inputs=s_text, label="範例文字")
-        s_btn.click(tts_speaker, [s_text, s_spk], s_out)
+        s_btn.click(tts_speaker, [s_text, s_spk, g_cfg, g_steps], s_out)
 
     with gr.Tab("聲音複製"):
         gr.Markdown(
@@ -313,13 +344,13 @@ with gr.Blocks(title="BlueMagpie-TTS Demo", theme=gr.themes.Soft()) as demo:
                 c_btn = gr.Button("複製音色合成", variant="primary")
             with gr.Column():
                 c_out = gr.Audio(label="合成結果", type="numpy")
-        c_btn.click(tts_clone, [c_text, c_rec], c_out)
+        c_btn.click(tts_clone, [c_text, c_rec, g_cfg, g_steps], c_out)
 
     with gr.Tab("長文逐句串流"):
         gr.Markdown(
             "**長文逐句串流**：把長文切成句子，合成一句就播一句，做出串流（邊聽邊等）效果。"
             "第一句很快就能聽到，後面邊播邊合成。用**所選語者向量**。\n\n"
-            "> ZeroGPU 約 0.44x 即時，句與句之間可能有短暫間隔；每句都套用建議參數（含自動重試）。"
+            "> ZeroGPU 約 0.44x 即時，句與句之間可能有短暫間隔；每句都套用所選的生成參數（含自動重試）。"
             "單次串流以 ZeroGPU 時間配額為限（約可串數十句），超長會自動截斷並提示分批。"
         )
         with gr.Row():
@@ -335,7 +366,7 @@ with gr.Blocks(title="BlueMagpie-TTS Demo", theme=gr.themes.Soft()) as demo:
             with gr.Column():
                 t_out = gr.Audio(label="逐句串流播放", streaming=True, autoplay=True)
         gr.Examples(STREAM_EXAMPLES, inputs=t_text, label="長文範例")
-        t_btn.click(tts_stream, [t_text, t_spk], t_out)
+        t_btn.click(tts_stream, [t_text, t_spk, g_cfg, g_steps], t_out)
 
     gr.Markdown(
         "---\n"