Update app.py

app.py

@@ -2,53 +2,53 @@ import gradio as gr
 import spaces
 import torch
 from transformers import pipeline
-import time
 
 MODEL_ID = "collabora/whisper-large-v2-hindi"
 
-@spaces.GPU(duration=120)
+print("काव्यात्मक सृजन के लिए मॉडल को ग्लोबल मेमोरी में लोड किया जा रहा है...")
+
+# मॉडल को ग्लोबल स्पेस में केवल एक बार लोड कर रहे हैं ताकि बार-बार लोडिंग का समय बचे
+# 'device="cpu"' रखने से यह ऐप स्टार्ट होते समय बिना GPU के सुरक्षित लोड हो जाएगा
+asr_pipe = pipeline(
+    "automatic-speech-recognition",
+    model=MODEL_ID,
+    chunk_length_s=30,
+    device="cpu",          # शुरुआत में CPU पर रहेगा
+    dtype=torch.float16    # पुरानी चेतावनी को दूर करने के लिए 'torch_dtype' की जगह 'dtype'
+)
+
+print("मॉडल सफलतापूर्वक रैम (RAM) में लोड हो चुका है!")
+
+# अब केवल ट्रांसक्रिप्शन की मुख्य प्रक्रिया को GPU सौंपेंगे
+@spaces.GPU(duration=60)
 def transcribe_hindi(audio):
     if audio is None:
         return "कृपया ऑडियो प्रदान करें।", None
     
-    max_retries = 3
-    delay = 5  # शुरुआती डिले ५ सेकंड
-    
-    for attempt in range(max_retries):
-        try:
-            # पाइपलाइन निर्माण का प्रयास
-            asr_pipe = pipeline(
-                "automatic-speech-recognition",
-                model=MODEL_ID,
-                chunk_length_s=30,
-                device="cuda",
-                torch_dtype=torch.float16,
-                batch_size=8
-            )
+    try:
+        # ग्लोबल पाइपलाइन के मॉडल को तुरंत GPU (cuda) पर ट्रांसफर करें
+        asr_pipe.model.to("cuda")
+        
+        # प्रोसेसिंग को तेज़ बनाने के लिए बैचिंग (अंदरूनी तौर पर)
+        result = asr_pipe(audio, batch_size=8, generate_kwargs={"language": "hindi"})
+        text_output = result["text"].strip()
+        
+        # काम पूरा होते ही मॉडल को वापस CPU पर भेजें ताकि ZeroGPU फ्री हो सके
+        asr_pipe.model.to("cpu")
+        
+        file_path = "transcription.txt"
+        with open(file_path, "w", encoding="utf-8") as f:
+            f.write(text_output)
             
-            # यदि पाइपलाइन सफलतापूर्वक बन गई, तो ट्रांसक्रिप्शन करें
-            result = r = asr_pipe(audio, generate_kwargs={"language": "hindi"})
-            text_output = result["text"].strip()
-            
-            file_path = "transcription.txt"
-            with open(file_path, "w", encoding="utf-8") as f:
-                f.write(text_output)
-                
-            return text_output, file_path
+        return text_output, file_path
 
-        except RuntimeError as e:
-            # यदि एरर NVIDIA ड्राइवर या CUDA से संबंधित है और प्रयास बाकी हैं
-            if ("NVIDIA driver" in str(e) or "CUDA" in str(e)) and (attempt < max_retries - 1):
-                print(f"प्रयास {attempt + 1} विफल। {delay} सेकंड में पुनः प्रयास किया जा रहा है...")
-                time.sleep(delay)
-                delay *= 2  # एक्सपोनेंशियल डिले (५, १०, २० सेकंड)
-                continue
-            else:
-                # यदि सारे प्रयास विफल हो जाएं या कोई और एरर हो
-                if "NVIDIA driver" in str(e) or "CUDA" in str(e):
-                    return "त्रुटि: Hugging Face ZeroGPU पर अत्यधिक लोड है और ३ स्वचालित प्रयासों के बाद भी ड्राइवर कनेक्ट नहीं हो सका। कृपया कुछ समय पश्चात प्रयास करें।", None
-                else:
-                    return f"एक अप्रत्याशित त्रुटि आई: {str(e)}", None
+    except Exception as e:
+        # किसी भी स्थिति में मॉडल को सेफ स्टेट (CPU) पर लाना सुरक्षित रहता है
+        try:
+            asr_pipe.model.to("cpu")
+        except:
+            pass
+        return f"प्रक्रिया में कुछ व्यवधान आया: {str(e)}। कृपया पुनः प्रयास करें।", None
 
 custom_css = """
 footer {visibility: hidden}