Update app.py

app.py

@@ -24,8 +24,6 @@ os.environ["GRADIO_SSR_MODE"] = "False"
 os.environ["GRADIO_ANALYTICS_ENABLED"] = "False"
 
 # 3. IMPORTAÇÕES
-import threading
-import uvicorn
 import time
 import traceback
 import json
@@ -36,12 +34,9 @@ from fastapi.middleware.cors import CORSMiddleware
 from fastapi.responses import StreamingResponse
 from pydantic import BaseModel
 from typing import List, Optional
-from pyngrok import ngrok
 from huggingface_hub import hf_hub_download
 import spaces
 
-NGROK_TOKEN = os.getenv("NGROK_TOKEN")
-
 MODEL_REGISTRY = {
     "blazertiny-1b": {"repo_id": "Davizig10jojo/BlazerTiny-1b-GGUF", "filename": "blazertiny-1b-Q6_K.gguf", "min_size_mb": 200},
     "blazerrhino-3b": {"repo_id": "Davizig10jojo/BlazerRhino-3B-GGUF", "filename": "BlazerRhino-3B-Instruct.Q4_K_M.gguf", "min_size_mb": 1000},
@@ -62,6 +57,7 @@ for key, meta in MODEL_REGISTRY.items():
     except Exception as e:
         print(f"⚠️ Erro ao baixar {key}: {e}")
 
+# Instanciamos o FastAPI normalmente
 api_app = FastAPI(title="Blazer GPU Engine")
 api_app.add_middleware(CORSMiddleware, allow_origins=["*"], allow_credentials=True, allow_methods=["*"], allow_headers=["*"])
 
@@ -85,7 +81,6 @@ def check_hf():
 def stream_generator(model_id: str, prompt_formatado: str, max_tokens: int, temperature: float):
     from llama_cpp import Llama
     
-    # Fallback inteligente: se o modelo falhar ou não existir, usa o Tiny-1b que é mais estável
     if model_id not in MODEL_PATHS:
         model_id = "blazertiny-1b"
     
@@ -102,7 +97,6 @@ def stream_generator(model_id: str, prompt_formatado: str, max_tokens: int, temp
             use_mmap=True
         )
         
-        # Stops agressivos para evitar alucinação e vazamento de pensamento
         stop_sequences = ["<|im_end|>", "</think>", "User:", "Assistant:", "I'm sorry", "I cannot"]
         
         response_stream = llm(
@@ -110,7 +104,7 @@ def stream_generator(model_id: str, prompt_formatado: str, max_tokens: int, temp
             max_tokens=max_tokens,
             temperature=temperature,
             top_p=0.95,
-            repeat_penalty=1.15, # Penaliza repetições
+            repeat_penalty=1.15,
             stop=stop_sequences,
             echo=False,
             stream=True
@@ -146,9 +140,7 @@ def stream_generator(model_id: str, prompt_formatado: str, max_tokens: int, temp
 @api_app.post("/v1/chat/completions")
 async def chat_completions(request: ChatCompletionRequest):
     try:
-        # SYSTEM PROMPT BLINDADO: Força o português e proíbe recusas
         system_prompt = "Você é o Blazer, um assistente prestativo. Responda SEMPRE em português brasileiro de forma direta, curta e natural. NUNCA diga que não entende ou peça mais informações. Apenas responda ao cumprimento ou pergunta."
-        
         prompt_formatado = f"<|im_start|>system\n{system_prompt}<|im_end|>\n"
         
         for msg in request.messages:
@@ -174,33 +166,22 @@ async def chat_completions(request: ChatCompletionRequest):
 async def listar_modelos():
     return {"object": "list", "data": [{"id": k, "object": "model", "created": 1677652288, "owned_by": "user"} for k in MODEL_PATHS.keys()]}
 
-def run_fastapi():
-    uvicorn.run(api_app, host="127.0.0.1", port=8000, log_level="warning")
-
-def iniciar_ngrok():
-    if not NGROK_TOKEN: 
-        print("⚠️ NGROK_TOKEN ausente.")
-        return
-    time.sleep(15)
-    ngrok.set_auth_token(NGROK_TOKEN)
-    for tentativa in range(5):
-        try:
-            ngrok.kill()
-            time.sleep(3)
-            public_url = ngrok.connect(8000, proto="http", bind_tls=True)
-            print(f"\n🔗 URL POCKETPAL: {public_url.public_url}\n")
-            return
-        except Exception as e:
-            time.sleep(10)
-
+# Criamos a interface Gradio
 with gr.Blocks() as demo:
     gr.Markdown("# 🦏 Blazer API Hub [ZeroGPU Otimizado]")
+    gr.Markdown("As rotas OpenAI-compatible estão disponíveis diretamente na URL deste Space.")
+
+# O SEGREDO ESTÁ AQUI: Montamos o Gradio dentro do FastAPI app
+# O caminho '/' servirá a interface do Gradio, liberando os outros endpoints
+app = gr.mount_gradio_app(api_app, demo, path="/")
 
 if __name__ == "__main__":
     try: 
         check_hf()
     except: 
         pass
-    threading.Thread(target=run_fastapi, daemon=True).start()
-    threading.Thread(target=iniciar_ngrok, daemon=True).start()
-    demo.launch(server_name="0.0.0.0", server_port=7860)
+    
+    # IMPORTANTE: No Hugging Face, iniciamos o arquivo executando o objeto 'app' do FastAPI modificado via uvicorn
+    # Como o Hugging Face roda o arquivo direto, usamos a chamada padrão
+    import uvicorn
+    uvicorn.run(app, host="0.0.0.0", port=7860)