Spaces:
Runtime error
Runtime error
Commit ·
3f1aa29
1
Parent(s): 6136947
update model, remove comment
Browse files
app.py
CHANGED
|
@@ -9,7 +9,7 @@ from preprocessing import preprocess_pipeline
|
|
| 9 |
|
| 10 |
vistral_path = hf_hub_download(
|
| 11 |
repo_id="nguyen1207/Vistral-7B-MT-GGUF",
|
| 12 |
-
filename="
|
| 13 |
resume_download=True,
|
| 14 |
cache_dir="models",
|
| 15 |
)
|
|
@@ -83,15 +83,6 @@ if user_input := st.chat_input(
|
|
| 83 |
st.markdown(user_input)
|
| 84 |
|
| 85 |
with st.chat_message("assistant"):
|
| 86 |
-
# stream = client.chat.completions.create(
|
| 87 |
-
# model=st.session_state["openai_model"],
|
| 88 |
-
# messages=[
|
| 89 |
-
# {"role": m["role"], "content": m["content"]}
|
| 90 |
-
# for m in st.session_state.messages
|
| 91 |
-
# ],
|
| 92 |
-
# stream=True,
|
| 93 |
-
# )
|
| 94 |
-
|
| 95 |
prompt_template = """<s> [INST] Dịch câu sau từ tiếng Việt sang tiếng Anh:
|
| 96 |
|
| 97 |
Tiếng Việt: {} [/INST] """
|
|
|
|
| 9 |
|
| 10 |
vistral_path = hf_hub_download(
|
| 11 |
repo_id="nguyen1207/Vistral-7B-MT-GGUF",
|
| 12 |
+
filename="unsloth.Q4_K_M.gguf",
|
| 13 |
resume_download=True,
|
| 14 |
cache_dir="models",
|
| 15 |
)
|
|
|
|
| 83 |
st.markdown(user_input)
|
| 84 |
|
| 85 |
with st.chat_message("assistant"):
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 86 |
prompt_template = """<s> [INST] Dịch câu sau từ tiếng Việt sang tiếng Anh:
|
| 87 |
|
| 88 |
Tiếng Việt: {} [/INST] """
|