Update Dockerfile
Browse files- Dockerfile +2 -2
Dockerfile
CHANGED
|
@@ -30,8 +30,8 @@ CMD ["--server", \
|
|
| 30 |
"--host", "0.0.0.0", \
|
| 31 |
"--port", "7860", \
|
| 32 |
"-t", "2", \
|
| 33 |
-
|
| 34 |
-
|
| 35 |
"-c", "128000", \
|
| 36 |
"--mlock", \
|
| 37 |
"-n", "38912"]
|
|
|
|
| 30 |
"--host", "0.0.0.0", \
|
| 31 |
"--port", "7860", \
|
| 32 |
"-t", "2", \
|
| 33 |
+
"--cache-type-k", "q8_0", \
|
| 34 |
+
"--cache-type-v", "iq4_nl", \
|
| 35 |
"-c", "128000", \
|
| 36 |
"--mlock", \
|
| 37 |
"-n", "38912"]
|