mmnga
/

cyberagent-open-calm-7b-gguf

Inference Endpoints

Model card Files Files and versions Community

mmnga commited on Sep 7, 2023

Commit

e96ce8c

•

1 Parent(s): 4df02d2

Update README.md

Files changed (1) hide show

README.md +1 -1

README.md CHANGED Viewed

@@ -27,5 +27,5 @@ make -j
 **CUBLAS**
 ```
 LLAMA_CUBLAS=1 make -j
-./main -m 'cyberagent-open-calm-7b-q4_0.gguf' -n 128 -t 8 -p '吾輩は猫である。名前は実を言うと、'
 ```

 **CUBLAS**
 ```
 LLAMA_CUBLAS=1 make -j
+./main -m 'cyberagent-open-calm-7b-q4_0.gguf' -n 128 -p '吾輩は猫である。名前は実を言うと、' -ngl 40
 ```