Update README.md
Browse files
README.md
CHANGED
|
@@ -24,4 +24,11 @@ make -j
|
|
| 24 |
|
| 25 |
```
|
| 26 |
./main -m 'shisa-7b-v1-q4_K_M.gguf' -n 512 -p '[INST] <<sys>> あなたは日本語を英語に直す翻訳者です。 \n<</sys>> ポケモンの中で1番強いのはどのキャラクターですか。最強の者をひとつだけ挙げて下さい。その選択理由を説明してください。[/INST]' --temp 0.5
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 27 |
```
|
|
|
|
| 24 |
|
| 25 |
```
|
| 26 |
./main -m 'shisa-7b-v1-q4_K_M.gguf' -n 512 -p '[INST] <<sys>> あなたは日本語を英語に直す翻訳者です。 \n<</sys>> ポケモンの中で1番強いのはどのキャラクターですか。最強の者をひとつだけ挙げて下さい。その選択理由を説明してください。[/INST]' --temp 0.5
|
| 27 |
+
```
|
| 28 |
+
|
| 29 |
+
## 変換スクリプト
|
| 30 |
+
[convert_shisa.py](https://gist.github.com/mmnga/7c315d79a8296657334d5102af0207fa)
|
| 31 |
+
|
| 32 |
+
```bash
|
| 33 |
+
python3 convert_shisa.py <model_dir> --outtype f16 --vocabtype spm
|
| 34 |
```
|