llm/ollama\343\201\247llm-jp-3\343\202\222\345\213\225\343\201\213\343\201\231.md
... ...
@@ -1,7 +1,10 @@
1
-1. `safetensor`形式から`gguf`形式に変換する。
2 1
3
- 参考: <https://note.com/npaka/n/n3e99d2a45a4b>
4 2
3
+1. `safetensor`形式から`gguf`形式に変換する。
4
+
5
+ 参考: <https://note.com/npaka/n/n3e99d2a45a4b>
6
+ 各クローン先は任意の場所でOK。
7
+
5 8
1. Hugging Faceからモデルをクローンする。
6 9
7 10
```
... ...
@@ -31,6 +34,7 @@
31 34
32 35
```
33 36
$ python3 -m venv .venv
37
+ $ source .venv/bin/activate
34 38
```
35 39
36 40
1. 必要なパッケージのインストール
... ...
@@ -42,7 +46,8 @@
42 46
1. モデルをsafetensor形式からgguf形式に変換する。
43 47
44 48
```
45
- $ python3 convert_hf_to_gguf.py ~/llm-jp-3-13b-instruct/ --outfile llm-jp-3-172b-instruct3.gguf
49
+ $ cd $HOME/llama.cpp
50
+ $ python3 convert_hf_to_gguf.py ~/llm-jp-3-13b-instruct/ --outfile llm-jp-3-172b-instruct3.gguf
46 51
```
47 52
48 53