1dd58ca180e336ef84c50ca4c3b37ee389c069ac
llm/OpenAI\343\201\256LLM\343\202\222\345\256\211\344\276\241\343\201\253\344\275\277\343\201\206\346\226\271\346\263\225.md
... | ... | @@ -0,0 +1,38 @@ |
1 | +- OpenAIのLLMはAPIで提供されている。 |
|
2 | +- 実はかなり安い。 |
|
3 | + - 使った分だけ支払う従量課金で使うことができる。 |
|
4 | + - 今はo3もAPI経由で使えるため、ChatGPTの有料プランよりもだいぶ安く使える可能性がある。 |
|
5 | + - o3の利用には本人確認 or 後述するTier 4が必要であることに注意。 |
|
6 | + - [API access to o1, o3, and o4 models, OpenAI Help Center](https://help.openai.com/en/articles/10362446-api-access-to-o1-o3-and-o4-models) |
|
7 | + - ありがたいことにプリペイド制なので、使い過ぎても既にチャージしたクレジットが消滅するだけでクラウド破産の心配が少ない。 |
|
8 | + - 今月はいつも通り使って40ドルくらいだった。 |
|
9 | + - Clineが30ドル、open-webuiが4ドルほど。 |
|
10 | + - しかし注意しなければならないのは、チャージしたクレジットは1年で消滅する!! |
|
11 | + - Tierを上げるためだけに高額なチャージをすると、出金する方法も無いため使わなければ1年で消滅することになる。 |
|
12 | + - [What is prepaid billing?, OpenAI Help Center](https://help.openai.com/en/articles/8264778-what-is-prepaid-billing) |
|
13 | +- 多く使うとレートリミットも段々緩和され、かなり早い段階で通常利用には全く問題ないレベルになる。 |
|
14 | + - チャージした金額に応じてTierが設定されており、Tier 2くらいになるとレートリミットで困ることは無くなる。 |
|
15 | + - 自分はo3を使うためにTier 4分までチャージした。 |
|
16 | +- データ保護はChatGPTよりも厳格。 |
|
17 | + - <https://openai.com/ja-JP/enterprise-privacy/> |
|
18 | + |
|
19 | +## 使い方のおすすめ |
|
20 | +- 最近は[open-webui/open-webui: User-friendly AI Interface (Supports Ollama, OpenAI API, ...)](https://github.com/open-webui/open-webui)を使っている。 |
|
21 | + - ChatGPTっぽいチャットUIをWebサービスとして提供できる。 |
|
22 | + - UIがよく出来ていて、ChatGPTとほとんど遜色なく使える。 |
|
23 | + - localhostだけを対象にホストすれば、あたかも自分だけが使えるChatGPTのように構築できる。 |
|
24 | + - しかもAPIを叩けば従量課金制で経済的。 |
|
25 | + - 普段はgpt-4.1を使っている。 |
|
26 | + |
|
27 | +### open-webuiの使い方 |
|
28 | +1. Dockerでopen-webuiコンテナを起動する。 |
|
29 | + ``` |
|
30 | + $ docker run -d -p 127.0.0.1:3000:8080 -e OPENAI_API_KEY=your_secret_key -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main |
|
31 | + ``` |
|
32 | +1. `http://localhost:3000`をブラウザで開く。 |
|
33 | +1. open-webuiにOpenAI APIキーを登録する。 |
|
34 | + 1. 右上のユーザーアイコン |
|
35 | + 1. `管理者パネル` |
|
36 | + 1. `設定` |
|
37 | + 1. `接続` |
|
38 | + 1. `Manage OpenAI API Connections`にAPIキーを入れる。 |
|
... | ... | \ No newline at end of file |