1dd58ca180e336ef84c50ca4c3b37ee389c069ac
llm/OpenAI\343\201\256LLM\343\202\222\345\256\211\344\276\241\343\201\253\344\275\277\343\201\206\346\226\271\346\263\225.md
| ... | ... | @@ -0,0 +1,38 @@ |
| 1 | +- OpenAIのLLMはAPIで提供されている。 |
|
| 2 | +- 実はかなり安い。 |
|
| 3 | + - 使った分だけ支払う従量課金で使うことができる。 |
|
| 4 | + - 今はo3もAPI経由で使えるため、ChatGPTの有料プランよりもだいぶ安く使える可能性がある。 |
|
| 5 | + - o3の利用には本人確認 or 後述するTier 4が必要であることに注意。 |
|
| 6 | + - [API access to o1, o3, and o4 models, OpenAI Help Center](https://help.openai.com/en/articles/10362446-api-access-to-o1-o3-and-o4-models) |
|
| 7 | + - ありがたいことにプリペイド制なので、使い過ぎても既にチャージしたクレジットが消滅するだけでクラウド破産の心配が少ない。 |
|
| 8 | + - 今月はいつも通り使って40ドルくらいだった。 |
|
| 9 | + - Clineが30ドル、open-webuiが4ドルほど。 |
|
| 10 | + - しかし注意しなければならないのは、チャージしたクレジットは1年で消滅する!! |
|
| 11 | + - Tierを上げるためだけに高額なチャージをすると、出金する方法も無いため使わなければ1年で消滅することになる。 |
|
| 12 | + - [What is prepaid billing?, OpenAI Help Center](https://help.openai.com/en/articles/8264778-what-is-prepaid-billing) |
|
| 13 | +- 多く使うとレートリミットも段々緩和され、かなり早い段階で通常利用には全く問題ないレベルになる。 |
|
| 14 | + - チャージした金額に応じてTierが設定されており、Tier 2くらいになるとレートリミットで困ることは無くなる。 |
|
| 15 | + - 自分はo3を使うためにTier 4分までチャージした。 |
|
| 16 | +- データ保護はChatGPTよりも厳格。 |
|
| 17 | + - <https://openai.com/ja-JP/enterprise-privacy/> |
|
| 18 | + |
|
| 19 | +## 使い方のおすすめ |
|
| 20 | +- 最近は[open-webui/open-webui: User-friendly AI Interface (Supports Ollama, OpenAI API, ...)](https://github.com/open-webui/open-webui)を使っている。 |
|
| 21 | + - ChatGPTっぽいチャットUIをWebサービスとして提供できる。 |
|
| 22 | + - UIがよく出来ていて、ChatGPTとほとんど遜色なく使える。 |
|
| 23 | + - localhostだけを対象にホストすれば、あたかも自分だけが使えるChatGPTのように構築できる。 |
|
| 24 | + - しかもAPIを叩けば従量課金制で経済的。 |
|
| 25 | + - 普段はgpt-4.1を使っている。 |
|
| 26 | + |
|
| 27 | +### open-webuiの使い方 |
|
| 28 | +1. Dockerでopen-webuiコンテナを起動する。 |
|
| 29 | + ``` |
|
| 30 | + $ docker run -d -p 127.0.0.1:3000:8080 -e OPENAI_API_KEY=your_secret_key -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main |
|
| 31 | + ``` |
|
| 32 | +1. `http://localhost:3000`をブラウザで開く。 |
|
| 33 | +1. open-webuiにOpenAI APIキーを登録する。 |
|
| 34 | + 1. 右上のユーザーアイコン |
|
| 35 | + 1. `管理者パネル` |
|
| 36 | + 1. `設定` |
|
| 37 | + 1. `接続` |
|
| 38 | + 1. `Manage OpenAI API Connections`にAPIキーを入れる。 |
|
| ... | ... | \ No newline at end of file |