OpenAIのLLMを安価に使う方法

• OpenAIのLLMはAPIで提供されている。
• 実はかなり安い。
  • 使った分だけ支払う従量課金で使うことができる。
  • 今はo3もAPI経由で使えるため、ChatGPTの有料プランよりもだいぶ安く使える可能性がある。
    • o3の利用には本人確認 or 後述するTier 4が必要であることに注意。
      • API access to o1, o3, and o4 models, OpenAI Help Center
  • ありがたいことにプリペイド制なので、使い過ぎても既にチャージしたクレジットが消滅するだけでクラウド破産の心配が少ない。
  • 今月はいつも通り使って40ドルくらいだった。
    • Clineが30ドル、open-webuiが4ドルほど。
      • 基本的にgpt-4.1を使っている。
  • しかし注意しなければならないのは、チャージしたクレジットは1年で消滅する！！
    • Tierを上げるためだけに高額なチャージをすると、出金する方法も無いため使わなければ1年で消滅することになる。
    • What is prepaid billing?, OpenAI Help Center
• 多く使うとレートリミットも段々緩和され、かなり早い段階で通常利用には全く問題ないレベルになる。
  • チャージした金額に応じてTierが設定されており、Tier 2くらいになるとレートリミットで困ることは無くなる。
  • 自分はo3を使うためにTier 4分までチャージした。
• データ保護はChatGPTよりも厳格。
  • https://openai.com/ja-JP/enterprise-privacy/

使い方のおすすめ

• 最近はopen-webui/open-webui: User-friendly AI Interface (Supports Ollama, OpenAI API, …)を使っている。
  • ChatGPTっぽいチャットUIをWebサービスとして提供できる。
  • UIがよく出来ていて、ChatGPTとほとんど遜色なく使える。
  • localhostだけを対象にホストすれば、あたかも自分だけが使えるChatGPTのように構築できる。
  • しかもAPIを叩けば従量課金制で経済的。
  • 普段はgpt-4.1を使っている。

open-webuiの使い方

1. Dockerでopen-webuiコンテナを起動する。

    $ docker run -d -p 127.0.0.1:3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
   

2. http://localhost:3000をブラウザで開く。
3. open-webuiにOpenAI APIキーを登録する。
   1. 右上のユーザーアイコン
   2. 管理者パネル
   3. 設定
   4. 接続
   5. Manage OpenAI API ConnectionsにAPIキーを入れる。