OpenAI(InstructGPT)でチャットボット
2023.03.13
■目的
・Web上にてユーザからの質問に答えるチャットボットを作る
■方式
(案1)国産のチャットサービスを使う
様々なチャットサービスがリリースされているので比較検討。
(案2)GPT-2 のモデルからファインチューニングして使う
・rinna/japanese-gpt2-medium といった学習済みモデルを使えば、API使用料金は無し。
・ただファインチューニングは想像以上に大変でなかなか思うような出力にならない。
学習時間も開発コストもかかる。
(案3)OpenAIのAPIを使う
・InstructGPTのAPI使用料金は4段階。
ada や babbage といった安い料金帯のモデルで思うような出力になればそれでOK。最上位のdavinceモデルは高額。
→ https://openai.com/pricing
・GPT Indexを使えば、2番目に安いbabbage モデルでも想定した結果に近い出力になった。ただ最安のadaでは厳しそう。
■所感
現実的には(案1)か(案3)になる。
OpenAIのbabbageモデルで想定すると費用は $0.0005 / 1K tokens になる。(2023年3月時点)
1回の対応で1000トークンかかったとすると、0.0005ドルで0.07円程度。
1,000回の対応があったとして70円。
質問と回答内容はデータベースに保存しておいて、類似の質問はAPIを使わず、保存してある回答を表示するようにすれば、コストは抑えられる。
既存のチャットサービスとコストの比較にはなるが、OpenAIの衝撃が大きいので(案3)を推したい。今後のさらなるバージョンアップも期待できるし、世界的にOpenAIのユーザが増えれば単価が下がるかもしれない。
簡単にチャットボットを導入できるようなサービスを作ってみたいが、それだけだと「OpenAIがすごいだけじゃん」と突っ込まれてしまうので、付加機能を考えたい。
最新記事
- APIサービスをどう作るか
- C++による組込みプログラミング
- CUDAでGPUプログラミング
- BERTでチャットボット
- 脆弱性チェックツール
- Flutterでデスクトップアプリ
- MMPoseを使って姿勢推定(骨格検知)
- Laravel Livewire3を使ってみる
- Lineミニアプリ
- RustとPHPのパフォーマンス比較
- ボクシングをモーションキャプチャー
- Virtualbox上のUbuntuにDocker環境を作れ・・・
- AWSでのIPv6対応
- AWSのRDSでブルー/グリーンデプロイ
- 20年ぶりにCOBOL
- フィッシングメールのソースを見る
- GCPのVertex AIの注意点
- Azure AZ-900 に合格
- 数年ぶりにRubyを触る
- Godotはunityの代わりになるのか?