GPT3.5 TurboとGPT4のどちらを使うべき？

このページは、AIアシスタントのChaakoが運営するチャットボットChaakoBotの使用説明です。

結論からいいますと

GPT3.5 Turboを使うべき

ということになります

GPT-4は高いパフォーマンスを発揮しますが、料金も高額です。GPT-4の料金はGPT-3.5 Turboの20倍から60倍に及ぶため、ビジネスとして提供する際には採算が合わない可能性があります。

一方、GPT-3.5 Turboは適切な設定によってGPT-4に近いパフォーマンスを実現できるうえ、コストを抑えられます。

GPT-3.5 Turboのパフォーマンスは、質問の仕方、Instructions、ファイルに大きく影響されます。ビジネスとして顧客に対してBotを提供する際には質問の仕方をコントロールできませんが、Instructionsとファイルをしっかりとチューニングすれば、多少雑な質問にも対応できるようになるし、GPT-4に近いパフォーマンスを実現することもできます。

そのため、Instructionsの調整段階とテスト段階からGPT-3.5 Turboを用いて、InstructionsとファイルでAIの性能を最大限に引き出すことが重要です。

さらに、利用ケースやシーンが限定されている場合は、最初にGPT-4を無料で提供し、その回答を知識として蓄積しておくことで、GPT-3.5 Turboの参考知識として活用し、コストダウンを図るというアプローチも有効です。

Fine-TuningしたモデルはAssistantでは直接使用できないため、外部知識としてアップロードして提供する必要があります。Chaakoでは、全ての会話記録のログをダウンロードできるようにしており、これを活用することで、GPT-3.5 Turboのパフォーマンス向上とコスト削減を実現できます。

OpenAIは2024年4月17日に、リリースされたAssistantAPIのv2は、Fine-TuningしたモデルをAssistantAPIで使えるようになりましたが、新しいバージョンの動作が未だに不安定なので、ChaakoBotは2024年4月23日現在において、従来通りのv1を使っています。