OpenAIは、ファインチューニングAPIの新機能リリースを発表した。この機能により、モデル開発者はファインチューニングプロセスをよりコントロールできるだけでなく、モデルのパフォーマンスをより深く理解しやすくなるだろう。
今回のアップデートには、ファインチューニング中のトレーニングエポック毎にモデルのチェックポイントを作成する機能、検証データセット全体に対するメトリクスの計算、Weights and Biasesのようなサードパーティとの統合が含まれる。APIの変更に加え、OpenAIはファインチューニングダッシュボードも更新し、開発者はトレーニングハイパーパラメータとジョブをより細かく制御できるようになり、メトリクスをより深く理解できるようになった。モデルプレイグラウンドは、ユーザーが1つのプロンプトを入力し、異なる標準モデルとファインチューニングモデルの出力を比較できる、サイドバイサイドのモデル比較機能を持つようになった。最後に、OpenAIはカスタムモデルプログラムのアップデートを発表した。OpenAIのチームが組織と協力してモデルのファインチューニングを支援するものだ。OpenAIはこのように説明している。
将来的には、大半の組織が、それぞれの業界、ビジネス、ユースケースに合わせてカスタマイズされたモデルを開発するようになると考えています。カスタムモデルを構築するための様々なテクニックが利用できるため、あらゆる規模の組織がパーソナライズされたモデルを開発し、AIの実装からより有意義で具体的なインパクトを実現できるからです。重要なのは、ユースケースの範囲を明確にし、評価システムを設計・実装し、適切な手法を選択し、モデルが最適なパフォーマンスに達するまで時間をかけて反復する準備を怠らないことです。
GPT-3.5やGPT-4のような基礎モデルは、"箱から出してすぐ"に様々なタスクで優れたパフォーマンスを発揮できるが、ファインチューニングされたモデルは、特定のタスクでより優れたパフォーマンスを発揮し、"特定の染み付いた行動パターンを示す"ことが可能だ。さらに、これらのモデルは、あまり冗長なプロンプトを必要としないことが多いため、より低いコストと待ち時間で運用できる。InfoQは、2023年にOpenAIのファインチューニングAPIがローンチされた当初を取材した。それ以来、OpenAIは "何十万ものモデル"を訓練するために使用されていると主張している。
OpenAIは2023 Dev Dayでカスタムモデルプログラムを発表した。このプログラムでは、"選ばれた"組織がOpenAIの研究者と協力し、トレーニングプロセスの任意のステップを変更することで、"ゼロから "組織のための特注モデルを作成できる。OpenAIは、このプログラムに参加したある顧客がカスタムモデルを構築し、「事実回答が83％増加した」と主張している。今回発表された新サービスは、完全に新しいモデルを構築するものではない。その代わりに、"モデルのパフォーマンスを最大化するための特注のパラメータやメソッド"など、APIでは利用できないファインチューニング機能をユーザーに提供する。
Hacker Newsのリリースに関するディスカッションでは、ユーザーからこのような指摘が挙がっている。
ところで、1月以前にOpenAIのモデルのファインチューニングを試して、完成したモデルのクオリティに感心しなかった人は、もう一度試してみる価値があります。ここ数ヶ月の間に、ファインチューニングされたモデルがより強くなるような、いくつかの未発表の変更が行われています。とはいえ、MixtralのファインチューニングはGPT-3.5のファインチューニングよりも一般的に優れており、はるかに安く提供できることがわかりました。
OpenAIのYouTubeチャンネルには、2023年のDev Dayの講演があり、ファインチューニングやプロンプトエンジニアリングを含む様々なパフォーマンス向上テクニックを比較している。OpenAIのドキュメントには、プロンプトエンジニアリングや関数呼び出しなどのファインチューニングの代替案も示されている。