このエピソードでは、Thomas Betts氏がMicrosoftでPythonのクラウド・アドボケイトをしているPamela Fox氏と話す。彼らは Pamela氏が保守を手伝っているいくつかのChatGPTサンプルアプリについて話している。その中には、ChatGPTとAzure OpenAIとの非常に人気のある統合や、チャットインターフェースで企業データをクエリするためのCognitive Searchも含まれている。Pamela氏はChatGPTアプリを始めるためのベストプラクティスもいくつか取り上げている。
キーポイント
- 人気のあるサンプルアプリでは、Azure Cognitive SearchがChatGPTと組み合わされ、企業ドキュメントに保存された情報を検索するためのチャットインターフェースを提供している。
- Retrieval Augmented Generation (RAG)は、大規模な言語モデルの有用性を向上させるための手法で、応答に使用する所定の事実セットを提供する。
- ChatGPTは、人とCognitive Searchの間の双方向通訳として機能する。人が入力した言葉は、より良い検索結果を提供するキーワードに変換される。そして提供された結果は、ユーザーが読めるように自然言語に変換される。
- LLMを組み込んだシステムを構築するには、その動作をテストし、チューニングする努力が必要だ。一度テストして反応を見るだけでは不十分で、反応は変化するからだ。
- ニーズに最も合うモデルを見つけよう。多くの場合、GPT3.5で十分だ。GPT 4はより良いレスポンスを提供できるが、より遅く、より高価であるため、正しい選択ではないかもしれない。