mirror of
https://github.com/All-Hands-AI/OpenHands.git
synced 2026-01-09 14:57:59 -05:00
1.6 KiB
1.6 KiB
Groq
OpenHandsは、GroqのチャットモデルへのAPIコールにLiteLLMを使用します。Groqをプロバイダーとして使用する方法については、こちらのドキュメントを参照してください。
設定
OpenHandsを実行する際、OpenHandsのUIで設定メニューから以下の項目を設定する必要があります：
LLMプロバイダーをGroqに設定LLMモデルを使用するモデルに設定。Groqがホストするモデルのリストはこちらを参照してください。モデルがリストにない場合は、詳細設定を有効にし、カスタムモデルに入力してください（例：groq/<model-name>としてgroq/llama3-70b-8192）。APIキーをGroq APIキーに設定。Groq APIキーの確認または作成については、こちらを参照してください。
OpenAI互換エンドポイントとしてのGroqの使用
Groqのチャット補完エンドポイントは主にOpenAI互換です。そのため、他のOpenAI互換エンドポイントと同様の方法でGroqのモデルにアクセスできます。OpenHandsのUIで設定メニューから以下の項目を設定します：
詳細設定を有効にするカスタムモデルにプレフィックスopenai/と使用するモデルを設定（例：openai/llama3-70b-8192）ベースURLをhttps://api.groq.com/openai/v1に設定APIキーをGroq APIキーに設定