mirror of
https://github.com/All-Hands-AI/OpenHands.git
synced 2026-01-08 22:38:05 -05:00
1.5 KiB
1.5 KiB
Groq
OpenHandsはLiteLLMを使用してGroqのチャットモデルを呼び出します。Groqをプロバイダーとして使用する方法に関するドキュメントはこちらで確認できます。
設定
OpenHandsを実行する際、設定画面で以下の項目を設定する必要があります:
LLM ProviderをGroqに設定LLM Modelを使用するモデルに設定。Groqがホストしているモデルのリストはこちらで確認できます。モデルがリストにない場合は、Advancedオプションを有効にして、Custom Modelに入力してください(例:groq/<model-name>のようにgroq/llama3-70b-8192)。API keyにGroq APIキーを設定。Groq APIキーの確認または作成については、こちらを参照してください。
GroqをOpenAI互換エンドポイントとして使用する
Groqのチャット完了エンドポイントはほぼOpenAI互換です。そのため、OpenAI互換エンドポイントと同様にGroqモデルにアクセスできます。OpenHandsのUI設定画面で:
Advancedオプションを有効にする- 以下を設定する:
Custom Modelに接頭辞openai/と使用するモデル名を組み合わせて設定(例:openai/llama3-70b-8192)Base URLをhttps://api.groq.com/openai/v1に設定API KeyにGroq APIキーを設定