deepwiki-openをLiteLLMにつないで動かす

deepwiki-open

Devin wikiみたいなもの。 gitリポジトリの中を整理してwikiにしてくれる + チャットで色々聞ける。

LLMなAPIのプロキシ。一括管理できるので、組織的に使っていくときに無制限に使えてしまうのを防止できたり、ロードバランサのような使い方もできる、らしい。あとはAPIKeyをLiteLLM独自なものにできるので、元のキーを隠せるのも利点っぽい。

deepwiki-openは正式にLiteLLMサポートはされていないっぽい。

が OPENAI_BASE_URL という環境変数でOpenAIへのリクエストの向き先を変えられる。つまり.envをこういう感じにすればOK。

OPENAI_API_KEY=LiteLLMのAPIKey
OPENAI_BASE_URL=LiteLLMのエンドポイント

GeminiのリクエストもLiteLLMに変えられるといいんだけど、環境変数は特に用意されていないので、実装の改変が必要。とはいえOpenAIだけ使えればまずはいいかなって。

それから、generator.json を書き換えてOpenAIだけにするのもやっておくとよい。デフォルトだとgemini-2.0-flashが指定されていて、毎回ポチポチ変更するのが面倒。