Ai的时代已经来临,现在主用的是谷歌的antigravity,然后平时对话询问,用的是LibreChat,给个链接
https://github.com/danny-avila/LibreChat
然后这个东西吧,配起来没那么简单,还是 docker compose 的部署方法快捷
那有openrouter的api,这个接入简单。那同时之前还有用Azure gpt-4o的api,用的是Javis,直接接入Azure
Javis偏弱,现在想统一用到LibreChat,接入还真的是一言难尽
来详细说说Azure的配法,背景:Azure是同事在2024年开的,只给了我三个参数
AZURE_OPENAI_API_BASE="https://pppqqq-eus.openai.azure.com/"
OPENAI_API_KEY="12xxxaaabbbccccccccccccgggggggggggggggggggggggggggCOGuy6M"
AZURE_OPENAI_DEPLOYMENT_NAME="gpt-4o-abc"
然后呢,同事还离职了,然后其它参数就都问不到了
LibreChat呢,文档简直稀烂,而且变动还特别大
LibreChat主要的思路呢,就是在.env中定义变量,然后在librechat.yaml中使用变量,我们就省了,都扔到librechat.yaml中好了
endpoints:
azureOpenAI:
titleModel: "gpt-4o"
plugins: true
groups:
- group: "azure"
apiKey: "12xxxaaabbbccccccccccccgggggggggggggggggggggggggggCOGuy6M"
instanceName: "pppqqq-eus"
version: "2024-05-01-preview" # 推荐使用新版API,以支持GPT-4o
# --- Model-Level Mapping (重点) ---
models:
# LibreChat显示的名称: 实际Azure部署的名称
gpt-4o: # <--- 这个名称会显示在LibreChat的下拉菜单中
deploymentName: "gpt-4o-abc" # <--- 您的实际Azure部署名称
version: "2024-05-01-preview" # 可覆盖group的version
gpt-4-turbo-2024-04-09: # LibreChat显示的名称
deploymentName: "gpt-4o-abc" # 您的实际Azure部署名称
version: "2024-02-15-preview"
上面的配置是问了gemini给出的,看得出来变量AZURE_OPENAI_API_BASE中的xxx.openai.azure.com前面的xxx,就是instanceName
OPENAI_API_KEY就是apiKey
AZURE_OPENAI_DEPLOYMENT_NAME就是deploymentName
模型的gpt-4o还有gpt-4-turbo-2024-04-09都是geimini给出的,version也很重要,不对会报错
然后就可以了

不得不说,还是openroute的模型多啊,可惜就是太费钱了。Token哗哗飞,动辄都是65535Token
