Ai的时代已经来临,现在主用的是谷歌的antigravity,然后平时对话询问,用的是LibreChat,给个链接

https://github.com/danny-avila/LibreChat

然后这个东西吧,配起来没那么简单,还是 docker compose 的部署方法快捷

那有openrouter的api,这个接入简单。那同时之前还有用Azure gpt-4o的api,用的是Javis,直接接入Azure

Javis偏弱,现在想统一用到LibreChat,接入还真的是一言难尽

来详细说说Azure的配法,背景:Azure是同事在2024年开的,只给了我三个参数

AZURE_OPENAI_API_BASE="https://pppqqq-eus.openai.azure.com/"
OPENAI_API_KEY="12xxxaaabbbccccccccccccgggggggggggggggggggggggggggCOGuy6M"
AZURE_OPENAI_DEPLOYMENT_NAME="gpt-4o-abc"

然后呢,同事还离职了,然后其它参数就都问不到了

LibreChat呢,文档简直稀烂,而且变动还特别大

LibreChat主要的思路呢,就是在.env中定义变量,然后在librechat.yaml中使用变量,我们就省了,都扔到librechat.yaml中好了

endpoints:
  azureOpenAI:
    titleModel: "gpt-4o"
    plugins: true
    groups:
      - group: "azure"
        apiKey: "12xxxaaabbbccccccccccccgggggggggggggggggggggggggggCOGuy6M"
        instanceName: "pppqqq-eus"
        version: "2024-05-01-preview" # 推荐使用新版API,以支持GPT-4o
        # --- Model-Level Mapping (重点) ---
        models:
          # LibreChat显示的名称: 实际Azure部署的名称
          gpt-4o: # <--- 这个名称会显示在LibreChat的下拉菜单中
            deploymentName: "gpt-4o-abc" # <--- 您的实际Azure部署名称
            version: "2024-05-01-preview" # 可覆盖group的version
          gpt-4-turbo-2024-04-09: # LibreChat显示的名称
            deploymentName: "gpt-4o-abc" # 您的实际Azure部署名称
            version: "2024-02-15-preview"

上面的配置是问了gemini给出的,看得出来变量AZURE_OPENAI_API_BASE中的xxx.openai.azure.com前面的xxx,就是instanceName

OPENAI_API_KEY就是apiKey

AZURE_OPENAI_DEPLOYMENT_NAME就是deploymentName

模型的gpt-4o还有gpt-4-turbo-2024-04-09都是geimini给出的,version也很重要,不对会报错

然后就可以了

image-20251210103215838

不得不说,还是openroute的模型多啊,可惜就是太费钱了。Token哗哗飞,动辄都是65535Token

image-20251210103251472