為您的組織推出 LLM 閘道

​

先決條件

• 在您的基礎設施上部署的閘道，在您將分發給開發者的確切位址上提供 HTTPS，而不是重定向到它的位址，並配置為將 Claude 模型名稱路由到您的提供者
• 閘道轉發的提供者認證：
  • 對於 Anthropic API：來自 Claude 控制台的 API 金鑰
  • 對於雲端提供者：具有模型存取權限的雲端認證。請參閱 Amazon Bedrock、Google Vertex AI 或 Microsoft Foundry 頁面上的先決條件
• 一種將設定檔案傳遞到開發者機器的方式，例如 MDM 或配置管理
  • 如果您還沒有，設定如何到達裝置會比較各選項

​

閘道要求

• 接受支援的 API 格式：API 格式表中的格式之一。下面的推出步驟假設 Anthropic Messages API 位於 POST /v1/messages，大多數閘道都提供此格式
• 串流回應：按到達時傳遞伺服器發送的事件，而不是緩衝整個回應
• 路由 Claude 模型名稱：將開發者使用的每個名稱對應到上游模型。Claude Code 在每個請求中發送模型名稱，例如 claude-sonnet-4-6；在大多數閘道產品中，對應是閘道自己配置中的模型清單或路由表
• 轉發標頭和正文不變：在兩個方向上傳遞 anthropic-beta、anthropic-version 和請求正文；功能傳遞表將每個對應到沒有它就會中斷的功能
• 返回未修改的上游錯誤：Claude Code 的自動恢復與錯誤措辭相符，因此在閘道自己的信封中包裝錯誤會破壞它
• 豁免路徑免受請求正文 WAF 檢查：Claude Code 提示包含原始程式碼和 XML 樣式標籤，與跨網站指令碼正文規則相符；閘道前面的 WAF 在真實工作階段上返回 403，而短測試請求通過

​

推出步驟

1. 確認閘道路由您的模型
2. 為每個開發者發放認證
3. 針對閘道測試 Claude Code
4. 分發基本 URL 和認證
5. 從開發者機器驗證

​

確認閘道路由您的模型

• <gateway-key> 是任何讓您現在呼叫閘道的認證：管理金鑰、測試金鑰或您自己的開發者金鑰（如果您已經發放了一個）。並非每個閘道產品都有單獨的管理認證；如果您的沒有，請先在發放開發者認證中為自己發放開發者金鑰
• model 是您的閘道配置為路由的 Claude 模型名稱。範例使用 claude-sonnet-4-6；替換為您配置的名稱

curl -X POST "https://llm-gateway.example.com/v1/messages" \
  -H "Authorization: Bearer <gateway-key>" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{"model": "claude-sonnet-4-6", "max_tokens": 1, "messages": [{"role": "user", "content": "."}]}'

Invoke-RestMethod -Method Post -Uri "https://llm-gateway.example.com/v1/messages" `
  -Headers @{ "Authorization" = "Bearer <gateway-key>"; "anthropic-version" = "2023-06-01" } `
  -ContentType "application/json" `
  -Body '{"model": "claude-sonnet-4-6", "max_tokens": 1, "messages": [{"role": "user", "content": "."}]}'

​

發放開發者認證

curl -X POST "https://llm-gateway.example.com/v1/messages" \
  -H "Authorization: Bearer <developer-key>" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{"model": "claude-sonnet-4-6", "max_tokens": 1, "messages": [{"role": "user", "content": "."}]}'

Invoke-RestMethod -Method Post -Uri "https://llm-gateway.example.com/v1/messages" `
  -Headers @{ "Authorization" = "Bearer <developer-key>"; "anthropic-version" = "2023-06-01" } `
  -ContentType "application/json" `
  -Body '{"model": "claude-sonnet-4-6", "max_tokens": 1, "messages": [{"role": "user", "content": "."}]}'

​

針對閘道測試 Claude Code

export ANTHROPIC_BASE_URL=https://llm-gateway.example.com
export ANTHROPIC_AUTH_TOKEN="<developer-key>"

$env:ANTHROPIC_BASE_URL = "https://llm-gateway.example.com"
$env:ANTHROPIC_AUTH_TOKEN = "<developer-key>"

claude -p "Reply with one word: connected"

• Not logged in：檢查閘道日誌以區分兩個原因。如果它是空的，沒有認證到達工作階段，沒有請求離開機器；在您測試的殼層中重新執行匯出。如果它顯示被拒絕的請求，在 401 正文中有 x-api-key，閘道期望金鑰在該標頭中；改為切換到 ANTHROPIC_API_KEY
• Failed to authenticate. API Error: 401 表示認證已發送並被拒絕，閘道日誌說明位置：命名 api.anthropic.com 或您的提供者端點的 401 表示閘道到達上游但其提供者認證被拒絕，因此開發者金鑰有效，閘道持有的提供者認證有誤或是佔位符

​

分發配置

​

要分發的內容

​

透過受管設定分發

{
  "env": {
    "ANTHROPIC_BASE_URL": "https://llm-gateway.example.com"
  },
  "apiKeyHelper": "/usr/local/bin/get-gateway-key"
}

• 桌面應用程式僅從其 MDM 傳遞的第三方推理配置讀取閘道路由；部署該檔案以及受管設定，以便桌面工作階段也透過閘道路由。請參閱桌面第三方配置文件和桌面閘道文件
• CI 執行器需要在執行器的環境中設定 ANTHROPIC_BASE_URL 和認證
• 受管 Windows 機器上的 WSL 僅在 wslInheritsWindowsSettings 為 true 時讀取 Windows 受管設定

​

將值交給開發者自己設定

• 閘道 URL
• 他們的個人認證
• 將認證放在哪個變數中：對於承載令牌閘道為 ANTHROPIC_AUTH_TOKEN，或對於 x-api-key 閘道為 ANTHROPIC_API_KEY。告訴開發者哪一個可以節省他們在連接頁面上描述的試錯
• 要分發的內容表中的任何條件變數，以及它們的值

​

驗證推出

curl -N -X POST "https://llm-gateway.example.com/v1/messages" \
  -H "Authorization: Bearer <developer-key>" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{"model": "claude-sonnet-4-6", "max_tokens": 16, "stream": true, "messages": [{"role": "user", "content": "count to 3"}]}'

$body = '{"model": "claude-sonnet-4-6", "max_tokens": 16, "stream": true, "messages": [{"role": "user", "content": "count to 3"}]}'
$body | curl.exe -N -X POST "https://llm-gateway.example.com/v1/messages" `
  -H "Authorization: Bearer <developer-key>" `
  -H "anthropic-version: 2023-06-01" `
  -H "content-type: application/json" `
  --data-binary '@-'

• 登入提示表示認證間隙。執行 /status 並開啟 Status 標籤：當 Setting sources 行不包括受管設定時，分發未到達機器；當它包括時，開發者認證未被傳遞，因此設定 ANTHROPIC_AUTH_TOKEN 或 apiKeyHelper
• Failed to authenticate 錯誤表示閘道拒絕請求；其日誌說明哪個認證失敗。閘道自己記錄的拒絕命名開發者金鑰，而來自 api.anthropic.com 或您的提供者端點的 401 表示閘道持有的提供者認證被拒絕
• 當閘道期望金鑰在 x-api-key 標頭中時，首次使用時的一次性核准提示是預期的，設定為 ANTHROPIC_API_KEY。使用 ANTHROPIC_AUTH_TOKEN，不會出現提示，變數會無聲地接管；先前保存的 claude.ai 登入對該工作階段無效

​

維護閘道

​

相關資源

• 將 Claude Code 連接到 LLM 閘道：開發者面向的設定步驟，具有每個表面的配置和故障排除表，您可以交給開發者
• 閘道協議參考：閘道操作員的有線合約，涵蓋端點、要轉發的標頭和功能傳遞表
• 設定檔案和優先順序：受管、專案和使用者設定如何組合，以及受管檔案在每個平台上的位置
• 為您的組織設定 Claude Code：此閘道是其中一部分的更廣泛推出，包括原則強制執行、使用可見性和資料處理