Stellen Sie ein LLM-Gateway für Ihre Organisation bereit

​

Voraussetzungen

• Ein Gateway, das auf Ihrer Infrastruktur bereitgestellt ist, HTTPS auf der genauen Adresse bereitstellt, die Sie an Entwickler verteilen werden, nicht auf einer Adresse, die zu ihr umleitet, und so konfiguriert ist, dass Claude-Modellnamen zu Ihrem Anbieter weitergeleitet werden
• Eine Anbieteranmeldedaten für das Gateway zum Weiterleiten mit:
  • Für die Anthropic API: einen API-Schlüssel aus der Claude-Konsole
  • Für einen Cloud-Anbieter: Cloud-Anmeldedaten mit Modellzugriff. Siehe die Voraussetzungen auf der Seite Amazon Bedrock, Google Vertex AI oder Microsoft Foundry
• Eine Möglichkeit, Einstellungsdateien auf Entwicklermaschinen bereitzustellen, z. B. MDM oder Konfigurationsverwaltung
  • Wenn Sie noch keine haben, vergleicht wie Einstellungen Geräte erreichen die Optionen

​

Gateway-Anforderungen

• Ein unterstütztes API-Format akzeptieren: eines der Formate in der API-Formattabelle. Die Rollout-Schritte unten setzen die Anthropic Messages API unter POST /v1/messages voraus, die die meisten Gateways bereitstellen
• Antworten streamen: Server-Sent-Events durchleiten, während sie ankommen, anstatt die gesamte Antwort zu puffern
• Claude-Modellnamen weiterleiten: jeden Namen, den Entwickler verwenden, einem Upstream-Modell zuordnen. Claude Code sendet einen Modellnamen wie claude-sonnet-4-6 in jeder Anfrage; in den meisten Gateway-Produkten ist die Zuordnung eine Modellliste oder Routing-Tabelle in der eigenen Konfiguration des Gateways
• Header und Body unverändert weiterleiten: anthropic-beta, anthropic-version und den Request-Body in beide Richtungen durchleiten; die Feature-Pass-Through-Tabelle ordnet jede dem Feature zu, das ohne sie bricht
• Upstream-Fehler unverändert zurückgeben: Claude Codes automatische Wiederherstellung basiert auf Fehlerformulierungen, daher bricht das Einwickeln von Fehlern in die eigene Hülle des Gateways es
• Den Pfad von der WAF-Inspektion des Request-Body ausnehmen: Claude Code-Prompts enthalten Quellcode und XML-ähnliche Tags, die Cross-Site-Scripting-Body-Regeln entsprechen; eine WAF vor dem Gateway gibt 403 bei echten Sitzungen zurück, während kurze Test-Anfragen durchgehen

​

Rollout-Schritte

1. Bestätigen Sie, dass das Gateway Ihre Modelle weiterleitet
2. Geben Sie jedem Entwickler eine Anmeldedaten aus
3. Testen Sie Claude Code gegen das Gateway
4. Verteilen Sie die Basis-URL und Anmeldedaten
5. Überprüfen Sie von einer Entwicklermaschine

​

Bestätigen Sie, dass das Gateway Ihre Modelle weiterleitet

• <gateway-key> ist alles, was Ihnen derzeit erlaubt, das Gateway aufzurufen: ein Administratorschlüssel, ein Test-Schlüssel oder Ihr eigener Entwicklerschlüssel, wenn Sie bereits einen ausgestellt haben. Nicht jedes Gateway-Produkt hat eine separate Admin-Anmeldedaten; wenn Ihres nicht, geben Sie sich selbst einen Entwicklerschlüssel in Entwickleranmeldedaten ausstellen aus
• model ist ein Claude-Modellname, den Ihr Gateway weiterleiten soll. Das Beispiel verwendet claude-sonnet-4-6; ersetzen Sie einen Namen, den Sie konfiguriert haben

curl -X POST "https://llm-gateway.example.com/v1/messages" \
  -H "Authorization: Bearer <gateway-key>" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{"model": "claude-sonnet-4-6", "max_tokens": 1, "messages": [{"role": "user", "content": "."}]}'

Invoke-RestMethod -Method Post -Uri "https://llm-gateway.example.com/v1/messages" `
  -Headers @{ "Authorization" = "Bearer <gateway-key>"; "anthropic-version" = "2023-06-01" } `
  -ContentType "application/json" `
  -Body '{"model": "claude-sonnet-4-6", "max_tokens": 1, "messages": [{"role": "user", "content": "."}]}'

​

Geben Sie Entwickleranmeldedaten aus

curl -X POST "https://llm-gateway.example.com/v1/messages" \
  -H "Authorization: Bearer <developer-key>" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{"model": "claude-sonnet-4-6", "max_tokens": 1, "messages": [{"role": "user", "content": "."}]}'

Invoke-RestMethod -Method Post -Uri "https://llm-gateway.example.com/v1/messages" `
  -Headers @{ "Authorization" = "Bearer <developer-key>"; "anthropic-version" = "2023-06-01" } `
  -ContentType "application/json" `
  -Body '{"model": "claude-sonnet-4-6", "max_tokens": 1, "messages": [{"role": "user", "content": "."}]}'

​

Testen Sie Claude Code gegen das Gateway

export ANTHROPIC_BASE_URL=https://llm-gateway.example.com
export ANTHROPIC_AUTH_TOKEN="<developer-key>"

$env:ANTHROPIC_BASE_URL = "https://llm-gateway.example.com"
$env:ANTHROPIC_AUTH_TOKEN = "<developer-key>"

claude -p "Reply with one word: connected"

• Not logged in: überprüfen Sie das Gateway-Log, um die beiden Ursachen auseinanderzuhalten. Wenn es leer ist, hat keine Anmeldedaten die Sitzung erreicht und keine Anfrage hat die Maschine verlassen; führen Sie die Exporte in der Shell aus, die Sie testen. Wenn es eine abgelehnte Anfrage mit x-api-key im 401-Body zeigt, erwartet das Gateway Schlüssel in diesem Header stattdessen; wechseln Sie zu ANTHROPIC_API_KEY
• Failed to authenticate. API Error: 401 bedeutet, dass eine Anmeldedaten gesendet und abgelehnt wurde, und das Gateway-Log sagt, wo: ein 401, das api.anthropic.com oder Ihren Anbieter-Endpunkt benennt, bedeutet, dass das Gateway den Upstream erreicht hat, aber seine Anbieteranmeldedaten, die es hält, abgelehnt wurden, daher funktionierte der Entwicklerschlüssel und die Anbieteranmeldedaten, die das Gateway hält, sind falsch oder ein Platzhalter

​

Verteilen Sie die Konfiguration

​

Was zu verteilen ist

​

Verteilen Sie über verwaltete Einstellungen

{
  "env": {
    "ANTHROPIC_BASE_URL": "https://llm-gateway.example.com"
  },
  "apiKeyHelper": "/usr/local/bin/get-gateway-key"
}

• Die Desktop-App liest Gateway-Routing nur aus ihrer MDM-bereitgestellten Drittanbieter-Inferenzkonfiguration; stellen Sie diese Datei neben verwalteten Einstellungen bereit, damit Desktop-Sitzungen auch durch das Gateway geleitet werden. Siehe die Desktop-Drittanbieter-Konfigurationsdocs und die Desktop-Gateway-Docs
• CI-Runner benötigen ANTHROPIC_BASE_URL und die Anmeldedaten in der Umgebung des Runners gesetzt
• WSL auf verwalteten Windows-Maschinen liest die Windows-verwalteten Einstellungen nur, wenn wslInheritsWindowsSettings true ist

​

Geben Sie Entwicklern die Werte, um sie selbst zu setzen

• Die Gateway-URL
• Ihre persönliche Anmeldedaten
• Welche Variable die Anmeldedaten einzufügen ist: ANTHROPIC_AUTH_TOKEN für ein Bearer-Token-Gateway, oder ANTHROPIC_API_KEY für ein x-api-key-Gateway. Entwicklern zu sagen, welche spart ihnen das Trial-and-Error, das auf der Verbindungsseite beschrieben ist
• Alle bedingten Variablen aus der Was zu verteilen ist-Tabelle, mit ihren Werten

​

Überprüfen Sie den Rollout

curl -N -X POST "https://llm-gateway.example.com/v1/messages" \
  -H "Authorization: Bearer <developer-key>" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{"model": "claude-sonnet-4-6", "max_tokens": 16, "stream": true, "messages": [{"role": "user", "content": "count to 3"}]}'

$body = '{"model": "claude-sonnet-4-6", "max_tokens": 16, "stream": true, "messages": [{"role": "user", "content": "count to 3"}]}'
$body | curl.exe -N -X POST "https://llm-gateway.example.com/v1/messages" `
  -H "Authorization: Bearer <developer-key>" `
  -H "anthropic-version: 2023-06-01" `
  -H "content-type: application/json" `
  --data-binary '@-'

• Eine Login-Aufforderung bedeutet eine Anmeldedaten-Lücke. Führen Sie /status aus und öffnen Sie die Status-Registerkarte: wenn die Setting sources-Zeile verwaltete Einstellungen nicht enthält, hat die Verteilung die Maschine nicht erreicht; wenn sie es tut, wurde die Entwickleranmeldedaten nicht bereitgestellt, daher setzen Sie ANTHROPIC_AUTH_TOKEN oder den apiKeyHelper
• Failed to authenticate-Fehler bedeuten, dass das Gateway Anfragen ablehnt; sein Log sagt, welche Anmeldedaten fehlgeschlagen ist. Eine Ablehnung, die das Gateway selbst protokolliert, benennt den Entwicklerschlüssel, während ein 401 von api.anthropic.com oder Ihrem Anbieter-Endpunkt bedeutet, dass die Anbieteranmeldedaten, die das Gateway hält, abgelehnt wurden
• Eine einmalige Genehmigungsaufforderung für den Schlüssel ist beim ersten Gebrauch erwartet, wenn das Gateway Schlüssel im x-api-key-Header erwartet, gesetzt als ANTHROPIC_API_KEY. Mit ANTHROPIC_AUTH_TOKEN erscheint keine Aufforderung und die Variable übernimmt stillschweigend; ein zuvor gespeicherter claude.ai-Login ist für diese Sitzung inaktiv

​

Verwalten Sie das Gateway

​

Verwandte Ressourcen

• Claude Code mit einem LLM-Gateway verbinden: die Einrichtungsschritte für Entwickler, mit Pro-Surface-Konfiguration und einer Fehlerbehebungstabelle, die Sie Entwicklern geben können
• Gateway-Protokollreferenz: der Wire-Vertrag für Gateway-Betreiber, der Endpunkte, weiterzuleitende Header und die Feature-Pass-Through-Tabelle abdeckt
• Einstellungsdateien und Priorität: wie verwaltete, Projekt- und Benutzereinstellungen kombiniert werden, und wo die verwaltete Datei auf jeder Plattform geht
• Richten Sie Claude Code für Ihre Organisation ein: der breitere Rollout, von dem dieses Gateway ein Teil ist, einschließlich Richtliniendurchsetzung, Nutzungssichtbarkeit und Datenbehandlung