Skip to main content
Diese Seite behandelt den operativen Aspekt des Betriebs des Claude-Apps-Gateways: Registrierung eines OAuth-Clients bei Ihrem Identitätsanbieter (IdP), Bereitstellung des Gateways als Container und täglicher Betrieb. Für jede Option in der Datei gateway.yaml, die das Gateway beim Start liest, siehe die Konfigurationsreferenz. Eine Produktionsbereitstellung folgt vier Schritten in der richtigen Reihenfolge, und die folgenden Abschnitte entsprechen ihnen. Die ersten beiden sind Stellen, an denen Sie Entscheidungen treffen; die zweiten beiden sind Referenzmaterial, das Sie konsultieren können, sobald es läuft.
  1. Richten Sie Ihren Identitätsanbieter ein: Registrieren Sie den OAuth-Client und überprüfen Sie die IdP-spezifischen Hinweise für Okta, Entra und Google
  2. Stellen Sie das Gateway bereit: Erstellen Sie ein gepinntes Container-Image und führen Sie es auf Kubernetes, Cloud Run oder Ihrer eigenen Plattform aus. Dieser Abschnitt behandelt auch Kosten-, Bypass-, Multi-Gateway- und Serverless-Entscheidungen
  3. Richten Sie den Betrieb ein: Protokolle, Integritätsprüfungen, Ausfallverhalten, Geheimnisrotation und Upgrades. Referenzmaterial für die Einrichtung von Überwachung und Runbooks
  4. Überprüfen Sie die Sicherheitslage: Welche Daten wohin fließen, das Bedrohungsmodell und Compliance-Antworten. Referenzmaterial für eine Sicherheitsüberprüfung
Wenn ein Anmelde- oder Startfehler auftritt, gehen Sie direkt zu Fehlerbehebung, das nach dem Fehler, den Sie sehen, indiziert ist.
Stellen Sie auf Ihrem privaten Netzwerk bereit. Claude Code stellt nur eine Verbindung zu einem Gateway her, dessen Adresse privat ist. Dies ist eine Sicherheitsmaßnahme, da ein vertrauenswürdiges Gateway Einstellungen pushen kann, die Befehle auf Entwicklermaschinen ausführen. Platzieren Sie das Gateway hinter einem internen Load Balancer oder VPN und geben Sie ihm einen Hostnamen, der nur zu privaten IPs aufgelöst wird. Wenn Ihr internes Netzwerk aus öffentlichem IPv4-Adressraum Ihrer Organisation nummeriert ist, siehe Erlauben Sie ein Gateway auf öffentlichem Adressraum, den Sie besitzen.

Identitätsanbieter-Setup

Registrieren Sie eine vertrauliche OAuth/OpenID Connect (OIDC) Webanwendung mit einem einzelnen Redirect-URI, https://<gateway>/oauth/callback, und weisen Sie sie den Benutzern oder Gruppen zu, die Zugriff auf das Gateway haben sollten. Jeder OIDC-konforme IdP funktioniert: Okta, Microsoft Entra ID, Google Workspace, Keycloak, Dex, PingFederate und andere. Der IdP muss drei Anforderungen erfüllen:
  • Stellt /.well-known/openid-configuration über HTTPS in der Produktion bereit; das Gateway akzeptiert einen http:// Aussteller, und ein Loopback-Aussteller erfordert zusätzlich CLAUDE_GATEWAY_ALLOW_LOOPBACK=1
  • Unterstützt den Authorization-Code-Flow. PKCE (Proof Key for Code Exchange) ist standardmäßig aktiviert; deaktivieren Sie es mit oidc.use_pkce: false für IdPs, die es nicht unterstützen
  • Gibt email und optional groups im id_token zurück, oder stellt sie vom Userinfo-Endpoint mit oidc.userinfo_fallback: true bereit
Für private PKI setzen Sie oidc.ca_cert_pem. Einige Anbieter handhaben E-Mail- und Gruppen-Claims unterschiedlich:
  • Okta: Der Org-Autorisierungsserver unter https://example.okta.com gibt einen dünnen id_token zurück, der email und groups auslässt, daher setzen Sie oidc.userinfo_fallback: true, wenn Sie ihn als issuer verwenden. Ein benutzerdefinierter Autorisierungsserver wie https://example.okta.com/oauth2/default, der email und optional groups im id_token enthält, gibt sie direkt aus und benötigt keinen Fallback. Okta gibt groups nur aus, wenn der groups-Scope in oidc.scopes angefordert wird und der Gruppen-Claim-Filter der App dies zulässt; userinfo_fallback kann einen Claim nicht ausfüllen, nach dem der IdP nicht gefragt wurde.
  • Microsoft Entra ID: issuer = https://login.microsoftonline.com/<tenant-id>/v2.0. Entra gibt Gruppen-Object-IDs statt Namen aus, daher verwenden Sie die GUIDs in managed.policies.match.groups, oder verwenden Sie App-Rollen für lesbare Namen. Wenn Ihr Mandant Rollen unter roles statt groups ausgibt, setzen Sie oidc.groups_claim: roles.
  • Google Workspace: issuer = https://accounts.google.com. Googles id_token enthält keine Gruppen. Um gruppenbasierte allowed_groups oder managed.policies mit Google als IdP zu verwenden, konfigurieren Sie oidc.google_groups, das die Gruppen jedes Benutzers über die Admin SDK Directory API mit einem Service-Account mit Domain-Wide-Delegation nachschlägt. Ohne dies verwenden Sie oidc.allowed_email_domains für Mitgliedschafts-Gating und managed.policies.match.email_domain für Richtlinienzuweisung. Google ignoriert auch den Standard-Scope offline_access. Für Refresh-Tokens setzen Sie oidc.scopes: [openid, profile, email] und oidc.extra_auth_params: { access_type: offline, prompt: consent }.
Refresh-Tokens ermöglichen es dem Gateway, die Sitzung eines Entwicklers stillschweigend zu erneuern, ohne den Entwickler zum Browser zu senden. Sie treiben auch die Deprovisioning an, denn wenn der IdP einen Benutzer deaktiviert, schlägt die nächste Aktualisierung fehl und die Sitzung endet innerhalb von ttl_hours. Das Gateway fordert standardmäßig offline_access an, um einen Refresh-Token zu erhalten. Wenn Ihr IdP explizite Zustimmung für Offline-Zugriff erfordert, konfigurieren Sie den OAuth-Client, um dies zu ermöglichen.Wenn Ihr IdP überhaupt keine Refresh-Tokens ausstellen kann, funktioniert das Gateway immer noch, aber es gibt keine stille Erneuerung, daher führen Entwickler die Browser-Anmeldung erneut aus, wenn ihre Sitzung abläuft. Um zu verhindern, dass dies jede Stunde geschieht, erhöhen Sie session.ttl_hours auf 8 oder 12. Der Kompromiss ist die Deprovisioning-Latenz, denn ohne Refresh-Tokens behält ein deaktivierter Benutzer Zugriff, bis die längere TTL abläuft.

Bereitstellung

Das Gateway ist eine einzelne zustandslose Linux-Binärdatei, die sich über Postgres koordiniert. Stellen Sie es so bereit, wie Sie jeden anderen zustandslosen Dienst in Ihrer Umgebung bereitstellen. Halten Sie es in Ihrem Netzwerk, wo Ihre Entwickler und Ihr IdP es über HTTPS erreichen können, und behandeln Sie es wie jeden anderen Dienst, der eine Produktionsanmeldedaten hält. Einige Entscheidungen prägen die Bereitstellung über den Ort hinaus, an dem sie läuft:
  • Kosten: Keine separate Lizenz oder Pro-Sitz-Gebühr. Das Gateway ist Teil der claude-Binärdatei, daher zahlen Sie für Inferenz über Ihr bestehendes Engagement, plus die Berechnung, auf der es läuft.
  • Bypass: Das Gateway erzwingt nicht, dass die einzige Route zu einem Modell durch es führt. Ein Entwickler mit seinen eigenen Anmeldedaten kann den Anbieter immer noch direkt aufrufen, daher ist das Schließen dieses Pfads eine Netzwerkrichtlinien-Entscheidung, z. B. das Blockieren von Egress zu api.anthropic.com außer vom Gateway. Das Blockieren dieses Egress bricht auch die WebFetch-Domain-Sicherheitsprüfung, die api.anthropic.com von jeder Entwicklermaschine aufruft. Setzen Sie skipWebFetchPreflight: true in der verwalteten Richtlinie, um sie zu deaktivieren.
  • Mehrere Gateways: Jedes ist eine separate Bereitstellung mit seiner eigenen Konfiguration, und die CLI speichert Vertrauen und Anmeldedaten pro Gateway-Hostname, daher können Teams verschiedene Gateways ohne Konflikte verwenden. Um mehrere OIDC-Aussteller zu bedienen, führen Sie separate Instanzen aus.
  • Serverless: Cloud Run funktioniert, wenn Sie min-instances: 1 setzen, um kalte OIDC-Erkennung zu vermeiden. Lambda und Cloud Functions funktionieren nicht, da das Gateway ein langlebiger HTTP-Server ist.
Jede Produktionstopologie hier platziert einen L7-Proxy, wie einen Ingress, Cloud Runs Front-End oder einen ALB, vor einfachen HTTP-Replikationen. Setzen Sie listen.trusted_proxies auf die Quellbereiche des Proxys, damit das Gateway Client-IPs aus X-Forwarded-For liest. Das Gateway ehrt den Header nur, wenn der TCP-Peer vertrauenswürdig ist. Die Google Cloud- und AWS-Beispiele haben konkrete Werte pro Topologie. Ohne vertrauenswürdige Proxys scheint jede Anfrage von der IP des Proxys zu kommen, was Pro-IP-Ratenlimits in einen gemeinsamen Bucket zusammenfasst und die IP des Proxys in Audit-Events aufzeichnet. Leiten Sie Anfragen nicht an die Device-Authorization- und Token-Endpunkte des Gateways um, z. B. mit einem HTTP-zu-HTTPS- oder Host-Kanonisierungs-Rewrite am Ingress. Claude Code folgt Umleitungen bei diesen Anfragen nicht, daher bricht eine Ingress-Regel, die sie umleitet, die Anmeldung und Token-Aktualisierung. Geben Sie dem Proxy ein Idle-Timeout, das länger ist als das Keepalive-Intervall des Gateways, das vom Upstream abhängt:
  • Bei jedem Upstream außer provider: anthropic schreibt das Gateway einen SSE-ping, sobald ein Stream etwa 15 Sekunden lang stumm war.
  • Bei provider: anthropic leitet das Gateway die Antwort unverändert weiter, einschließlich der eigenen Pings der Anthropic-API.
Ein Standard wie die 60 Sekunden des ALB reichen aus, um einen ruhigen Stream offen zu halten. Das AWS-Beispiel erhöht es ohnehin auf eine Stunde, und seine Troubleshooting-Zeile behandelt Gateways älter als v2.1.229, die während ruhiger Perioden auf den Upstreams, die jetzt Pings erhalten, nichts sendeten.

Container-Image

Erstellen Sie Ihr eigenes Image um die native claude-Binärdatei aus der Standard-Claude-Code-Version:
  1. Laden Sie den Linux-Build für Ihre Image-Architektur aus einer gepinnten Version herunter; siehe Installieren Sie eine bestimmte Version für die Download-URL.
  2. Überprüfen Sie es gegen die GPG-signierte manifest.json der Version, wie in Binäre Integrität und Code-Signierung beschrieben.
  3. Kopieren Sie es in den Build-Kontext.
Spiegeln Sie die Version in Ihre interne Registry, wenn Ihre Builds den Release-Host nicht erreichen können, und pinnen Sie die Version, die Ihre Flotte ausführt. Über die Binärdatei hinaus benötigt das Image:
  • Ein glibc-basiertes Image: Die einzigen dynamischen Abhängigkeiten des glibc-Builds sind glibc-Bibliotheken. Musl-basierte Images benötigen den linux-x64-musl- oder linux-arm64-musl-Build plus zusätzliche Pakete; siehe Alpine-Linux-Setup.
  • Ein beschreibbares Zustandsverzeichnis: Das Gateway läuft als jeder Benutzer, aber minimale Images haben kein beschreibbares Home. Setzen Sie CLAUDE_CONFIG_DIR auf einen beschreibbaren Pfad wie /tmp/.claude.
  • Der Container-Befehl: claude gateway --config /etc/claude/gateway.yaml, mit der Konfigurationsdatei schreibgeschützt eingebunden und Geheimnissen als Umgebungsvariablen bereitgestellt; das Gateway lauscht auf listen.port, Standard 8080.

Kubernetes

Führen Sie das Gateway als Deployment aus, wie jeden zustandslosen Dienst:
  • Binden Sie die Konfiguration von einer ConfigMap und Geheimnisse von einem Secret ein; referenzieren Sie Geheimnisse in der YAML über ${file:/path/to/secret} oder als Umgebungsvariablen
  • Beenden Sie TLS am Ingress und setzen Sie listen.public_url auf den Ingress-Hostnamen
  • Zeigen Sie die Readiness-Probe auf GET /readyz und die Liveness-Probe auf GET /healthz
Für ein vollständiges Beispiel auf AWS, das ECS Fargate oder EKS, Amazon RDS und AWS Secrets Manager abdeckt, siehe Bereitstellung auf AWS. Bevorzugen Sie die Workload-Identität der Plattform gegenüber statischen Schlüsseln; die upstreams-Referenz hat Setup-Details pro Plattform. Für eine Cloud-übergreifende Kopplung, wie z. B. einen Amazon-Bedrock-Upstream auf GKE, setzen Sie explizite Anmeldedaten im auth-Block des Upstream statt.

Cloud Run

Konfigurieren Sie den Dienst wie folgt:
  • Lassen Sie listen.port bei seinem Standard von 8080, das Cloud Runs Standard-PORT entspricht, oder setzen Sie port: ${PORT}
  • Setzen Sie public_url auf den extern erreichbaren Ursprung. Für die Produktion ist dies normalerweise der Hostname eines internen Load Balancers, da /login öffentliche Adressen ablehnt und die *.run.app-URL zu einer aufgelöst wird, daher funktioniert die Cloud-Run-URL allein nur für einen curl- oder Browser-Smoke-Test. Die Ausnahme ist ein Netzwerk, in dem *.run.app privat über Private Service Connect und eine Cloud-DNS-Private-Zone aufgelöst wird; in dieser Topologie ist die Cloud-Run-URL eine gültige public_url. Das Google-Cloud-Beispiel behandelt beide.
  • Binden Sie die Konfiguration als Secret-Volume ein
  • Setzen Sie min-instances: 1, um kalte OIDC-Erkennung bei der ersten Anfrage zu vermeiden
Für ein vollständiges Beispiel auf Google Cloud, das Cloud Run oder GKE, Cloud SQL und Secret Manager abdeckt, siehe Bereitstellung auf Google Cloud.

Pushen Sie die Gateway-URL zu Entwicklermaschinen

Sobald das Gateway bedient wird, pushen Sie forceLoginMethod, forceLoginGatewayUrl und parentSettingsBehavior: "merge" über verwaltete Einstellungen auf jede Entwicklermaschine, über MDM oder durch direktes Schreiben der pro-OS managed-settings.json. Ohne dies zeigt /login den Standard-Account-Picker ohne Gateway-Option. Sobald Sie die Schlüssel bereitstellen, stoppt Claude Code die Verwendung eines übrigen API-Schlüssels oder claude.ai-Anmeldung auf der Maschine, daher planen Sie den Push zusammen mit Ihren Anmeldeanweisungen. Administrator-Richtlinie erfordert eine Cloud-Gateway-Anmeldung beschreibt die Meldungen, die Entwickler sehen. Siehe wo jeder Mechanismus die Richtlinie speichert für die Dateipfade und Client-seitige verwaltete Einstellungen für das Claude-Desktop-bootstrapUrl-Äquivalent.

Große Rollouts

Die Anmeldung ist pro Client-IP-Adresse ratenbegrenzt, und die Standards eignen sich für ein kleines Team. Jede Adresse erhält 30 Anmeldestarts und 10 Code-Einreichungen alle 10 Minuten. Ein Rollout für Tausende von Entwicklern kann diese Limits am ersten Morgen aus einem von zwei Gründen erreichen:
  • Das Gateway kann nicht über Ihren Load Balancer hinaussehen. Ohne listen.trusted_proxies scheint jeder Entwickler von der Adresse des Load Balancers zu kommen und teilt sich ein Limit. Setzen Sie es vor allem anderen. Das Gateway protokolliert eine Warnung, wenn es zum ersten Mal einen X-Forwarded-For-Header ignoriert.
  • Viele Entwickler teilen sich wenige NAT- oder VPN-Egress-Adressen. Sie teilen sich die Limits dieser Adressen, auch wenn trusted_proxies richtig ist. Erhöhen Sie rate_limits, um zu passen.
Um max zu dimensionieren, teilen Sie die Entwickler durch die Egress-Adressen, die sie teilen. Schätzen Sie, wie viele dieser sich innerhalb einer window_seconds-Periode anmelden, die standardmäßig 10 Minuten beträgt. Verdoppeln Sie es dann, um Wiederholungen und Entwickler abzudecken, die sich sowohl bei Claude Code als auch bei Claude Desktop anmelden. Zum Beispiel melden sich 10.000 Entwickler hinter 4 Egress-Adressen gleichmäßig über eine Stunde an. Das sind 2.500 Entwickler pro Adresse und etwa 420 von ihnen in jeweils 10 Minuten, die Sie verdoppeln und auf 1.000 aufrunden. Das Beispiel unten setzt beide Limits auf 1.000:
device_verify ist das, was jemanden daran abhält, den Anmeldecode eines anderen Entwicklers zu erraten, daher erhöhen Sie ihn nur so weit, wie Ihre Schätzung es braucht. Selbst bei diesen Limits ist ein Code 8 Zeichen aus einem 20-Zeichen-Alphabet und läuft nach 10 Minuten ab, daher bleibt das Erraten unpraktisch; siehe Benutzercode-Brute-Force-Widerstand. Wenn Ihr IdP Refresh-Token ausstellt, erneuert Claude Code Sitzungen stillschweigend, daher können Sie das Limit nach dem Rollout zurücksetzen. Ohne Refresh-Token melden sich Entwickler alle session.ttl_hours erneut an. Dimensionieren Sie beide Limits auch für diese stetige Rate und lassen Sie sie erhöht. Wenn ein Limit erreicht wird, zeigt Claude Code v2.1.274 oder später The gateway is limiting sign-in attempts right now. Ein Gateway auf v2.1.274 oder später zeigt Too many attempts came from your network address auf der Verifizierungsseite mit den zu überprüfenden Einstellungen. Es schreibt auch eine sign-in refused-Protokollzeile, die die zu ändernde Einstellung benennt.

Betrieb

Sobald das Gateway Verkehr bedient, ist der tägliche Betrieb das Lesen seiner Protokolle, das Prüfen seiner Integrität und das Rotieren seiner Geheimnisse nach Ihrem Zeitplan. Die Unterabschnitte behandeln jeweils, plus was Postgres hält und wie Upgrades und Rollbacks sich verhalten.

Protokolle

Das Gateway schreibt zwei Streams zu stderr, beide JSON-freundlich:
  • Audit-Events: einzeilige JSON pro sicherheitsrelevantes Event. Leiten Sie stderr an Ihren Log-Aggregator. Die ausgegebenen Events umfassen config.load, session.mint, session.refresh, device.authorize, device.verify, device.callback, auth.denied, access.denied, access.public_client, inference, managed.serve, desktop_bootstrap.serve, desktop_bootstrap.denied, spend.blocked, admin.denied, admin.limit.upsert und admin.limit.delete. Felder variieren je nach Event:
    • Erfolgreiche Mint- und Refresh-Events tragen sub, email, client_ip und das Ergebnis
    • auth.denied und access.denied tragen den Grund und die Client-IP, plus den Anfragepfad für auth.denied, da bei diesen Ablehnungen keine Benutzeridentität existiert. Zwei access.denied-Gründe ändern, was das Event trägt:
      • xff_unparseable: das Event trägt auch den X-Forwarded-For-Eintrag, der nicht gelesen werden konnte
      • client_ip_unknown: das Event trägt keine Client-IP, da die Verbindung keine Peer-Adresse hatte, während eine access_control-Liste gesetzt war
    • access.public_client trägt die Client-IP der ersten Anfrage pro Prozess, die von einer öffentlichen Adresse ankommt, während access_control.allow_cidrs leer ist. Das Gateway bedient die Anfrage wie gewohnt; das Event signalisiert, dass das Gateway möglicherweise vom öffentlichen Internet erreichbar ist. Siehe die access_control-Referenz für das, was als öffentlich zählt, und für die empfohlene Allow-Liste.
    • inference zeichnet auf, welcher Upstream die Anfrage bedient hat und den Antwortstatus
    • desktop_bootstrap.denied zeichnet einen abgelehnten Claude Desktop Bootstrap-Abruf mit dem Grund (not_configured, policy_not_opted_in oder no_policy_matched) und der Identität des Benutzers auf
    • admin.denied zeichnet einen abgelehnten Admin-API-Auth-Versuch mit der Client-IP, Methode, Pfad und einem Grund auf, ohne das präsentierte Schlüsselmaterial: invalid_key, wenn ein x-api-key präsentiert wurde, aber keinen konfigurierten Schlüssel entsprach, bearer_rejected, wenn nur ein Authorization-Header präsentiert wurde und er sich nicht als Gateway-Sitzung in admin.admin_groups verifizierte, oder no_credentials, wenn keiner der Header präsentiert wurde
  • Operationale Protokolle: lesbare [gateway]-präfixierte Zeilen für Boot, Warnungen und Upstream-Fehler. Die Umgebungsvariable CLAUDE_GATEWAY_LOG_LEVEL steuert die Ausführlichkeit und akzeptiert debug, info, warn oder error, mit info als Standard. Bei debug protokolliert jede Anmeldung und Aktualisierung auch die Namen, nicht die Werte, der Ansprüche im id_token, plus die Namen der userinfo-Ansprüche, wenn userinfo_fallback welche bereitgestellt hat, damit Sie email_claim- und groups_claim-Einstellungen diagnostizieren können, ohne PII zu protokollieren. Es beeinflusst keine Audit-Events, die immer ausgegeben werden.

Integrität

Das Gateway bedient GET /healthz als Liveness-Probe und GET /readyz als Readiness-Probe. /readyz überprüft, dass der Store erreichbar ist. Wenn Sie store.readiness_grace_seconds setzen, meldet /readyz bis zu so viele Sekunden lang bereit, nachdem der Store nicht mehr antwortet. Beide Endpunkte sind von access_control.allow_cidrs ausgenommen, daher funktionieren Proben auf einem abgesperrten Listener. Das OAuth-Discovery-Dokument unter /.well-known/oauth-authorization-server gibt auch 200 nur zurück, nachdem Konfigurationslast, OIDC-Erkennung, Upstream-Client-Konstruktion und Postgres-Migration alle erfolgreich sind, daher dient es auch als End-to-End-Boot-Prüfung.

Gleichzeitige Upstream-Anfragen

Standardmäßig sendet jede Gateway-Replikation höchstens 256 Anfragen gleichzeitig Upstream. Eine Streaming-Antwort zählt gegen das Limit, bis der Stream endet. Eine Anfrage, die ankommt, während eine Replikation das Limit erreicht hat, wartet innerhalb des Gateways auf einen freien Slot. Der Entwickler sieht eine Antwort, die langsam zu starten ist oder zu hängen scheint. Bei einem provider: anthropic Upstream gibt eine Anfrage, die länger als timeouts.upstream_ttfb_ms wartet, diesen Upstream auf und schlägt mit einem 502 fehl, wenn kein späterer Upstream es bedient. Die Startup-Protokollzeile, die upstream requests: enthält, zeigt das geltende Limit. Während eine Replikation mehr Anfragen offen hat als das Limit, protokolliert sie auch eine Warnung, die client requests are open enthält, höchstens einmal pro Minute. Um mehr Anfragen gleichzeitig zu bedienen, haben Sie zwei Optionen:
  • Fügen Sie Replikationen hinzu.
  • Erhöhen Sie das Limit auf jeder Replikation. Setzen Sie die Umgebungsvariable BUN_CONFIG_MAX_HTTP_REQUESTS auf dem Gateway-Container auf eine ganze Zahl von 1 bis 65535, dann starten Sie den Container neu.
Eine Replikation füllt ihr Limit bei einer Anfragerate von etwa dem Limit geteilt durch die durchschnittliche Anzahl von Sekunden, die eine Anfrage offen bleibt. Wenn Anfragen beispielsweise durchschnittlich 10 Sekunden offen bleiben, füllt eine Replikation mit dem Standardlimit von 256 es bei etwa 26 Anfragen pro Sekunde. Wenn Sie auf CPU autoskalieren, wartet eine Replikation am Limit Anfragen in die Warteschlange, ohne einen Scale-Out auszulösen, daher setzen Sie das Ziel unter die CPU-Ebene, die Ihre Replikationen zeigen, wenn sie die Warnung client requests are open protokollieren.
Jede offene Anfrage hält Speicher im Gateway-Prozess, während sie streamt und während sie auf einen Slot wartet. Wenn Sie das Limit bei 256 halten, wächst der Speicher auf einer überladenen Replikation immer noch, da wartende Anfragen ihre Anfragekörper behalten. Dimensionieren Sie den Speicher des Containers für die Anzahl der Anfragen, die zur Spitzenzeit offen sind, und beobachten Sie den Speicher, wenn Sie das Limit ändern. Eine Replikation, der der Speicher ausgeht, wird beendet und lässt jeden Stream fallen, den sie hält.

Ausfallverhalten

Wenn Postgres ausfällt, bedient das Gateway selbst weiterhin angemeldete Entwickler und neue Anmeldungen schlagen fehl. Ob Entwickler tatsächlich weiterarbeiten, hängt davon ab, wie Ihr Orchestrator die Readiness handhabt:
  • Bestehende Sitzungen: Bearer-Tokens validieren lokal mit dem JWT-Geheimnis, Sitzungs-Refreshes berühren den Store nicht, und der Gateway-Prozess kann immer noch Inferenz bedienen
  • Neue Anmeldungen: schlagen fehl, bis Postgres wiederhergestellt ist, da der Device-Flow und seine Rate-Limit-Zähler in Postgres leben
  • Spend-Limit-Durchsetzung: schlägt während des Ausfalls offen fehl, daher fließt Inferenz weiterhin; schalten Sie es auf Fail-Closed um, wenn Sie lieber blockieren als ungemessen laufen möchten
  • Readiness: standardmäßig meldet /readyz nicht bereit, sobald Postgres unerreichbar ist, daher schlägt jede Replikation ihre Readiness-Prüfung auf einmal fehl. Wo Verkehr nur Replikationen erreicht, die die Prüfung bestehen, schlägt der gesamte Verkehr, einschließlich Inferenz, die das Gateway immer noch bedienen könnte, beim Load Balancer fehl, bis Postgres wiederhergestellt ist. Die Liveness-Probe auf /healthz bleibt bestehen.
Wenn Ihr IdP ausfällt, funktionieren bestehende Sitzungen bis ttl_hours und neue Anmeldungen schlagen fehl. Eine Sitzungs-Aktualisierung erhält eine Wiederholungsantwort und funktioniert, sobald der IdP wieder verfügbar ist. Setzen Sie eine längere ttl_hours, wenn Ihr IdP häufige Wartungsfenster hat.

Readiness-Grace-Periode

Um angemeldete Entwickler durch einen kurzen Postgres-Ausfall wie ein Datenbank-Failover arbeiten zu lassen, setzen Sie store.readiness_grace_seconds länger als das Failover dauert, zum Beispiel 300. Mit Spend-Limits an und dem Standard-Fail-Open-Verhalten sind Anfragen durch eine Replikation, die bereit bleibt, ungemessen, bis Postgres wiederhergestellt ist, daher halten Sie den Wert so niedrig, wie er Ihr Failover abdeckt. Wenn Sie enforcement.fail_closed_on_error: true setzen, weigert sich das Gateway, angemeldete Entwickler-Inferenz mit der 429 spend limit unavailable-Nachricht zu bedienen, bis Postgres wiederhergestellt ist, auch während Replikationen immer noch ihre Readiness-Prüfung bestehen. Die Einstellung erfordert Claude Code v2.1.282 oder später auf dem Gateway-Server. Ein früheres Gateway weigert sich zu starten, wenn es den Schlüssel findet, daher aktualisieren Sie jede Replikation, bevor Sie ihn hinzufügen. Upgrades behandelt das Rollback. Wenn Sie die Readiness-Probe statt auf /healthz zeigen, bestehen Replikationen auch ihre Prüfung durch einen Ausfall, aber /healthz meldet nie nicht bereit, daher bleibt eine Replikation, deren Postgres-Verbindung sich nicht erholt, auch bestehen.

JWT-Geheimnisrotation

Rotieren Sie das Signierungsgeheimnis in Stufen, damit bestehende Sitzungen gültig bleiben:
  1. Generieren Sie ein neues Geheimnis. Stellen Sie es dem session.jwt_secret-Array voran.
  2. Rollen Sie die Bereitstellung aus. Neue Tokens signieren mit dem neuen Geheimnis; alte Tokens validieren immer noch.
  3. Nach ttl_hours plus einer Marge entfernen Sie das alte Geheimnis und rollen erneut aus.
Rotation ist auch die einzige Möglichkeit, Sitzungen vor Ablauf zu erzwingen: Bearer-Tokens validieren lokal gegen das JWT-Geheimnis, daher gibt es keine Pro-Sitzungs-Sperrung. Das Ersetzen des Geheimnisses direkt, ohne das alte in dem Array zu behalten, invalidiert jede ausstehende Sitzung auf einmal. Für einzelnes Offboarding deprovisioning Sie den Benutzer in Ihrem IdP; ihre Sitzung endet innerhalb von ttl_hours.

Postgres

Das Gateway hält fünf Datentabellen plus eine _migrations-Tabelle, alle erstellt durch seine Boot-Zeit-Migrationen: Eine 30-Sekunden-Schleife läuft kv-Zeilen ab ihrer TTL ab, und ein stündlicher Sweep erzwingt die Aufbewahrungsfenster auf den Spend-Tabellen, daher wächst nichts ohne Grenzen. Ohne Spend-Limits konfiguriert, wird nur kv geschrieben. Das Gateway wendet seine eigenen Schema-Migrationen beim Boot und bei jedem Upgrade an, daher benötigt seine Datenbankrolle Rechte zum Erstellen und Ändern von Tabellen. Zeigen Sie auf eine Datenbank oder ein Schema, das dem Gateway gewidmet ist, um diese Berechtigung eng zu halten. Mit Spend-Limits in Verwendung bedeutet eine verlorene Datenbank verlorene Spend-Verfolgung und Caps, nicht nur Entwickler-Neu-Anmeldungen, daher führen Sie regelmäßige Backups durch. Um einen abgegangenen Entwickler sofort zu löschen, statt auf Aufbewahrung zu warten, führen Sie DELETE FROM principal_emails WHERE principal = '<sub>' direkt aus; das entfernt die einzige Tabelle, die ihre E-Mail, ihren Namen und ihre Gruppen hält. spend- und admin_audit-Zeilen referenzieren nur das pseudonyme OIDC-sub.

Upgrades

Replikationen sind zustandslos, daher ist ein Rolling Restart jederzeit sicher. Das Gateway führt Schema-Migrationen beim Start aus, was bedeutet, dass die Bereitstellung der neuen Binärdatei die Datenbank selbst migriert. Gleichzeitige Replikationen serialisieren auf einem Postgres-Advisory-Lock, daher wendet nur eine jede Migration an. Wenn Ihr Orchestrator eine Replikation mit SIGTERM stoppt, wie bei einem Rolling Restart oder einer Scale-In, stoppt das Gateway das Akzeptieren neuer Verbindungen und lässt Anfragen und Streams, die bereits in Flug sind, beenden, bevor es beendet wird. Es wartet bis zu 25 Sekunden, genannt das Drain-Fenster, dann schließt es, was noch offen ist. Ein SIGINT, wie Ctrl+C in einem Terminal, startet denselben Drain, und ein zweites Signal während des Drain schließt die offenen Anfragen und beendet sofort. Draining erfordert Gateway v2.1.274 oder später. Lange Generationen können Minuten lang streamen. Auf Kubernetes und Amazon ECS erhöhen Sie beide dieser zusammen, um diesen Streams mehr Zeit zu geben:
  • Das Drain-Fenster: setzen Sie die Umgebungsvariable CLAUDE_GATEWAY_DRAIN_TIMEOUT_MS auf dem Gateway-Container auf eine positive ganze Zahl von Millisekunden, wie 120000. Das Gateway ignoriert einen Wert in jeder anderen Form, wie 120s, und behält den 25-Sekunden-Standard
  • Die Grace Period Ihres Orchestrators: terminationGracePeriodSeconds auf Kubernetes oder stopTimeout auf Amazon ECS
Die Grace Period beträgt standardmäßig 30 Sekunden auf beiden Plattformen. Halten Sie sie mindestens 5 Sekunden länger als das Drain-Fenster, oder der Orchestrator beendet das Gateway, bevor das Drain beendet ist. Auf Kubernetes addieren Sie auch die Dauer eines preStop-Hooks, da die Grace Period zu zählen beginnt, bevor der Hook ausgeführt wird, statt wenn das Gateway SIGTERM empfängt. Ihre Plattform kann auch begrenzen, wie lange das Drain laufen kann:
  • Amazon ECS on Fargate: stopTimeout erlaubt höchstens 120 Sekunden
  • Cloud Run: stoppt eine Instanz 10 Sekunden nach SIGTERM, daher bekommen offene Streams dort höchstens 10 Sekunden, egal wie das Drain-Fenster ist
Wenn das Drain-Fenster mit noch offenen Anfragen endet, protokolliert das Gateway eine Warnung, die drain window over after enthält, zählt die Anfragen, die es abschnitt, und nennt beide Einstellungen zum Erhöhen. Migrationen sind nur Anhänge, daher ist das Rollback zu einer früheren Binärdatei, die weniger Migrationen kennt, sicher; es ignoriert die zusätzlichen Zeilen. Rollback validiert auch die YAML erneut gegen das ältere Binärdatei-Schema, daher schlägt eine Konfiguration, die einen Schlüssel angenommen hat, der von der neueren Version eingeführt wurde, beim Boot auf der älteren fehl. Entfernen Sie den neuen Schlüssel vor dem Rollback. Da Sie die Gateway-Version in Ihrem eigenen Image pinnen, erreichen Fixes in neuen Claude Code-Releases, einschließlich Sicherheits-Fixes, Ihre Bereitstellung nur, wenn Sie den Pin aktualisieren und erneut bereitstellen. Beziehen Sie das Gateway in denselben Patching-Zyklus ein, den Sie für andere Dienste verwenden, die Produktionsanmeldedaten halten.

Sicherheit

Dieser Abschnitt beantwortet die Fragen, die eine Sicherheitsüberprüfung stellt: Welche Daten fließen durch das Gateway und wohin sie gehen, welche Angriffe das Design abwehrt, und welche Antworten in einen Compliance-Fragebogen gehören.

Datenfluss

Bedrohungsmodell-Zusammenfassung

Das Gateway sitzt innerhalb Ihres Netzwerk-Perimeters, aber einzelne Entwickler-Laptops werden nicht als vertrauenswürdig behandelt. Das Design berücksichtigt dies auf drei Arten:
  • Entwickler halten kurzlebige JWTs statt roher Upstream-Schlüssel. Das CLI-zu-Gateway-Bein verwendet den RFC-8628-Device-Grant, und der Gateway-Autorisierungs-Code-Austausch mit dem IdP führt PKCE in der Standard-Konfiguration aus, daher ist ein abgefangener IdP-Autorisierungs-Code nutzlos.
  • Die Device-Verifikationsseite erzwingt Same-Origin-POST und ein Pro-IP-Rate-Limit pro RFC 8628 §5.1. Siehe User-Code-Brute-Force-Resistenz.
  • Die Anfragen des Gateways an Ihren IdP, Ihre OTLP-Collector und provider: anthropic-Upstreams gehen durch einen Server-Side-Request-Forgery (SSRF)-Guard, der DNS auflöst, Link-Local- und Cloud-Metadata-Adressen plus Loopback standardmäßig blockiert und die Verbindung zur aufgelösten IP pinnt, daher können Operator-beeinflusste URLs nicht zu Cloud-Metadata-Endpoints umgeleitet werden. RFC-1918-Private-Bereiche sind absichtlich erlaubt, da IdPs und OTLP-Collector häufig auf privaten IPs leben. Für die anderen Provider weigert sich das Gateway, eine base_url zu akzeptieren, die eine dieser Adressen oder einen Metadata-Hostnamen benennt, wenn es die Konfiguration lädt, und das SDK des Providers verbindet sich dann ohne die DNS-Prüfung. Wenn Sie Proxy-Only-Egress aktivieren, verschiebt sich diese Adressprüfung zu Ihrem Forward-Proxy: Das Gateway übergibt Hostnamen und die Allowlist des Proxys muss diese Ziele ablehnen. Setzen Sie CLAUDE_GATEWAY_ALLOW_LOOPBACK=1 in der Gateway-Umgebung nur, wenn etwas, das das Gateway erreichen muss, legitim auf Loopback lebt, wie ein lokaler Entwicklungs-IdP oder ein Sidecar-OTLP-Collector auf localhost. Die Variable lockert die Loopback-Blockade für jede Operator-konfigurierte URL und überspringt auch die Boot-Zeit-Warnung, die prüft, ob der Pod den Cloud-Metadata-Endpoint erreichen kann, daher bevorzugen Sie es, dem Collector seine eigene interne Adresse zu geben.
Wenn Sie Ihre eigenen Egress-Kontrollen hinzufügen, muss das Gateway den Metadata-Server erreichen, wenn es Instanz-Metadata-Anmeldedaten wie Workload-Identität verwendet. Zwei Bedrohungen sind außerhalb des Geltungsbereichs, da sie Ihre Infrastruktur sind, um zu sichern:
  • Ein kompromittierter Gateway-Host: Der Host hält sowohl die Upstream-Anmeldedaten als auch verteilt verwaltete Einstellungen an jeden verbundenen Entwickler, daher ist die Kontrolle über die Gateway-Konfiguration vergleichbar mit der Kontrolle über Ihr MDM. Der Genehmigungsdialog der CLI für Shell-fähige Einstellungen begrenzt stille Änderungen, ersetzt aber nicht die Host-Sicherheit.
  • Ein böswilliger OIDC-Anbieter: Der Anbieter signiert die id_tokens, denen das Gateway vertraut, daher kann er jede Identität behaupten. Das Überprüfen und Sichern Ihres IdP ist Ihre Verantwortung.

User-Code-Brute-Force-Resistenz

Der user_code, den ein Entwickler auf der /device-Verifikationsseite eingibt, sind 8 Zeichen aus einem 20-Zeichen-Alphabet, was 20⁸ oder etwa 2,56×10¹⁰ Kombinationen ergibt, und er läuft nach 10 Minuten ab. Das Gateway wendet Pro-IP-Rate-Limits auf die Device-Grant-Endpoints an, konfigurierbar über rate_limits. Erhöhen Sie die Limits, wenn sich viele Entwickler von einer einzelnen gemeinsamen Unternehmens-NAT-Adresse anmelden. Große Rollouts zeigt, wie Sie sie dimensionieren. Die Limits gelten nur für den Anmeldungs-Flow, nicht für Inferenz.

Compliance-Haltung

  • Datenresidenz: Die Datenebene des Gateways selbst sendet nichts an Anthropic, es sei denn, die Anthropic-API ist ein konfigurierter Upstream; wenn sie es ist, gilt Ihre bestehende Datenbehandlungsvereinbarung für den Inferenz-Pfad. Telemetrie, Audit, Identität und Einstellungen gehen nur an die Ziele, die Sie konfigurieren.
  • Host-Prozess-Verkehr: Der Host-Prozess ist die Claude Code CLI. claude gateway läuft unter den gleichen Third-Party-Regeln wie Amazon Bedrock und Google Cloud’s Agent Platform-Bereitstellungen und sendet nichts an Anthropic. Vor v2.1.227 sendete der Host-Prozess Startup-Telemetrie wie Produktversion und Plattform, die das Setzen von CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC=1 in der Container-Umgebung ausschaltete. Diese Releases sendeten auch eine HEAD-Anfrage beim Boot ohne Body oder Anmeldedaten an /api/hello auf https://api.anthropic.com oder auf ANTHROPIC_BASE_URL, wenn die Umgebung es setzte, es sei denn, die Umgebung setzte auch eine Proxy-Variable wie HTTPS_PROXY oder ein mTLS-Client-Zertifikat. Sie ignorierten die Antwort, daher blockierte das Blockieren dieser Anfrage an der Egress-Firewall das Gateway nicht.
  • Client-Analytik: Die CLI deaktiviert ihre eigene Nutzungsanalytik und Fehlerberichterstattung, während sie bei einem Gateway angemeldet ist. Vor der ersten Anmeldung sendet die CLI immer noch Startup-Events an Anthropic, auch auf Maschinen, deren verwaltete Einstellungen Gateway-Anmeldung erzwingen. Um diese auch auszuschalten, liefern Sie DISABLE_TELEMETRY in den gleichen Client-seitigen verwalteten Einstellungen, die Gateway-Anmeldung erzwingen.
  • Fehlerberichterstattung: Die CLI schaltet Fehlerberichterstattung aus, wenn ihre Modellanfragen zu einem anderen Endpoint als Anthropic’s First-Party-API gehen, wie Amazon Bedrock oder ein benutzerdefiniertes ANTHROPIC_BASE_URL.
  • Client-Maschinen: Entwickler-CLIs senden immer noch WebFetch-Hostname-Prüfungen und Versions-Prüfungen an Anthropic, es sei denn, CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC=1 und skipWebFetchPreflight: true sind gesetzt. Siehe Datennutzung.
  • Umfrage-Bewertungen: Während der Anmeldung bei einem Gateway deaktiviert die CLI den Anthropic-gebundenen Bewertungs-Upload zusammen mit den Analytik-Streams, daher sendet sie Bewertungen nicht an Anthropic.
  • Transkript-Freigabe: Das Wählen von Ja auf einer Umfrage-Transkript-Freigabe-Aufforderung schreibt eine lokale Datei unter ~/.claude/feedback-bundles/ statt zu Anthropic hochzuladen.
  • Client-Updates: Update-Prüfungen sind getrennt vom Gateway-Verkehr. Pinnen Sie Versionen durch Ihre eigene Verteilung und setzen Sie DISABLE_UPDATES, wenn Laptops keine Releases abrufen dürfen. DISABLE_AUTOUPDATER stoppt nur Hintergrund-Updates, während claude update immer noch funktioniert.
  • TLS: Bedienen Sie public_url über HTTPS in der Produktion, entweder vom Gateway-eigenen Listener über listen.tls oder von einem TLS-terminierenden Ingress vor einfachen HTTP-Replikationen mit listen.public_url gesetzt. Das Gateway weigert sich nicht, einfaches HTTP. Der IdP muss HTTPS in der Produktion bedienen, und Postgres unterstützt ?sslmode=require. Setzen Sie Strict-Transport-Security bei Ihrem Ingress.
  • Vulnerability-Offenlegung: Folgen Sie Sicherheitsprobleme melden

Fehlerbehebung

Für Fragen und Feedback verwenden Sie Claude-Code-Support, oder öffnen Sie ein Issue im Claude-Code-GitHub-Repository. Wenn Sie ein Problem melden, beziehen Sie ein:
  • Gateway-Problem: Das Gateway-Stderr für das relevante Fenster, Ihre gateway.yaml mit Geheimnissen redigiert, die Gateway-Version, auf der Landingpage unter / und im x-cc-gateway-version-Response-Header auf /managed/settings angezeigt, und was sich kürzlich geändert hat
  • Anmeldungs-Problem: Der Entwickler führt claude --debug-file ./claude-debug.txt aus, reproduziert und sendet diese Datei plus das Gateway-Audit-Protokoll für dasselbe Fenster
  • Inferenz-Problem: Das angeforderte Modell, die konfigurierten Upstreams und das Gateway-Audit-Protokoll für die Anfrage, das aufzeichnet, welcher Upstream sie bedient hat und den Response-Status
Die Standardfehlerausgabe des Gateways enthält den Audit-Ereignisstrom, das Audit-Protokoll zeichnet Entwickleridentitäten auf, und die Debug-Datei zeichnet Hook- und MCP-Serverausgaben von der Maschine des Entwicklers auf. Überprüfen und redigieren Sie diese, bevor Sie sie in einem öffentlichen Problem posten. Die Cloud gateway sign-in was not completed-Nachricht benennt den Gateway-Hostnamen. Wenn Claude Code sowohl den angehefteten Fingerprint als auch den präsentierten hat, zeigt die Nachricht auch die ersten 16 Zeichen jedes. Wenn Claude Code couldn't load your organization's managed settings nach einer Gateway-Anmeldung meldet, benennt Claude Code den Grund, startet an Ort und Stelle neu und setzt das Gespräch fort. Wenn Claude Code nicht neu starten kann, zum Beispiel in einer Hintergrund-Sitzung, beendet Claude Code die Sitzung und behält die Anmeldung.