Déployer une passerelle LLM pour votre organisation

​

Prérequis

• Une passerelle déployée sur votre infrastructure, servant HTTPS à l’adresse exacte que vous distribuerez aux développeurs, pas une adresse qui redirige vers elle, et configurée pour router les noms de modèles Claude vers votre fournisseur
• Une identifiant de fournisseur pour que la passerelle le transfère avec :
  • Pour l’API Anthropic : une clé API de la Console Claude
  • Pour un fournisseur cloud : des identifiants cloud avec accès aux modèles. Consultez les prérequis sur la page Amazon Bedrock, Google Vertex AI, ou Microsoft Foundry
• Un moyen de livrer des fichiers de paramètres aux machines des développeurs, comme MDM ou gestion de configuration
  • Si vous n’en avez pas encore, comment les paramètres atteignent les appareils compare les options

​

Exigences de la passerelle

• Accepter un format API pris en charge : l’un des formats du tableau des formats API. Les étapes de déploiement ci-dessous supposent l’API Messages Anthropic à POST /v1/messages, que la plupart des passerelles servent
• Diffuser les réponses : transmettre les événements envoyés par le serveur au fur et à mesure qu’ils arrivent au lieu de mettre en mémoire tampon la réponse entière
• Router les noms de modèles Claude : mapper chaque nom que les développeurs utilisent à un modèle en amont. Claude Code envoie un nom de modèle tel que claude-sonnet-4-6 dans chaque requête ; dans la plupart des produits de passerelle, le mappage est une liste de modèles ou une table de routage dans la propre configuration de la passerelle
• Transférer les en-têtes et le corps inchangés : transmettre anthropic-beta, anthropic-version, et le corps de la requête dans les deux sens ; le tableau de passage des fonctionnalités mappe chacun à la fonctionnalité qui se casse sans lui
• Retourner les erreurs en amont non modifiées : la récupération automatique de Claude Code correspond au libellé de l’erreur, donc envelopper les erreurs dans l’enveloppe propre de la passerelle la casse
• Exempter le chemin de l’inspection WAF du corps de la requête : les invites Claude Code contiennent du code source et des balises de style XML qui correspondent aux règles du corps de cross-site-scripting ; un WAF devant la passerelle retourne 403 sur les vraies sessions tandis que les courtes demandes de test passent

​

Étapes du déploiement

1. Confirmer que la passerelle route vos modèles
2. Émettre une identifiant à chaque développeur
3. Tester Claude Code contre la passerelle
4. Distribuer l’URL de base et les identifiants
5. Vérifier à partir d’une machine de développeur

​

Confirmer que la passerelle route vos modèles

• <gateway-key> est tout identifiant qui vous permet d’appeler la passerelle en ce moment : une clé administrative, une clé de test, ou votre propre clé de développeur si vous en avez déjà émis une. Pas tous les produits de passerelle ont un identifiant administratif séparé ; si le vôtre n’en a pas, émettez-vous d’abord une clé de développeur dans Émettre des identifiants de développeur
• model est un nom de modèle Claude que votre passerelle est configurée pour router. L’exemple utilise claude-sonnet-4-6 ; substituez un nom que vous avez configuré

curl -X POST "https://llm-gateway.example.com/v1/messages" \
  -H "Authorization: Bearer <gateway-key>" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{"model": "claude-sonnet-4-6", "max_tokens": 1, "messages": [{"role": "user", "content": "."}]}'

Invoke-RestMethod -Method Post -Uri "https://llm-gateway.example.com/v1/messages" `
  -Headers @{ "Authorization" = "Bearer <gateway-key>"; "anthropic-version" = "2023-06-01" } `
  -ContentType "application/json" `
  -Body '{"model": "claude-sonnet-4-6", "max_tokens": 1, "messages": [{"role": "user", "content": "."}]}'

​

Émettre des identifiants de développeur

curl -X POST "https://llm-gateway.example.com/v1/messages" \
  -H "Authorization: Bearer <developer-key>" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{"model": "claude-sonnet-4-6", "max_tokens": 1, "messages": [{"role": "user", "content": "."}]}'

Invoke-RestMethod -Method Post -Uri "https://llm-gateway.example.com/v1/messages" `
  -Headers @{ "Authorization" = "Bearer <developer-key>"; "anthropic-version" = "2023-06-01" } `
  -ContentType "application/json" `
  -Body '{"model": "claude-sonnet-4-6", "max_tokens": 1, "messages": [{"role": "user", "content": "."}]}'

​

Tester Claude Code contre la passerelle

export ANTHROPIC_BASE_URL=https://llm-gateway.example.com
export ANTHROPIC_AUTH_TOKEN="<developer-key>"

$env:ANTHROPIC_BASE_URL = "https://llm-gateway.example.com"
$env:ANTHROPIC_AUTH_TOKEN = "<developer-key>"

claude -p "Reply with one word: connected"

• Not logged in : vérifiez le journal de la passerelle pour distinguer les deux causes. S’il est vide, aucun identifiant n’a atteint la session et aucune requête n’a quitté la machine ; réexécutez les exports dans le shell que vous testez. S’il affiche une requête rejetée avec x-api-key dans le corps 401, la passerelle s’attend à des clés dans cet en-tête à la place ; basculez vers ANTHROPIC_API_KEY
• Failed to authenticate. API Error: 401 signifie qu’un identifiant a été envoyé et rejeté, et le journal de la passerelle dit où : un 401 nommant api.anthropic.com ou le point de terminaison de votre fournisseur signifie que la passerelle a atteint l’amont mais son identifiant de fournisseur a été rejeté, donc la clé de développeur a fonctionné et l’identifiant de fournisseur que la passerelle détient est incorrect ou un placeholder

​

Distribuer la configuration

​

Ce qu’il faut distribuer

​

Distribuer via les paramètres gérés

{
  "env": {
    "ANTHROPIC_BASE_URL": "https://llm-gateway.example.com"
  },
  "apiKeyHelper": "/usr/local/bin/get-gateway-key"
}

• L’application de bureau lit le routage de la passerelle uniquement à partir de sa configuration d’inférence tierce livrée par MDM ; déployez ce fichier aux côtés des paramètres gérés pour que les sessions de bureau routent également via la passerelle. Consultez la documentation de configuration tierce du bureau et la documentation de passerelle du bureau
• Les exécuteurs CI ont besoin de ANTHROPIC_BASE_URL et de l’identifiant définis dans l’environnement de l’exécuteur
• WSL sur les machines Windows gérées lit les paramètres gérés Windows uniquement quand wslInheritsWindowsSettings est true

​

Remettre aux développeurs les valeurs à définir eux-mêmes

• L’URL de la passerelle
• Leur identifiant personnel
• Quelle variable mettre l’identifiant dans : ANTHROPIC_AUTH_TOKEN pour une passerelle bearer-token, ou ANTHROPIC_API_KEY pour une passerelle x-api-key. Dire aux développeurs lequel économise le procès et erreur décrit sur la page de connexion
• Toutes les variables conditionnelles du tableau Ce qu’il faut distribuer, avec leurs valeurs

​

Vérifier le déploiement

curl -N -X POST "https://llm-gateway.example.com/v1/messages" \
  -H "Authorization: Bearer <developer-key>" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{"model": "claude-sonnet-4-6", "max_tokens": 16, "stream": true, "messages": [{"role": "user", "content": "count to 3"}]}'

$body = '{"model": "claude-sonnet-4-6", "max_tokens": 16, "stream": true, "messages": [{"role": "user", "content": "count to 3"}]}'
$body | curl.exe -N -X POST "https://llm-gateway.example.com/v1/messages" `
  -H "Authorization: Bearer <developer-key>" `
  -H "anthropic-version: 2023-06-01" `
  -H "content-type: application/json" `
  --data-binary '@-'

• Une invite de connexion signifie un écart d’identifiant. Exécutez /status et ouvrez l’onglet Status : quand la ligne Setting sources n’inclut pas les paramètres gérés, la distribution n’a pas atteint la machine ; quand elle le fait, l’identifiant de développeur n’a pas été livré, donc définissez ANTHROPIC_AUTH_TOKEN ou le apiKeyHelper
• Les erreurs Failed to authenticate signifient que la passerelle rejette les requêtes ; son journal dit quel identifiant a échoué. Un rejet que la passerelle enregistre elle-même nomme la clé de développeur, tandis qu’un 401 de api.anthropic.com ou du point de terminaison de votre fournisseur signifie que l’identifiant de fournisseur que la passerelle détient a été rejeté
• Une invite d’approbation unique pour la clé est attendue à la première utilisation quand la passerelle s’attend à des clés dans l’en-tête x-api-key, défini comme ANTHROPIC_API_KEY. Avec ANTHROPIC_AUTH_TOKEN, aucune invite n’apparaît et la variable prend le relais silencieusement ; une connexion claude.ai précédemment enregistrée est inactive pour cette session

​

Maintenir la passerelle

​

Ressources connexes

• Connecter Claude Code à une passerelle LLM : les étapes de configuration côté développeur, avec la configuration par surface et un tableau de dépannage que vous pouvez remettre aux développeurs
• Référence du protocole de passerelle : le contrat de fil pour les opérateurs de passerelle, couvrant les points de terminaison, les en-têtes à transférer, et le tableau de passage des fonctionnalités
• Fichiers de paramètres et précédence : comment les paramètres gérés, de projet et utilisateur se combinent, et où le fichier géré va sur chaque plateforme
• Configurer Claude Code pour votre organisation : le déploiement plus large dont cette passerelle est une partie, y compris l’application des politiques, la visibilité de l’utilisation, et la gestion des données