Skip to main content
Halaman ini menjelaskan satu cara untuk menjalankan gateway aplikasi Claude di AWS. Konfigurasi ini adalah contoh yang berfungsi untuk infrastruktur yang dikelola pelanggan daripada deployment produksi yang didukung; gunakan ini untuk melihat bagaimana potongan-potongan cocok bersama sebelum menyesuaikannya dengan lingkungan Anda sendiri. Untuk persyaratan yang tidak bergantung pada platform, lihat panduan deployment.
Contoh ini menyediakan gateway aplikasi Claude di AWS dengan Amazon Bedrock sebagai upstream model, menggunakan Amazon ECS di AWS Fargate atau Amazon EKS untuk komputasi. Okta adalah penyedia identitas (IdP) contoh, tetapi penyedia IdP yang sesuai dengan OpenID Connect (OIDC) apa pun berfungsi; lihat Pengaturan penyedia identitas untuk detail per-IdP.
Bedrock bukan satu-satunya upstream Claude di AWS. Gateway juga mendukung Claude Platform di AWS, API Claude yang dioperasikan Anthropic dengan autentikasi AWS dan penagihan AWS Marketplace, sebagai pengganti Bedrock atau bersama dengannya. Entri upstream, kredensial, dan izin IAM-nya berbeda dari yang berfokus pada Bedrock di halaman ini; referensi upstream Claude Platform di AWS mencakup apa yang berubah, dan sisa halaman ini berlaku tanpa perubahan.

Arsitektur

Diagram gateway aplikasi Claude di AWS: Klien Claude Code terhubung melalui HTTPS ke Application Load Balancer internal yang menghadap gateway (ECS Fargate atau EKS), yang berjalan di subnet pribadi bersama dengan instans Amazon RDS untuk PostgreSQL untuk status sesi. Gateway memproses masuk pengguna melalui OIDC terhadap IdP perusahaan, membaca rahasia dari AWS Secrets Manager, meneruskan permintaan model ke Amazon Bedrock menggunakan peran IAM-nya, dan menarik gambarnya dari Amazon ECR saat deploy.

Arsitektur contoh, dengan Amazon Bedrock sebagai upstream model. Upstream Claude Platform di AWS menempati posisi yang sama.

Gateway berjalan sebagai endpoint HTTPS pribadi di jaringan Anda yang diakses pengembang melalui IdP Anda. Sesi Claude Code mereka mencapai model Claude di Amazon Bedrock melalui peran IAM gateway, jadi tidak ada kredensial model yang mendarat di mesin pengembang. Konfigurasi referensi menyediakan:
  • Layanan Amazon ECS di AWS Fargate atau Amazon EKS Deployment yang menjalankan kontainer gateway
  • Repositori Amazon ECR untuk gambar gateway
  • Instans Amazon RDS untuk PostgreSQL di subnet pribadi, tidak dapat diakses secara publik, untuk store gateway
  • Rahasia AWS Secrets Manager untuk kunci penandatanganan JWT, rahasia klien OIDC, dan URL Postgres
  • Peran IAM dengan bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream, dan bedrock:CountTokens, terpasang sebagai peran tugas ECS atau terikat melalui IAM Roles for Service Accounts (IRSA) di EKS
  • Application Load Balancer Internal untuk HTTPS

Prasyarat

Panduan ini membuat sumber daya gateway sendiri, tetapi dibangun di atas infrastruktur jaringan dan identitas yang sudah Anda miliki. Sebelum Anda mulai, Anda memerlukan:

Atur variabel lingkungan Anda

Setiap perintah di halaman ini membaca empat nilai dari shell Anda: AWS_REGION, ACCOUNT_ID, VPC_ID, dan PRIVATE_SUBNETS. Pilih wilayah US tempat Bedrock melayani model Claude yang Anda butuhkan. Panduan ini bergantung pada katalog model bawaan gateway, yang diselesaikan ke profil inferensi us.anthropic.*, dan kebijakan IAM memberikan ARN tersebut. Di wilayah non-US, tambahkan blok models: dengan ID profil inferensi geo itu dan ubah awalan ARN kebijakan IAM agar sesuai. Jika Anda tidak memiliki ID VPC di tangan, daftarkan VPC Anda dengan aws ec2 describe-vpcs, kemudian daftarkan subnet VPC itu untuk menemukan dua subnet pribadi di Zona Ketersediaan berbeda:
Ekspor keempat sebelum melanjutkan:

Terapkan gateway

Langkah-langkah di bawah menyediakan deployment lengkap dengan perintah aws.
1

Buat grup keamanan

Tiga grup keamanan merantai jalur lalu lintas: jaringan perusahaan Anda mencapai load balancer di 443, load balancer mencapai gateway di 8080, dan gateway mencapai Postgres di 5432. Tidak ada yang lain yang dapat dijangkau. Cara Anda melampirkannya tergantung pada jalur komputasi:
  • Di ECS Fargate, langkah deploy melampirkan $ALB_SG ke load balancer dan $GW_SG ke layanan.
  • Di EKS, AWS Load Balancer Controller membuat grup keamanan frontend-nya sendiri, jadi $ALB_SG dan $GW_SG tidak digunakan: anotasi inbound-cidrs langkah deploy membatasi pendengar ke jaringan perusahaan Anda, dan grup keamanan database mengakui grup keamanan kluster sebagai gantinya.
2

Buat peran IAM dan kirimkan formulir kasus penggunaan

Gateway berjalan dengan peran tugas khusus yang satu-satunya izinnya adalah memanggil model Claude di Bedrock. Sesuai referensi upstream Bedrock, kebijakan harus mencakup baik ARN profil inferensi lintas wilayah maupun ARN model dasar yang mendasarinya:
ECS juga memerlukan peran eksekusi, yang digunakan agen ECS sendiri untuk menarik gambar dari ECR dan menyuntikkan nilai Secrets Manager yang dibuat nanti. Ini terpisah dari peran tugas yang digunakan AWS SDK gateway saat runtime:
Nama kebijakan satu ARN per rahasia daripada wildcard gateway-* telanjang, yang dalam akun bersama juga akan cocok dengan rahasia yang tidak terkait; akhiran -?????? yang tertinggal cocok dengan tepat enam karakter acak yang ditambahkan Secrets Manager ke ARN setiap rahasia. Akhiran -* akan menjadi glob awalan biasa dan juga akan cocok dengan nama yang lebih panjang seperti gateway-postgres-url-prod.Kebijakan IAM memberikan gateway izin untuk memanggil Bedrock, dan Bedrock mengaktifkan akses model secara default di wilayah komersial. Gerbang tingkat akun yang tersisa adalah formulir kasus penggunaan Anthropic satu kali: jika tidak ada yang di akun Anda telah mengirimkannya, buka konsol Amazon Bedrock, pilih model Anthropic dari katalog Model, dan lengkapi formulir. Akses diberikan segera setelah pengajuan; lihat Claude Code di Amazon Bedrock untuk formulir AWS Organizations dan izin IAM yang dibutuhkan pengajuan.Trek EKS menggunakan kembali kedua dokumen kebijakan pada peran IRSA sebagai gantinya dari dua peran ECS; lihat langkah deploy.
3

Sediakan Amazon RDS untuk PostgreSQL

Instans berjalan di subnet pribadi tanpa alamat publik dan enkripsi penyimpanan aktif. Versi mesin disematkan ke Postgres 16, yang memenuhi lantai yang didukung gateway dari PostgreSQL 14 dan menjamin keluarga grup parameter di bawah cocok dengan instans.Pertama, buat grup subnet yang menempatkan database di subnet pribadi, dan grup parameter dengan rds.force_ssl=1 sehingga server menolak koneksi plaintext. Versi mesin disematkan sekali karena keluarga grup parameter harus cocok dengan versi utama mesin yang dijalankan instans:
Kemudian buat instans dengan kata sandi master yang dihasilkan:
Argumen --master-user-password literal terlihat di tabel proses dan dalam log audit/EDR saat perintah berjalan, paparan yang sama yang dicakup catatan langkah rahasia. Di host bersama atau dipantau, teruskan kata sandi melalui --cli-input-json dari file 0600 sebagai gantinya, cara yang dilakukan setup.sh bundle.Tunggu instans naik, yang dapat memakan waktu beberapa menit, kemudian baca endpoint pribadinya dan kumpulkan string koneksi yang akan digunakan gateway:
sslmode=verify-full membuat gateway memverifikasi rantai sertifikat server RDS dan nama host, bukan hanya enkripsi. Jangkar kepercayaan adalah bundel sertifikat AWS RDS, yang langkah build gambar di bawah menyalin ke /etc/claude/rds-global-bundle.pem dan mempercayai melalui NODE_EXTRA_CA_CERTS. Jangan menambahkan parameter sslrootcert= gaya libpq ke URL: driver gateway membaca hanya sslmode dari string kueri dan akan meneruskan sslrootcert ke Postgres sebagai parameter startup, yang ditolak server.Layanan ECS atau pod EKS harus berjalan di VPC ini sehingga mereka dapat mencapai endpoint pribadi instans, dan grup keamanan claude-gateway-db hanya mengakui grup keamanan gateway.
4

Tulis gateway.yaml

Blok upstreams menunjuk ke Bedrock dengan auth: {}, jadi gateway mengautentikasi melalui rantai kredensial default AWS dari peran tugas di ECS atau peran IRSA di EKS. Lihat referensi konfigurasi untuk setiap bidang.Dua bidang listen bergantung pada apa yang menghadap gateway:
  • public_url: asal https:// eksternal, diperlukan untuk bind non-loopback apa pun; lihat referensi listen. Gateway membangun redirect_uri IdP dan dokumen penemuannya hanya dari nilai ini, tidak pernah dari header X-Forwarded-*.
  • trusted_proxies: rentang sumber front end. Gateway menghormati X-Forwarded-For hanya ketika peer TCP berada dalam daftar ini, kemudian berjalan di rantai melewati hop terpercaya, jadi batas laju sign-in per-IP dan acara audit mencatat IP pengembang daripada load balancer.
Di kedua trek front end adalah ALB internal, baik dibuat langsung atau oleh AWS Load Balancer Controller, dan node ALB mengambil alamat dari subnet yang dilampirkannya, jadi atur trusted_proxies ke CIDR subnet tersebut. Ini mempercayai setiap host di subnet tersebut sebagai proxy. Jaga sumber ingress ALB, CIDR perusahaan Anda, dari tumpang tindih dengannya, dan jangan bagikan subnet dengan beban kerja yang tidak dipercaya yang dapat memalsukan IP klien melalui X-Forwarded-For.Atribut preservasi port klien ALB, routing.http.xff_client_port.enabled, dapat tetap di salah satu pengaturan: dengan itu aktif, ALB menulis klien sebagai 203.0.113.7:54321 atau [2001:db8::1]:54321, dan gateway membaca keduanya dengan port dijatuhkan.
gateway.yaml
Hanya blok oidc yang spesifik Okta. Untuk menggunakan Microsoft Entra ID sebagai gantinya, atur issuer ke https://login.microsoftonline.com/<tenant-id>/v2.0, lepaskan userinfo_fallback dan cakupan groups, dan perhatikan bahwa Entra memancarkan Object ID grup daripada nama, jadi managed.policies harus cocok pada GUID, atau pada App Roles dengan oidc.groups_claim: roles. Lihat Pengaturan penyedia identitas.
5

Simpan rahasia di AWS Secrets Manager

Buat tiga rahasia; peran eksekusi dari langkah IAM sudah dapat membacanya:
Catat ARN yang dicetak setiap panggilan; definisi tugas ECS mereferensikan rahasia berdasarkan ARN.
Argumen --secret-string literal terlihat di tabel proses dan dalam log audit/EDR saat setiap perintah berjalan. Di host bersama atau dipantau, masukkan nilai dalam file 0600 dan teruskan --secret-string file://<path> sebagai gantinya. setup.sh bundle menjaga nilai rahasia dari argv proses dengan cara yang sama, melewatkan file sementara 0600 ke --cli-input-json.
Tidak seperti rahasia, gateway.yaml sendiri tidak berisi nilai rahasia, karena setiap kredensial diselesaikan saat boot melalui ekspansi ${VAR} atau ${file:...}. Bagaimana semuanya mencapai kontainer berbeda menurut trek:
  • Di ECS, build langkah berikutnya menyalin gateway.yaml ke dalam gambar di /etc/claude/gateway.yaml, dan definisi tugas menyuntikkan tiga rahasia sebagai variabel lingkungan melalui bidang secrets-nya, jadi YAML mereferensikan ${GATEWAY_JWT_SECRET}, ${OIDC_CLIENT_SECRET}, dan ${GATEWAY_POSTGRES_URL}.
  • Di EKS, pasang gateway.yaml dari ConfigMap dan rahasia sebagai file di /secrets, direferensikan sebagai ${file:/secrets/...}. Sumber Kubernetes Secrets dari Secrets Manager dengan External Secrets Operator atau penyedia AWS driver Secrets Store CSI, atau buat langsung dengan kubectl.
6

Bangun dan dorong gambar ke Amazon ECR

Bangun gambar sesuai persyaratan gambar kontainer, menempatkan biner glibc linux-x64 di ./claude dalam konteks build. Tulis Dockerfile Anda sendiri sesuai persyaratan tersebut atau mulai dari Dockerfile bundle, yang menyalin gateway.yaml yang diisi dari langkah sebelumnya ke dalam gambar di /etc/claude/gateway.yaml. Di ECS salinan tertanam itu adalah cara konfigurasi mencapai kontainer, itulah mengapa build datang setelah file ditulis. Trek EKS sebagai gantinya memasang gateway.yaml dari ConfigMap saat deploy, jadi salinan tertanam tidak digunakan di sana.Gambar juga membawa bundel sertifikat AWS RDS sebagai jangkar kepercayaan untuk string koneksi sslmode=verify-full, jadi unduh ke dalam konteks build terlebih dahulu. AWS memutar bundel (CA regional baru ditambahkan), jadi unduh per build daripada menyematkan checksum atau melakukan commit:
Persyaratan gambar kontainer tidak mencakup bundel, jadi jika Anda menulis Dockerfile Anda sendiri, tambahkan dua baris yang menyalin dan mempercayainya; Dockerfile bundle sudah menyertakan keduanya:
Buat repositori ECR dan masuk Docker ke dalamnya. Tag yang tidak dapat diubah berarti tag <version> yang disematkan langkah deploy tidak dapat kemudian diarahkan ulang secara diam-diam ke gambar yang berbeda:
Bangun dan dorong gambar. Definisi tugas di bawah menjalankan linux/amd64, jadi platform harus cocok di sini; untuk Fargate di ARM64 (Graviton), bangun linux/arm64 dengan biner linux-arm64 dan atur cpuArchitecture ke ARM64 sebagai gantinya:
7

Terapkan

Buat kluster dan grup log untuk stderr gateway, yang membawa acara audit dan log operasional. Retensi adalah panggilan terpisah, dan tanpa satu CloudWatch menyimpan log selamanya; selaraskan 90 hari dengan kebijakan retensi audit Anda:
Tulis definisi tugas. Peran tugas membawa izin Bedrock dan peran eksekusi menyuntikkan rahasia; gunakan ARN rahasia dari langkah Secrets Manager:
claude-gateway-task.json
Daftarkan:
Letakkan ALB internal di depan dengan grup target yang memeriksa kesehatan gateway. --ip-address-type ipv4 penting: ALB dual-stack internal menerbitkan catatan AAAA jangkauan publik, yang pemeriksaan jaringan pribadi /login menolak:
Tambahkan pendengar HTTPS. --ssl-policy menyematkan lantai TLS modern, karena menghilangkannya kembali ke default ELBSecurityPolicy-2016-08 warisan, yang masih menerima TLS 1.0/1.1.ALB menutup koneksi setelah 60 detik tanpa data secara default. Ping keepalive gateway menjaga aliran di dalam default itu, jadi menaikkan timeout menambah margin di atas kecepatan ping; baris Troubleshooting pada aliran yang dijatuhkan mencakup mekanisme dan gateway yang lebih lama. Perintah di bawah menambahkan pendengar dan menaikkan timeout:
Buat layanan. Pemutus sirkuit deployment menggulung deployment yang tugasnya terus gagal, dari gambar buruk atau konfigurasi yang tidak dapat boot, kembali ke status stabil terakhir daripada meluncurkan tugas yang gagal selamanya:
Periode ketenangan 60 detik memberi tugas dingin waktu untuk menarik gambar, terhubung ke toko, dan menjawab pemeriksaan kesehatan pertamanya sebelum ECS mulai menghitung kegagalan terhadap deployment. Pemeriksaan kesehatan grup target di GET /readyz memverifikasi toko dapat dijangkau, jadi tugas yang tidak dapat mencapai Postgres tidak pernah memasuki rotasi; lihat Perilaku Pemadaman untuk tradeoff dan alternatif /healthz.Tugas berjalan di subnet pribadi tanpa IP publik, jadi semua egress (ke Bedrock, IdP Anda, Secrets Manager, ECR, dan CloudWatch Logs) melalui gateway NAT. Untuk menjaga lalu lintas Bedrock dari jalur publik, buat endpoint VPC antarmuka bedrock-runtime dan arahkan base_url upstream ke sana, seperti yang ditunjukkan dalam referensi upstream Bedrock; IdP masih memerlukan egress internet.Selesaikan dengan memberikan pengembang nama host yang dapat diselesaikan secara pribadi: di zona hosted pribadi Route 53, alias nama DNS internal gateway ke ALB, dan atur listen.public_url ke nama host itu. Nama *.elb.amazonaws.com ALB sendiri diselesaikan ke alamat pribadi di ALB internal, tetapi tidak dapat membawa sertifikat ACM Anda, jadi gunakan nama Anda sendiri.Perbarui URI pengalihan otorisasi klien OAuth ke <public_url>/oauth/callback sebelum sign-in pertama. Setelah mengubah public_url, bangun kembali dan dorong gambar di bawah tag baru, daftarkan revisi definisi tugas baru, dan terapkan kembali. Di ECS pengaturan hidup dalam gateway.yaml tertanam gambar, dan gateway membangun asal publik hanya dari pengaturan itu, mengabaikan X-Forwarded-Host dan X-Forwarded-Proto. X-Forwarded-For dihormati untuk IP klien hanya ketika listen.trusted_proxies diatur.
8

Dorong URL gateway ke mesin pengembang

Gateway sekarang berjalan, tetapi pengembang tidak dapat menjangkaunya dari /login sampai URL gateway ada di mesin mereka. Atur forceLoginMethod dan forceLoginGatewayUrl dalam file pengaturan terkelola yang Anda terapkan ke setiap perangkat melalui MDM. Tidak ada opsi gateway dalam pemilih login untuk dipilih pengembang secara manual.

Referensi Terraform

Bundle pendamping di examples/gateway/aws mengemas halaman ini sebagai kode:
  • setup.sh mengskrip panduan penyediaan di atas dengan perintah aws yang sama, di trek ECS Fargate. Ini adalah idempoten: sumber daya yang ada terdeteksi dan dilewati, jadi menjalankannya kembali aman, dan default apa pun dapat ditimpa melalui variabel lingkungan. Anda masih membuat rahasia klien OIDC Okta dan sertifikat ACM sendiri: jalankan tanpa mereka melewati deploy ECS/ALB, menamai input yang hilang, dan mencetak perintah create-secret; buat keduanya dan jalankan kembali. Formulir kasus penggunaan Bedrock dan alias Route 53 dicetak sebagai langkah berikutnya daripada berjalan secara otomatis, dan push MDM klien tetap menjadi langkah manual dari halaman ini.
  • gateway.yaml.example adalah template konfigurasi dari langkah gateway.yaml, dengan kunci opsional disertakan berkomentar. Salin ke gateway.yaml dan ganti setiap REPLACE_ME sebelum membangun.
  • Dockerfile membangun gambar runtime dari biner linux-x64 yang telah dibangun sebelumnya dan menyalin gateway.yaml yang diisi di /etc/claude/gateway.yaml, ditambah bundel sertifikat AWS RDS yang menambatkan sslmode=verify-full toko. setup.sh mengunduh bundel hanya ketika belum ada dalam konteks build; hapus file dan bangun kembali di bawah tag baru untuk mengambil rotasi CA AWS. File konfigurasi tidak menyimpan nilai rahasia, karena setiap kredensial diselesaikan saat boot melalui ekspansi ${VAR}. Edit konfigurasi oleh karena itu berarti rebuild di bawah tag baru; setup.sh mengotomatisasi ini dengan menandai gambar dengan hash file.
  • terraform/ menyediakan cakupan ECS Fargate yang sama secara deklaratif: grup keamanan, peran IAM, repositori ECR, instans RDS, rahasia Secrets Manager, dan layanan ECS di belakang ALB internal. VPC dan subnet pribadi tetap menjadi prasyarat, dilewatkan sebagai variabel. Terraform membuat repositori ECR tetapi tidak membangun gambar, dan definisi layanan mereferensikan gambar, jadi apply adalah dua pass: apply tertarget untuk repositori, kemudian build dan push, kemudian apply penuh. terraform/README.md bundle mencakup variabel, status jarak jauh, dan teardown.
Seperti halaman ini, bundle adalah contoh yang berfungsi untuk infrastruktur yang dikelola pelanggan daripada deployment produksi yang didukung; tinjau dan sesuaikan dengan lingkungan Anda sendiri sebelum mengandalkannya.

Troubleshooting

Untuk boot gateway dan kesalahan login, lihat tabel troubleshooting yang tidak bergantung pada platform. Entri di bawah khusus untuk AWS.

Telemetri

Gateway memberi Anda metrik penggunaan per-pengembang tanpa konfigurasi OTEL per-mesin. Claude Code memancarkan metrik OpenTelemetry (OTLP), log, dan jejak opt-in; Monitoring usage mencakup semua yang dilaporkan CLI. Pada sesi gateway CLI memberi stempel setiap ekspor dengan atribut identitas IdP yang terauthentikasi user.id, user.email, dan user.groups, jadi penggunaan bergulir per pengembang tanpa pipa OTEL_RESOURCE_ATTRIBUTES. Gateway sendiri adalah relai OTLP yang terauthentikasi. Atur telemetry.forward_to bersama dengan listen.public_url, dan itu mendorong pengaturan pengekspor OTEL ke setiap klien yang terhubung dan meneruskan lalu lintas OTLP mereka verbatim ke setiap tujuan yang Anda daftarkan. Setiap tujuan memilih metrik, log, dan jejak secara independen, dan default adalah metrik saja; lihat referensi telemetry untuk bidang per-sinyal dan tradeoff sensitivitas mereka. Gateway tidak membuffer, mengagregasi, atau menyimpan telemetri, jadi di mana data mendarat sepenuhnya adalah konfigurasi pengekspor pengumpul. Telemetri klien dimatikan secara default; mengonfigurasi telemetry.forward_to adalah apa yang mengaktifkannya untuk pengembang yang terhubung, dan setiap klien interaktif menunjukkan dialog persetujuan keamanan satu kali untuk pengaturan yang didorong, seperti yang dijelaskan dalam referensi konfigurasi. Di AWS, setiap sinyal memetakan ke tujuan sebagai berikut.

Metrik, log, dan jejak klien

Arahkan telemetry.forward_to ke pengumpul OpenTelemetry, seperti AWS Distro untuk OpenTelemetry (ADOT) collector, dan ekspor dari sana ke Amazon CloudWatch, Amazon Managed Service untuk Prometheus, atau backend OTLP apa pun. Jalankan pengumpul sebagai layanan internal sendiri yang dapat dijangkau melalui https://; referensi telemetry mencakup pengecualian loopback dan CLAUDE_GATEWAY_ALLOW_LOOPBACK.

Log gateway

Di ECS Fargate, tidak ada setup tambahan: driver awslogs mengirimkan stderr gateway, yang membawa acara audit dan log operasionalnya, ke grup log /ecs/claude-gateway yang dibuat di atas. Di EKS, log pod tidak mencapai CloudWatch secara default, jadi jejak audit hilang sampai Anda memasang pengumpulan log: add-on Amazon CloudWatch Observability dengan penangkapan log kontainer diaktifkan, atau DaemonSet Fluent Bit. Di trek mana pun, kueri log dengan CloudWatch Logs Insights dan drive alarm dari filter metrik.

Metrik kontainer

Aktifkan Container Insights pada kluster dengan aws ecs update-cluster-settings --cluster claude-gateway --settings name=containerInsights,value=enabled untuk CPU, memori, dan jaringan per-tugas. Di EKS, pasang add-on Amazon CloudWatch Observability.

Pengeluaran

Telemetri menunjukkan penggunaan setelah fakta; batas pengeluaran adalah tampilan dan penegakan gateway per-pengembang langsung di atas kredensial upstream bersama.

Langkah berikutnya