Halaman ini menjelaskan satu cara untuk menjalankan gateway aplikasi Claude di AWS. Konfigurasi ini adalah contoh yang berfungsi untuk infrastruktur yang dikelola pelanggan daripada deployment produksi yang didukung; gunakan ini untuk melihat bagaimana potongan-potongan cocok bersama sebelum menyesuaikannya dengan lingkungan Anda sendiri. Untuk persyaratan yang tidak bergantung pada platform, lihat panduan deployment.
Bedrock bukan satu-satunya upstream Claude di AWS. Gateway juga mendukung Claude Platform di AWS, API Claude yang dioperasikan Anthropic dengan autentikasi AWS dan penagihan AWS Marketplace, sebagai pengganti Bedrock atau bersama dengannya. Entri upstream, kredensial, dan izin IAM-nya berbeda dari yang berfokus pada Bedrock di halaman ini; referensi upstream Claude Platform di AWS mencakup apa yang berubah, dan sisa halaman ini berlaku tanpa perubahan.
Arsitektur
Arsitektur contoh, dengan Amazon Bedrock sebagai upstream model. Upstream Claude Platform di AWS menempati posisi yang sama.
- Layanan Amazon ECS di AWS Fargate atau Amazon EKS Deployment yang menjalankan kontainer gateway
- Repositori Amazon ECR untuk gambar gateway
- Instans Amazon RDS untuk PostgreSQL di subnet pribadi, tidak dapat diakses secara publik, untuk store gateway
- Rahasia AWS Secrets Manager untuk kunci penandatanganan JWT, rahasia klien OIDC, dan URL Postgres
- Peran IAM dengan
bedrock:InvokeModel,bedrock:InvokeModelWithResponseStream, danbedrock:CountTokens, terpasang sebagai peran tugas ECS atau terikat melalui IAM Roles for Service Accounts (IRSA) di EKS - Application Load Balancer Internal untuk HTTPS
Prasyarat
Panduan ini membuat sumber daya gateway sendiri, tetapi dibangun di atas infrastruktur jaringan dan identitas yang sudah Anda miliki. Sebelum Anda mulai, Anda memerlukan:- Akun AWS dengan izin untuk membuat sumber daya di atas
- AWS CLI v2 terinstal dan terauthentikasi, dan Docker terinstal secara lokal
- VPC dengan setidaknya dua subnet pribadi di Zona Ketersediaan berbeda, dengan akses internet keluar melalui gateway NAT; load balancer internal memerlukan subnet di dua AZ, dan gateway memerlukan egress ke Bedrock dan IdP Anda
- Aplikasi web OIDC Okta dengan URI pengalihan
https://<gateway-host>/oauth/callback; lihat Pengaturan penyedia identitas - Nama host TLS untuk gateway, biasanya nama DNS internal di zona hosted pribadi Route 53 yang menunjuk ke load balancer, dengan sertifikat ACM untuk nama itu, diimpor atau dikeluarkan oleh AWS Private CA
Atur variabel lingkungan Anda
Setiap perintah di halaman ini membaca empat nilai dari shell Anda:AWS_REGION, ACCOUNT_ID, VPC_ID, dan PRIVATE_SUBNETS.
Pilih wilayah US tempat Bedrock melayani model Claude yang Anda butuhkan. Panduan ini bergantung pada katalog model bawaan gateway, yang diselesaikan ke profil inferensi us.anthropic.*, dan kebijakan IAM memberikan ARN tersebut. Di wilayah non-US, tambahkan blok models: dengan ID profil inferensi geo itu dan ubah awalan ARN kebijakan IAM agar sesuai.
Jika Anda tidak memiliki ID VPC di tangan, daftarkan VPC Anda dengan aws ec2 describe-vpcs, kemudian daftarkan subnet VPC itu untuk menemukan dua subnet pribadi di Zona Ketersediaan berbeda:
Terapkan gateway
Langkah-langkah di bawah menyediakan deployment lengkap dengan perintahaws.
1
Buat grup keamanan
Tiga grup keamanan merantai jalur lalu lintas: jaringan perusahaan Anda mencapai load balancer di 443, load balancer mencapai gateway di 8080, dan gateway mencapai Postgres di 5432. Tidak ada yang lain yang dapat dijangkau. Cara Anda melampirkannya tergantung pada jalur komputasi:
- Di ECS Fargate, langkah deploy melampirkan
$ALB_SGke load balancer dan$GW_SGke layanan. - Di EKS, AWS Load Balancer Controller membuat grup keamanan frontend-nya sendiri, jadi
$ALB_SGdan$GW_SGtidak digunakan: anotasiinbound-cidrslangkah deploy membatasi pendengar ke jaringan perusahaan Anda, dan grup keamanan database mengakui grup keamanan kluster sebagai gantinya.
2
Buat peran IAM dan kirimkan formulir kasus penggunaan
Gateway berjalan dengan peran tugas khusus yang satu-satunya izinnya adalah memanggil model Claude di Bedrock. Sesuai referensi upstream Bedrock, kebijakan harus mencakup baik ARN profil inferensi lintas wilayah maupun ARN model dasar yang mendasarinya:ECS juga memerlukan peran eksekusi, yang digunakan agen ECS sendiri untuk menarik gambar dari ECR dan menyuntikkan nilai Secrets Manager yang dibuat nanti. Ini terpisah dari peran tugas yang digunakan AWS SDK gateway saat runtime:Nama kebijakan satu ARN per rahasia daripada wildcard
gateway-* telanjang, yang dalam akun bersama juga akan cocok dengan rahasia yang tidak terkait; akhiran -?????? yang tertinggal cocok dengan tepat enam karakter acak yang ditambahkan Secrets Manager ke ARN setiap rahasia. Akhiran -* akan menjadi glob awalan biasa dan juga akan cocok dengan nama yang lebih panjang seperti gateway-postgres-url-prod.Kebijakan IAM memberikan gateway izin untuk memanggil Bedrock, dan Bedrock mengaktifkan akses model secara default di wilayah komersial. Gerbang tingkat akun yang tersisa adalah formulir kasus penggunaan Anthropic satu kali: jika tidak ada yang di akun Anda telah mengirimkannya, buka konsol Amazon Bedrock, pilih model Anthropic dari katalog Model, dan lengkapi formulir. Akses diberikan segera setelah pengajuan; lihat Claude Code di Amazon Bedrock untuk formulir AWS Organizations dan izin IAM yang dibutuhkan pengajuan.Trek EKS menggunakan kembali kedua dokumen kebijakan pada peran IRSA sebagai gantinya dari dua peran ECS; lihat langkah deploy.3
Sediakan Amazon RDS untuk PostgreSQL
Instans berjalan di subnet pribadi tanpa alamat publik dan enkripsi penyimpanan aktif. Versi mesin disematkan ke Postgres 16, yang memenuhi lantai yang didukung gateway dari PostgreSQL 14 dan menjamin keluarga grup parameter di bawah cocok dengan instans.Pertama, buat grup subnet yang menempatkan database di subnet pribadi, dan grup parameter dengan Kemudian buat instans dengan kata sandi master yang dihasilkan:Argumen
rds.force_ssl=1 sehingga server menolak koneksi plaintext. Versi mesin disematkan sekali karena keluarga grup parameter harus cocok dengan versi utama mesin yang dijalankan instans:--master-user-password literal terlihat di tabel proses dan dalam log audit/EDR saat perintah berjalan, paparan yang sama yang dicakup catatan langkah rahasia. Di host bersama atau dipantau, teruskan kata sandi melalui --cli-input-json dari file 0600 sebagai gantinya, cara yang dilakukan setup.sh bundle.Tunggu instans naik, yang dapat memakan waktu beberapa menit, kemudian baca endpoint pribadinya dan kumpulkan string koneksi yang akan digunakan gateway:sslmode=verify-full membuat gateway memverifikasi rantai sertifikat server RDS dan nama host, bukan hanya enkripsi. Jangkar kepercayaan adalah bundel sertifikat AWS RDS, yang langkah build gambar di bawah menyalin ke /etc/claude/rds-global-bundle.pem dan mempercayai melalui NODE_EXTRA_CA_CERTS. Jangan menambahkan parameter sslrootcert= gaya libpq ke URL: driver gateway membaca hanya sslmode dari string kueri dan akan meneruskan sslrootcert ke Postgres sebagai parameter startup, yang ditolak server.Layanan ECS atau pod EKS harus berjalan di VPC ini sehingga mereka dapat mencapai endpoint pribadi instans, dan grup keamanan claude-gateway-db hanya mengakui grup keamanan gateway.4
Tulis gateway.yaml
Blok
upstreams menunjuk ke Bedrock dengan auth: {}, jadi gateway mengautentikasi melalui rantai kredensial default AWS dari peran tugas di ECS atau peran IRSA di EKS. Lihat referensi konfigurasi untuk setiap bidang.Dua bidang listen bergantung pada apa yang menghadap gateway:public_url: asalhttps://eksternal, diperlukan untuk bind non-loopback apa pun; lihat referensilisten. Gateway membangunredirect_uriIdP dan dokumen penemuannya hanya dari nilai ini, tidak pernah dari headerX-Forwarded-*.trusted_proxies: rentang sumber front end. Gateway menghormatiX-Forwarded-Forhanya ketika peer TCP berada dalam daftar ini, kemudian berjalan di rantai melewati hop terpercaya, jadi batas laju sign-in per-IP dan acara audit mencatat IP pengembang daripada load balancer.
trusted_proxies ke CIDR subnet tersebut. Ini mempercayai setiap host di subnet tersebut sebagai proxy. Jaga sumber ingress ALB, CIDR perusahaan Anda, dari tumpang tindih dengannya, dan jangan bagikan subnet dengan beban kerja yang tidak dipercaya yang dapat memalsukan IP klien melalui X-Forwarded-For.Atribut preservasi port klien ALB, routing.http.xff_client_port.enabled, dapat tetap di salah satu pengaturan: dengan itu aktif, ALB menulis klien sebagai 203.0.113.7:54321 atau [2001:db8::1]:54321, dan gateway membaca keduanya dengan port dijatuhkan.gateway.yaml
Hanya blok
oidc yang spesifik Okta. Untuk menggunakan Microsoft Entra ID sebagai gantinya, atur issuer ke https://login.microsoftonline.com/<tenant-id>/v2.0, lepaskan userinfo_fallback dan cakupan groups, dan perhatikan bahwa Entra memancarkan Object ID grup daripada nama, jadi managed.policies harus cocok pada GUID, atau pada App Roles dengan oidc.groups_claim: roles. Lihat Pengaturan penyedia identitas.5
Simpan rahasia di AWS Secrets Manager
Buat tiga rahasia; peran eksekusi dari langkah IAM sudah dapat membacanya:Catat ARN yang dicetak setiap panggilan; definisi tugas ECS mereferensikan rahasia berdasarkan ARN.Tidak seperti rahasia,
Argumen
--secret-string literal terlihat di tabel proses dan dalam log audit/EDR saat setiap perintah berjalan. Di host bersama atau dipantau, masukkan nilai dalam file 0600 dan teruskan --secret-string file://<path> sebagai gantinya. setup.sh bundle menjaga nilai rahasia dari argv proses dengan cara yang sama, melewatkan file sementara 0600 ke --cli-input-json.gateway.yaml sendiri tidak berisi nilai rahasia, karena setiap kredensial diselesaikan saat boot melalui ekspansi ${VAR} atau ${file:...}. Bagaimana semuanya mencapai kontainer berbeda menurut trek:- Di ECS, build langkah berikutnya menyalin
gateway.yamlke dalam gambar di/etc/claude/gateway.yaml, dan definisi tugas menyuntikkan tiga rahasia sebagai variabel lingkungan melalui bidangsecrets-nya, jadi YAML mereferensikan${GATEWAY_JWT_SECRET},${OIDC_CLIENT_SECRET}, dan${GATEWAY_POSTGRES_URL}. - Di EKS, pasang
gateway.yamldari ConfigMap dan rahasia sebagai file di/secrets, direferensikan sebagai${file:/secrets/...}. Sumber Kubernetes Secrets dari Secrets Manager dengan External Secrets Operator atau penyedia AWS driver Secrets Store CSI, atau buat langsung dengankubectl.
6
Bangun dan dorong gambar ke Amazon ECR
Bangun gambar sesuai persyaratan gambar kontainer, menempatkan biner glibc Persyaratan gambar kontainer tidak mencakup bundel, jadi jika Anda menulis Dockerfile Anda sendiri, tambahkan dua baris yang menyalin dan mempercayainya; Buat repositori ECR dan masuk Docker ke dalamnya. Tag yang tidak dapat diubah berarti tag Bangun dan dorong gambar. Definisi tugas di bawah menjalankan
linux-x64 di ./claude dalam konteks build. Tulis Dockerfile Anda sendiri sesuai persyaratan tersebut atau mulai dari Dockerfile bundle, yang menyalin gateway.yaml yang diisi dari langkah sebelumnya ke dalam gambar di /etc/claude/gateway.yaml. Di ECS salinan tertanam itu adalah cara konfigurasi mencapai kontainer, itulah mengapa build datang setelah file ditulis. Trek EKS sebagai gantinya memasang gateway.yaml dari ConfigMap saat deploy, jadi salinan tertanam tidak digunakan di sana.Gambar juga membawa bundel sertifikat AWS RDS sebagai jangkar kepercayaan untuk string koneksi sslmode=verify-full, jadi unduh ke dalam konteks build terlebih dahulu. AWS memutar bundel (CA regional baru ditambahkan), jadi unduh per build daripada menyematkan checksum atau melakukan commit:Dockerfile bundle sudah menyertakan keduanya:<version> yang disematkan langkah deploy tidak dapat kemudian diarahkan ulang secara diam-diam ke gambar yang berbeda:linux/amd64, jadi platform harus cocok di sini; untuk Fargate di ARM64 (Graviton), bangun linux/arm64 dengan biner linux-arm64 dan atur cpuArchitecture ke ARM64 sebagai gantinya:7
Terapkan
- ECS Fargate
- EKS
Buat kluster dan grup log untuk stderr gateway, yang membawa acara audit dan log operasional. Retensi adalah panggilan terpisah, dan tanpa satu CloudWatch menyimpan log selamanya; selaraskan 90 hari dengan kebijakan retensi audit Anda:Tulis definisi tugas. Peran tugas membawa izin Bedrock dan peran eksekusi menyuntikkan rahasia; gunakan ARN rahasia dari langkah Secrets Manager:Daftarkan:Letakkan ALB internal di depan dengan grup target yang memeriksa kesehatan gateway. Tambahkan pendengar HTTPS. Buat layanan. Pemutus sirkuit deployment menggulung deployment yang tugasnya terus gagal, dari gambar buruk atau konfigurasi yang tidak dapat boot, kembali ke status stabil terakhir daripada meluncurkan tugas yang gagal selamanya:Periode ketenangan 60 detik memberi tugas dingin waktu untuk menarik gambar, terhubung ke toko, dan menjawab pemeriksaan kesehatan pertamanya sebelum ECS mulai menghitung kegagalan terhadap deployment. Pemeriksaan kesehatan grup target di
claude-gateway-task.json
--ip-address-type ipv4 penting: ALB dual-stack internal menerbitkan catatan AAAA jangkauan publik, yang pemeriksaan jaringan pribadi /login menolak:--ssl-policy menyematkan lantai TLS modern, karena menghilangkannya kembali ke default ELBSecurityPolicy-2016-08 warisan, yang masih menerima TLS 1.0/1.1.ALB menutup koneksi setelah 60 detik tanpa data secara default. Ping keepalive gateway menjaga aliran di dalam default itu, jadi menaikkan timeout menambah margin di atas kecepatan ping; baris Troubleshooting pada aliran yang dijatuhkan mencakup mekanisme dan gateway yang lebih lama. Perintah di bawah menambahkan pendengar dan menaikkan timeout:GET /readyz memverifikasi toko dapat dijangkau, jadi tugas yang tidak dapat mencapai Postgres tidak pernah memasuki rotasi; lihat Perilaku Pemadaman untuk tradeoff dan alternatif /healthz.Tugas berjalan di subnet pribadi tanpa IP publik, jadi semua egress (ke Bedrock, IdP Anda, Secrets Manager, ECR, dan CloudWatch Logs) melalui gateway NAT. Untuk menjaga lalu lintas Bedrock dari jalur publik, buat endpoint VPC antarmuka bedrock-runtime dan arahkan base_url upstream ke sana, seperti yang ditunjukkan dalam referensi upstream Bedrock; IdP masih memerlukan egress internet.Selesaikan dengan memberikan pengembang nama host yang dapat diselesaikan secara pribadi: di zona hosted pribadi Route 53, alias nama DNS internal gateway ke ALB, dan atur listen.public_url ke nama host itu. Nama *.elb.amazonaws.com ALB sendiri diselesaikan ke alamat pribadi di ALB internal, tetapi tidak dapat membawa sertifikat ACM Anda, jadi gunakan nama Anda sendiri.Perbarui URI pengalihan otorisasi klien OAuth ke <public_url>/oauth/callback sebelum sign-in pertama. Setelah mengubah public_url, bangun kembali dan dorong gambar di bawah tag baru, daftarkan revisi definisi tugas baru, dan terapkan kembali. Di ECS pengaturan hidup dalam gateway.yaml tertanam gambar, dan gateway membangun asal publik hanya dari pengaturan itu, mengabaikan X-Forwarded-Host dan X-Forwarded-Proto. X-Forwarded-For dihormati untuk IP klien hanya ketika listen.trusted_proxies diatur.8
Dorong URL gateway ke mesin pengembang
Gateway sekarang berjalan, tetapi pengembang tidak dapat menjangkaunya dari
/login sampai URL gateway ada di mesin mereka. Atur forceLoginMethod dan forceLoginGatewayUrl dalam file pengaturan terkelola yang Anda terapkan ke setiap perangkat melalui MDM. Tidak ada opsi gateway dalam pemilih login untuk dipilih pengembang secara manual.Referensi Terraform
Bundle pendamping diexamples/gateway/aws mengemas halaman ini sebagai kode:
setup.shmengskrip panduan penyediaan di atas dengan perintahawsyang sama, di trek ECS Fargate. Ini adalah idempoten: sumber daya yang ada terdeteksi dan dilewati, jadi menjalankannya kembali aman, dan default apa pun dapat ditimpa melalui variabel lingkungan. Anda masih membuat rahasia klien OIDC Okta dan sertifikat ACM sendiri: jalankan tanpa mereka melewati deploy ECS/ALB, menamai input yang hilang, dan mencetak perintahcreate-secret; buat keduanya dan jalankan kembali. Formulir kasus penggunaan Bedrock dan alias Route 53 dicetak sebagai langkah berikutnya daripada berjalan secara otomatis, dan push MDM klien tetap menjadi langkah manual dari halaman ini.gateway.yaml.exampleadalah template konfigurasi dari langkah gateway.yaml, dengan kunci opsional disertakan berkomentar. Salin kegateway.yamldan ganti setiapREPLACE_MEsebelum membangun.Dockerfilemembangun gambar runtime dari binerlinux-x64yang telah dibangun sebelumnya dan menyalingateway.yamlyang diisi di/etc/claude/gateway.yaml, ditambah bundel sertifikat AWS RDS yang menambatkansslmode=verify-fulltoko.setup.shmengunduh bundel hanya ketika belum ada dalam konteks build; hapus file dan bangun kembali di bawah tag baru untuk mengambil rotasi CA AWS. File konfigurasi tidak menyimpan nilai rahasia, karena setiap kredensial diselesaikan saat boot melalui ekspansi${VAR}. Edit konfigurasi oleh karena itu berarti rebuild di bawah tag baru;setup.shmengotomatisasi ini dengan menandai gambar dengan hash file.terraform/menyediakan cakupan ECS Fargate yang sama secara deklaratif: grup keamanan, peran IAM, repositori ECR, instans RDS, rahasia Secrets Manager, dan layanan ECS di belakang ALB internal. VPC dan subnet pribadi tetap menjadi prasyarat, dilewatkan sebagai variabel. Terraform membuat repositori ECR tetapi tidak membangun gambar, dan definisi layanan mereferensikan gambar, jadi apply adalah dua pass: apply tertarget untuk repositori, kemudian build dan push, kemudian apply penuh.terraform/README.mdbundle mencakup variabel, status jarak jauh, dan teardown.
Troubleshooting
Untuk boot gateway dan kesalahan login, lihat tabel troubleshooting yang tidak bergantung pada platform. Entri di bawah khusus untuk AWS.Telemetri
Gateway memberi Anda metrik penggunaan per-pengembang tanpa konfigurasi OTEL per-mesin. Claude Code memancarkan metrik OpenTelemetry (OTLP), log, dan jejak opt-in; Monitoring usage mencakup semua yang dilaporkan CLI. Pada sesi gateway CLI memberi stempel setiap ekspor dengan atribut identitas IdP yang terauthentikasiuser.id, user.email, dan user.groups, jadi penggunaan bergulir per pengembang tanpa pipa OTEL_RESOURCE_ATTRIBUTES.
Gateway sendiri adalah relai OTLP yang terauthentikasi. Atur telemetry.forward_to bersama dengan listen.public_url, dan itu mendorong pengaturan pengekspor OTEL ke setiap klien yang terhubung dan meneruskan lalu lintas OTLP mereka verbatim ke setiap tujuan yang Anda daftarkan. Setiap tujuan memilih metrik, log, dan jejak secara independen, dan default adalah metrik saja; lihat referensi telemetry untuk bidang per-sinyal dan tradeoff sensitivitas mereka. Gateway tidak membuffer, mengagregasi, atau menyimpan telemetri, jadi di mana data mendarat sepenuhnya adalah konfigurasi pengekspor pengumpul.
Telemetri klien dimatikan secara default; mengonfigurasi telemetry.forward_to adalah apa yang mengaktifkannya untuk pengembang yang terhubung, dan setiap klien interaktif menunjukkan dialog persetujuan keamanan satu kali untuk pengaturan yang didorong, seperti yang dijelaskan dalam referensi konfigurasi. Di AWS, setiap sinyal memetakan ke tujuan sebagai berikut.
Metrik, log, dan jejak klien
Arahkantelemetry.forward_to ke pengumpul OpenTelemetry, seperti AWS Distro untuk OpenTelemetry (ADOT) collector, dan ekspor dari sana ke Amazon CloudWatch, Amazon Managed Service untuk Prometheus, atau backend OTLP apa pun.
Jalankan pengumpul sebagai layanan internal sendiri yang dapat dijangkau melalui https://; referensi telemetry mencakup pengecualian loopback dan CLAUDE_GATEWAY_ALLOW_LOOPBACK.
Log gateway
Di ECS Fargate, tidak ada setup tambahan: driverawslogs mengirimkan stderr gateway, yang membawa acara audit dan log operasionalnya, ke grup log /ecs/claude-gateway yang dibuat di atas. Di EKS, log pod tidak mencapai CloudWatch secara default, jadi jejak audit hilang sampai Anda memasang pengumpulan log: add-on Amazon CloudWatch Observability dengan penangkapan log kontainer diaktifkan, atau DaemonSet Fluent Bit. Di trek mana pun, kueri log dengan CloudWatch Logs Insights dan drive alarm dari filter metrik.
Metrik kontainer
Aktifkan Container Insights pada kluster denganaws ecs update-cluster-settings --cluster claude-gateway --settings name=containerInsights,value=enabled untuk CPU, memori, dan jaringan per-tugas. Di EKS, pasang add-on Amazon CloudWatch Observability.
Pengeluaran
Telemetri menunjukkan penggunaan setelah fakta; batas pengeluaran adalah tampilan dan penegakan gateway per-pengembang langsung di atas kredensial upstream bersama.Langkah berikutnya
- Referensi konfigurasi: setiap opsi
gateway.yaml, termasukmanaged.policiesdantelemetry - Deployment dan operasi: pengaturan IdP, pemeriksaan kesehatan, rotasi rahasia JWT, upgrade, dan model keamanan
- Gambaran umum gateway aplikasi Claude: quickstart dan menghubungkan pengembang
- Sampel AWS untuk gateway aplikasi Claude: sampel yang dipertahankan AWS mencakup berbagai lingkungan pelanggan