429 pada permintaan berikutnya dan memblokir mereka sampai periode disetel ulang atau admin menaikkan batas. Gunakan batas pengeluaran untuk memberikan setiap pengembang, grup, atau seluruh organisasi batas maksimal pada kredensial yang dibagikan semua orang.
Gateway aplikasi Claude meneruskan semua inferensi melalui satu kredensial hulu bersama, sehingga tagihan penyedia Anda mengatribusikan semuanya ke kredensial tersebut, bukan ke pengembang individual. Tanpa batas per-pengembang, satu armada agen yang tidak terkontrol dapat menghabiskan seluruh komitmen organisasi. Batas pengeluaran adalah tampilan per-pengembang gateway dan pemutus sirkuit di atas tagihan bersama tersebut.
Tetapkan batas
Dengan blokadmin: yang dikonfigurasi dalam gateway.yaml, gateway melayani Admin API di /v1/organizations/spend_limits dan memberlakukan batas secara langsung pada setiap permintaan inferensi. Batas itu sendiri ditetapkan melalui API tersebut, bukan dalam gateway.yaml; setiap permintaan POST /v1/organizations/spend_limits membuat atau mengganti satu batas dari {scope, amount, period}. API mencerminkan bentuk kawat dari Admin API publik Anthropic untuk titik akhir batas pengeluaran, sehingga klien HTTP yang ditulis terhadap kontrak tersebut dapat menargetkan gateway dengan mengubah URL dasarnya.
Permintaan ini menetapkan default seluruh organisasi sebesar $500 per bulan untuk setiap pengembang:
contractors:
Batas grup atau organisasi adalah default per-kursi yang diwarisi setiap anggota, bukan kumpulan bersama. Per periode, batas efektif pengembang diselesaikan dalam urutan ini: penggantian per-pengguna, kemudian yang paling ketat dari batas grup mereka, kemudian default organisasi, kemudian tidak terbatas.
admin.group_limit_mode: max membalik tie-break multi-grup ke yang paling tidak ketat sebagai gantinya.
Autentikasi ke Admin API
Kirim salah satu dari:- Header
x-api-keyyang cocok dengan kunci dalamadmin.write_keysuntuk akses penuh, atauadmin.read_keysuntuk aksesGET-saja. Setiap kunci membawaidyang muncul dalam log audit sebagaiadmin-key:<id>, jadi berikan Terraform, CI, dan setiap otomasi miliknya sendiri. - Token pembawa gateway yang klaim
groupsmencakup salah satu dariadmin.admin_groups. Ini adalah akses penuh dan audit sebagaioidc:<sub>, jadi lebih suka untuk admin manusia.
Cara penegakan bekerja
Pada setiap permintaan/v1/messages, gateway menyelesaikan batas pengembang dan pengeluaran periode-ke-tanggal dalam satu kueri Postgres. Pengembang yang melampaui batas apa pun mendapatkan 429 dengan error.type: billing_error dan header x-should-retry: false.
Pesan menyebutkan periode dan waktu reset, seperti spend limit reached (daily; resets 2026-08-08 00:00 UTC), diikuti oleh admin.blocked_message Anda jika ditetapkan. Ketika pengembang melampaui beberapa batas sekaligus, pesan menyebutkan batas yang reset terakhir. Respons juga membawa header retry-after dengan detik yang tersisa hingga reset tersebut. Sebelum v2.1.225 di server gateway, pesannya adalah spend limit reached tanpa periode, waktu reset, atau header retry-after.
Pada v2.1.227 atau lebih baru, referensi protokol di <public_url>/protocol juga mencantumkan header respons batas penggunaan yang tepat dan badan 429.
Batas reset pada batas kalender UTC: setiap hari pada 00:00 UTC, setiap Senin untuk mingguan, dan pada hari pertama untuk bulanan. Gateway tidak pernah memblokir /v1/messages/count_tokens, karena penghitungan token gratis.
Cara permintaan dihargai
Setelah setiap respons, meter penggunaan membaca jumlah token dan menambahkan biaya ke penghitung harian, mingguan, dan bulanan. Meter tidak pernah menyentuh byte yang dikirim ke klien, jadi kegagalan metering tidak dapat merusak respons. Jumlahnya adalah perkiraan USD, pemutus sirkuit daripada faktur; untuk penagihan, rekonsiliasi terhadap pelaporan penggunaan penyedia Anda. Meter memilih tarif setiap permintaan dalam urutan ini:- Baris
pricing.overridesyang cocok untuk hulu yang melayani permintaan. Memerlukan v2.1.227 atau lebih baru. - Harga daftar untuk ID model hulu, string yang dikirim gateway ke penyedia, ketika tabel biaya Claude Code mengenalinya. Tabel menerima bentuk Anthropic, Amazon Bedrock, Google Cloud’s Agent Platform, dan Microsoft Foundry ID.
- Harga daftar untuk
models[].idyang Anda petakan ke ID hulu tersebut, untuk string hulu yang tidak membawa nama model, seperti ARN profil inferensi aplikasi Amazon Bedrock atau nama penerapan Microsoft Foundry. Memerlukan v2.1.218 atau lebih baru. - Tingkat model yang tidak dikenal sebesar $5/$25 per juta token input/output, jadi ID yang tidak dapat ditempatkan meter tidak pernah gratis. Gateway memperingatkan saat boot dan sekali per ID saat runtime ketika menggunakan tingkat ini.
pricing.multiplier, default 1.
Pembatalan klien juga ditagih. Ketika aliran berakhir tanpa bingkai penggunaan akhir hulu, meter menagih perkiraan lantai sekitar empat karakter per token output untuk teks yang sudah dikirim ke klien, jadi membatalkan permintaan lebih awal tidak menghindari batas.
Ketersediaan Postgres
Kueri pra-pemeriksaan Postgres dengan batas waktu dua detik. Jika toko tidak dapat dijangkau atau waktu habis, penegakan gagal terbuka secara default: permintaan dilanjutkan, gateway mencatat peringatan, dan respons tidak membawa headeranthropic-ratelimit-unified-*. Atur enforcement.fail_closed_on_error: true untuk gagal tertutup sebagai gantinya, yang mengembalikan 429 billing_error yang sama tetapi dengan pesan spend limit unavailable dan tanpa periode, waktu reset, atau header retry-after. Gagal-terbuka menjaga pemadaman toko agar tidak menjadi pemadaman inferensi; gagal-tertutup menjamin tidak ada pengeluaran yang tidak diukur.
Gagal-terbuka hanya membantu saat penyeimbang beban atau orchestrator Anda masih merutekan lalu lintas ke gateway. Lihat Perilaku pemadaman untuk store.readiness_grace_seconds, yang menjaga replika melewati pemeriksaan kesiapan mereka melalui pemadaman singkat.
Peringatan penggunaan di Claude Code
Claude Code memperingatkan pengembang saat mereka mendekati batas mereka: sekali utilitas melampaui 75%, dan lagi melampaui 95% dari batas yang paling banyak dikonsumsi. Ketika gateway memblokir permintaan, Claude Code menampilkan pesan429 gateway apa adanya, termasuk admin.blocked_message Anda.
Peringatan bekerja dari header respons:
- Dengan v2.1.225 atau lebih baru di server gateway, setiap respons
/v1/messagesyang berhasil untuk pengembang yang memiliki batas membawa utilitas batas mereka sendiri dan waktu reset dalam headeranthropic-ratelimit-unified-*. - Dengan v2.1.225 atau lebih baru di mesin pengembang juga, Claude Code membaca header dan menampilkan peringatan.
/usage, dengan persentase batas mereka yang digunakan dan kapan reset, dan untuk menambahkan objek rate_limits.spend_limit ke baris status input. Claude Code menampilkan keduanya sebagai persentase daripada jumlah dolar, dan tidak memerlukan apa pun yang lebih baru dari v2.1.225 di server gateway.
Referensi Admin API
Titik akhir di bawah ini disajikan di bawah/v1/organizations/spend_limits.
Konvensi mencerminkan Admin API Anthropic:
typepada setiap objek- ID dengan awalan
spl_ - Jumlah sebagai string angka keseluruhan sen USD;
POSTmenolakcurrencylain apa pun dengan400 - Amplop kesalahan
{type: "error", error: {type, message}, request_id} - Header respons
request-idpada setiap respons admin, sukses atau kesalahan; badan kesalahan juga membawanya sebagairequest_id
admin_audit dalam transaksi yang sama, dikaitkan dengan admin-key:<id> atau oidc:<sub>.
Gateway melayani titik akhir batas pengeluaran saja. Permukaan Admin API lainnya, seperti antrian spend_limit_increase_requests, bukan bagian dari admin API gateway.
/effective
GET /v1/organizations/spend_limits/effective mengembalikan skema SpendSummary Anthropic: setiap baris adalah prinsipal untuk periode, dengan batas yang diselesaikan, pengeluaran periode-ke-tanggal, dan objek actor. Perbedaan khusus gateway:
user_idadalah OIDCsub.actor.namedanactor.email_addressadalahnullsampai permintaan inferensi pertama prinsipal melalui gateway. Gateway tidak memiliki direktori pengguna; itu mencatat nilai terakhir terlihat dari JWT sesi setiap pengguna.- Setiap baris juga membawa array
groups, grup IdP terakhir terlihat prinsipal. Ini adalah ekstensi gateway sehingga UI admin dapat menunjukkan setiap tingkat batas yang berlaku; klien berbentuk Anthropic mengabaikannya. - Tanpa filter
user_ids[], itu mencantumkan prinsipal dengan pengeluaran yang tercatat, karena gateway tidak dapat menghitung semua anggota organisasi.
group_limit_mode yang sama yang digunakan penegakan, jadi penampil menunjukkan batas yang benar-benar berlaku.
/audit
Mengembalikan jejak mutasi batas pengeluaran: siapa yang mengubah batas mana, dengan snapshot sebelum/sesudah, terbaru-pertama. has_more tepat. Titik akhir ini mengikuti konvensi Admin API lokal daripada bentuk kawat pihak pertama.
Paginasi
Daftar mentah halaman berdasarkanafter_id dan before_id, yang merupakan ID spl_… yang saling eksklusif; hasil diurutkan berdasarkan pembuatan dan has_more mencerminkan arah traversal. /effective halaman berdasarkan token next_page buram yang diteruskan kembali sebagai ?page=, dengan prinsipal diurutkan naik sehingga halaman tetap stabil saat pengeluaran sedang dicatat. limit adalah 1–1000, default 20, di keduanya. /audit halaman berdasarkan after_id, ID numerik id dari acara terakhir pada halaman sebelumnya, dan limit defaultnya adalah 100.
Siklus hidup data
Gateway menyimpan empat tabel terkait pengeluaran; sapuan per jam memberlakukan jendela retensi:
Ketika pengembang pergi, hapus batas per-pengguna apa pun melalui
DELETE /v1/organizations/spend_limits/{id}; pengeluaran dan baris identitas mereka menua pada jendela retensi di atas. Untuk menghapus satu orang segera, untuk offboarding atau permintaan akses subjek data (DSAR), jalankan DELETE FROM principal_emails WHERE principal = '<sub>' langsung terhadap database gateway. Itu menghapus satu-satunya tabel yang menyimpan email, nama, dan grup mereka. Baris spend dan admin_audit mereferensikan OIDC sub pseudonim saja dan menua pada jendela mereka sendiri.
Terkait
- Konfigurasi
admindanenforcement: mengaktifkan Admin API dan menyetel retensi - Panduan penerapan: skema Postgres dan panduan cadangan