ビジネス
レートリミットとは?
別名: Rate Limit / レート制限 / 利用制限
主要AI各社の上限(RPM/TPM)の違いと、429エラーの回避策。APIを「1分あたり何回まで」に制限する仕組み。
⚡ 30秒でわかる
レートリミット の主なポイント
- 1 レートリミットは、APIを「一定時間あたり何回・何トークンまで」しか使えないように定めた利用上限のこと
- 2 主な目的は、アクセス集中によるサーバー過負荷や独占を防ぎ、サービス全体を安定させること
- 3 上限を超えると一時的にリクエストが弾かれ、HTTP 429(Too Many Requests)エラーが返る
- 4 リクエスト数(RPM)とトークン数(TPM)など複数の軸で同時に設定されることが多い
- 5 本番運用では、429 を受けたら待って再送する「リトライ(指数バックオフ)」の実装がほぼ必須
- 6 具体的な上限は提供元・契約プランで異なるため、OpenAI・Anthropic など各社の公式ドキュメント(本ページ下部にリンク)で確認するのが確実
📖 詳しく
レートリミット とは
レートリミット(Rate Limit / レート制限 / 利用制限)とは、AIサービスのAPIを「一定時間あたり何回まで」「何トークンまで」しか使えないように設けた利用上限のことです。たとえば「1分あたり○回まで」「1分あたり○トークンまで」といった形で決められていて、これを超えると一時的にリクエストが弾かれ、エラー(HTTP 429 = Too Many Requests)が返ってきます。なぜこんな制限があるかというと、特定の利用者がアクセスを集中させてサーバーを独占したり、想定外の負荷でサービス全体が落ちたりするのを防ぐためです。高速道路の料金所で一度に通れる車の数を絞り、渋滞や事故を防ぐイメージに近いです。上限は「1分あたりのリクエスト数(RPM)」と「1分あたりのトークン数(TPM)」のように複数の軸で同時に設けられることが多く、どちらか一方に引っかかっただけでも制限がかかります。また、契約プランや利用実績に応じて上限が引き上げられるのが一般的です。そのため、本番サービスでAPIを使うときは、429 が返ってきたら少し待って自動で再送する「リトライ(指数バックオフ)」の仕組みを必ず用意しておくのが定石です。なお似た言葉に料金(トークン課金)がありますが、料金は「使った分だけ払う金額」の話、レートリミットは「そもそも一度にどれだけ使えるか」という速度・回数の上限の話で、別物です。
❓ FAQ
よくある質問
- Q. レートリミットとは何ですか?
- A. AIサービスのAPIを「一定時間あたり何回まで」「何トークンまで」しか使えないように設けた利用上限のことです。アクセスの集中でサーバーが落ちたり、一部の利用者が独占したりするのを防ぐ仕組みで、上限を超えると一時的にリクエストが弾かれます。高速道路の料金所で一度に通す車の数を絞って渋滞を防ぐ、というイメージに近いです。
- Q. レートリミットと料金(トークン課金)は何が違うの?
- A. 料金は「使ったトークンの分だけ支払う金額」の話で、レートリミットは「一度にどれだけ速く・たくさん使えるか」という回数や速度の上限の話です。つまり、たくさんお金を払う準備があっても、レートリミットを超える勢いで一気にリクエストすれば弾かれます。お金の問題と、アクセスの速度・回数の問題は別物だと考えると分かりやすいです。
- Q. レートリミットに引っかかると、どんなエラーが出ますか?
- A. 多くのAPIでは HTTP ステータスコード 429(Too Many Requests)が返ってきます。これは「短時間にリクエストを送りすぎた」という合図で、少し時間を置けばまた使えるようになるのが一般的です。応答には「いつまで待てばよいか」の目安が含まれることもあるので、それに従って再送するのが安全です。
- Q. 初心者がレートリミットで注意することは?
- A. まずは使っているサービスの公式ドキュメントで、自分のプランの上限(1分あたりの回数・トークン数)を確認しておくことが大切です。そのうえで、429 が返ってきたら一定時間待ってから自動で再送する「リトライ(指数バックオフ)」を実装しておくと、急な制限でも処理が止まりにくくなります。上限は契約プランや利用実績に応じて引き上げられることが多いので、足りなくなったら提供元に確認するとよいです。
🔗 関連
あわせて読みたい
関連 AI モデル