Networking and Content Delivery

Elastic Load Balancing(ELB)

EC2やコンテナへのトラフィックを振り分けるロードバランサー。AIP-C01では自己ホスト推論エンドポイントの可用性・スケーリングを支える裏方として出てきます。

  • C|周辺
  • D2 実装と統合
  • D4 運用効率と最適化

ひとことで言うと

複数のEC2インスタンスやコンテナ、IPアドレスにトラフィックを自動で振り分け、ヘルスチェックで健全なターゲットにだけルーティングする仕組みです。

要するに、受付係です。リクエストが来るたびに「今空いていて元気な担当者」に振り分け、倒れた担当者(不健全なターゲット)には二度と回しません。

何に使うか

用途該当するロードバランサー
EC2上で自己ホストするモデルサーバーへのHTTP(S)振り分けApplication Load Balancer(ALB)
低遅延・高スループットが要るTCP/UDPトラフィックNetwork Load Balancer(NLB)
サードパーティのアプライアンス経由のトラフィック検査Gateway Load Balancer(GWLB)

試験でどう問われるか

単独の主役にはなりません。 EC2/ECS上に組んだ自前の推論基盤の可用性・オートスケールを支える裏方として、Auto Scalingとセットで名前が出る程度です。

問われ方正解に寄る条件引っかけ
「自己ホストの推論サーバーを複数台にスケールし、落ちたインスタンスには回さない」ALB/NLB + Auto ScalingBedrockのマネージド推論に切り替える案(要件次第では正解になりうるが、ELBの役割そのものを問う設問ではこちらは誤り)

取り違えやすいもの

迷う相手切り分けの一言
API GatewayELBはEC2/コンテナ/IPへのL4/L7振り分け。API Gatewayはサーバーレス(Lambda等)向けのAPI管理層で、スロットリング・認証・ストリーミング応答などAPI寄りの機能を持つ
AWS Global AcceleratorELBは1リージョン内の複数ターゲットへの分散。Global Acceleratorは複数リージョンの複数ロードバランサーへ跨って分散する上位レイヤー

想起チェック

Q1. 自己ホストの推論サーバーをEC2上に複数台立てるとき、ELBは何をしてくれますか?

複数のインスタンスにトラフィックを自動で振り分け、ヘルスチェックで不健全なインスタンスへのルーティングを止めます。Auto Scalingと組み合わせて可用性とスケーラビリティを両立させます。

出典(AWS公式)