AIがインシデントを処理し、エンジニアがシステムとの接点を失う
概要
- AI SREツール が進化し、ルーティンインシデントの対応が自動化された現状
- 人間の直感や経験値の低下 という新たなリスクの発生
- 航空業界のシミュレーション訓練 に学ぶ必要性
- ハンズオン教育やシミュレーション の重要性の再認識
- 自動化の成功がもたらす皮肉 と今後の課題
AI SRE時代のインシデント対応と人間の役割
- 2012年、LinkedInで 自己回復型システムのプロトタイプ を設計した経験
- 当時はAI技術が未発達だったが、現在は AI SREツール が現実に
- これらのツールは、 アラートの監視・仮説形成・テレメトリのクエリ・デプロイの相関・自動修復 まで実施
- ルーティンインシデントはAIが処理するため、 夜間対応の負担軽減 を実現
- しかし、 人間の実践機会の減少 により、システムへの理解や直感が養われなくなる懸念
オートメーションの皮肉とBainbridgeの指摘
- Lisanne Bainbridge の1983年論文「The Ironies of Automation」による指摘
- オートメーションはルーティン作業の機会を減らし、 異常時の対応責任だけを人間に残す 矛盾
- 結果として、 より高いスキルと訓練が人間に必要 となる現象
- 今後、AI SREの普及で 平均MTTRは短縮 するが、 複雑なインシデントの解決時間は増加 する予測
航空業界に学ぶ訓練とシミュレーションの重要性
- 航空業界の自動化とパイロットの役割 の比較
- 飛行の大部分は自動化されているが、 異常事態ではパイロットが主導
- エンジン故障や計器不良など 極めて稀な事象 への対応力が求められる
- FAA規則 では半年ごとのシミュレーター訓練が義務付けられている
- TransAsia Airways 235便事故 の例
- ソフトウェア業界でも 訓練とシミュレーションの徹底 が不可欠
AI時代の実践型教育とシミュレーション
- RootlyとUptime Labs によるリアルなインシデントシミュレーション
- エンジニアが指揮官役となり、 実際の観測ツールやAIステークホルダー と連携
- 不完全な情報下での調査・コミュニケーション・組織的対応 の実践訓練
- AIによる説明機能 の限界
- AIエージェントからの説明や観察だけでは 実践力は養えない
- Serena Williamsの試合観戦と実際のテニス の違いになぞらえ、 実践の重要性 を強調
ハンズオン教育の価値と今後の課題
- ソフトウェアエンジニアリングスクールでの 課題解決型教育 の経験
- 壊れたインフラの修復課題 を通じたトラブルシューティング能力の強化
- 座学よりも実践重視 の教育手法の有効性
- LLMの普及で生じるcomprehension debt（理解負債）
- システムへの理解と実際の対応力の乖離
- 定期的なシステム操作・異常対応・コミュニケーション訓練 の必要性
- テーブルトップ演習やカオスエンジニアリング の再評価
- Bainbridgeの提言通り、 定期的なハンズオン訓練とシミュレーション の徹底が重要
- 自動化の成功が人間の備えを弱める皮肉
- 最終的な責任は人間にあるという現実と、その準備の重要性