リサ・スーとチームに拍手！彼らはソフトウェアに集中できない典型的なハードウェアメーカーだから、今やNVIDIAは数兆ドルの企業になって、AMDは「たった」数千億ドルに過ぎないんだよね。CPUにばかり注力しすぎて、AIやコンピュートアクセラレーターを完全におろそかにしてる。MI300や関連のアクセラレーターは、理論上はNVIDIAのハードウェアと競争力があるのに、ソフトウェアスタックが全然違うから、誰も気にしないのが特に悲しい。

こんな記事がたくさんあるよね：「AWSからHetznerに移行しました。コストを89%削減。ここが落とし穴。」 https://medium.com/lets-code-future/we-moved-from-aws-to-het...

データセンター、電力、冷却、手厚いサポート、将来の成長などを考慮する必要があるよ。ハードウェアだけにお金を払ってるわけじゃないからね。

全然理解できない 自分のハードウェアを維持・更新するのって、必要に応じてリソースを魔法のように立ち上げたり下げたりするのに比べて、運用コストがすごくかかるよね。これを言う必要はないと思うけど。

クラウドに移行するのは、自分のハードウェアを持つよりも安くなるわけがないよ、明らかに利益を上げなきゃいけないからね。まあ、スポットインスタンスを使う場合は別だけど、余ってるノードを使うから。いずれにせよ、マルチリージョンの冗長性や管理機能が必要なら、コストを無視してクラウドに移行することになる。もっと一般的には、上の人たちがみんなやってるって聞いたから、って感じかな、まあいいけど :D

経済的な議論の主なポイントは、ハードウェアを維持するシステム管理者のコストにあった。電気代や冷却費が大きな継続的コストだけど、AWSがリリースされたときは、サーバーを注文して到着までに3ヶ月かかるのが普通だった。実際には、システム管理者は今も会社にいて、AWSのエンジニアとして働いてると思う。彼らがプラットフォームの運用を続けていて、電気代もAWSに払ってるからね。新しいボックスをすぐに立ち上げられるのは利点だけど、今のマシンは288コアもあるし、十分な余剰を維持するのは大したことじゃない。チームがセルフサービスできるツールもあるし。AWSが最初にリリースされたときとは状況が違うから、AWSは計算、メモリ、ストレージに対してもっと安く請求すべきだと思う。現在の料金でビジネスはめちゃくちゃ利益が出てるから、コアあたりのマシンが安くなったからね。

クライアント2件をコロケーションに移したんだけど、劇的なコスト削減ができたよ。多くのシステムはVMと基本的なクラウド機能だけを使ってる。みんな知ってるけど、念のため言っておくと、プライマリワークロードを自分のハードウェアで運用しながら、特定のクラウド製品（例えばクラウドストレージ）を問題なく使えるよ。時にはそれが理にかなってるし、誰かに背中を押してもらう必要があるだけなんだ。

資本コストが低いってのは狭い指標だと思うし、実際の所有コストを考えるとあんまり反映されないよね。オペレーションの人員、プロビジョニングの遅れ、冗長性の要件、パッチ適用、開発者の時間を考慮すると、クラウドは表面的には高く見えるけど、即時プロビジョニング、自動スケーリング、管理されたデータベース、マルチリージョンのDRを買ってるんだよね。これらのメリットは、自動スケーリングやリザーブドプラン、セービングプラン、スポットフリート、コストツール（KubecostやAWS Compute Optimizerみたいな）を使って、適切なサイズに調整したり、ゾンビインスタンスを排除したりしないと活かせない。安い開発環境やUATが欲しいなら、オンプレの金属サーバーか安いコロケーションで運用した方がいいけど、Terraformで自動化して、k3sやdevcontainersみたいな再現可能なランタイムを使えば、環境が一貫して保たれるし、低い初期投資の代わりに運用の悪夢を抱えることもないよ。

ユーザー向けサービスには意味があると思う。私はウェブとデータベースサーバーをAWSでホスティングしてるんだけど、管理されてないDBは面倒だし、Amazonはほぼ全てのプロバイダーとピア接続してるし、AWSは多くの専用/コロケーションプロバイダーよりもネットワーク速度がかなり優遇されてるし、容量のスケールアップ・ダウンも簡単だからね。ただ、バックエンドサーバーは安いプロバイダーでホスティングしてるよ。