データセンターには涼しくて乾燥した空気が必要？<45% いや、低すぎるのは良くないよ。冬に湿度が40%未満のデータセンターで働いてたけど、RAMがあちこちで故障してた。湿度が低いと静電気が発生するからね。

企業がクラウドが高くてもオンプレミスを選ばない理由は、オンプレミスのリスクが大きいからだよ。ここで見ると、いろんなステップが必要なのがわかる。良い会社なら、リスクを自社の差別化要因や競争優位性のある部分に集中させるはず。結局、「オンプレミスのコストがクラウドより安いかどうか」じゃなくて、リスク調整後のコストが重要なんだよね。リスクをメインの製品だけじゃなくてインフラにも分散させると、難しくなる。小さめの会社が自社でJiraを作るのはちょっと心配だな。

規模が大きくなれば（例えばcomma.aiみたいに）、たぶん安くなるけど、それまでは高い初期投資とリスクを伴う長期的なコスト最適化になるから、ほとんどのスタートアップにはあまり意味がないよ。遅い段階になって、ホスティングコストが大きな負担になるまではね。中間的な解決策もあるよ。仮想マシンを借りる代わりにベアメタルを借りるのは結構いい選択。数年前にHetznerでやったことがあるけど、ほぼ同じ金額でかなりのパフォーマンスが得られるんだ。パフォーマンスが必要ならこれは素晴らしいよ。みんなハードウェアにこだわるけど、ソフトウェアの側面も考慮しないとね。小さな会社では、オペレーションやDevOpsの人が管理するリソースよりも高くつくことが多いよ。最適化するためのコストはそのコストなんだ。ホスティングコストは通常、スタッフコストの端数に過ぎないし、ハードウェアを所有すると責任が増えるよ。メンテナンスしたり、監視したり、故障したら交換したり、ファンがホコリで詰まらないようにしたり、障害が発生したときの対処も必要だしね。今までクラウドプロバイダーに頼んでいたことが、自分の問題になるんだ。それにはゼロではないコストがかかるよ。ホスティングコストを考えるときは、FTE（フルタイム従業員の年間コスト）で考えるのがいいよ。1未満なら（ほとんどのスタートアップはスケールアップの段階に入るまで）、うまくいってるってこと。最適化にかかるコストは、実際にその作業をするのにかかるFTEに影響するからね。1 FTEでかなりのホスティングが賄えるよ。AWSのコストで月10Kくらい考えてみて。良いオペレーション担当者や開発者はそれ以上のコストがかかるから。うちの会社は月1Kくらいで運営してる（GCPとその他のマネージドサービス）。それを最適化するのは間違いだよ。私にとっては、時間をかける価値がない。もっと価値のあることをやるべきだからね。ホスティングにかかるコストが月に複数のFTEになると、状況は変わるよ。その時点で、スタッフのコストも5-10 FTE分はかかるから、すべてを見守る必要があるんだ。だから、ホスティングのFTEを少し余分なスタッフのFTEとトレードオフして、ネットの利益を得ることができるようになるんだ。

オンプレミスのハードウェアとクラウドコンピューティングの両方を使うのがいいと思う。たぶん、commaもそうしてるんじゃないかな。重要なインフラについては、信頼性の問題を自分で抱えるより、優秀なクラウドプロバイダーにお金を払った方がいいと思う。ヘッドクォーターにサーバールームを一つ持つのはいいけど、異なる場所に二つのサーバールームを持って、耐障害性のある電源やネットワークを整えるのはちょっと大変だと思う。多くのslurmジョブを良いサーバーで動かすのはクラウドだとすごく高くつくし、数ヶ月でお金を節約できることもあるよね。サーバールームが完全にダメになったとしても、最悪の場合はもう少しYAMLやTerraformを書いて、クラウドに一時的な代替をデプロイすればいいだけだし。あと、コロケーションっていうのもあって、自分のハードウェアを管理されたデータセンターに置く方法もある。ちょっと古い考えかもしれないけど、場合によっては意味があるかも。研究用のHPCも考慮する価値があるかもしれない。研究では、クラウドコンピューティングのコストのごく一部で世界最速のコンピュータを使えるからね。root権限がなくてslurmを使わなきゃいけないのが気にならなければ、すごくいいよ。アメリカではどうかわからないけど、ノルウェーでは自分の会社のslurm AIワークロードを研究用HPCで動かせるけど、大学や研究機関よりはかなり高くつくよ。でも、大学や研究機関と共同で研究プロジェクトを持つこともできるし、そのコラボレーションからビジネスが大きく利益を得られれば、みんなハッピーだよ。

自立は素晴らしいけど、自分のコンピュータを運用することには他にもメリットがある。良いエンジニアリングを刺激するんだ。最初から優秀なエンジニアがいると、人を刺激するのは簡単だよね。comma.aiのような場所ではそれが当たり前だけど、データセンターの管理がコアコンピタンスを超えている会社もたくさんあると思う。スキルのあるエンジニアは、クラウド企業のトレードオフを理解するのが難しいと感じることがある。comma.aiの従業員が社内の食堂を持っていないのと同じように、自分が得意なことに集中して、残りはアウトソースするのが理にかなっているかもしれない。

これは私たちの業界だよ。所有は一つの極端で、クラウドはその反対側、そしてその間にはいくつかの選択肢がある。1 - クラウド – これは資本支出、雇用、リスクを最小限に抑えつつ、運用コストを最大化する（高いし）し、コストの変動も大きい（使用量に基づく）。2 - マネージドプライベートクラウド - これが私たちのやっていること。資本支出はほとんどなく、雇用やリスクも最小限で、運用コストは中程度（AWSなどより約50%安い）。私たちはベアメタルをレンタルまたはコロケートし、管理し、ソフトウェアのデプロイを行い、オープンソースのみをデプロイするなどしている。月に€$5k以上の支出がある場合にのみ、本当に意味がある。3 - レンタルベアメタル – 他の誰かにハードウェアの資金調達を任せる。資本支出は最小限だけど、雇用やスキル、リスクは増える。AWSなどより約90%安い（時間も含めて）。4 - 自分でハードウェアを購入してコロケートする – スキル、スケール、資本支出があり、少なくとも3-5年間サーバーを運用する予定があるなら、確かに最も安い選択肢だ。オプション3に適したプロバイダーは、Hetznerのようなところだね。彼らのサーバーハードウェアの内部ROIは約3年のようだ。その後は、クライアントと一緒にまだ稼働しているか、サーバーオークションシステムに入ると思う。オプション3と4は、スケールが大きくなるか、インフラがコアビジネスの一部になると、一般的に魅力的になる。オプション1は、初期投資を非常に少なく抑えたいスタートアップには最適だけど、その後すぐに急成長することが求められる。オプション2は、基準負荷があり、通常のビジネス成長があり、もしかしたら過労のDevOpsチームがいる中小企業にはかなり良い。

クラウド企業は一般的にオンボーディングはすごく簡単だけど、オフボーディングはすごく難しい。注意を怠ると、高いクラウドコストに悩まされて、抜け出せなくなるよ。自分の運命をコントロールしたいなら、自分でコンピュートを運営しなきゃ。コストやロックインは明らかだけど、「主権」もセールスサイクルで重要な要素になってきてる、特にヨーロッパではね。健康データを扱うJuvolyは、オンプレミスでAIのワークロードを運営するのが得意だよ。

私が働いている会社は、95%がオンプレミスだったハイブリッドを持ってたけど、VMwareのライセンスのせいでオンプレが高くつくようになって、クラウドが90%に近づいた。VMwareの代替品はあるけど、うちのハードウェア構成では公式にサポートされてないから、全てのハードウェアを変更する必要があって、それがクラウドよりも高くつく。ほとんどのものがクラウドに依存しないし、耐障害性が必要なものは2つの異なるプロバイダーに置いてる。今、会社はオンプレで運営するために借りている建物がほとんど使われていないから、さらなるコスト削減を考えてるけど、最近は建物の価格も上がってきてるから、クラウドに移行することでお金を節約できる可能性が高い。これでクラウド移行が永続的になるかもしれないね。

データセンターを維持することは、実際の課題を解決することにもっと関係してる。クラウドは会社特有のAPIや請求システムの専門知識を必要とする。データセンターはワットやビット、FLOPの知識が必要だよ。どちらを考えたいかは明らかだね。これって小規模でも当てはまると思う！さまざまなプロプライエタリなクラウドAPIやインターフェースをいじるより、SSHを使ってパワフルなLinux VPSをセットアップしてデバッグする方がいいな。ワットやビット、FLOPほど低レベルではないけど、Linuxの知識はAzureの設定を知るよりも価値があると思ってる。

インセンティブについての観察はあまり評価されてないね。コンピュートが固定されてると、エンジニアはコードを最適化する。コンピュートが予算の一部になると、エンジニアはスライドデッキを最適化する。これはクラウド対オンプレミスの議論じゃなくて、エンジニアリングの心理学の話だよ。