ハクソク

世界を動かす技術を、日本語で。

AIのエネルギー消費量

370日前原文(technologyreview.com)

概要

  • MIT Technology Review は、1899年にMITで設立された世界的メディアです。
  • 最新技術の 商業的・社会的・政治的影響 を解説します。
  • 広告やスポンサーシップで ブランド認知 を高めることが可能です。
  • 独立性 と深い分析が特徴です。
  • テクノロジーとビジネス のリーダー層にリーチできます。

MIT Technology Reviewの伝統と広告機会

伝統と概要

  • MIT Technology Review は、1899年に Massachusetts Institute of Technology (MIT) で創刊された歴史あるメディアブランドであることを確認。
  • 独立系メディア企業 として、世界的に高い評価を受けていることを強調。
  • 最先端技術 に関する洞察、分析、レビュー、インタビュー、ライブイベントを提供することを明記。
  • 技術の 商業的・社会的・政治的インパクト をわかりやすく解説することを重視。

広告とスポンサーシップの価値

  • MIT Technology Reviewと提携することで、 新興技術 をテーマにした議論の最前線でブランドを訴求できることを提案。
  • イベントスポンサーシップ やカスタムコンテンツ制作、印象的なビデオストーリーテリングなど、多様な広告手法を活用することが可能。
  • MIT Technology Reviewの読者層は、 テクノロジーやビジネス分野のエリート層 であるため、他にないオーディエンスへのリーチを実現することを強調。
  • ブランドの 認知度向上 や業界内での存在感強化を目指す企業にとって、最適な広告チャネルであることを訴求。
  • 革新的な広告キャンペーン の設計・実施を支援することを明記。

まとめ

  • MIT Technology Review は、伝統と信頼性を兼ね備えたメディアとして、最新技術の動向を発信し続けていることを確認。
  • 広告主やスポンサーにとって、 価値あるパートナーシップ を提供することを強調。
  • テクノロジー業界のリーダー層 への効果的なアプローチを実現することを推奨。

Hackerたちの意見

企業がESGの主張をする時は、合理的な測定とオープンなトレーサビリティが最初の証拠として必ず必要だよ。これがなければ、信頼できる独立した団体（非営利団体や政府機関など）からの検証もなしに、企業のESG主張は単なるPRのためのもので、特に「AI」に関しては世間を納得させるためのものに過ぎない。

└

esg？

└

ESGがFUDでないことがあった？それとも、考えが浅い気候変動目標から制裁を回避するための手段だったことがない？

大事なのは、電気の価格に排出コストを内包させることだと思う。個々のユーザーについてあれこれ言うのは、ちょっと気をそらすように感じるな。電気の急速な脱炭素化は、誰が使うかに関わらず必要だよ。輸送や暖房、産業を電化するから、需要はどんどん増えるしね。

└

同意するけど、消費を減らすことや効率を上げることもエネルギー転換の重要な側面だよね。消費されないものは、発電する必要がないから。

└

確かに。でも、LLMの問題は、膨大なVCマネーが投資されていることだよ、素晴らしいリターンを期待して（誤った期待で）。これが、聖書に出てくるような資源の誤配分を引き起こしていて、その一部には不必要な炭素排出が含まれてる。

└

それをするためには、社会が排出コストについて合意する必要があるね。電力を豊富で効率的にする方が解決しやすいかも。社会を解決することはできないよ…

└

同意だね、持続可能性にとってそれがいつも重要な問いだった。価格は素晴らしいメカニズムだけど、負の外部性は残ってる。

http://archive.today/mnHb8

もしあなたが十分に年を取っているなら、Usenetに投稿していた頃のことを覚えているはず。新しい投稿には必ずついてくる警告があったよね：このプログラムは文明世界中の何千もの機械にニュースを投稿します。あなたのメッセージはネット全体に送信するのに何百、下手したら何千ドルもかかるかもしれません。自分が何をしているのかちゃんと理解しているか確認してください。本当にこれをやりたいのですか？ [ny] LLMクライアントでも似たようなものが必要かもね。リクエストがどれだけの大気中の炭素を生むかという形で表現できるかもしれない。

└

その警告が他のすべての行動にもついてくるならのみね。AIだけをエネルギー使用で特別扱いするのは不公平だよ。

└

多くの人が「ロールコール」がある国に住んでるよね。君の提案は、意図した効果とは逆になるかもしれないって心配してる。

└

そのメッセージはすごく興味深いと思う。なぜなら、そのメッセージ自体はあまりコストがかからないけど、それを送る機械はコストがかかるから。だから、送るメッセージが増えれば増えるほど、メッセージのコストは下がるんだ。

└

実用的な利益のためには必要ないよ、だってうまくいかないから。肉を食べるためにはうまくいかないし、AIにも効かない。唯一の目的は、環境や経済的な影響をスケープゴートにすることだよ。個人に押し付けるのと同じ。いつもそうしてるし。国の放送でも見たことあるよ。そこで何人かの専門家が「楽しみ」のためにAIを使うことについて指を振ってた。バカな画像を作ってね。その一方で、AIを武器競争に活用するつもりだよ：もっとスパム（自動応募、広告、広告、広告、サービスの悪用）とアンチスパムが増える。経済活動がすごく増えるだろうね。破壊的だ。

└

個々のLLMリクエストは環境への影響がほとんどないよ；推論プロバイダーは一度にたくさんの作業をするためにバッチ処理を使ってるからね。さらに、LLMや拡散モデルだけがMLのワークロードじゃない。生成AIが投資家をワクワクさせる一方で、実際に展開されているMLのほとんどは、推薦システムや分類器などのもっと平凡なものだよ；その多くはユーザーに対抗する広告技術の目的で使われてる。もしLLMや拡散モデルだけが企業がMLに使っているものだったとしても、新しいハードウェアからの効率向上が一定であれば、データセンターの環境への影響は2017年の基準のままだっただろうね。同様に、USENETの警告がネットワークの初期数年を超えて真実だったとは思えない。確かに、すべてがダイヤルアップで接続されていたら、1通のメッセージが世界中に送るのに数秒かかるラインタイムを加えると、数百ドルのコストがかかることもあっただろうね。でも、それはかなりのMa Bellのマークアップを考慮してる。USENETのサイト間やISP間の接続のほとんどは、当時の銅線電話回線よりもずっと速いプライベートラインを通じて行われていたんだ。

└

あなたの引用は、実際にはあなたの提案とは逆のことを言ってるね。以前はこのメッセージを送ってたけど、今は止まったんだと思う。コストが大幅に下がったか、利益が関連するコストを上回ったんだろうね。ここでも同じことが起こるかもしれない。

この部分が面白いと思った: > 2017年に、AIがすべてを変え始めた。データセンターはAI用に設計されたエネルギー集約型のハードウェアを使って建設され始め、2023年までに電力消費が2倍になった。みんな知ってる通り、生成AIのブームは2022年11月にChatGPTで本格的に始まった。2017年から2022年の間の「AI」の成長は5年で、ほとんどが生成AIではなかったと思われる。

└

その頃、人々はMLのためにGPUを使い始めた。

└

2017年は、AlphaGoが李世ドルに勝った翌年で、「Attention is All You Need」論文が発表された年だね。未来は見えてた。OpenAIは2022年11月にプロダクトマーケットフィットを見つけたけど、それまで業界は無目的にさまよってたわけじゃないよ。

└

Metaは、検索や類似性、グラフ、推薦など、すべてのプロパティでAIを導入しようとしてた。そのおかげで、LLMブームが来たときにはすでに何万、何十万ものGPUを持ってたし、ラマや他のプロジェクトに取り組むのに良い状況だったんだ。

AIのエネルギー需要について読んだ中で最高の記事だね。ビッグテックが社会とデータを共有しないのは本当に印象的。データバンパイアのポッドキャストシリーズもおすすめだよ： https://techwontsave.us/episode/241_data_vampires_going_hype... https://techwontsave.us/episode/243_data_vampires_opposing_d... https://techwontsave.us/episode/245_data_vampires_sacrificin... https://techwontsave.us/episode/247_data_vampires_fighting_f...

AIが今やる仕事を人間がやった場合のエネルギーの印象はどうなるんだろう？もしAIの印象が少ないなら、私たちがすべき正しいことは何だろう？

└

人間を殺す？そこに行きたくないなら、人間が使うエネルギーがどれだけかはあまり関係ないよね。だって人間はそのエネルギーを使って他のことをするだけだから。

現在、AIは「メインフレーム」時代にあると思う。コンピュータの初期の頃のように、一台のマシンが部屋全体を占めて、膨大な電力を消費していたけど、今のスマホに収まる計算能力には及ばない。モデルの効率とハードウェアの専門化が急速に進むと期待してる。AIワークロード専用に設計されたチップを使ったエッジデバイスでのローカル推論は、大半のタスクのエネルギー消費を劇的に減らすだろう。このシフトによって、大規模な計算リソースが本当に複雑な科学的問題に集中できるようになるのは、価値のある目標だと思う。

└

確かにそう感じるね。7年前のノートパソコンで小さなGemmaを簡単に動かせて、そこそこいいチャット体験ができたのには驚いたよ。普通のプログラムにうまくオフロードして、LLMを残りの部分の「ファジーな接着剤」として使うことで、多くの一般的な作業の効率が改善されるんじゃないかと思う。

気候変動を解決するには多くのエネルギーが必要だね。この文章はちょっと偏ってると思った。例えば、今年達成された10倍の電力削減については触れてなかった — 実際、GPT-4は今やノートパソコンで動くことができるんだ。Viz、サマ・アルトマンが言ってた「特定のAIレベルを使用するコストは、約12ヶ月ごとに約10倍下がり、価格が下がることで使用が増える。2023年初頭のGPT-4から2024年中頃のGPT-4oまでのトークンコストを見ると、その期間でトークンあたりの価格が約150倍下がった。ムーアの法則は18ヶ月ごとに2倍のペースで世界を変えたが、これは信じられないほど強力だ。」 https://blog.samaltman.com/three-observations

└

これはまだ追加の電力使用で、1/ 以前は存在しなかった 2/ 以前の他の電力使用（中には非常に重要で必要不可欠なものもある）を置き換えたり減らしたりするものではないんだよね。3/ たくさんの作業は、専用ソフトウェアや手作業でもっとエネルギーや時間を効率的に行えるのに、AIチャットボットに不適切にルーティングされて、統計的に答えを推測されることが多いんだ。

このページがアイドル状態でCPUをフル稼働させて、何か不明な作業をJavaScriptでやってるっていうのは、ちょっと皮肉だよね。私はただテキストを読んでるだけなのに。