世界を動かす技術を、日本語で。

YouTubeが警告や許可なしに動画にAIによる改良を加えた

概要

  • YouTube がユーザーに無断で AI処理 を動画に適用
  • クリエイターが 違和感や不満 を表明
  • 現実感の喪失 や視聴者との信頼低下の懸念
  • AIによる 現実の事前加工 が拡大傾向
  • 本物らしさ と私たちのつながりへの影響

YouTubeによるAI動画補正の問題

  • YouTube が一部動画に AI補正 を無断適用
  • クリエイターの Rick Beato は自身の顔や髪型、肌質に違和感
  • 微細な変化 (服のしわや耳の歪み)で、比較しないと気づきにくい
  • Rhett Shull も同様の現象を確認し、50万回以上再生された動画で問題提起
  • 「自分でやるならともかく、 勝手なAI加工 は自分や発信内容の誤表現」と不満
  • 視聴者との信頼関係 の損失リスク

AIが現実とのつながりに及ぼす影響

  • 現実世界 がAIによって 事前に加工 される時代の到来
  • 変化が 微細 なため、違和感に気づきにくい現状
  • 今後は「見分けられるか」ではなく、「 現実感の喪失」が本質的な問題に
  • AI生成感 のある映像が、クリエイターと視聴者の 共有感覚信頼 を揺るがす可能性
  • AIの透明性 とユーザーへの事前説明の重要性

Hackerたちの意見

「YouTubeは常に新しいツールを開発したり、色々試したりしているんだ」とベアトは言う。「彼らは最高の会社で、いいことしか言えない。YouTubeは私の人生を変えた。」私の落ち込んだ脳は自動的にこう訳した。「私の生計はYouTubeにかかっている。」

xkcd 2015、思っているより近いお金の魔法の技術 https://xkcd.com/2015/

リック・ビートは、毎回すごく極端な意見を持とうと頑張ってるよね。

それで、最近彼が投稿したのは、彼が対処しなきゃいけないひどい著作権の主張についてで、これがかなりの金額を失わせて、チャンネルが閉鎖されるかもしれないって話だった。

もしかしたら、その発言はAIによる編集で、実際には「YouTubeは地球上の悪の scourgeだ」って言ったのかもしれないね。

そこに絶望的な要素があるって考えには反対だな。もしYouTubeが僕のライフスタイルを支えてくれてるなら、状況に満足してるはずだし、彼らに公の圧力をかけるなんて考えないよ。こういう企業は、ネットの怒った人たちから十分に嫌われてるしね。動画をちょっといじるのは良くないけど、YouTubeが関わってる政治的な動きに比べたら、そこまで大騒ぎすることじゃないと思う。

消費者としては、動画を自分の好きなように見るには最も敵対的なプラットフォームだよ。彼らが望むようにじゃなくてね。ショート動画を無効にするために、広告ブロッカーを使わざるを得ないし。

YouTubeによると、これは特定のYouTube Shortsに対してノイズ除去プロセスとして行われたらしい。でも、実際に人気のあるチャンネルは、すでに明るくて色調整された動画が多いから、視覚的にはあまりノイズ除去の恩恵を受けないはず。確かに、強力なノイズ除去は人工的な見た目を与えることがあるし、両方のプロセスがノイズ除去を多用しているからね。もしかしたら、動画のエンコーディングを最適化するためにやったのかも。ノイズや表面のディテールが少ないほど、圧縮が楽になるから。

彼らの言葉をそのまま受け取るなら、これは動画を最適化するための技術の延長に過ぎない… そして、バズワードだからAIと呼ばれて、論争を呼ぶんだよね。

Shortsを完全に削除するための請願を始めてもいいかな?

もしかしたら、動画のエンコーディングを最適化するためにやったのかも。ノイズや表面のディテールが少ないほど、圧縮が楽になるから。そうだとしたら、実際には別の種類のロスのある圧縮に過ぎない。AV-1形式に動画をエンコードするのと原理的には変わらないよ。

YouTubeは、ユーザーがAIによる動画の調整について選択肢を与えられるかどうかに関するBBCの質問には答えなかった。全てを物語っているね。YouTubeのPMさん、こういうことを始める前にもう少し考えてみたらどう?

彼らは何年も前に頭を切り替えた。今はAIのことばかりで、広告を押し付けて子供たちをiPadに夢中にさせることばかり。

「こういうことに時間を無駄にする前に、考えてみたらどう?」って言うけど、彼らが考えてないと思う根拠は何?この効果は彼らが実施している実験なんだ。私たちの視点から見ると無駄で望ましくないように見えるけど、もし彼らがそれがエンゲージメントを高めることを発見したらどうする?

他の皆に言いたいけど、どうするつもり?Odyseeに投稿するの?YouTubeが巨大なゴリラであり続ける限り、彼らは庶民の意見なんてあまり気にしないだろうね。

残念ながら、その記事には具体例や比較画像がないんだ。他の報告も似たように役に立たないし。どうやら、誰かの耳のシワが変わっただけみたい。もし他の人も実際に見たいなら: https://www.reddit.com/r/youtube/comments/1lllnse/youtube_sh... 動画もざっと見たけど、このことについての話はたくさんあったけど、具体例はほとんどなかった。これは実験だから、こういう騒ぎがYouTubeへのフィードバックになってるんだろうね。

「メンバージャーナリズム」?ニュース記事に実際に努力が注がれたことなんてあったっけ?

Rhett Schul(スペル合ってる?)の動画をクリックすると、元の動画(非ショート動画)とシャープにした動画(ショート動画)の比較例が見れるよ。基本的にYouTubeは「ショート」動画にシャープニングフィルターを適用してるんだ。

YouTubeがAIを使ってコンテンツを変更してる(しかも教えてくれない)[動画] - https://news.ycombinator.com/item?id=44912648 9日前 (6ポイント、0コメント)

書かれた言葉にこれが適用されるのを想像したら、背筋が寒くなった。僕の記事が公開ボタンを押した瞬間に自動的に「修正」されたり「改善」されたりするのかと思うと、書籍の原稿が編集者に送られるときも同じように「磨かれて」、私たち人間の独特なトーンが失われてしまう。すべてが奇妙な不気味の谷に落ち込んで、読んでいるものが大丈夫に見えるけど、何かが自分の書いたものの皮をかぶった顔のように感じる。

そろそろみんな、製品の中に製品を作るってことを理解するべきじゃないかな。あのT&Sは自分で書かれたわけじゃないし。彼らを擁護するつもりはないけど、これがSVのテック系の人たちが作ったもので、みんなそれを好きなんだよね。

人間が書いたかどうか確実に知る方法は、そこに人種差別とかAIが表現を禁じられている意見が含まれていることだよ。今後のインターネットを想像してみて。みんながAIと見なされないように適応しなきゃいけない時代が来るんだ。

もう手遅れだよ。編集者を雇うのを控えてるのは、彼らがLLMを使う可能性が高いと思ってるから。最近読んでる本も、AIが書いたんじゃないかって疑いながら読んでる。でも、洗練されすぎて人間の独特なトーンが失われていくのが、細かいコンマの配置にまでこだわるスタイルガイドの狙いなんだよね。今読んでる本は、100%人間の専門編集者が編集したって確信してるけど、そのせいで作品の独自性がかなり失われてる。だから、LLMのせいで物事が曖昧になってるってだけじゃなくて、歴史的に他の人にお金を払ってやってもらってたことでもあるんだよ。

蒸気ショベルに置き換えられた人たちも、地面に掘られる穴の質について同じことを言ってたんじゃないかな。「機械が人間のように愛情を込めて、正確に穴を掘ることは絶対にできない」とか。「掘削機はエネルギーを消費しすぎる」とかね。AIについての手をこまねくことも、過去の技術恐怖症と同じように消えていくと思うよ。

アナログを集めるには今が一番いい時期だよ。

すべてはライン生産で作られなきゃダメ。ミスは許されない。特にクリエイティビティに関してはね。/s

これはまさに「自分の姉から生まれた」って瞬間だね。[1] 田林長平(1994年)。『コトツボ』。英語版はまだ出てないけど。

「ああ、原稿を自動でスペルチェックしてくれたら、編集者の時間と労力がかなり節約できるよね?」

AIが人々が言うほど素晴らしくて世界を変えるものなら、問題を探している他の解決策と同じように製品に組み込まれているのはおかしいよね。

インターネットについても同じこと言う?

先週、休暇中にフィリップ・K・ディックの電子書籍を買おうとしたんだ。たったの2ドルだったけど、すぐに思ったのは「これ、変な海賊版でエラーだらけなんじゃないか?アメリカ版で、政府に承認されるためにAmazonが自己検閲したものだったらどうしよう?AIで何か強化されてたら?」ってこと。こういう可能性を考えるだけで、現実の信頼性が揺らいでしまった。データの信頼性について考えると、さらに不安になる。著者が本の公式チェックサムを共有するみたいな実用的な答えもあるけど、結局、信頼性は儚いもので、時間を止めることはできないんだよね。

明らかにフィリップ・K・ディックを読みすぎだよ。もっと個人のアイデンティティ危機に焦点を当てるべきだね、現実全般じゃなくて。

YouTubeの編集長からのリンクされたツイートによると、「GenAIなし、アップスケーリングなし。特定のYouTube Shortsで、従来の機械学習技術を使って動画のぼやけを解消し、ノイズを除去し、処理中にクリアさを向上させる実験を行っている(現代のスマホが動画を録画する時にやることに似てる)」って。https://x.com/youtubeinsider/status/1958199532363317467?s=46 そもそもYouTubeは動画圧縮がすごく aggressive だから(顔を滑らかにしたりブロック状にしたりする)、これって大したことじゃないように思える。場合によっては過剰処理するかもしれないけど、これはほんの一部の動画でテストしてる「実験」でもあるしね。最初の動画の比較を見たけど、唯一の違いは解像度だけだよ。彼はYTにアップされたギター動画とIGの動画を比較してて、YTの方がシャープだった。でもIGの方が解像度が低い可能性もあるから、見た目はそれだけだね。

これは本当に大問題だよ。変更の範囲がどんなに小さくても、ユーザーのコンテンツに無断でAIの後処理を強制するのが良いアイデアだと思ったわけだからね。秘密の実験は決して小さな一回限りのものじゃなくて、常に大きなビジョンを実現するために行われるんだ。もしユーザーの意見を気にしてるなら、これを設定できるようにするはずだよ。

近くで見ると、まるでメイクをしているみたいだった。AIの肌補正フィルターって、いつも最悪だよね。特に男性には。自動でやるなんて、頭おかしい。これは、頼んでもいないのに音声をブーストするEQとは違うよ。今のGoogleは、こんなものを設定なしで出してくるなんて、ちょっと怪しいプロダクトマネジメントチームがいるんじゃないかな。公開する前に、いつもの反AIの反発に直面するのを避けるために、内部データのためにA/Bテストでもしてるのかも。

たまたま気づいたんだけど、Gmailアカウント経由でLinkedInに誰かからメッセージが届いたってメール通知が来たんだ。この時、メールにはメッセージの内容が含まれてるんだけど、今回はLinkedInのバージョンとメールに表示されたバージョンで内容が合わなかった。たった二言が違っただけなのに、その微妙な違いが余計に奇妙で不安にさせた。