世界を動かす技術を、日本語で。

TikTokの「中毒性デザイン」がヨーロッパで違法と判定される

概要

  • TikTok の無限スクロールや推奨アルゴリズムが EU法違反 と指摘
  • 欧州委員会 が初めてSNS依存性に法的基準を適用
  • TikTokは 主要機能の変更 か高額罰金のリスク
  • 他のSNSや各国でも 規制強化 や訴訟が拡大
  • 今後の対応や最終決定には 不透明感

TikTokの「依存性デザイン」とEU規制

  • TikTok の無限スクロールや自動再生機能、レコメンドアルゴリズムによる中毒性問題
  • 欧州委員会 が「身体的・精神的健康への潜在的危険」として暫定的に違法認定
  • 特に未成年や脆弱な大人への悪影響が懸念
  • プラットフォーム設計 の根本的な見直し要請
  • 違反時は世界売上の最大 6%の罰金 リスク
  • TikTokは「事実無根」として 全面対抗 の姿勢

世界的なSNS規制強化の潮流

  • アメリカではBig Tobaccoに倣った 若年層依存訴訟 が拡大
  • デンマーク、フランス、マレーシア、スペインなどで 年齢制限強化 の動き
  • TikTokの利用時間や夜間利用頻度など、依存傾向を示すデータの軽視を指摘
  • ユーザーの「自動操縦」状態 を誘発する設計
  • 欧州委員会は無限スクロール制限や 新たなスクリーンタイム制限、推奨システムの変更を要請

SNS依存と健康被害の議論

  • SNS依存が 子どもやティーンの発達に悪影響 との指摘
  • 米国の訴訟では無限フィードや自動再生、個別レコメンドが うつ・摂食障害・自傷行為 の一因と主張
  • TikTokはロサンゼルスでの訴訟を直前で和解
  • Meta、YouTube、Snapも同様の訴訟対象

欧州のテック規制の現状と今後

  • 欧州委員会は グローバルなテック規制の先駆者
  • 近年は競争法、誤情報、プライバシー、透明性規制を強化
  • 2023年にはX(旧Twitter)に約140億円の罰金
  • SNS規制については 優先度を維持
  • 米国トランプ政権は「米国企業狙い撃ち」と批判、 言論の自由 や国際ルールの論争に発展
  • TikTok規制が「欧州の規制が米国企業だけでなく中国企業にも及ぶ」象徴

ByteDanceとTikTokの今後

  • ByteDanceは米国ユーザーの懸念に対応し 米国版TikTok 設立で合意
  • 北京政府による監視・操作懸念 の払拭を狙う動き
  • TikTokは 今後の規制や訴訟対応 が継続課題

Hackerたちの意見

https://archive.is/V1NPt

法律のことはよくわからないけど、COVIDの時期にTikTok中毒になって、そこから抜け出した経験があるから、信じられるよ。1日に4〜8時間もやってて、皿洗いしながら動画をスクロールしたり、他の活動中もずっと見てた。

どうやってやめたの?

ショート動画コンテンツは本当に中毒性が高いよね。無限スクロールは全部中毒性があるけど、特に短い動画が何かしらのフックやパンチラインを持ってると、強烈に引き込まれる。YouTubeショートに一度ハマって、気づいたら何時間もスクロールしてた。後になって、本当に薬を盛られたみたいな感覚になったよ。その効果の強さには驚いたし、非現実的だった。それ以来、絶対にそこには行かないと決めた。TikTokには手を出したことないけど、あれに毎秒を費やす人の話は聞いたことがある。明らかに、中毒になりやすい人とそうでない人がいるよね。

音楽を聴きながら1日8時間歩くのと比べて、どっちが悪いのかな?皿洗いしながらや犬の散歩をしながらヘッドフォンをつけてるのはどう?私は悪いと思うけど、目的論的な判断に入らないと説明しづらいな。

もしかしたら、あんまり中毒になりやすくないのかも。TikTokを30分強制的に見た後、思い切ってアンインストールしたんだ。友達には「もっと時間を与えないと、好みを学べないよ」って言われたけど…だって、興味のある動画が100%ゴミだったんだから、どうしようもないよね。

ずっとメイクと犬の動画ばっかり。YouTubeではマイケル・ペンだけ見てる。

私も同じことをした…もっと早く。インストールして、地元のクソみたいなものを提案された。lttやmkbhdが見たかったのに、その2つを検索して追加したら、最初の2本の動画も同じクソだった。アンインストール。YouTubeの方がまだマシだよ。YouTubeにはコンテンツが山ほどあって、一生かけても全部見るのは不可能だし、5倍速でも無理。しかも内容は10倍良い。

私も同じ状況だよ。妻や友達が動画(主に可愛い犬)を送るためにTikTokアカウントを持ってる。なんでTikTokを使わないのか聞かれると、みんな中国やラリー・エリソンの影響に反対してると思ってるけど、違うんだ。ただそのフォーマットが好きじゃないだけ。

アルゴリズムはかなりシンプルで、人気のある動画ジャンルからいくつかの動画を表示して、滞在時間に応じて関連するカテゴリやサブカテゴリをA/Bテストするんだ。その部分はそんなに難しくないし新しくもない。特別な部分は、編集やコンテンツのカテゴライズだね。動画をジャンルやテーマ、サブテーマ(例えばメイク動画、25歳の女性、ストレート、ニューヨーク、アイグリッター)に正確に分類できて、その後にどのペルソナが何を好むかのグラフを作ること。もう一つの秘密は、人々が色々探して見つけて、それをプロモートすること。TikTokは(昔は)コンテンツを編集したり、報酬を高く設定してたんだよ。

PyData Berlinで、自分のTikTok推薦アルゴリズムを作る方法について講演したことがある。TikTokのパーソナライズされた推薦エンジンは、世界で最も価値のあるAIなんだ。これがTikTokの差別化要因。クリックしてから1秒以内に推薦が更新されるから、人間が感じる遅延の範囲内なんだよ。もしAIの推薦が特徴の新鮮さが悪いと、良い推薦でも「遅い」と見なされて、知的とは思われない。TikTokの推薦システムは、ヨーロッパの技術(リアルタイムの特徴計算にApache Flinkを使用)やKafka、分散モデルのトレーニングインフラに部分的に基づいている。Monolithの論文は、「オンライン学習」が重要だと誤解を招くけど、実際はそうじゃない。あなたのクリックが1秒未満で予測のための特徴として利用可能になることが重要なんだ。これには、イベントごとのストリーム処理アーキテクチャが必要で(Flinkのように)、Felderaが私の現代的な選択肢になると思う。* https://www.youtube.com/watch?v=skZ1HcF7AsM * Monolithの論文 - https://arxiv.org/pdf/2209.07663

YouTubeショートも、最後に見た動画の長さに基づいてフィードを更新してるみたいだね。サクサクスクロールしてて、犬の動画をしばらく見てると、次も犬の動画が来る可能性が高い。

いい視点だね。RisingWaveについてはどう思う?

かなり興味深いね、仕事と話をありがとう。話題に戻るけど、新しい分類からはあまり影響が出ないと思うよ。「当局がこの件で最終決定を下す時期は示されていない。」典型的なEU委員会のパワームーブだね。あのベンチウォーマーたちは、次の選挙まで何もしないだろうな。政治家や世界のリーダーたちは、子供のポルノを生成するプラットフォームに留まることを選んだ。なんでTikTokをやめると思う?彼らは自分たちや政党のコンテンツに人々を中毒にさせたいんだよ。

Flinkはこれには全然向いてないよ。Flinkがコストのかかる並列処理なしで1秒間に100万イベントを処理できるところを見せてくれたら、考えを変えるかも。Flinkはやってることに対して遅すぎる。NNUEの方がずっといいモデルだと思う。

これについてどう感じるか分からないけど、次はDuolingoがターゲットになってほしいな。彼らも人を離れさせないために似たようなマインドハッキングをやってるから。ストリーク管理の手法は完全に虐待的で、ブランドやPRの重要な部分になってるし、レッスンプランは実際に言語を習得して退会できないように設計されてるみたい。新しい単語が追加されると、クリアしたレッスンをリセットしてやり直させるし、練習させるためにランダムにレッスンを消すこともある。解決策が何かは分からないけど、スキルが上達できないことで自分を責めてる人を何人も知ってる。Duolingoのビジネスモデルは、Tinderと同じように、ユーザーの目標とは完全に逆行してる。もしDuolingoのR&Dが一晩で流暢に話せる魔法のような方法を発見したとしても、絶対にそれを売らないだろうね。TinderのR&Dも、真実の愛のための本物の公式を何年も前に発見して、それを焼き捨てたんじゃないかな。だって、永遠にスワイプさせた方がもっと儲かるから。

レッスンプランは実際に言語を習得して退会できないように設計されてるみたい それを設計する必要はないよ。言語を習得したいなら、その言語を何かに使わなきゃいけない。Duolingoが提供するレッスンだけでは、言語を習得することはできないよ。

これが今のビジネスのほとんどだよね。医療もそう。誰もあなたの問題を解決するためにお金を取ろうとは思ってない。彼らが興味があるのは、終わりのないサービスやサブスクリプションを売ることだけ。

面白いことに、Duolingoのリテンションメカニズム(主にストリークやリーグ)は、私には全く逆の効果を持ってる。成功にはまあまあ励まされるけど、失敗にはものすごく落ち込む。それって、ストリークを維持することがストレスになるし、ストリークに失敗するとモチベーションに大きなネガティブな影響が出て、やらない方がストレスがなくて楽だってことになる。彼らは本当に私の脳をアプリを使わないように訓練してる。

実際、言語学習は複雑だから、ユーザーを維持するために新しい製品や機能を作ることができるはずなのに、なぜかやらないんだよね。

ちょっと反論してみるけど(Duolingoとは関係ないし、実際に使ったこともない):>「新しい語彙が追加されると、クリアしたレッスンをリセットして再度やり直させる」これは、開発中にそのケースが考慮されなかったり、延期された場合でも同じことが言える。自分の学習プラットフォームをいじってみたけど、すでに完了したレッスンに追加コンテンツをどう扱うかは難しい問題だと感じたし、簡単な答えはない。どんな解決策もどこかで問題があるんだ。>「また練習させるためにランダムにクリアする」Ankiも同じことをしていて、「間隔を空けた復習」と呼んでいて、機能だと言ってる。じゃあ、Ankiも禁止すべき?

これが「アカウントを削除する」ページにやっとたどり着いたときに手に入れたフクロウの画像だよ: https://drive-thru.duolingo.com/static/owls/sad.svg

Duolingoはクソみたいな会社だよ。教育なんて全然気にしてないし、ただリテンションメカニクスとダークパターンだけに注力してる。CEOは、ユーザーのためになる製品を作りたいって言った従業員を共産主義者って呼んでたしね。

プレスリリース: https://ec.europa.eu/commission/presscorner/detail/en/ip_26_... > 現段階で、委員会はTikTokがサービスの基本設計を変更する必要があると考えています。例えば、「無限スクロール」などの中毒性の高い機能を時間をかけて無効にしたり、効果的な「スクリーンタイム休憩」を実施したり、夜間も含めて、推薦システムを適応させることです。これらの多くは具体的に実現可能で、効果的かもしれません。でも、中毒性の核心は「推薦システム」にあるので、そこをどうするつもりなんでしょう?もっと悪いコンテンツを推薦し始めるの?ECが満足するまで、どれだけ悪くしなきゃいけないの?

中毒性がないほど悪い。目標は中毒性がないことで、その目標を達成するために必要な部分にどんな変更を加えてもいい。

「これらのほとんどは具体的に実行可能で、効果的かもしれない。でも、依存性の核心は「推薦システム」にあるんだよね。そこで何をするの?もっと悪いコンテンツを推薦するの?ECが満足するまで、どれくらい悪くしなきゃいけないの?君に同意するけど、これはちょっと変だし、問題を見逃してる気がする。全てのアプリは注目を集めることが目的なんだ。アプリを使っている時に良いコンテンツ(自分が興味あるもの)がどれだけ表示されるかが、そのアプリの依存性を決める。悪いコンテンツ(広告や「スクリーンタイム休憩」、手動スクロール時間、もっと広告、読み込み画面、スポンサー広告、フィラーコンテンツ(例えばYouTubeはこれが多い)など)が表示される時間の割合が、依存性を打ち消すんだ。ここでの最終目標は何?今、TikTokは他のアプリに対して注目経済のレースで勝ってるけど、それはユーザーの好みのコンテンツにもっと集中してるから。これを減らしたいの?もっとつまらない他のものを画面に表示するの?「5分待ってください」みたいな静止画?それとももっと広告?社会的に不器用なスマホ中毒者の世代を作りたくないのは分かるけど、これじゃ何も解決しないと思う。人々はまだ良いコンテンツを求めるし、最も顧客に優しい(TikTokについてそう言うのは変な感じだけど)アプリをもっとクソ化させるのは、驚くべき解決策だよ。」

中国版のTikTokは、子供向けにほとんどこれらのガードがかかってると思うよ。

デザインパターンを禁止するのはちょっと疑問だな。人が使いすぎるからって理由だけで。子供の頃、映画を見るために劇場に行ってたけど、クリフハンガーや続編が魅力的じゃなくなるわけじゃなかったし。今はNetflixのシリーズを一気見するのが普通だけど、それはいいのに、ショート動画には政府の介入が必要なの?本当に大事なのは、操作的なデザインから人を守ることと、自分で選ぶ能力を尊重することの境界線をどこに引くかだと思う。中毒性のあるパターンはどこにでもあるし、ストリーミングプラットフォームやSNS、ゲーム、メールの通知だってそう。TikTokのフォーマットが特別危険かどうかじゃなくて、大人が自分のメディア消費を管理できるか、すべての魅力的なアプリに規制が必要なのかってことが心配。自分たちを守るために政府に頼るより、メディアリテラシーや透明性に焦点を当てるべきだと思う。知性を法で規制することはできないからね。

ショートフォーム動画は、以前のメディアやソーシャルメディアの消費パターンとはまったく違うよね。個人的には、アルゴリズムによる無限のショートフォーム動画は禁止すべきだと思う。それは純粋に有害で、人類にとって悪い影響を与えるから。

知性を法で規制することはできない…だからこそ、有害なものは禁止するんだよね。

アメリカとヨーロッパがTikTokをターゲットにしてるのは、彼らがそのプラットフォームを持ってないからだよ。FacebookやWhatsApp(Metaが所有)は、世界中で多くのヘイト政治や社会不安を引き起こしてるし(Facebookとジェノサイド:Facebookがミャンマーのジェノサイドにどう関与したか、そしてなぜ責任を問われないのか - https://systemicjustice.org/article/facebook-and-genocide-ho...)。Amazon、Google、Microsoftは、AIツールを使ってイスラエルがガザでのジェノサイドを行うのを助けた(国連がGoogleとAmazonにガザのジェノサイドを助長したとして非難 - https://progressive.international/wire/2025-08-26-un-calls-o...)。でもそれは全部OKなんだ。

自分のアルゴリズムを選べるべきだよね。それは選択の自由の問題だと思う。

「大人が自分のメディア消費を管理できるか、それともすべての魅力的なアプリに規制のガードレールが必要かということだと思う。これらの極端な間には広い規制のスペクトラムがあって、すでに様々な政府が武器からソフトウェア、抗生物質までを規制するために使っている。規制が失敗したり予期しない悪い結果を生んだ例を選んで取り上げるのは簡単だけど、そうすると規制が害を防ぐのに成功した大多数のケースを見逃してしまう。そういう成功は、悪い結果が起こらなかったことによって証明されるから、見えにくいんだ。何も変わらなかったことを勝利として指摘するのは難しいけど、建築許可を拒否された少数派や、政府の悪行を持ち出して規制が失敗する運命にあると主張する人たちを見つけるのは簡単だ。」

「本当の問題は、操作的なデザインから人々を守ることと、彼らが自分で選択する能力を尊重することの間にどこで線を引くかだ。すでにアルコールやタバコではそれをやっている:税金、広告やマーケティングの制限、健康警告の義務付け。」

大人が自分のメディア消費を管理できるかどうかってことだね、ハハ!

これらの中毒性のあるアプリを作ってる会社が意図的にやってるってことを認めてないよね。彼らはお金を稼ぐために、できるだけ魅力的に作ってるんだ。何十億ドルもかけて、製品をどうにかして魅力的にしようとしてる。普通の人が、そんな全方位的で超操作的なシステムに対抗するのはゼロに等しいよ。単純に言って、これはフェアな戦いじゃない。

本当の問題は、人々を操作的なデザインから守ることと、自分で選択する能力を尊重することの間にどこで線を引くかってことだよね。ネタバレ:線はないよ。社会(正確にはコミュニティ)は、ネットでのネガティブな影響があると見なされる行動を自己規制しようとする。そういう認識は時間とともに変わる。最適な基準なんて存在しない。歴史的に見ても、知性や生物学、物理学を考慮したことはない(実用的でない命令の代わりに、近い儀式が置き換わることが多かった)。

なんて非現実的な発言なんだ。じゃあ、麻薬も禁止しない方がいいってこと?

見出しが実際の出来事を大げさに表現してるね。人を引き込むためのトリックを使ってるサービスについての記事で、クリックベイトの見出しを使うのは皮肉だよね。まだ何も結論は出てないし、プロセスの初期段階でTikTokが関与して反応することを開示してるだけなんだ。記事の冒頭は、結論が出たかのように聞こえる見出しから始まるけど、読み進めるとこれは調査の初期段階であって、実際の決定じゃないってことがわかる。 > 今、EUの規制当局は、TikTokを成功させた同じ機能が違法である可能性が高いと言っている。 > 当局がこの件に関して最終決定を下す時期は示されていない。

ソーシャルメディア中毒を扱うための読書とリスニングのヒントを紹介するね:フランク・ポッセマト「デジタル世界でアナログな生活を送る方法:過負荷の時代に魂を持って生きるためのワークブック」ってやつ。デジタル世界でアナログな生活を送る方法 | フランク・ポッセマト | TEDxBU https://www.youtube.com/watch?v=WEMffdUgWCk 彼はすべてをやめろとは言わないけど、依存を減らすための現実的なヒントを提供してる。例えば、休憩を取ったり、一定の時間(例えば30分や1時間)オフラインでいるトレーニングをすることを提案してるよ。

これは世代間の戦争だよ。もし「団塊世代はもうテレビを見ちゃダメ」って言ったらどうなるかな…