ハクソク

世界を動かす技術を、日本語で。

NO FAKES法案が改正され、状況は悪化した

336日前原文(eff.org)

概要

  • NO FAKES法案 は、生成AIによる偽情報や名誉毀損対策を名目に、インターネットの自由とイノベーションに重大な悪影響を及ぼす恐れ
  • 表現の自由や正当なパロディ、風刺 も制限される危険性
  • 過剰な検閲インフラ やツール開発者への責任拡大
  • 匿名性の脅威 や新規サービスの参入障壁増大
  • 本質的な問題解決よりも商業的支配強化 が狙い

NO FAKES法案の危険性

  • NO FAKES法案 は、生成AIによる「レプリカ」問題への対策を名目とした新たな知的財産権の創設
  • 本来必要な 誤った情報や名誉毀損対策 ではなく、広範な画像ライセンス制度の連邦化
  • パロディや風刺など正当な表現 の保護が不十分
  • 検閲インフラの義務化 による表現の自由の侵害

システムとツールへの影響

  • 画像生成ツールやサービス の開発者・提供者も責任対象
  • ツールが主に無許可画像生成用か否か の判断が曖昧で、開発者にとってリスク
  • 権利者によるイノベーションの拒否権 を実質的に認める内容
  • 技術的パニック に基づく過剰規制

削除通知とフィルター義務

  • DMCA型の通知・削除制度 を拡大し、より多くのサービス提供者に適用
  • 削除だけでなく再アップロード防止のためのフィルター 設置も義務化
  • 著作権フィルター以上に過剰な検閲リスク
  • パロディや風刺の例外規定 も訴訟コストの前では形骸化

匿名性への脅威

  • 裁判官の承認不要でユーザー情報開示を強制できる仕組み
  • 証拠不要のサブポエナ(召喚状) による匿名性の侵害
  • 批判的発言やフェアユース事例 も容易に個人特定される危険
  • ユーザーへの reputational damage や個人生活への悪影響

イノベーションへの悪影響

  • 新規サービス立ち上げコストや法的リスクの増大
  • Big Tech が歓迎する規制 で競争阻害
  • 合法的な創作活動や新規ツール開発者の萎縮
  • 根拠の薄い申し立てだけでサービス停止リスク

本質的な問題と立法の矛盾

  • Take It Down法 など既存の規制の効果を見極めずに新規規制を拡大
  • 被害者保護よりも商業的支配の強化 が本質
  • デジタル画像の商業利用の独占化 が目的
  • 一般ユーザーやイノベーターへの甚大な副作用

まとめ：NO FAKES法案への反対呼びかけ

  • 表現の自由、匿名性、イノベーション のためにNO FAKES法案に反対する必要性
  • 過剰な規制によるインターネットの萎縮 への警鐘
  • 健全な議論と慎重な立法 の必要性

Hackerたちの意見

新しいNO FAKESのバージョンでは、ほぼすべてのインターネットのゲートキーパーに対して、以下のシステムを作ることが求められます。a) 通知を受け取ったら発言を削除すること；b) 繰り返しの事例を削除し続けること、つまり、すでに欠陥のある著作権フィルターの上に、広範すぎるレプリカフィルターを採用すること；c) 画像を作成するために使用された可能性のあるツールを削除・フィルタリングすること；d) 「複製された」とされる人の言葉だけで、素材をアップロードしたユーザーを特定すること。EUの法律や指令（DSA、反テロ法）に従うためには、すでにa)が必要ですし、イギリスも似たような文言の反テロ法があります。アメリカではCSAM法もあります。b)はドイツで運営する場合に必要で、プラットフォームが禁止されたコンテンツの繰り返しアップロードを削除しなければならないという裁判の判決がいくつかあります。c)は理にかなっていると思います。「ヌディファイア」や類似のアプリに対して厳しく取り締まる時期です。d)は私が最も問題視している点ですが、これは新しいことではなく、ほとんど具体性のない召喚状や大規模な捜査命令でユーザーを特定することは、長年にわたって行われてきました。この問題はゲートキーパーに影響を与えます。つまり、小さな個人経営のスタートアップではなく、数十億ドルの企業です。彼らはこうした苦情を処理するために適切なモデレーションスタッフを雇う余裕がありますが、利益に影響するので雇いたくないのです。その結果、AIの不具合に影響を受ける人々が犠牲になっています。

└

滑りやすい坂道だな。どこまで落ちてしまったんだろう。

└

どれも受け入れられないよ。

└

「何かをしなければならない」という強い必要性がある一方で、ひどい実施は許されません。特に、アメリカがますます権威主義的になっている時期に。

└

私が理解したところでは、広範なフィルターを提案しているので、「フェアユース」に該当するコンテンツも今後は早く削除されることになるでしょう。> 小さな個人経営のスタートアップではなく、アーティストやコンテンツ制作者が苦しむのに、なんでそんなこと言ったのか分からない。

└

EUはこの種の規制に対して、アメリカとは異なるアプローチを取っています。[0] EUの規制は原則や結果に重きを置いているのに対し、アメリカの規制は厳格なルールや手続きの遵守に重点を置いています。EUは規制が故意に無視されている場合にのみ罰金を課す傾向がありますが、アメリカは規制に違反した場合には罰金を課します。だから、両者を比較することはできますが、単純な比較ではありません。少し目を細める必要があります。DMCAはあまりにも広範すぎることが証明されていますが、著作権者にとって非常に便利なので、それを変える意欲はありません。これは小さなコンテンツ制作・所有者にだけ影響を与えています。これも同じ道を辿っているように見えます。 > この件はゲートキーパーに影響を与えるので、小さな家族経営のスタートアップではなく、数十億ドルの企業に関係しています。小規模企業に対する免除は見当たらないので、どうやってこれを結論づけるのですか？[0] https://www.grcworldforums.com/risk/bridging-global-business... これについて言及していますが、アプローチの違いを具体的に扱ったより良い記事は見つかりませんでした。

残念ながら、情報と計算（そしてそれによる支配）が安くなるのは避けられない結果です。リベラルな政治システムはもはや均衡を保てなくなっています。21世紀は、鉄の拳で支配するか、その下に押しつぶされるかの物語になるでしょう :(

└

情報はいつも高価ですが、コピーするのが安くなっただけです。

└

厳しい法律を持つことと、それを施行することには大きな違いがあります。「鉄の拳で支配する」というのは、暴力を使って人々を抑圧することを暗に示しています。

15年前だったら、これはひどいことだったでしょう。でも今は、ただ死んだ馬を叩いているだけです。

└

驚いたような、驚かないような。監視資本主義が世代を超えたMOだと、ただの常態になってしまいます。個人的には、世界が生存をかけた戦いになっていく一方で、「俺の分は確保したから、お前はどうでもいい」って感じになっていると思います。

└

25年前ならそうだったかも。でも、2001年以降のPATRIOT法とその仲間たちでその船は出て行っちゃった。

└

左派は「フェイクニュース」と戦う名目で検閲を支持するように応援してたけど、それは誰かの気持ちを傷つけないためだった。今度はそれが逆に使われて、右派の異議を唱える人たちにも向けられるだろうね。

新しいNO FAKESのバージョンでは、ほぼすべてのインターネットのゲートキーパーに対して、以下のシステムを作ることが求められます。a) 通知を受け取ったら発言を削除すること；b) 繰り返し発生する事例を抑えること、つまり、すでに欠陥のある著作権フィルターの上に過度に広範なレプリカフィルターを採用すること；c) 画像を作成するために使われた可能性のあるツールを削除・フィルタリングすること；d) 「複製された」とされる人の言葉だけで、素材をアップロードしたユーザーを特定すること。小さな会社には実装できないし、大きな会社は実装する気がないシステムのように聞こえますね。

└

小さな会社には実装できないし、大きな会社は実装する気がないシステムのように聞こえますね。あるいは、大きな企業が小さな競争相手に対する参入障壁を高くするためにロビー活動をするようなことです。このような規制の捕捉があるからこそ、一定の規模や利益を超えた企業は、最初に「破壊的」だったときには規制に反対していたのに、規制に賛成する傾向があります。

└

あるいは、何でも「偽物」とラベル付けして、反対意見を防ぎ、特定することを目的としたシステムです。

└

大企業はそうするだろうし、それが小さな企業にとっての障壁になる。けど、もっとひどいことに聞こえるよね。教科書的な圧政のインフラだ。政権に反対する異議を唱える人の言論を抑圧して、彼らの発言の場や印刷機を奪い、異議を唱える人を特定して政権に引き渡すよう求め、政権にとって異議を唱える人を助ける行動や無行動をする人々に制裁の恐怖を植え付ける。

└

小さな企業が実行できず、大企業が実行する気もないようなシステムだね。これは本当だ。最近のEFFの傾向とも一致してる。彼らはインターネットの自由に関する大きな問題にはとっくに興味を失って、今はただのビッグテックの悪いニュースのパレードになってる。数十年にわたってビッグテックが社会の情報の良き管理者であり続けている時代に、（1）彼らが本当に無邪気な存在であることと、（2）無監視の20代のMAGAボーイズが連邦政府全体を自分のマックブックに載せている状況で、これは非常に鈍感に思える。テクノロジーのプライバシーの終末が迫っているのに、EFFはまだMetaやByteDanceのクリックストリームについて文句を言ってる。結局、彼らもインターネット上の他の人たちと同じで、そういうことが本当に気になってるんだよね。

└

それに、大企業がオンラインの議論のほとんどが行われる場所で、政府が嫌がるものを押さえつけるために絶対に使うシステムだよ。

これらはすべて、そういったメディアが「ソーシャルメディア」で共有されていることを前提にしているのでは？この言葉はプライベートコミュニティ内では無意味に感じます。これが実現されていない「私たちが望むもの」であり、それがソーシャルメディアの終焉なのかもしれません。

└

ソーシャルメディアを法律で定義するのは難しいでしょうね。

└

問題は、これが自由な言論や個人の責任についての抽象的な問題じゃなくて、プラットフォームの設計の問題だって学術的には理解してることだ。解決策は、政府にソーシャルメディア企業にアルゴリズムの摩擦係数を実装させるよう求めることだよ。経済的なインセンティブが絡んでるから、実現する政治的意志がないのが現実。支配層は、現在の形のソーシャルメディアによって引き起こされる混乱や分裂、混乱から利益を得ている。今のままで十分満足してるんだ。いくつかの研究: Aral & Eckles（MIT, 2019）: 摩擦を導入すると、表現の自由を制限することなく誤情報の拡散を減少させる。• Mozilla & Stanfordの研究（2020–2022）: 摩擦（例えば、プロンプトの共有をやめること）は、フェイクニュースのバイラリティを最大50%減少させる。• Twitterの2021年の実験: ユーザーは、投稿前にファクトチェックのプロンプトを見せられたとき、25%の確率でツイートを変更または削除した。

すべての画像がレプリカフィルターを通過しなきゃいけないけど、AIのおかげで一つのプロンプトからかなり違った画像を簡単に作れるから、今度はAIが画像の「意味」を推測しなきゃいけなくなる。これはチップメーカーや発電所にとっては朗報だね。

一つのアプローチは、そういう法律に反対することだけど、それは防御的な戦略で、最終的には負けるだろう。別のアプローチは、非圧政的な方法で物を作る人を支援する基本的な要件を満たすOSSを開発することだ。昨日このサイトでクリフ・ストールの例があったけど、彼の創造的な作品をそんなふうに扱うのは客観的に間違ってる。コンテンツ検査用のhttpdはどんな感じになるんだろう？盗作検出？地理的にエンコードされたフェアユース？

この著者には全然同意できないな。彼らは証拠もあまりないのに、DMCAと比較したりして大胆な主張をしてるし、全然違うじゃん。それに、私の知る限りでは大手テック企業はこの法律を特に支持してなかったよ。