世界を動かす技術を、日本語で。

英国のユーザーにとって厳しいお知らせ

概要

JanitorAIは、2024年7月24日より イギリス国内からのアクセスをブロック。 理由は UK Online Safety Act の厳しい規制。 中小規模プラットフォームには 事実上対応不可能な法的・技術的負担。 ユーザーへの影響や今後の方針について 明確な説明利用者への法的リスクなし、一時的措置として再開も模索中。

JanitorAIのUKアクセス遮断について

  • 2024年7月24日23:59(UTC) より、 イギリス(England, Scotland, Wales, Northern Ireland) からのアクセス遮断
  • 事前告知期間4日 という短期間での決定
  • UK Online Safety Act の影響による対応

Online Safety Actの内容と影響

  • 当初は「 コンテンツモデレーション強化」程度と認識
  • 実際は 大手IT企業並みの完全な規制フレームワーク
  • 小規模運営にとって 過剰な法的・運用的コスト
    • 法的リスクアセスメント費用が 月間予算を超過
    • 生体認証ID確認システム 導入義務(例:RedditのPersona、1人あたり$1.5)
    • 数千ページに及ぶガイドラインの継続的な法的レビュー
    • 違反時は最大£1800万の罰金+運営者個人の刑事責任(実刑リスク)

法律対応の現状

  • 法令本文250ページ超+Ofcomガイダンス3000ページ超
  • 分かりにくい法的表現 で解読困難
  • 中小プラットフォームへの免除規定なし
  • UKユーザーがいる限り全面規制対象
  • 現実的な対応策が見つからず、締切直前で遮断決定

政策への批判

  • イギリス政府はイノベーション推進を掲げつつ逆行政策
  • Google級の大企業しか遵守できない規制設計
  • 中小・新興プラットフォーム排除の現実
  • 意図に反し、グローバルイノベーションからUK市民を切り離す結果
  • 同様の判断を下すサービスが今後増加見込み

UKユーザーへの影響と今後

  • 遮断はUKのIPアドレスのみ対象
  • JanitorAIアカウント自体は削除されない
  • 他手段でのアクセスは自己責任、ユーザーへの法的リスクなし
  • Online Safety Actの罰則対象は運営者のみ、利用者は関係なし
  • 再開に向けてID確認や未成年対応などの法令順守策を検討中
  • 一時的措置であり、UK市場からの完全撤退ではない方針

誤情報の訂正

  • UKユーザーがJanitorAI利用で逮捕・処罰されることは絶対にない
  • 遮断はIP制限のみ、アカウント削除や法的制裁なし
  • アクセス不能は運営側の法的リスク回避が理由
  • 利用者の安全は確保

関連情報・行動の呼びかけ

  • 英国議会への再考を求める署名運動 (https://petition.parliament.uk/petitions/722903)
  • 今後のサービス再開や対応方針は随時アップデート予定

JanitorAI運営チーム(Shep)からの公式声明要約

Hackerたちの意見

「もし人々が他の方法でサイトにアクセスすることを見つけたら、それは完全に彼らの責任だ。ユーザーには法的な影響はない。」この法律の下での潜在的な責任を心配しているサイト運営者が、こんなことを文書に残すなんて信じられない。投稿の他の部分やコンプライアンス対策を台無しにしてる気がする。

VPNを使う人を防ぐのはほぼ不可能だよ。全ての通信会社に対して厳しい政府の管理が必要になるからね。もちろん、イギリスではそうかもしれないけど、サイト運営者がそれに対して責任を問われることは、まともな考え方じゃないと思う。

ちなみに、彼は非常に明確に、最終的な目標はイギリス市場に戻って、規制に従うことだと言ってるよ。彼は規制の範囲を誤解して、イギリスを一時的に禁止せざるを得なくなったんだ。解決策が見つかるまで、少なくとも一時的にね。

この法律の説明がここにあるよ: https://www.gov.uk/government/publications/online-safety-act... 。私が読んだ限りでは、アマゾンは書籍の8割以上で年齢確認を実施しなきゃいけないみたい。他の2割は「子供向けのオンライン体験」の非常に広い定義に対して責任を問われる可能性がある。そう、janitoraiの言う通り、この法律は彼らや彼らが作るコンテンツにも適用されるし、イギリスのユーザーに対して一律禁止が最も適切な対策だと思う。ちなみに、この法律は訪問者同士が交流できない限り、ファーストパーティのウェブサイトには適用されないみたい。だから、コメント機能のないブログなら大丈夫だと思う。

それはOfcomが以前に明確にしたこととは違うよ: https://www.theregister.com/2025/02/06/uk_online_safety_act_...

コメント付きのブログがあれば大丈夫かもね:https://onlinesafetyact.co.uk/ra_blog_with_comments/

こういう法律や規制が提供者の規模を全く考慮しないのはイライラするね。特に「悪い大手プロバイダー」って言って、子供たちを守るっていうのを大衆受けする戦略に使ってるけど、結局は同じ大手が得をするだけ。彼らは弁護士から財務最適化まで、何でも数十億円使えるし、その市場に残ってるのは彼らだけだから、全ての市場を独占してる。AI法案でも同じことが起きてる。誰もEUの混乱に触れたくないのに、進めてるしね。Mistralも彼らに請願しようとしてたけど、最新のニュースでは全く効果がなかったみたい。私たちはどうしようもないってことだね。これがそのまま通ると、消費者も中小企業も損するよ。

彼らはプロバイダーの規模を考慮したけど、これはこの法律の主要な要素だと思う。問題は、常に大企業で弁護士チームがいる前提で考えていることだね…これらの企業は何年も規制当局や公務員にロビー活動をしてきたから。イギリスではこれが非常に一般的で、歴史的な方法では腐敗は少ないけど、実際に決定が下されると、ほぼどこでも腐敗がある。プロバイダーの規模は意図的な選択だった。ポピュリズムでもないし、誰もこれを支持していない。イギリスでは新聞がメディアキャンペーンを行っていて、新聞を読むのは政治家だけだから、これらのキャンペーンが政治家に影響を与え始める。いつも同じで、複数の新聞で自発的なメディアキャンペーンが行われて(他のメディアにはあまり影響しない)、子供が象徴的な存在になり、法律には公に言われている目的とは関係のない重要な影響がある。民主主義はほとんど関係ない。イギリスでは選挙は行われるけど、政策は変わらない、その理由は明らかだね。

規制の捕捉。小規模プロバイダーへの影響は意図的だった。

私のざっくりとした理解では、この法律はイギリスに数百万のユーザーがいる場合に適用されるみたいなんだけど… [1] ここはそういうケースなのかな(この特定のサイトが何についてなのか全く分からないけど)?それとも私がこの法律を大きく誤解してるのかな(多分そうだと思うけど、私は法律の専門家じゃないし)? [1] https://www.onlinesafetyact.net/analysis/categorisation-of-s... ------------------------------------------- Ofcomが大臣に提出したアドバイス Ofcomは2024年2月29日に大臣にアドバイスとその基礎となる研究を提出し、3月25日に公開した。要約すると、アドバイスは以下の通り。 カテゴリー1 条件1: コンテンツ推薦システムを使用すること; そして U2Uサービス部分で3400万以上のイギリスのユーザーを持つこと 条件2: ユーザーがUGCを転送または再共有できること; そして コンテンツ推薦システムを使用すること; そして U2Uサービス部分で700万以上のイギリスのユーザーを持つこと Ofcomは、条件1に該当するサービスが9つ、条件2に該当する可能性があるサービスが12〜16あると見積もっている。附属書には、700万以上の月間ユーザーの閾値がDSA(A6.15)に対応しているという小さな言及がある。 カテゴリー2a(検索) 垂直検索サービスではない; そして 700万以上のイギリスのユーザーを持つこと Ofcomは、現在この閾値を大きく超えている検索サービスが2つあると見積もっているが、新しいサービスを捉えるためにこのレベルに設定することは正当化される。 カテゴリー2b(子供) ユーザーがダイレクトメッセージを送信できること; そして U2Uサービス部分で300万以上のイギリスのユーザーを持つこと Ofcomは「約25〜40のサービス」がこの閾値を満たす可能性があると見積もっている。 -------------------------------------------

250ページ以上の法律には、たくさんの例外があるだろうから、特に最近オンラインの「犯罪」で人を逮捕した政府のある国でテストしたいとは思わないだろうね。イギリス政府がこんなレベルの愚かさに陥るなんて悲しい。

Ofcomの「あなたのサービスにオンライン安全法は適用されますか?」というアンケートは、その閾値を使っていなくて、イギリスにいる有料顧客がいるサイトには法律が適用されるように聞こえるね。

私は「x人の私たちの国の人々があなたのウェブサーバー(他の場所にホストされていて、誰にでも応答する)に話しかけることを選んだので、私たちはそのサーバー(他の場所にホストされている)とあなた(他の場所に住んでいる)に対して管轄権を主張します(刑事罰の可能性あり)」という概念に本当に苦しんでいる。

その判決、どの判決を指しているの?これはオンライン安全法についての、国会の法律だよ。

それらは追加要件のための閾値だよ。 https://www.ofcom.org.uk/siteassets/resources/documents/cons... 誰でも(特にスケジュール1で明示的に免除されていない限り、あなたがリンクしたものとは関係ない)「ケアの義務」を負う。みんなが特定の愚かな(そして高価な)管理業務をたくさんやらなきゃいけない。あ、ちなみに、あなたが頼っているスケジュール1(または他の)免除が実際に自分に適用されるかどうかを確認するために弁護士にお金を払った方がいいよ。彼らは一般的な曖昧さや起草者が考えなかったコーナーケースのために、何も言えないかもしれないしね。それに、これは「判決」じゃない。実施規則を伴う法律なんだ。

あなたの情報源は、法律がどうなったかではなく、提案された内容についての2024年の記事だね。

それは誤解だね。UGCやメッセージングがある場合、基本的にイギリスのユーザーがいるサービスにはさまざまな要件が生じるんだ。それに加えて、3つのサービスカテゴリに追加の要件が適用されるよ:カテゴリ1、2A、2B。後者には、上で話したような閾値がある。でも、いつものように、書き方がひどい。例えば「コンテンツ推薦システム」って、何らかの方法でユーザーにコンテンツを表示することを選んだら、それは推薦システムを構築したことになる。例えば、ウィキメディアが、ホームページで今日の写真を表示することが本物のコンテンツ推薦システムだと懸念しているのを見てみて。定義はこうだよ > 「(1)の段落において、「コンテンツ推薦システム」とは、規制されたユーザー間サービスの提供者が、そのサービスのユーザー間部分に関して使用するシステムであり、機械学習やその他の技術によって、ユーザーが生成した規制されたコンテンツが他のユーザーにどのように出会うかを決定または影響を与えるアルゴリズムを使用するものを指す。」 https://www.legislation.gov.uk/uksi/2025/226/regulation/3/ma... もしUGCを何らかの形で表示するなら、それを避けるのはほぼ不可能だよ。だって、どのUGCを表示するかを選ぶわけだから。

この法律は実際には考えが浅いと思うし、イギリスのオンライン安全に対する全体的な考え方が嫌いだ。法律は常に、メールを印刷して読むような人が書いた感じがする… それに、小さなプラットフォームには免除が必要だって考え方も、トピックを考えるとちょっとおかしいと思う。自殺を促すようなコンテンツから子供を守ろうとしているなら、プラットフォームの規模は関係ないよね。むしろ、インターネットの目立たない小さな場所(例えば、いろんな掲示板サイト)こそ、リスクが高いかもしれない。

小さな企業はフル例外を求めることはあまりないよ。彼らが望んでいるのは、メガコープでなくても規制が実行可能であること。たとえば、プラスチック包装税みたいなものね。アマゾンのような会社は、これに対応するチームを作るのはそんなに難しくないし、グラムや素材ごとに課税されることもできる。でも、個人経営の店に同じことを期待するのは無理があるよ。問題は手数料ではなく、管理の負担が彼らを潰すことになるから。一定の収入閾値以下の企業には、代わりに固定料金の構造を提供すれば、その問題は解決できるし、元々の意図にも沿った形になるよ。

問題は、法律が効率的かどうかだよ。たとえば、偶然の隕石からの保護として、すべての建物に屋根を1メートルの固いコンクリートにアップグレードすることが義務付けられたと想像してみて。もう一度無実の住人を隕石で殺すわけにはいかないからね。もちろん、これは小さな建物に不均等に負担をかけることになるし、大きな建物は compliance(コンプライアンス)に苦労しないだろうね。誰がもっと文句を言うか、想像がつくよね。でも、見た目は狂っているけど、小さな小屋は市場から消えて、大きな強化された建物の所有者は土地を取り戻せることになる。社会のリスク許容度をどんどん下げるのは、興味深いことに、大きな既存プレイヤーによる規制の取り込みの容易さと偶然に重なるね。

私はヨーロッパとイギリスでこれがどう機能するかを個人的に知っている。政府だけでなく、大手銀行などの大企業にも当てはまる。彼らは2種類のスタッフを雇っている。一つは仕事を進めるために働く人、もう一つはできるだけ多くの障害を設けてリスク管理、コンプライアンス、セキュリティ、規制などと呼ぶ人(RCSR)。彼らは技術的な仕事に関連するポジションの約3倍の人数をRCSRのポジションに雇っている。これらのRCSRの人たちは何千ページものガイドラインを投げつけて、意味のある仕事を進めることを不可能にしている。私の技術チームはデータベースのアップグレードのテスト承認を得るために4ヶ月間走り回っている。トップマネジメントは、RCSRの人たちに逆らうことができない。彼らは中世の教会の神父のような存在だから。RCSRの人たちは実際の仕事の進捗に関連する目標を持っていない。動くものは何でも嫌い。リスクだと思っている。マネジメントはRCSRが仕事の周りのコントロールを助けていると思っている。でも実際には、コントロールを構築するためにもっと多くの人を配置すると、ゴミ箱の周りに要塞の壁を作るだけなんだ。

アメリカにも似たような(ただし、少し軽い)問題があって、誰もコンプライアンス関連の機能に反論できない。なぜなら、訴えられたら「なぜコンプライアンスチームのガイダンスを無視したの?」と聞かれるからで、それを使って法人のベールを突き破る正当化をしようとするかもしれない。もちろん、コンプライアンスの人たちはビジネスが進むようにするインセンティブがないし、ビジネスの人たちもコンプライアンスに従って運営するインセンティブが限られている。でも、訴訟は常にコンプライアンスを優先する超慎重なアプローチを取る。

理論的には、競争が存在する場合、競合他社は相手の過度に慎重な解釈を利用するだろうね。でも、もし規制が本当に圧迫的だったり複雑だったりすると、みんなが苦しむことになって、大きい企業だけが生き残る。*リスク認識に対する社会的伝染効果がここで混乱要因になることもあるけどね。

私の技術チームは、データベースのアップグレードテストの承認を得るために4ヶ月も走り回ってるんだ。マジで、変更が本番環境に反映されるのに24時間かかるって愚痴ってたところなのに、前の職場では4時間くらいで済んでたのに。ほとんどの変更を「ハッピーパス」で進められるように、自動化されたシステムやプロセスを開発することは可能なはずだよ。こういう組織の反応って、問題が起きたり規制が変わるたびに「ノー」と言える人たちが増えていく新たなレイヤーができて、息苦しいよね。

こんなケースがたくさんあるよ: https://www.thehamsterforum.com/threads/big-sad-forum-news-o... (そう、これはペットのハムスターを飼っている人たちのフォーラムだよ。)

フリーバッグのカフェがもっと普通に感じるね(モルモットはハムスターじゃないって知ってるよ)。

残念だけど理解できる、thehamsterforumからの提案で、みんながInstagramに移行するっていうのが、大企業がこういう法律を大好きな理由を示してるね。法律が増えると、参入障壁が高くなって、結局は法律事務所を何棟も抱えてるところしか参加できなくなるんだよね。

このサービスが何なのか全く分からないけど、サイトをクリックしてみたら、18歳以上向けで、「児童ポルノ、未成年者の性的描写、重度のグロテスク、獣姦、性的暴力」を許可していないって書いてあったよ。オンライン安全法のすべてに同意するわけじゃないけど、リスク評価が必要なのは確かにこれだよね?

彼らは、リスク評価の存在自体ではなく、その範囲と極端なコストに異議を唱えているようだね。

私の理解では、これは最低限の検閲でAIモデルにアクセスできるようにするだけなんだ。だから、違法なコンテンツはダメだけど、それ以外は自由にできるってこと。多くは性的な素材になるだろうけど、それは無検閲のAIに対する市場の需要の性質に関するもので、提供自体に内在するものではないよ。「法律」とは、政府が作った法律だけでなく、VisaやMastercardのような規制も含まれるんだ。

同意する。記事を読んで「これはかなりヤバいな」と思ったけど、メインサイトにアクセスしたら「これが何なのかの説明はないけど、何らかの規制が必要っぽいな」と感じた。ここで同様に影響を受ける、リスクが少ないサービスってあるのかな?

こういうことを考えると、インターネット全体がケスラー症候群みたいな状況に向かってるのかなって思うよ。もう一つの例として、アメリカでは50州がそれぞれAIを規制しようとしてる。私の理解では、OBBBが少なくとも10年間はそれを阻止する計画だったけど、その努力は失敗して、各州が自由にやることになったんだ。ウェブサイトやサービスがさらされるすべての法令や規制に従うのは、今やほぼ不可能なタスクになってきてる気がする。

つまり、イギリスには厳しい法律があって、未成年者を守るための適切な対策に投資しないとAIセックスボットを提供するのが難しいって文句を言ってるってこと?

そうかもしれないけど、他の人も言ってたように、アカウント登録して何かを共有できるサイトはみんな影響を受けるよね。法定年齢確認をサイトでやるには、第三者のサービスにお金を払わなきゃいけないし、政府向けの書類作成なんて、ペットのハムスターについてのサイトには負担が大きすぎるよ。

彼らはそんな法律の存在に反対しているわけじゃなくて、特に厳しすぎる具体的な法律に対して反対しているみたいだね。