ハクソク

世界を動かす技術を、日本語で。

韓国のフォーラムはすべての画像をAI検閲ツールでスキャンする必要がある

22時間前原文(discuss.privacyguides.net)

概要

  • 韓国政府 が 전기통신사업법 改正により、インターネットコミュニティ運営者へ新たな義務を課す。
  • 全ユーザー投稿画像・動画 のAIスキャンが 7月1日より必須。
  • 必要なハードウェア（Nvidia GPU等） は運営者が 自費調達。
  • 中小規模サイトやフォーラム への 財政的圧迫 が懸念。
  • 現地フォーラム管理者 からは 批判的な声 が上がっている。

韓国の新AI画像・動画スキャン義務化について

  • 전기통신사업법 （電気通信事業法）改正により、 全ウェブサイト運営者 へ AIによる画像・動画スキャン 義務化。
  • 2026年7月1日 から 即時施行、準備期間ほぼなし。
  • 違反時の法的リスク 増加、運営者責任の強化。
  • AIモデル実行のためのハードウェア要件 も 政府が明示。
    • Nvidia製データセンター向けGPU など高性能機材の導入必須。
  • 政府からのハードウェア支援なし、全額運営者負担。
  • 小規模コミュニティ や 個人運営サイト への影響甚大。

運営者・コミュニティへの影響

  • 機材購入費 ・ 電力コスト 等、 運営経費の急増。
  • 維持管理や技術的対応 への負担増大。
  • 即時対応必須 のため、 準備不足 による混乱リスク。
  • フォーラムや小規模サイト の 閉鎖・撤退懸念。
  • プライバシー・検閲問題 への懸念、 表現の自由 の萎縮。

現地コミュニティ・管理者の反応

  • ルリウェブ など大手フォーラム管理者から 批判的コメント。
    • 「 ディストピア的状況」「 韓国基準でも異常」との声。
  • 規制の急速な導入 と コスト負担 に対する不満。
  • 透明性や合理性の欠如 に対する懸念。
  • 今後の対策や法改正の動き への注視。

今後の展望と課題

  • 運営者負担軽減策 や 政府支援 の必要性。
  • AIスキャン精度・誤検出問題 への対処。
  • 市民社会・IT業界 による 規制見直し要求 の可能性。
  • グローバル基準との乖離、 海外サービスへの影響 も注目点。

Hackerたちの意見

CUDAを強制して、Ubuntu 18.04にガイドするって。ちなみに、EOSは2023年だったよね。ほんとにシングルのQuadro GPUサーバーがリアルタイムで重いトラフィックを処理できると思ってるの？

└

特定のベンダーを指定するのはマジで頭おかしい。裏で取引があったんじゃないかって思うわ。もしくは、単なる無能。

伝統的なメディアはこれについてもっと話すべきなのに、全然気にしてないみたい。いつも怒ってる人たちだけが反応してる感じ。正直、この国の自由なインターネットには期待してなかったけど、想像以上に悪化してる。

未来は、厳選されたリアルな人間だけが参加できるプライベートな招待制コミュニティになるんじゃないかな。多分、対面でやることになるだろうけど。

└

それよりも長いリーチが必要な時は？「この人を保証します」みたいなシステム？

└

それが今の現状だね。正直、公共のインターネットが消えて、みんながローカルな小規模グループに戻るのも悪くないと思ってる。

└

いや、これはatプロトコルで動いてる公共の連合型ソーシャルメディアだよ。大手テックのコントロールもないし、ノストラみたいな暗号のクソもない。マストドンみたいに悪い管理者が投稿を削除することもできない（自分のサーバーからはバンできるけど）。それに、タングルがコードのためにやってるような信頼のウェブや審査システムをその上に構築できるよ。

韓国は技術面であらゆる面で後れを取ってる。 - ずっと前から、政府や銀行のサービスにアクセスするにはWindowsのコンピュータが必要だったし、今でもほとんどのサービスがそう。 - ひどいWindowsノートパソコンに頼ってるせいで、カフェとかに行くとみんな外付けマウスを持ち歩いてる（トラックパッドがクソだから）。 - デファクトの文書フォーマットはひどいハンコム形式。 - 韓国のニュースを見るのは滑稽。公共の映像に切り替えるたびに、フレームの80％がぼやけてる。ニュースを見る意味がない。 - APIやAPIドキュメントはめちゃくちゃ設計が悪い。冗談みたい。 - 外部の地図プロバイダーは、去年まで市場から締め出されてた。 - 何かにサインアップするには電話番号が必要。もっと例はあるけど、思いつくのはこれくらい。ダイナミズムの余地が全くない。韓国の問題は政治的なものじゃない。これが純粋な独占状態で起こること。Twitterの人たちは韓国がテクノロジー的に未来的だと幻想を抱いてるけど、実際はスタートアップ文化がひどくて、ベンチャーキャピタルのシーンもなくて、大企業がすべてのルールを決めてる。

└

デファクトの文書フォーマットはひどいハンコム形式って。ハンコムって何？

└

その通りだね。これは小さな国ならではの特徴から来てる。実際、韓国ではTwitter（X）は狂った人だけが使うものとして見られていて、あまり良いイメージじゃないんだ。でも、君が言った全体的な状況は、財閥中心の家族経営の国家統治システムと大企業の寡占が重なったものだよ。その中で、問題は攻撃的な投資ではなく、ベンダー契約を通じた生存になっちゃうんだ。それが本当の問題だと思う。個人的にはこの文化が嫌いだから、アメリカで仕事を探してるんだ。週84時間働いて、3ヶ月で800万ウォン以下の給料はキツいよ。

└

「外部の地図プロバイダーは、昨年まで市場から締め出されていた。外国のインターネットコンテンツ企業（Twitchのような）も数年前にISPによって課された「送信者負担」の料金のせいで締め出された。」

└

いくつかには同意するけど、他のはもっとニュアンスが必要だね。

「外部の地図提供者は、去年まで市場から締め出されてた。」 これは、韓国に住んでる人にとっては全員にとってプラスで、Googleの株主や地元の地図アプリをダウンロードしなきゃいけなかった観光客にとってだけマイナスだった。政治家が自分たちの人々のためにやってることに文句言うのはおかしいよね。 「何かにサインアップするには電話番号が必要。」 実際には、これにもたくさんの利点があるんだよね。でも、HNではこれを認めるのはあまり良くないみたい。実際は、これは防御可能なトレードオフで、反対するのは自由だけど、明確だと思うのは無知だよ。 「事実上の文書フォーマットはクソみたいなハンコムフォーマット。」 2026年には、政府機関と関わる時以外は誰も使ってないよ。韓国全体の事実上のフォーマットだって言うのは、すごい一般化だね。

問題は、AI検閲ツールを使うには特定のベンダーからソリューションを購入しなきゃいけないってことなんだよね。しかも締切は実質的に1ヶ月もない。これ自体は特に珍しいことじゃなくて、特に韓国には政府の契約で生き延びているITゾンビ企業がたくさんあるんだ。実際、地元のCMS構造があって、韓国のプログラマーは英語が苦手だから、そのCMSに頼らざるを得ない。これがプログラミングのスキルも弱くさせてるんだよね。（だから、教育水準が高い国なのに、韓国には著名なプログラマーが少ないんだ。）韓国は世界で初めてインターネット検閲法を導入した国でもある。どの政権が権力を握っていても、検閲の歴史は存在する。とはいえ、これらの検閲システムは国家のIT契約や雇用機会を生む傾向があるから、複雑な問題なんだ。具体的に言うと、ほとんどの地元の掲示板システムやフォーラムプラットフォームは特定の商業CMSに強く結びついている。これは偶然じゃなくて、政府関連のプロジェクトがそのCMSを義務付けることが多いから。ここでの開発者は英語力もグローバルなオープンソースの選択肢もないから、そのエコシステムに閉じ込められちゃう。結果的に、基本的なAI検閲機能ですら、そのベンダーの独自モジュールに依存することになる。締切が厳しい（1ヶ月未満）と、より良い、安い、透明な選択肢を探る余裕もない。こうした構造がベンダーロックインを助長し、技術力の低下や表面的なコンプライアンスのサイクルを生んでいるんだ。

└

ここでのCMSはコンテンツ管理システムのことじゃないの？

└

「問題は、AI検閲ツールを使うには特定のベンダーからソリューションを購入しなきゃいけないってことなんだ。これは腐敗の匂いがする。」

└

これはSEED[1]の時と同じことの繰り返しに聞こえる。レシピは同じだよ：実際の問題の後に、急いで（たぶん劣った）NIHソリューションが来て、全員に強制的に実装され、技術的な停滞が何年も続く。今回の命令がSEEDのように広範囲に及ばないことを願うよ（韓国のウェブが古いInternet Explorerのバージョンで、カスタムの安全でないActiveXコントロールを使わざるを得なくなるようなことは）。 [1] https://archive.is/ermII

└

問題は、根本的にバカなアイデアだってこと。

文化的な文脈で欠けているのは、ディープフェイクや無断の「ポルノ」、個人のイメージのあらゆる虐待が韓国では蔓延しているということだね。ここには素晴らしいこともたくさんあるけど、男女や子供に関する性的な状況はひどい。西洋の考え方をそのまま当てはめるのは難しいよ、どれだけその問題がひどいかを理解しないと。だから、メカニズムについてどう思おうと、その背後にある問題は非常に現実的なんだ。小さなフォーラムでAIがコンテンツをフィルタリングする提案はちょっと変だし、たぶん不器用だと思う。でも、韓国は本当の問題に直面していて、行動に移すバイアスが強いんだ。「とにかくやる」って感じで。変なことも起きるけど、ダイナミックな問題解決にもつながる。ここで言いたいのは、いわゆる「普遍的」な価値観に対してこれを測るのはやめようってこと。フランス革命や啓蒙思想の普遍的な権利の考え方は、実際には一つの文化の論理であって、自分のバブルの中では一貫しているけど、みんなのデフォルトとして輸出されているわけじゃない。正直、私はそれが好きだけど、他にも一貫した論理が存在すると思うし、韓国の論理もその一つだと思う。ありきたりに聞こえるかもしれないけど、韓国は調和や集団を重視していて、西洋は個人を重視している。どちらも異なる異常を生むんだ。例えば、初めてここに来たときは、こんなにたくさんのスピードカメラやCCTVがあるのはクレイジーだと思った。でも、数年後には「慣れた」っていうより、これは大体うまく機能してるトレードオフだと思うようになったし、感謝するようになった。韓国は、少ない enforcement（実施）を偶に装甲トラックで支えるよりも、軽いポリシー（見た目がフレンドリー）で自動化された大量の enforcementを好むんだ。これはデザインの選択であって、ディストピアへの滑り落ちではない。だから、私が言いたいのは、オープンマインドを持って、盲目的に「普遍的」な考え方を当てはめないでほしいってこと。メカニズムを批判するのは自由だけど、ある文化の価値観を他の文化の基準として扱うのはやめてほしい。私の意見では、それは誤りだと思う。でも、ディストピアに滑り落ちるとは思わない。ただの火曜日だよ。

└

ある程度君に同意することが多いよ。韓国では復讐ポルノに問題がないとは言えない。それが韓国政府の論理なんだ。でも、復讐ポルノの主な原因は、韓国人が使っている海外のコミュニティから来ているんだよね。もちろん、韓国の最大の国内コミュニティはフィルタリングの問題があったし、テロの脅威や強姦事件も起きている。でも、それはそのコミュニティ（DCinside）が非常に大きいからなんだ。実際、一般の人々を本当に怒らせた事件はTwitter（X）やTelegramから始まったんだ。じゃあ、これらの問題の背後にいる主要な関係者は検閲の対象になるの？ならないよね。そして、検閲は君が言った問題を本当に解決するの？それとも、ただ物事を暗くして悪化させるだけ？私自身は典型的な東アジアの考え方を持っていて、自由に対する一定の制限は必要だと思ってる。でも正直言うと、これはインターネットの戒厳令だと見ている。

└

これはディストピアだとは思わないな。ハンロンの剃刀はまだ有効だし。でも、北朝鮮の政策を「軽い」と分類するのには反対だな。韓国のインターネット政策は、特定の技術（SEEDとか、今の新しいモデルとか）を義務付けて、非常に詳細で韓国特有の規制の網を作って、客観的に劣った不安定なソフトウェアの独占や寡占を生んでるんだ。これは軽くないよ。年齢確認を強制したイギリスのオンラインセーフティ法も、韓国のやり方に比べたらずっと軽い政策だよ。特定のソフトウェアやハードウェアを義務付けてないし、特定の暗号やプロトコルも義務付けてない。年齢確認のための方法のリストも明示的に網羅的ではないし[1]。これが西側の政府の過剰介入の典型例だよ！私の言う「非常に軽いデジタル政策」の例は日本だね。曖昧な要件、網羅的でない例、たくさんの例外（「技術的に面倒ならXを実装しなくていい」）があって、すべて手動でも自動でもできる。これっていいことなのかな？日本は時々セキュリティ要件に関して甘すぎると思うけど、客観的に見ればこれは軽いよ。韓国のデジタル政策は、その言葉のどんな定義でも軽くない。もし復讐ポルノの配信者を捕まえるために戦車を送らないのが「軽い」と感じるなら、それはそれでいいけど、そんな国はどこにあるの？制約の厳しさで重い政策を判断するなら、韓国と競える国はほんの数カ国しかないだろうね。[1] https://www.ofcom.org.uk/siteassets/resources/documents/onli...

└

韓国のディープフェイクの規模は恐ろしいよね：https://www.securityhero.io/state-of-deepfakes/#targeted-ind.... 2024年には、学校でのディープフェイクの報告をまとめたバイラルマップが作られたみたい：https://www.koreatimes.co.kr/southkorea/society/20240830/dee.... 本当にひどい問題に対して、インターネットを理解していない人たちがひどい解決策を出してるのが似てるよね。そして、猿の手の指が曲がっていく。

誰かがデータベースをハッキングして、今の政治家を褒めることを禁止するのは面白いかもね。この検閲で、批判だけは許可されるみたいな。

└

今はハクティビズムが減ってる気がする。

韓国が北の隣国のやり方を真似してるみたいだね。これが韓国から輸出されるソフトウェアに影響するのかな？サムスンのスマホがAI検閲ツール付きで出てきたら、人気が出るとは思えないな。AppleがiPhoneでそれを企画したとき、めちゃくちゃ裏目に出たし。

└

僕のSamsungには「Galaxy AI」がいっぱいあるけど、ただのS23なんだ。好奇心で使ってみようとしたけど、画像編集のほとんどが不適切（暴力）として却下されちゃったから、基盤はできてるね。

「Nth Room」事件があって、これがより強い承認を得る道を開いたかもしれないね。0. https://en.wikipedia.org/wiki/Nth_Room_case

└

確かにひどい事件だったけど、彼らはTelegramを使ってなかったっけ？

へぇ、彼らのインターネットフォーラムはHacker Newsみたいな昔のサイトで、Redditみたいな現代のアプリじゃないんだね。UIやUX、ウェブ技術の使い方に関して。訪問者が国の20%もいるなんて驚きだよ。彼らの言語が、英語圏のアプリよりも古いフォーラムスタイルを選ばせてるのかな？俺は彼らのスタイルの方が好きだな。