競合他社がRedditのモデレーターになり、2350万ドルのブートキャンプを妨害した

229日前原文(larslofgren.com)

概要

この記事は、OpenAIのリサーチャーがAIのリスクを警告し、会社の対応に懸念を示した内容についてまとめています。内部告発者の主張、OpenAIの倫理観、情報公開の姿勢、従業員の安全確保、今後のAI開発への影響について解説します。

OpenAI内部告発者によるAIリスク警告

OpenAIのリサーチャー8名 が、AIのリスクについて 取締役会に書簡 を提出
AIが人類に有害な影響 を及ぼす可能性への懸念表明
OpenAIの透明性不足 と、リスク情報を外部に伝えることへの制約を指摘
内部通報者が 報復を恐れ て匿名で行動
「AIの安全性」より「商業的利益」 を優先する経営判断を批判

OpenAIの対応と倫理観

OpenAIは 従業員の守秘義務契約 を強調し、情報漏洩を防止
「情報公開の自由」 と「知的財産の保護」のバランス問題
倫理的AI開発 の必要性と、社内文化の課題
リーダーシップの姿勢 に対する社内外からの疑問

従業員の安全確保と内部通報制度

内部通報者が 懲戒処分や報復を懸念
OpenAIは 倫理的懸念の報告ルート を設置していると主張
安全な通報環境 の整備と、従業員保護の重要性

今後のAI開発と社会的影響

AI技術の進化速度 に対する社会的な懸念
規制や監督体制 の強化議論
OpenAIの事例が 業界全体の透明性と倫理観 に与える影響
AIのリスク管理 と社会的責任の重要性

Hackerたちの意見

Redditは権威ある情報源とは見なされるべきじゃない。これが全てだ。今や、ネット上で最もアストロターフされた場所になってる。アカウントは安物の商品のように売買されてるし、根本的に信頼性がない。でも、今回のケースではCodesmithが異常に強い名誉毀損の訴えを持ってる。あのRedditのモデレーターは匿名じゃないし、（作られた詳細を使った親族優遇の主張や、履歴書詐欺の陰謀の告発など）しっかりした主張をしていて、定量的な損害（Redditの攻撃による940万ドルの収益損失）をもたらしてる。悪意の証拠もかなりありそうだ。Redditはセクション230によってある程度保護されてるけど、（1）モデレーターの行動について正式に通知されて、つまり法的な手紙を通じて、（2）モデレーターの行動が彼らのモデレーター行動規範に違反しているように見えるにもかかわらず何もしなければ、信頼性のある訴訟を起こされる可能性もある。だから、（2）は裁判官や陪審員が判断することになるかもしれない。Codesmithがまだ訴えていない理由が本当に分からない。(?_?) たとえ負けても、勝ちだよ。民事訴訟の原告になることで、状況が逆転して無力感ではなく力を感じられるようになるし、「プロセスが罰」になることが多いから。

└

Codesmithがまだ訴えていない理由が本当に分からない。もしかしたら、何年も続く訴訟を支えるだけの収入がないからかも？それとも、名誉毀損の訴訟に勝つのが本当に難しいからかも？ただの推測だけど。

└

そうじゃないけど、しばしば最も役立つ、時には唯一の情報源になることが多い。特定のことを調べる必要があるとき、選択肢は何？SEO最適化されたブログ記事、似たようなトピックについてのものが多いし、または男たちのフォーラム。フォーラムなら理論的には意見の多様性があるはずだし。

└

Redditのモデレーションは完全に壊れてる。モデレーターは誰でも理由なしにバンできるし、非常に愚かな理由で人をバンしても全く救済措置がない。ひどすぎて、もうRedditに投稿するのを完全にやめた。

└

Redditは権威ある情報源とは見なされるべきじゃない。これが全てだ。今や、ネット上で最もアストロターフされた場所になってる。アカウントは安物の商品のように売買されてるし、根本的に信頼性がない。これには同意するけど、加えて言うと、ネット上で一般的なクラウドソースの意見を得るには最も信頼できる場所でもある。専門的なテーマのための専門フォーラムは確かにあるけど、様々なトピックについてはRedditほどのものはない。

└

彼らの行動規範は、せいぜい選択的にしか施行されてない。編集：今、ハッカーニュースからバンされてる。8-) 編集2：はい、もう投稿できないし、この投稿もフロントページから削除された。でも、今はアップボートが倍になったからフロントページに戻ってきた。

└

それは関係ないよ、みんなまだ情報源として使うし、今はOpenAIとGoogleに後押しされてる。Ghislaine Maxwellがパワーモデレーターでも、それを潰せなかった。これは重要な情報戦の武器で、しっかりと宣伝されて守られてる。

今、ダウンボートが多くて見逃されるかもしれないから、念のためお知らせ。マイケルがいるよ。みんな、関わる前に記事全体を読むことをお勧めする。

マイケルって、zenのサブレディットにいるewkってやつを思い出させるな。彼の執着心と有毒な戦術がそうさせる。ほんと、見る価値があるよ。タイプだね。これには名前があるはず。

└

マキャベリズム？ https://ja.wikipedia.org/wiki/%E3%83%9E%E3%82%AD%E3%83%A3%E3%83%99%E3%83%AA%E3%82%BA%E3%83%A0

└

まさかHNでewkの名前を見るとは思わなかった！驚きすぎて、あなたに返信するためにアカウント作っちゃったよ！彼のことはzenのサブレディットで10年以上フォローしてる。ほんと、彼は見るべき存在だよ。これには名前があるはずだね。

└

それについての話は何？そんな行動が禅仏教にどう現れるのか、ちょっと興味があるんだ。

└

詐欺師？

└

ここで説明されている行動が本当なら、サイコパスだね。ゾッとするわ。

逆に、モデレーターが特定の製品に対してちょっと熱心すぎる場合はどうなるの？

└

アストロターフィング？

この特定のケースについてはわからないけど、一般的に言うと…悪質なサブレディットのモデレーターは、もう10年以上も時々見かける存在だよ。レディットがマーケティングやプロパガンダのために一角を占める影響力のある場所だってことも、ずっと知られてるしね。私が気になるのは、レディットがこの問題に対してどれだけ脆弱に見えるかってこと。人気のサブレディットの悪質なモデレーターは、何年も目に見える形で残り続けることができるし、みんながそのモデレーターを追い出すことも、サブの影響力を取り下げることもできないまま。サブレディットの住人たちは、悪いモデレーターのせいで新しいサブに移動することもあるけど、古いサブはだいたい残ってて、まだ健全なブランドを持ってる。メンバーも多いし、（推測だけど）悪い古いサブで何かを見逃したくない人や、何が起こっているのか知らない人、フィードで見たドラマがそのサブから脱退するための手間をかけるほどの価値がないと思ってる人がいるんじゃないかな。

└

人気のサブレディットの悪質なモデレーターは、何年も目に見えて存在し続けることができる。人々はそのモデレーターを追い出すことも、サブの影響力を取り下げることもできない。これは、通常のユーザーに権力がないから起こるんだ。少数のモデレーターがほとんどの人気サブレディットを支配しているっていう記事を見たことがある。彼らの中には、ユーザーを禁止したり、情報源を禁止したり、イデオロギーに基づいてコンテンツを削除したり、シャドウバンしたりして、自分のバイアスをシステムに持ち込む人もいる。もう一つの問題は、これらのモデレーターがしばらく残っていると、彼らに反対する可能性のある人を追い出したり禁止したりすることだ。だから「コミュニティ」は、実際には権威主義的なモデレーターに反対しなくなってしまう。レディットは、そうなりたくないから、しなやかさを失ってしまう。みんな、いなくなっちゃうんだ。

└

レディットには深刻な虐待的モデレーターの問題がある。彼らはすぐに「VIPコミュニティメンバー」に降格されて、その全ての層がAIによって処理されるようになると思う。人間がそんな仕事をするには、エゴが大きすぎるからね。

この全体の状況は、"インターネット"がどれだけひどくなったかを示すいい例に感じる。利害関係を持つ悪質な人が、ウェブサイト（レディット）の一部を占拠して、それが記録のソース（GoogleやLLM）として使われる。そうすると、主要な検索エンジンを使うときに、ブランドや会社の完全に捏造された概要しか見えなくなる。これって何のため？株主の価値のため？シリコンバレーのエリートが金持ちになって、みんなにクソみたいなアイデアを押し付けるため？これが何なのか、そして人々が情報を得るために使う主要なサービスが純粋に腐っているだけだってことがわからないなら、もう手遅れかもね。みんな、このインターネットがこんなになってしまったことに怒るべきだよ。

記事は面白かったけど、見逃した部分があったな…動機は何だったんだろう？記事が起こっていたことを正確に描写していると仮定すると…なんでそんなことが起きていたの？ただ彼が同じ競争の場で会社を経営しているからってだけ？

└

それが、マイケルがやっていることの理由だと思う。彼はCodesmithが負けると勝つ。そうだね。

└

そうだね、彼は妻と一緒に競合会社のformation.devを経営してるから、明確なインセンティブがあるよね。

給与業界の企業スパイ活動の後は退屈になってきた。神様に感謝。新しいドラマができた。もう少しだけテレビの時間を減らせそうだ。

└

給与業界の企業スパイ活動。え？ADPみたいな会社がそんなドラマを抱えてるなんて想像できない。

r/Seattleからr/seattlewaに移動した時、みんなはいた？あの人、マジでクレイジーだった。

Redditで、/r/gamesでモデレーターが嫌がることを言ったせいで、複数のアカウントで永久バンされちゃった。あのサイトはもう終わってるし、悲しいよ。昔は大好きなサイトだったのに。モデレーターの状況が本当にひどいんだ。昔はReddit Gold（まだあった頃ね）を買ってたから、収入源がシャットアウトされたのがすごくバカらしいと思った。でも、なぜかRedditはまだ生き残ってるんだよね。

ハクソク