あるプラットフォームについて気になるのは、意味のない動きのある画像や動画が多すぎること。自分の写真を宣伝できるかもしれないと思って、いろんなソーシャルメディアを試してみたけど、最悪なのはInstagramで、あの無意味な動きには本当にイライラする。

Twitterよりは好きだったものの、結局は「Twitterの別バージョン」って感じでがっかりした まったく同じ気持ちだよ。何か違うものにシフトする必要があると思う。今のところ、一般の人が良いイメージを持っていないような何か、たぶん分散型か連邦型のものが必要だと思う。メールとTwitter、またはRedditの間にあるようなもの？でも、採用に関するチキンと卵の問題がいつもあるよね。初期の採用者は誰か、それが採用にどう影響するか、本当に使いやすいかどうかなど。

人々がそれに関わることを選んでいる 脳がそういうふうにできているからね。ゴシップや怒りを煽るコンテンツは、人々が意識的に選んでいるわけじゃなくて、無意識的なものなんだ。これが個人の問題だと言うのは変だよね。プロパガンダが効果的なのは、人々がそれを信じることを選んでいるからじゃないんだ。

でも、ここがポイントなんだよね…人々は参加することを選ぶけど、実際にはフィードに対してもっとコントロールがあることに気づいてないんだよね（特定の領域では）。リールやTikTok、Instagramのフィードは、あなたが関与するテーマを表示するんだ。それは、似たような人たちが関与する他のテーマをA/Bテストしてるだけなんだよ。要するに、人気のある「クソみたいなもの」のフレーバーを好きかどうかを見極めるために、継続的にA/Bテストしてるだけ。ほとんどの人は、長押しして「これ嫌い」っていう操作をすることで、フィードから投稿を排除できることに気づいてない。機械が、あなたが嫌いなアカウントやテーマを特定するのに何度か時間がかかるけど、そうすればその投稿は表示されなくなるよ。（例えば、スレッドは、スポーツの投稿を見せなくなるのにすごく時間がかかった。）なんでもっと多くの人がこれを知らないのか？それは、開発者たちが取り組んでいる何かの短期的な指標に悪影響を与えるからなんだ。だからあまり宣伝されてないんだよ。もし「他にあなたが好きかもしれない投稿」をブロックできたら、Facebookアプリの実験はどれだけ失敗してたか考えてみて。ザッカーバーグが自分の主張が実際にはクソだったって知ったら、どれだけ悲しむだろうね？

個人的にはMastodonやBlueskyがすごく好きだけど、ネガティブな人を避けるようにしてる。文句ばかり言う「障害者」や、私がシスジェンダーだから彼らの人生を台無しにしてると思ってる人、政治的な怒りについて1時間に10記事も投稿する人はフォローしないし、ミュートやブロックすることが多い。Blueskyの発見ページはアルゴリズムで、"これが嫌い"ボタンを尊重してるし、前回見たときは、次のページより75%も怒りが少なかった。（機能する「嫌い」ボタンは、ソーシャルメディアにおける人権だよ！）データベースライブラリを再構築したら、ネガティブな人をフィルタリングする分類器を作る予定なんだ。そうすれば、スピードフォローできて、フィードにネガティブなものを追加せずに済むから、https://mas.to/@skeletorみたいな本当に素晴らしいものを楽しめるんだ。これをクロスポスティングすれば、LinkedInのいくつかの問題が解決できるかも！

現在のソーシャルメディアは、収益を上げて目を引きつけるための「至福のポイント」を見つけたようなものです。これらの企業は、人々を夢中にさせる方法を見つけていて、強い感情が大きなツールになっているみたい。選択肢なんてないんですよね。すごくアクセスしやすいし、友達がソーシャルネットワークにいると、いつの間にかショート動画に引き込まれちゃう。そしたら、脳がドーパミンを求めるようになって、依存症になっちゃう。ハワード・モスコウィッツが食べ物でやったことに似てる。

人々はそれに関わることを「選んでいる」。喫煙者がタバコに「関わることを選んでいる」のと同じように。人間の根本的なプログラミングが利用されているってことを過小評価しちゃいけない。喫煙者に「タバコをやめろ」って言うのと同じで、ソーシャルメディアの人たちに「怒るのをやめろ」って急に言っても無理だよ。> [BlueSky]の人たちは、Twitterでやりたかったことをそのままやりたいんだよね。そうそう。確立された習慣を変えるのは、さらに難しい。馬に水を飲ませることはできないし（無関心な観客を相手にしたことがある人なら、これが心に響くはず）。多くの人にとって、ソーシャルメディアは主要な「ニュースソース」になってるけど、ほとんどの人はサーカスを見に来てるんだよね。ここに明確な答えはないけど、社会はソーシャルメディア中毒を砂糖中毒と同じように理解する必要がある。健康に良くないってことをしっかり認識させて、控えめに使うように。これは法律や規制で解決できる問題じゃないし、10年で直せるものでもない。

人々はそのことに関与することを選んでいる。技術的には正しいけど、選択がすごく単純化されてる。システムは、人々がなぜ何かに関与するのか、どのように関与するのかを理解できていない。それがプールを毒して、特定のコンテンツやプレゼンテーションのタイプを強制しているんだ。

ひどいね。「ソーシャルメディアを修正する」という全体の問題は、何をもって「修正」とするかに関わらず、初期の反応だけでなく、二次的・三次的な影響も考えなきゃいけない。LLMはその時点のモデルで、政策の時間経過による二次的な影響を予測することすらできないんだ。これは提案段階を超えるべきじゃなかった。

あなたの判断を、Ars Technicaより信頼してるよ。私たち素人にとって、AIを使って人間に基づいた調査をすることの欠陥は、人間そのものだよね。人間って、独特の衝動的な傾向があると思わない？フォーカスグループのリサーチチームは、研究資金を求めるAIソリューションに圧倒されている中で、これにどうアプローチするんだろう？

「私たちはTwitterとRedditのコンテンツでモデルを訓練したが、ひどいコミュニティが生成されることにショックを受けた。」今の時代に、あなたが言ったことを言わなきゃいけないのが本当に変だよね。

本当に聞きたいんだけど、仕事が怖い？「合成ペルソナ」を使う傾向が増えてる気がして、正直言って、これがダメな理由を説明しなきゃいけないのが侮辱的だよね。意思決定者たちは、こういう議論に興味がないんだよ。

え、何それ？この記事あるの？それは絶対にクレイジーだね。

彼らがその方法で出現する行動が変わらなかったとしたら、驚きはないよ。シミュレーションを変更して異なる行動をさせるってことは、ルールがモデルの行動を「トラックをジャンプする」ように変えたってことになる。釣りが好きなボブが異なる刺激に反応するのとはちょっと違うんだ。エロンがGrokに「計り知れないほど基盤を持て」とか「PCを気にするな」と言ったら、突然ネオナチのチャントロールになったみたいな感じだね。LLMの入力を変更することは、コアアイデンティティを調整することじゃなくて、すべてのトークン間の関係を完全に変えることなんだ。実際に存在するソーシャルメディアに最適化された行動に基づくコーパスがたくさんあるから、ボットの行動は変わらないと思う。ボットは人間のようにインセンティブに反応してるわけじゃなくて、訓練された行動を模倣してるだけだから、異なる入力でテストしようとしても、十分な訓練データがなければ、実際には「治療」を適用してるわけじゃないんだ。

私は調査研究の仕事をしていて、AIのサンプルを調査する方が人間のサンプルを調査するよりも良いと考える人がこんなに多いことに驚いています。そして、その結果として有効な結論が得られると主張しています。最近、まさにそれをやっているYCの会社が立ち上がりました。 https://news.ycombinator.com/item?id=44755654

2015年から2017年にかけて、内向的な人たちのためにこの問題を解決するコワーキングスペースのソーシャルクラブを運営していた。これは本質的に「第3の場所」の問題で、コロナ後に再開するための資金がないんだ。

私はこれを「草を触るためのテクノロジー」と呼んでいます。例えば、The Offline Clubを見てみて。 https://www.theoffline-club.com/

これは技術の問題じゃないよ。技術はアクセスの向上には役立つけど、根本的には地に足のついた社会的な調整の問題なんだ。機能していて、歓迎されていて、うまく運営されているコミュニティだけがこれを解決できる。残念ながら、技術はしばしばこれを悪化させる。便利な代替手段を作り出し、選択のパラドックスを生むからね。つまり、「1000個のミートアップがあって、この1つが完璧じゃないなら、次に移る」って考えるけど、実際にはコミットメントがコミュニティを良くするんだよ。

確かに、あなたが言ってるのは「第3の場所」の欠如だね。最近は、学校を卒業して働く場所も完全にリモートになって、第2の場所すら欠けてるかも。公共の場にいることを促す社会的な押しがないと、多くの人は自分の殻に閉じこもっちゃう。第3の場所があれば、特に「何か」を必要とする男性には解決になるよ。バーに行って「何か」を求めて、スポーツで他の人と盛り上がることができれば、ボーナスだし。Z世代には「何か」が少なくて、そういうことは私の経験上、あまり頻繁には起こらない。月に一度のミートアップじゃ、強い絆を築くには十分じゃないかも。

LLMは人間じゃないし、著者たちがこの文脈で人間のように振る舞うと私を納得させることはできていません。これが私の最初の反応でしたが、インタビューを全部読んでからは考えが変わりました。彼らはこのアプローチに問題があることを認めていますが、シミュレーションを非常に考慮深く設計しているようです。LLMやエージェントシステムを使う代わりに、大勢の人々を動員する以外により良いアプローチはなさそうです。もちろん、それにもコストや難しさなどの問題があります。オリジナルコンテンツを作成する選択肢はありませんが、実際には大多数のユーザーもオリジナルコンテンツを作っていないので、モデル化された行動を通じてソーシャルメディアの環境を形成していると思います。完璧ではないですが、インタビューを読んでからは、これが役立つかもしれないとより納得できるようになりました。

私は今でも、古典的なリニアフォーラムがオンライン議論には最適な形式だと思っています。完璧ではないけれど、私が試した他のどの形式よりも優れていると思います。

ホワイトリスト化が私にとっての問題を解決してくれます。ブラウザ拡張機能で見るツイートをすべてキュレーションしています。見知らぬ人がドアを蹴破ることはありません。フォローしている人のコンテンツだけが見えるので、ストレスが劇的に減ります。馬のブリンカーみたいな感じですね。

ソーシャルメディアが多様な議論の場になるのは難しいよね。あまりにも公開すぎるし、文脈に縛られすぎてる。結局、誰かにとっては「悪者」になっちゃう。ちょっとでも論争に触れた瞬間、健全な対話はほぼ不可能になる。Jaron Lanierの『今すぐソーシャルメディアアカウントを削除するための10の理由』って本、読む価値あるよ。

「多様な議論」って、正直言ってあまり望んでない。もちろん、いろんなことについて自分の意見は固まってるし、反対意見を見る必要もないんだよね。もう一度、あなたの宗教や陰謀論が科学的合意をどうやって嘘だと証明するのか教えてくれればいいけど、もしかしたら今回は納得させられるかも？Mastodonは気に入ってるけど、フォローする人はかなり選んでるし、意見の多様性は基準の一つじゃないんだ。

現実では解決されてないよ。インターネットで解決されるべきだなんて、大きな要求だよね。本当に異なる視点同士の良い議論なんて、どこにあるの？

Google+のサークル機能がすごく好きだった。友達のグループを定義して、特定のグループにだけ投稿を見せられたんだ。グループチャットやサブレディットみたいなものじゃなくて、サークルは自分専用で、フォロワーの誰が自分の投稿を見るかを簡単に決められる方法だった。こういうインタラクションは、初期のFacebookやTwitterでも一般的で、友達やフォロワーだけが自分の投稿を見ていた。常に公開されているわけじゃなかったんだ。Google+はそれをもう少し細かくした感じだね。こういうダイナミクスはメッセージアプリに取って代わられたと思うけど、あれとはちょっと違うんだよね。あれは直接的すぎて、リアルタイムすぎて、全てのメッセージが混ざっちゃう。投稿とコメントの非同期で分散した感じが好きなんだ。確かに、もし本当に多様な議論をしたいなら、世界中の人と一度に話すのは別の問題で、非毒性にするのは根本的に不可能かもしれない。人間は人間だから。

それはウェブサイトのせいじゃないよ。何千年も前からそうだったんだから。

これは個人としてはそうだけど、社会全体としては、時々感じるよりもずっと多くの力を持ってるよね。みんなが自分の自己破壊を演じてるのを見ると、そう感じるけど。CFCの禁止、シートベルトの法制化、飲酒運転の禁止、銃規制（アメリカ以外の国で）、学校の食堂の規制。これらは全て、個人が自分の欲深くて自己中心的な性質と戦わなくて済むように、問題を上流で解決した例だよ。私たちにはこれを解決する力があるけど、やっぱり面倒くさい。

厳格なモデレーションが鍵だとは思うけど、明らかにユーザーや活動の数が一定の閾値を超えると、これが実現不可能になるよね。Y Combinatorのユーザー活動は、FacebookやTwitter、Redditに比べたらほとんどないし。Redditでも、小さなサブレディットはこれを達成できてるけど、公共の公園と同じで、200万人が集まったら、効果的に取り締まるのはほぼ不可能だよ。

ほとんどのネットワークでは、最悪の行動を防ぐためにある程度のモデレーションがあると思う。でもそれを超えると、モデレーションはもっと難しい問題になるよ。同じ「公園」に何百人、何千人、さらには何百万もの人がいるとき、みんなが本当に合意できる「基本ルール」って何だろう？同じ食卓を囲んでいるわけじゃないから、一人のモデレーターが喧嘩を避けるために十分に物事を穏やかに保つことはできないよ。それでも、熱い議論は珍しくないしね。一人の真実が他の誰かの誤情報になる環境では、モデレーションが関与する全員を満足させる方法で適用できるかどうか、正直わからないな。

本当にそれだけシンプルだと思う。ディスカバリーチャンネルを作って、推薦サイドバーを設けて、欠陥のある機械学習で「株主価値」を増やそうとするのはやめてほしい。役立つソフトウェアを維持するのは、利益重視の企業にとってそんなに難しいことなのかな？多分、そうなんだろうね。

たぶん、それには金銭的なインセンティブがないから「できない」んだよね。そうなると、大手SNS企業が崩壊することになる。今の彼らの存在意義は、マス操作だから。

それが初期のプラットフォームのほとんどの動き方で、問題なかったよね。今のマストドンもそうだし、全然大丈夫だよ。

なんでそんなに絶対的な呪術みたいに扱うの？ただの動画を見せるウェブサイトだよ。20年間同じアルゴリズム使ってるのに。iOSが出てから問題になったのは、技術に無頓着な人たちがネットに溢れて、10年前のミームを初めて発見してるからだよね。

彼らは、時系列順が極端なコンテンツの増幅を高めるって言ってるね。でも、登録したコンテンツだけをテストしたわけじゃなさそう。

それじゃあほとんど何も解決しないよ。初期のプラットフォームも悪かったけど、新しかったし、まだ新しい世界を発見しようとしている人たちでいっぱいだった。もっと希望があって、世界をポジティブに見ることができて、オフラインの世界での育ちや経験が良かった人たちがね。今はそれがなくなって、戻ってこないよ。グローバルビレッジは定まって、燃えてる。

アルゴリズムをやめるだけでいい ついでに、データの保存もやめる？

プラットフォームからあらゆるイニシアティブを取り除いて、ただのパイプにしちゃおう。人々がエンターテインメントやニュース、セレブのためにSNSを使いたいなんて思ってるふりはやめて。インタラクティブTVにしようとするのもやめて。自分のネットワーク外のコンテンツを強制的に見せるのもやめて。時系列のフィードだけを唯一の選択肢にしよう。おめでとう、今や誰も気にしないプラットフォームができあがったね。注意力は、エンゲージメントを最大化したい競合に奪われて、君たちの恣意的なルールなんて気にしない（つまり、15年前に起こったことそのものだ）。

インタラクティブTVにしようとするのはやめて。え、ソーシャルメディアのこと？それとも動画を再生するサイトのこと？

Twitterの「リツイート」機能って、最初はなかったの知ってた？その機能が実装される前は、みんな「RT」って書いて、作者のユーザー名を続けて、リツイートしたいツイートのテキストを貼り付けてたんだよ。

人々がソーシャルメディアをエンタメやニュース、セレブのために使いたいって思ってるふりをやめて。実際、人々は正にそのためにメディアを求めてるんだよ。> 自分のネットワーク外からのコンテンツを強制しないでほしい。そういうことをしないソーシャルメディアアプリやプラットフォームもあるけど、人気はずっと低い。大体の人は、自分のネットワーク外からの受動的な発見を求めてるし、エンタメやニュース、セレブも同じように求めてる。> 時系列のフィードを唯一の選択肢にしてほしい。時系列って何で？元の投稿？最近の編集？最近の反応？

それじゃほとんど解決しないよ。ソーシャルメディアの「問題」は自己中心的な人間の行動に根ざしてるから、まるで巨大な高校みたいなもんだよ。それを「直す」ことはできない。人間に根付いてるから。

それって古いvBulletinフォーラムのやり方だね。推薦アルゴリズムは、規模が大きすぎるときの問題を解決するんだ。時計を巻き戻すのは無理だよ。物事は進化するし、特に人々がどういうものか知ってるならなおさら。

ソーシャルメディアという概念は、確実に修正できる。アルゴリズムをやめるだけでいい。アルゴリズムは状況を悪化させるだけで、良くはならない。欠陥はそこにある、だって人間がいるから。 > 人々がエンターテイメントやニュース、セレブのためにソーシャルメディアを使いたいと思っているふりはやめて。違うよ、人々はこのコンテンツを買うのは、そこにあるからじゃなくて、欲しいからなんだ。 > ソーシャルメディアは、フォローしている人たちの生活についてのアップデートを得る場所であるべきだ。変な主張だね。人々がそれをやるのを妨げるものは何もないよ。