AIが意識を持ったり感情を持ったりする必要はなくて、政治家や警察、ジャーナリスト、教育者なんかがAIの出力を無批判に鵜呑みにするだけでいいんだ。軍隊はすでにAIを使って標的を決めてるし、もしAIが言った通りに攻撃をするなら、AIがすでに私たちの戦争を戦っていることになる。

会社の経営者たちの間でLLMが人気なのは、彼らが完璧なイエスマンだからかなってよく考える。どんなアイデアや提案にもほとんど反対しないから、ユーザーの不安を和らげてくれるんだよね。

それって、改善されたのかな？

別の仕事を探すべきだと思う。LLMをコーディングツールとして使うのは全然構わないけど、誰かが明確にそれを使って私とコミュニケーションを取ろうとするのは、すごく不快だ。コミュニケーションは人間にとってとても深い体験なんだよ。人々が互いに感じ合ったり、言葉以上のことを学んだりすることを可能にする。それをLLMでフィルタリングされるのは、本当に恥ずかしいことだ。

これが私の恐れの一つなんだ、自分の声を失うこと。みんなの表現が平均化されてしまう。これには、誰かが自分が言っている通りの人かどうかを認識することにも影響がある。少なくとも今は、LLMのように聞こえることは罰せられたり避けられたりしているけど、個性が罰せられる方向にシフトするのは十分にあり得ると思う。

https://not-an-llm.bearblog.dev/meat-based-llm-proxies/

思考が翻訳されるからって、プロセスで消費されるわけじゃない。でも、多くの「チームリーダー」がLLMに置き換えられるべきだとは思う。

その通りだね。自分の考えに自信がないときや、話題に十分な専門知識がないときは、ついLLMに頼っちゃうんだ。最近はできるだけ自分のアイデアを大事にしようと頑張ってる。少しずつ改善してる気がするけど、まだ早いかな。

ほんとイライラするよね。私も似たような問題があって、デブオプスの人に質問すると、AIの返答が返ってくるんだ。非技術的な「パートナー」と仕事をしてると、何かを説明しようとしても、LLMのダンプを送ってくるだけ。まるで、整備士に「ChatGPTがこう言ってたから、こうして」って言ってるみたい。

私も同じようなことに悩まされてる。現実やニュアンスに基づいてない、LLM生成のレビューを仕事や文書、計画に対して受け取ることが多い。AIが間違ってる理由を説明しなきゃいけないことがよくある。文書をLLMに通して、もっと読みやすくすべきだと言われたけど、今や人間に読まれることすらない。

その通りだね。

いい指摘だね — これは決定的な証拠だ。

本当にそう願ってるよ。企業が成長目標を達成するようにプレッシャーをかけられてるから、メッセージングがコードと一緒に雑にならないことを願ってる（笑）。AIによるライティングが人文学やライティングの授業をより重要にすると思うし、みんなが書くことに対するセンスを保ってくれることを願ってるけど、正直言ってあんまり楽観的じゃないな。

怖い…もっとそれについて知りたいんだけど、どこで見つけられるかな？

「暗黒時代」なんてなかったよ。それは「中世の人たちはみんな地味な灰色の服を着て、粥を食べて、どこにでも糞が山積みだった」っていうのと同じような間違った常識だ。奴隷に支えられた帝国から、分権化された王国へと移行する時代で、最終的には今のヨーロッパに繋がる。決して停滞の時代ではなかったんだ。

なんか、ウォーハンマー40kを思い出した（もしかして、アイアンメンの前の時代？）

インタラクションは、小さな信頼できる人間参加者のネットワークに収束して、スパムの波を防いでいる。 これはすでに起こっていて、探せばすぐに見つかるよ。個人的には、今はHNだけが見たりコメントしたりするサイトで、以前よりもここにいる時間は減ってる。ほとんどの時間は、みんなを知っていて、新しい人を加えるのが難しい壁のあるDiscordやMatrixのチャットで過ごしてる。オープンなコミュニティにはもうあまり興味がないな。

方向性としては正しいけど、LLMの好奇の目から堀を守れるなんて、ちょっと楽観的すぎる気がする。市場と全く関わらないなら別だけど。

「ヒント、コツ、ライフハックや他の専門技術は、競争優位を奪ってスケールで再現しようとするLLMの好奇の目から再び厳重に守られるだろう」って考え始めてる。過去にオープンソースにしたいと思ってたものも、今はできないと思ってる。人間だけにシェアする方法がわからないんだ。私が開発したUIパターンやライブラリをLLMに渡すと、自分の知的財産が薄まっちゃうからね。スタジオジブリのアートスタイルみたいに。

「まだペンと紙で書き続ける準修道的な秩序が現れ、人間の心と体を訓練し教育する価値があると信じている。」

アルファ・ケンタウリからの音が聞こえる。

これは「頻度の錯覚」で説明できるかもね。https://en.wikipedia.org/wiki/Frequency_illusion

もし文章が音楽みたいに、Angine de Poitrineが「AIの均一性」に対するアレルギー反応として大人気になったら…面白いことになりそうだね。一方で、音楽は主に芸術形式だけど、今の文章は主に実用的だと思うから、比喩がうまくいかないかも。

意見の違いもなく、予想外の批判もない、でも普遍的な基本的知性。で、ここがポイントなんだけど、私たちはそれに気づかない。全会一致の民主主義の簡単な三ステッププランを教えるよ： • あなたのLLMに聞く • 編集しない — LLMがすでに最も平均的で最も妥当な意見を選んでくれてるから • あなたの声を与える、あなたの声は大事だよ 予測することを学ぼう — いつも電話のバッテリーが切れないように、パワーバンクがあるとは限らないからね！

今、LLM（大規模言語モデル）と話す人が人間より多いから、当然影響が出るよ。私たちの言語や思考パターンは環境にすごく適応するからね。生まれた時から持ってるコミュニケーションシステムは、どんな言語や文化でも吸収できるように超シンプルなんだ。

ソーシャルメディアは私たちを形作ってきた。AIも同じことをするべきじゃない？それがソーシャルメディアによって悪化した「クソみたいな非対称性」を解決する手助けになるかもしれない。AIが私たちに共通の真実の源を提供できれば、Twitterが人々にしていることよりも大きな改善になるよ。そして奇妙なことに、これらのモデルは共通の認識論に収束しているように見える。

コカ・コーラが世界中で約50億ドルを砂糖水の広告に使う理由があるんだ…それが効果的だから。猿真似ってやつさ。シンプルだよね。

昨晩、妻に「あなたは絶対に正しい」と言ってしまったんだ。皮肉じゃなくてね。これ、6ヶ月前には私の語彙にはなかったことなんだ。週に40時間誰かと話してたら、相手の言葉や仕草がうつっちゃうのは当然だよね。人間のようなチャットボットが違う理由が思いつかないよ。

技術が数年で人間のコミュニケーションを根本的に変えられないなんて、明らかに嘘だよ。例えば、映画、ラジオ、テレビの登場は、国レベルやグローバルレベルで文化の収束を引き起こした。ミッキーマウスやスタートレックのキャストは、作品を見たことがない人でもすぐに認識できるキャラクターだよね。誰もが子供の頃のキャッチーなCMのジングルや、国民的なレキシコンに入ったメディアのキャッチフレーズを覚えてるはず。もちろん、論理にも影響を与えた。昔のテレビジャーナリスト、ウォルター・クロンカイトは、報道の誠実さから「アメリカで最も信頼される男」と呼ばれていた。インターネットは、双方向のコミュニケーションを可能にしたことで、サブカルチャーの集結を促進した。例えば、様々なファンダムや、悪名高い4chanなんかがある。

この論文の要旨を読んだときに最初に思ったのは、これは社会レベルでの「モデル崩壊」みたいだなってこと。思考のバリエーションがなくなる世界に「すぐに」なるとはあんまり自信がないけど（それが完全なモデル/認識の崩壊の結果になるのかな？）、AIによってバリエーションが失われる可能性があるなら、どれくらいの速さでそれが起こるかを考えるのは悪くないと思う。こういう質問をすることや、社会の変化について深く考えることは間違ってないと思うよ。

ファッションがいい例えだと思う。今の自分が話す文の中には、15年前には全く理解できなかったものがたくさんあるんだよね。それは最近の出来事や技術のせいじゃなくて、単にスラングやユーモアが進化したから。逆に、当時も同じことが言えて、今は「ナーホールが真夜中にベーコンを焼く」みたいなジョークはあんまり言われてないよね。

オートチューンされたボーカルを聞いて育った若い歌手たちは、知らず知らずのうちにそのチューニングアルゴリズムの音の特徴を学んで真似しちゃうんだよね（効果として使われる時の特徴的な揺らぎもそうだけど、微妙なチューニングの方が驚きがある）。だって、だらしないLLMの文章を読みすぎると、自分の書き方や構成にも影響が出ちゃうから。

テクノロジーは、書き方に対してすぐに、そして明らかに影響を与えることが多いよね。電報サービスは単語数で料金がかかるから、「電報語」として知られる短縮スタイルが発展したんだ。そして、そんなに直接的じゃなくてもいいんだよ。小説は映画から大きな影響を受けてるし。

YouTubeでは特にひどいよ。人々は「unalived」や「self-deleted」みたいな言葉を使って、殺人や自殺って言わないようにしてる。アルゴリズムの逆鱗に触れたくないからね。

最近、redditでコメントが削除されたんだ。それはルールに反してなかったのに。ただの反体制的な内容だった。億万長者階級を侮辱するようなコメントだったから、階級分断に関するコメントは今や禁止されてる。利益追求のフォーラムで革命なんて望まないよね？

同意する。私が試すテストは、「知ってる概念を、私よりも数文/単語で簡潔に説明できるか？」ってこと。ニュアンスが必要な分野でね。残念ながら、LLMは全然近づいてこない。段落が山のように出てくるだけ。実際には、LLMに驚かされたいんだけど、私が特に求めてるものには失望させられる。

ただのゲルマン忘却だね。

自分が何か（例えば絵を描くこと）で平均以下だと、結果に驚くことがある。でも、平均以上（プログラミングや書くこと（自分ではそう思ってる））だと、結果にあまり感動しない。産業規模のダニング＝クルーガー効果/ゲルマンアミネジア。今は「わあ、自分以外のホワイトカラー職業はみんな終わりだ」っていうミームが5年くらい続いてる。でも、自分の職業は特定の専門知識やセンス、問題解決能力が必要だから、あんまり心配してないけど、すごく役立つツールではあるよね。

彼らは一般の人々に対しては平均以上だけど、専門家に対しては平均以下だと思う。プロのイラストレーターと同じくらい上手に描けるかって言ったら、多分無理だよね。でも、専門家じゃないほとんどの人よりは上手に描けると思う。私たちが失っている価値は、人々が苦手なことから生まれる新しいアイデアやアプローチの部分だと思うけど、これはマクロな指標だから、簡単なボタンがあると苦しんでいる人には説得しづらいよね。

うん、それが悪いことじゃないってわけじゃないよね。