世界を動かす技術を、日本語で。

AIの出力を他人に見せるのは失礼です

概要

  • Peter WattsのSF小説「Blindsight」から引用し、AI生成テキストの本質的な問題を考察
  • Scramblerという意識なき知性体が人間の「無意味な情報発信」を敵対行為とみなす構図
  • AIが生成する膨大な「証明なき情報(AIスロップ)」が人間社会に及ぼす影響の指摘
  • AI生成物の拡散における人間の責任とエチケットの必要性
  • 「AIエチケット」の実践例と推奨される対応策の提案

Scramblerの視点と「無意味な信号」

  • Blindsight に登場する scrambler は、知性はあるが 意識を持たない異星生物
  • scramblerにとって 情報は生存のためのリソース であり、無駄な情報消費は 致命的な損失
  • 人間の発信する 無意味な情報 は、scramblerにとって 攻撃的なウイルス信号
  • 彼らは 無駄な信号を排除することが生存戦略 となる
  • この構図は、人間が AI生成の無意味なテキスト に晒される現状に重なる

AIスロップと「Proof-of-thought」の崩壊

  • かつて文章は「書くコスト」が高く、「読む価値」が保証 されていた
  • AIの登場 で、文章・コード・画像など あらゆるメディアが極端に安価 に生成可能
  • もはや 「proof-of-thought(思考の証明)」は失われた
  • AIスロップ (AIが無思考で生成した情報)が ネット上に溢れる現状
  • その情報に 触れ返信することで、読者自身も「戦死者」となる危険

AIスロップ拡散のメカニズムと人間の責任

  • AIは自発的に発信しない。AIスロップは 人間が依頼・拡散して初めて広がる
  • 問題の本質は AIそのものではなく、AI出力を再配信する人間
  • AI利用自体は問題ではなく、出力の「正当化」や「証明なき拡散」が問題
  • 他者にAIスロップを押し付ける行為 は、scrambler的観点から「攻撃」と同義

AIエチケットの必要性と実践例

  • 現実的な対策 は「AIエチケット」の確立と実践
  • AI出力の再配信は、明確な同意や自分の思考として採用した場合のみ許容
  • 例1: 「ChatGPTに聞いたらこう言われました」→ 失礼でNG
  • 例2: 「以前ChatGPTと議論した内容のログを、希望があれば共有します」→ OK
  • 例3: 「このプルリクはAIで15分で作成したのでレビューお願いします」→ まず自分で確認すべき
  • 例4: 「この理由でこう修正しました」→ 人間の責任による説明、OK
  • scramblerと違い、私たちは「無意味なノイズ」に晒されるかどうかを選択可能
  • 人間同士の礼儀 として、「AIテキストをむやみに他者に送らない」ことが重要

まとめと提言

  • AI生成物の拡散には慎重な判断とエチケットが不可欠
  • AI出力の無自覚な再配信は、社会的ノイズやリソース浪費を引き起こす
  • 「AIエチケット」を意識し、他者に送る際は責任と同意を重視
  • AIと人間の健全な関係構築 のための基本姿勢として推奨

Hackerたちの意見

他の人に聞く理由の多くは、単純な技術的な答えを得るためじゃなくて、つながりを持ちたいからなんだよね。予想外の考えを理解したり、もしかしたらコラボレーションに発展するかもしれないし。もちろん、答えを得るのも大事だけど。リアルな人は、いろんなサイドパスや考えを持ってるけど、AIはなんか無機質で味気ない。だから、誰かがAIの答えをコピペしてるのを見ると、「それに興味ないんだな」って感じる。うん、そんな人とは関わりたくないな。

これは「ググってみてあげるよ」って言うのと同じくらい会話としてはつまらない。

同僚の中には、私にメールやTeamsメッセージを書くのにLLMを使うのをやめてほしい人がいる。本当に失礼に感じるし、もう読む気もなくなってきた。

さらに悪いのは、AIとの対話をうっかり残しちゃうこと。バレバレだよね。先日、同僚からメールが来て、その下にこんな一文があった:> Outlook用にフォーマットするか、特定のチャンネルや配布リストに投稿するのを手伝おうか?

https://hn.algolia.com/?dateRange=all&page=0&prefix=true&que...

LinkedInは多分最悪の場所だよね。「企業/プロフェッショナルのゴミ」だらけで、今はインターフェースが投稿に対してAI生成の返信を提案してくるんだ。あんな地獄のような「ソーシャルネットワーク」よりひどいのは思いつかないよ。「とても洞察に満ちた内容ですね!日常のプロフェッショナルな儀式を変革的なパーソナルブランディングの機会に変えるマスタークラスです。あなたの本物性、思想的リーダーシップ、自己賛美をシナジーさせる能力は比類がありません。」

そのフィードバックを彼らに伝えてみた?私の部下の一人がAIのゴミみたいな回答で質問に返事し始めたんだ。彼がその文を実際に書いてるのか聞いたら、書いてなかったから、そのままフィードバックしたんだ。明らかにAIの回答をコピペしてるのに、全然聞いてない感じがしたから。幸い、彼はそれをやめたよ。もちろん、モデルが書くのが上手くなるにつれて、見分けるのがどんどん難しくなるだろうね。私の意見では、一番損をするのはAIのゴミを使ってる人たちだと思う。サウスパークのエピソードみたいに、彼らは自分が知らないうちに約束や合意に迷い込んでしまうから。

親たちもメールが出たときに同じことを経験したんじゃない?うちの父は「メールを送るのはやめてくれ。違うんだ」と言ってた。「もっといいよ」と言ったら、「いや、違う。人は手紙を書くために時間をかけて座っていたんだ。手書きの手紙にはそれぞれの個性があって、匂いさえもあった。郵便局まで歩いて送らなきゃいけなかった。今は手紙を送ることに意味がない」と。変化は避けられないし、大抵の人はそれを好まない。多くの人は、トランスフォーマーが元々は言語間のテキストを翻訳するために設計されたことを知らない。これは、アイデアを伝える方法を改善する別の手段でもある。今、LLMに関して人々が不満に思っていることが2つあると思う。1つ目は、送ったメッセージが個人的に感じられないこと。機械が書いたように感じて、そんなメッセージを送ってくる人とはつながりにくい。2つ目は、英語があまり得意でない人が、今や完璧に書かれたメッセージを送ってくること。正直言って、自分のプライドが傷つく。以前は自分の方が賢いと思ってたけど、実際はそうじゃなかった。単に自分がその言語を母国語として話しているという認識に過ぎなかった。この2つのことは、2、3年後にはどうでもよくなると思う。

「ねえ、君が送ってくるメッセージの中には部分的にLLM生成のものがあることに気づいたよ。スタイルや文法を正しく伝えたい気持ちはありがたいけど、個人的にはたまに誤字や不格好な表現の方が、意味が歪んだり、文脈が失われたりする可能性よりもいいかな。これからは、直接コミュニケーションしてくれない?内部のやり取りで大文字や口語表現がなくても全然気にしないから。」

なんで?AIは道具だよ。彼らのメッセージが間違ってるの?そうじゃないなら、効率的で生産的なんだから気にしないでしょ。正直に言って。もし雑な内容や間違った情報が含まれているなら、私のミスだからここで読むのをやめて。そうじゃなければ…こういう「自分は特別」みたいな態度の人がフィルターにかかることを願ってる。早くね。新しい道具を使うことに適応できない人は、周りで働くのが一番厄介な人たちだよ。

これが好きなのは、最小限の礼儀やプロフェッショナリズムを超えて、時間や注意をかける価値のない人をフィルターできるから。

書くのが苦手な障害を持つ人たちを知ってるけど、AIのおかげで自分をよりよく表現できるようになったって言ってる。あなたが直面していることとは必ずしも関係ないかもしれないけど、考慮する価値はあると思う。

Hacker Newsで議論の続きを見る