ハクソク

世界を動かす技術を、日本語で。

AIの出力を他人に見せるのは失礼です

295日前原文(distantprovince.by)

概要

  • Peter WattsのSF小説「Blindsight」から引用し、AI生成テキストの本質的な問題を考察
  • Scramblerという意識なき知性体が人間の「無意味な情報発信」を敵対行為とみなす構図
  • AIが生成する膨大な「証明なき情報（AIスロップ）」が人間社会に及ぼす影響の指摘
  • AI生成物の拡散における人間の責任とエチケットの必要性
  • 「AIエチケット」の実践例と推奨される対応策の提案

Scramblerの視点と「無意味な信号」

  • Blindsight に登場する scrambler は、知性はあるが 意識を持たない異星生物
  • scramblerにとって 情報は生存のためのリソース であり、無駄な情報消費は 致命的な損失
  • 人間の発信する 無意味な情報 は、scramblerにとって 攻撃的なウイルス信号
  • 彼らは 無駄な信号を排除することが生存戦略 となる
  • この構図は、人間が AI生成の無意味なテキスト に晒される現状に重なる

AIスロップと「Proof-of-thought」の崩壊

  • かつて文章は「書くコスト」が高く、「読む価値」が保証 されていた
  • AIの登場 で、文章・コード・画像など あらゆるメディアが極端に安価 に生成可能
  • もはや 「proof-of-thought（思考の証明）」は失われた
  • AIスロップ （AIが無思考で生成した情報）が ネット上に溢れる現状
  • その情報に 触れ返信することで、読者自身も「戦死者」となる危険

AIスロップ拡散のメカニズムと人間の責任

  • AIは自発的に発信しない。AIスロップは 人間が依頼・拡散して初めて広がる
  • 問題の本質は AIそのものではなく、AI出力を再配信する人間
  • AI利用自体は問題ではなく、出力の「正当化」や「証明なき拡散」が問題
  • 他者にAIスロップを押し付ける行為 は、scrambler的観点から「攻撃」と同義

AIエチケットの必要性と実践例

  • 現実的な対策 は「AIエチケット」の確立と実践
  • AI出力の再配信は、明確な同意や自分の思考として採用した場合のみ許容
  • 例1: 「ChatGPTに聞いたらこう言われました」→ 失礼でNG
  • 例2: 「以前ChatGPTと議論した内容のログを、希望があれば共有します」→ OK
  • 例3: 「このプルリクはAIで15分で作成したのでレビューお願いします」→ まず自分で確認すべき
  • 例4: 「この理由でこう修正しました」→ 人間の責任による説明、OK
  • scramblerと違い、私たちは「無意味なノイズ」に晒されるかどうかを選択可能
  • 人間同士の礼儀 として、「AIテキストをむやみに他者に送らない」ことが重要

まとめと提言

  • AI生成物の拡散には慎重な判断とエチケットが不可欠
  • AI出力の無自覚な再配信は、社会的ノイズやリソース浪費を引き起こす
  • 「AIエチケット」を意識し、他者に送る際は責任と同意を重視
  • AIと人間の健全な関係構築 のための基本姿勢として推奨

Hackerたちの意見

他の人に聞く理由の多くは、単純な技術的な答えを得るためじゃなくて、つながりを持ちたいからなんだよね。予想外の考えを理解したり、もしかしたらコラボレーションに発展するかもしれないし。もちろん、答えを得るのも大事だけど。リアルな人は、いろんなサイドパスや考えを持ってるけど、AIはなんか無機質で味気ない。だから、誰かがAIの答えをコピペしてるのを見ると、「それに興味ないんだな」って感じる。うん、そんな人とは関わりたくないな。

└

これは「ググってみてあげるよ」って言うのと同じくらい会話としてはつまらない。

同僚の中には、私にメールやTeamsメッセージを書くのにLLMを使うのをやめてほしい人がいる。本当に失礼に感じるし、もう読む気もなくなってきた。

└

さらに悪いのは、AIとの対話をうっかり残しちゃうこと。バレバレだよね。先日、同僚からメールが来て、その下にこんな一文があった：> Outlook用にフォーマットするか、特定のチャンネルや配布リストに投稿するのを手伝おうか？

└

https://hn.algolia.com/?dateRange=all&page=0&prefix=true&que...

└

LinkedInは多分最悪の場所だよね。「企業/プロフェッショナルのゴミ」だらけで、今はインターフェースが投稿に対してAI生成の返信を提案してくるんだ。あんな地獄のような「ソーシャルネットワーク」よりひどいのは思いつかないよ。「とても洞察に満ちた内容ですね！日常のプロフェッショナルな儀式を変革的なパーソナルブランディングの機会に変えるマスタークラスです。あなたの本物性、思想的リーダーシップ、自己賛美をシナジーさせる能力は比類がありません。」

└

そのフィードバックを彼らに伝えてみた？私の部下の一人がAIのゴミみたいな回答で質問に返事し始めたんだ。彼がその文を実際に書いてるのか聞いたら、書いてなかったから、そのままフィードバックしたんだ。明らかにAIの回答をコピペしてるのに、全然聞いてない感じがしたから。幸い、彼はそれをやめたよ。もちろん、モデルが書くのが上手くなるにつれて、見分けるのがどんどん難しくなるだろうね。私の意見では、一番損をするのはAIのゴミを使ってる人たちだと思う。サウスパークのエピソードみたいに、彼らは自分が知らないうちに約束や合意に迷い込んでしまうから。

└

親たちもメールが出たときに同じことを経験したんじゃない？うちの父は「メールを送るのはやめてくれ。違うんだ」と言ってた。「もっといいよ」と言ったら、「いや、違う。人は手紙を書くために時間をかけて座っていたんだ。手書きの手紙にはそれぞれの個性があって、匂いさえもあった。郵便局まで歩いて送らなきゃいけなかった。今は手紙を送ることに意味がない」と。変化は避けられないし、大抵の人はそれを好まない。多くの人は、トランスフォーマーが元々は言語間のテキストを翻訳するために設計されたことを知らない。これは、アイデアを伝える方法を改善する別の手段でもある。今、LLMに関して人々が不満に思っていることが2つあると思う。1つ目は、送ったメッセージが個人的に感じられないこと。機械が書いたように感じて、そんなメッセージを送ってくる人とはつながりにくい。2つ目は、英語があまり得意でない人が、今や完璧に書かれたメッセージを送ってくること。正直言って、自分のプライドが傷つく。以前は自分の方が賢いと思ってたけど、実際はそうじゃなかった。単に自分がその言語を母国語として話しているという認識に過ぎなかった。この2つのことは、2、3年後にはどうでもよくなると思う。

└

「ねえ、君が送ってくるメッセージの中には部分的にLLM生成のものがあることに気づいたよ。スタイルや文法を正しく伝えたい気持ちはありがたいけど、個人的にはたまに誤字や不格好な表現の方が、意味が歪んだり、文脈が失われたりする可能性よりもいいかな。これからは、直接コミュニケーションしてくれない？内部のやり取りで大文字や口語表現がなくても全然気にしないから。」

└

なんで？AIは道具だよ。彼らのメッセージが間違ってるの？そうじゃないなら、効率的で生産的なんだから気にしないでしょ。正直に言って。もし雑な内容や間違った情報が含まれているなら、私のミスだからここで読むのをやめて。そうじゃなければ…こういう「自分は特別」みたいな態度の人がフィルターにかかることを願ってる。早くね。新しい道具を使うことに適応できない人は、周りで働くのが一番厄介な人たちだよ。

└

これが好きなのは、最小限の礼儀やプロフェッショナリズムを超えて、時間や注意をかける価値のない人をフィルターできるから。

└

書くのが苦手な障害を持つ人たちを知ってるけど、AIのおかげで自分をよりよく表現できるようになったって言ってる。あなたが直面していることとは必ずしも関係ないかもしれないけど、考慮する価値はあると思う。

誰かと話題について議論を始めると、ChatGPTに全部やらせてる人とは面白くなるよね。彼らは、実際に自分で書いた人と比べて、そこに書かれていることを深く理解していないことが多い。驚くことではないかもしれないけど、やっぱりこういう状況になるんだよね。こういう議論は疲れるな、相手に誠実さや興味が感じられないから。私はだいたいこういう会話はすぐに終わらせちゃう。

└

AIは使わない人を置き去りにするんじゃなくて、使う人を置き去りにするんだよね。ロコの逆バジリスク？

誰かがAIを使って出力を生成した場合、それははっきりと示されるべきだと思う。これは、質が悪かったり未確認であることの言い訳にはならないけど（そこがポイントだと思う）、使用したソースを示すことは重要だよね。もしAI生成のコンテンツを受け取りたくないなら、出典を使ってフィルタリングできるし。

関連：プロンプトを読む方がいいな https://news.ycombinator.com/item?id=43888803

誰かがChatGPTとの会話について話すのって、昔の「昨晩の夢を話す」みたいなもんだよね。これ、ちょっと残念なのは、シェアしたい会話がたくさんあるから（笑）。

└

うーん、酔っ払ったおじさんに聞いたみたいな感じかな。Xについて自信満々に話してたけど。

└

AIとの会話と、AIの出力をそのまま誰かに渡すのは違うと思う。前者は「ねえ、こんな体験をしたんだけど、これがどうだったか、何を学んだか、どう影響を受けたか」っていう、すごく人間らしい経験で、共有するのは全然アリだよね。後者は「入力を作ったから、これが出力だよ。さあ、これについて考えたり行動したりして」って感じ。例えば、ClaudeやChatGPTを使って人生の経験について振り返ったり話したりしたことがあって、その時は何かを得た気がしたし、友達や恋人にも話すことがある。でも、彼らが求めない限り、トランスクリプトを共有することはないかな。

└

これが私の感じていることと同じだね。体験した人にはすごく興味深いけど、聞いている側にはあまり響かないことが多い。時には共有するのが楽しいこともあるけど、それは他の人の考え方を垣間見ることができるから。でも、実際の内容はあまり重要じゃない。彼らが共有するものは、どちらかというと幻覚的な質を持っていて、つまり幻覚には本質的な内容がない。これがコミュニケーションのポイントなんだ。

最近、技術に詳しくない人が、ChatGPTのスクリーンショット（無料プランのやつ）を添付して、微妙な技術的問題について私の意見に反論してきたんだ。LLM自体は間違ってなかったんだけど、ユーザーに対してお決まりの言い回しで答えが包まれてて、実際の答えを理解する力がなかったんだよね。

「このプルリクエストを15分で vibe コーディングしました。レビューお願いします」 え、まず自分でレビューしてみたら？今の私の日常の問題は、PRにその免責事項が付いてこないことなんだ。著者は直接聞いても認めないし。だけど、私のコメントがカーソルにフィードされて、さらにクソみたいな編集がされるのが分かる。しかも、10分後には全く別のPRを最初からレビューしなきゃいけないのに、主要な懸念には全然触れてない。せめてAIと直接話せたらいいのに。（もし気になるなら、今はPRを無視したり閉じたりする権限がないんだ。）

└

PRを閉じたり無視したりするんじゃなくて、対話を始めるべきだよ。AIは人間じゃないって教えてあげて、バグのある低品質なコードを提供したら、それは彼らの責任であってAIのせいじゃないし、最終的には彼らの仕事が危うくなるんだ。もう一つの視点として、人に響くのは、こういうことを思い出させることだね。もしコードをレビューしたり、ビジネスの問題解決に適しているかを判断するために人間の思考を通さないなら、あなたは一体何の価値を加えてるの？AIを使ってただコピペするだけなら、私が直接やった方が早いし、プロンプトの文脈も分かるから。これは業界における大きな変化で、誤用している人たちを指導するチャンスだよ。彼らがそれを受け入れなければ、受け入れる人はたくさんいるから。AIは実際に、理解力や努力の欠如を隠すことができる今の状況から、優れた人とそうでない人を分けると思う。批判的思考やデバッグに問題がない人たちがAIを活用し始めたら、誰が取り残されるかはすぐに分かるようになるだろうね。

└

信頼は少しずつ得られ、バケツのように失われる。もし誰かが私の時間を使って雑なものを見てほしいって言ってきたら、特に免責事項もなしに、今後はその人のプルリクエストをレビューしないことにするよ。

└

彼らのマネージャーに見せる？

└

100%リアルな生活はもっと厳しいよね。なんとか解決策を見つけられることを願うばかり。自分はこの立場になったことはないけど、考えてみると、レビューをカーソルでループさせるのって、能力を低く見られちゃうよね？ネガティブなパフォーマンスレビューを与えるのも選択肢？

└

お悔やみ申し上げます、それは地獄のようですね。

「長い間、書くことは読むことよりも高価だった」 そういう素晴らしいポイント、考えたことなかったな。LLMのおかげで、この方程式が逆転して、いろんな変な結果が出てきてる。私にとって一番明らかなのは、コードレビューにかかる時間が増えたこと。PRをできるだけ分かりやすくすることが、レビューアにとってすごく重要になった。今は著者とレビューアの理解がほぼ同じレベルになってるから、著者が一人でPRを書いた時とは全然違うんだ。読むことと書くことの逆転には、他にどんな影響があるのか、誰にも分からないよね。

└

そうだね、昔は絵を描くのがすごく時間がかかったけど、今は風景を見るのと同じくらいの労力で済むようになった。人類は生き延びて適応してきたし、全体的に見て、写真がある世界に生きていることに感謝してる。ただ、その適応の一部には、未申告で確認されていないAI生成コンテンツに対する強いスティグマの進化が含まれると思う。

非ネイティブの英語話者として、ニュアンスや微妙な表現を文章で伝えるのがよく難しかった。特に非技術的な聴衆に対してはね。LLMは私にとってゲームチェンジャーだった。文章がかなり改善されて、考えをはっきり伝えるのがずっと楽になったよ。確かに、ユーザーの個人的なスタイルに適応しないのはイライラするけど、スタイル感覚がまだ十分に育っていない私たち非ネイティブにとっては、大きな前進なんだ。