世界を動かす技術を、日本語で。

あなたのAI生成のブログ記事を読むのは侮辱的です

概要

  • AI生成文書の利用に対する 懸念と批判
  • 人間らしさ や経験の重要性の強調
  • 失敗や学び の価値についての主張
  • 助け合い やコミュニケーションの大切さ
  • AIは 定量的作業 に限定すべきという提案

AIに頼ることへの懸念と人間らしさの価値

  • 自分の 経験や感情、ユーモア を無視して、AIが出力した無味乾燥な文章を読ませることへの 不快感
  • 自分の名前を付けて作品を作ること の誇りや喜びの強調
  • 語学や翻訳、文法修正などをAIに頼ることへの 否定的な立場
  • 間違いを犯し、恥をかき、そこから学ぶこと の重要性
  • それこそが 人間らしさ の本質であるという主張

助け合いと人間同士のつながり

  • 他者と助け合うこと の価値
  • 実際には 多くの人が親切 で助けてくれるという事実
  • AIを介在させることで 人間同士の交流や共感の機会 が失われる懸念
  • 多くの人が成功を願い、手を差し伸べたいと思っている という秘密の共有

賢さと助けを求めること

  • 賢い人ほど助けを求めるタイミングを知っている
  • 周囲の人と 相互利益的な関係 を築くことの重要性
  • 「知っている人ほど助けを求めない」という 誤解の否定

AIの適切な使い方と人間の経験

  • AIは 定量的な作業 に限定して使うべきという提案
  • 自分自身の考えで世界に向き合い、経験を通じて強化する ことの大切さ
  • 心で感じた思考こそが最良 であるという結論

Hackerたちの意見

「AIっぽいな」って感じたら、すぐに戻るボタンを押しちゃう。確かに「これはAIかも」って言われても、ただのイマイチな文章かもしれないけど、そこでも戻るボタン押してるから、結局同じことだよね。

AIには確かに不気味の谷があるよね。でも、実際に読んでるものの多くがAI生成かもしれないし、全然気づかないこともある。これも簡単にAIの投稿かもしれない(実際は違うけど)。

俺もほぼ同じことをするけど、「これ、読むの面白くない/つまらない」って言って、AIが書いたかどうかはあんまり気にしないんだ。面白ければ面白いし、つまらなければつまらない。それが明らかにAIのものであることも多いけど、時には君が言ったようにただの悪いものかもしれないし、結局は関係ない。読み続けたくないから。

[遅延]

書く気がないなら、読む気もないよね。

こういう記事の「読者」たちが、別のAIモデルに要約させてるんだろうな。そうすると、普通の人間が書いて、注意深く(そして批判的に)読む体験を完全にスキップしちゃう。未来が心配だよ。それに、2023年3月のこの漫画を思い出すな。[0] [0] https://marketoonist.com/2023/03/ai-written-ai-read.html

自分が出すものを書く気がない人は、自分で読む気もないんじゃないかな。人間には読ませたくないって感じ。

考えてみると、それが引用だっていうのはちょっと皮肉だよね。だって、自分で書いてないんだから。

著者が言いたいことがあって、それを伝えるのに助けが必要だからじゃない?AIが登場する前の科学者たちは論文を発表して、ジャーナリストがその要約を書くけど、たいてい誤解を招くし、間違ってることが多かった。AIが単独で動いても、ジャーナリストと同じくらいのレベルかもしれないけど、元の科学者が監督するAIなら、もっと良い仕事ができるかもね。

書く気がないなら、なんで俺が読む気になるんだ?AIが生成したソースコードも同じじゃない?怠けたプログラマーが書く気がないなら、なんで俺が読む気になるんだ?AIに理解させて、必要な変更をさせるよ。さあ、このプロセスを何度も繰り返そう。そんなコードが時間が経つにつれてどうなるのか気になるな。明らかに、俺たちはこの道を歩んでるね。

もう飽きたミームだね。オリジナルのアイデアを考えるのも面倒なら、投稿する意味あるの?

「いや、文法を直すために使うなよ。翻訳に使うのもダメだと思う。それが一番の使い道だし、AIとは関係ない。スペルチェッカーや翻訳ツールはずっと前からあるし、今はただ良くなっただけ。特にグローバルな市場で働く非ネイティブスピーカーには便利だし、ツールを使わない理由がないよね。」

文法を直すだけじゃなくて、なんかスパムっぽく聞こえちゃうんだよね。

うん、AIをスペルチェッカーとして使うのと、完全にAIが書いた記事を同列に扱うのは変だよね。優しく考えれば、AIに投稿全体を書き直させるって意味だったのかもしれないけど、文法ミスのあるブログ記事が、ミスのないものよりも「人間らしい」って言ってるように見えるよね。

特にグローバルな市場で働く非ネイティブスピーカーにとっては。なんで彼らがツールを使わないの?うちの妻はESLなんだけど、履歴書やメールの文書を見てくれって頼まれることがある。すぐにChatGPTを通したって分かるし、メールを送る相手にもすぐに分かると思う。代替案を提案したり、Wordなどが見逃す文法ミスを直すのには素晴らしいツールだけど、テキストを丸ごと生成するのはバレバレだから、「yo unc gimme a job rn fr no cap」って書いた方がリクルーターに印象を与える確率は同じくらいだよ。(後者の方が目立つかもね。)人間はパターンマッチングが得意だから、無意識のうちにでもね。ChatGPTが初めて出たとき、みんなその人間らしさに驚いてた。でも今ではほとんどの人がChatGPT生成の音に対して強い直感を持ってるし、ここにGPT生成のコメントを貼ったら(当然)ダウンボートされて消されるよ。じゃあ、なんで使わないの?それは、あなたの文章の本物らしさを隠してしまうから。今は本物らしさが重視されてる時代なのに。

AIが生成したプルリクエストを読むのも同じくらい失礼だよね。「的に当たった」絵文字をまた見たら… 100%の脳みそと推理力、時間を使ってコードを見直さなきゃいけないのに、自分は同じ基準を守る必要がないってこと?

俺のコードを見直すのに100%の脳みそ、推論力、時間を使えって言ってるのに、自分自身には同じ基準を求めないってこと?そうは思わないよ。AIの雑なPRを送ってくる人は、君が頭を使わずにそのままマージしてくれる方が嬉しいと思ってるんじゃないかな。

ユーザー名がそのままだね。

PRもAIでレビューできるって知ってるでしょ?そんなに頑固にならないで。仕事で、同僚と一緒に完全にAI生成で、完全にAIレビューしたPRがあるんだ。

逆に、開発者の書き方に適応する時間が減って、AIの構造出力の方が好ましいと思ってる。

確かに、AIツールが登場する前から同じ問題はあったよね。人々が解決しようとしている問題やその解決策のアイデアを説明せずに、たくさんの変更を出していた。AIツールがそれをさらに悪化させたんだ。

個人的には、ブログ記事がAI生成かどうかは気にしないかな。大事なのは内容だけだし。いろんなことを学ぶためにChatGPTを使ってるから、誰かが面白いプロンプトやフォローアップを考えて、ChatGPTがしたリサーチの要約を共有してくれたら、それは自分にとって意味のあるコンテンツになると思う。

「いや、文法を直すために使ったり、翻訳に使ったり、できないことをやらせるために使うなよ。間違いを犯せ。恥ずかしい思いをしろ。そこから学べ。なぜなら、それが人間らしさだから!」 手書きでブログ記事を書く方がもっと人間らしいと思うけど、これがいい議論になるとは思えない。文章やコミュニケーションを助けるツールを使うことで、自分の考えを伝えやすくなるのは、そのこと自体が価値があると思う。

明らかに自分で読む気もないブログ投稿やREADMEを出してる人がいて、それがHNのトップに上がってくることが多い。しばしば著者は何か面白いことを共有したかったのに、LLMがそれを消してしまって、何が本物で何がそうでないか分からなくなってる。しかも、本物の中でも、著者が気にしてる部分と気にしてない部分が分からない。自分も内容が大事だけど、LLMを使ってブログやREADMEを作ることで、フィルターを通り抜けたゴミコンテンツが目に入ってくるのが常態化してる。特に、著者が良いコンテンツをLLMに入れて、ゴミの出力を私たちに貼り付けてくるのはひどいよ。LLMを出発点として使って、自分が投稿する言葉に責任を持って、投稿する内容が自分の言いたいことをちゃんと言ってるか気をつけてる人はいるのかな?多分?でも、ますますゴミに埋もれていってる。

著者の言いたいことは、フィードバックにさらされることで、エラーの際に成長を受け取ることができるってことだと思う。もしすべてのタスクをChatGPTに任せて解決させたら、脳は成長せず、学ぶこともできないよ。

ブログ記事は手書きの方が人間らしいよ。「ブログ」は「ウェブログ」の略だから、ウェブ上にあればデジタルだし、ブログが手書きだった時代なんてないよね。 > 書くことやコミュニケーションを助けるツールを使うのは、考えを伝えるのを楽にするはずだよ。もしLLMを使ってテキストを吐き出させてるなら、それはあなたの考えじゃないし、あなたが書いてるわけでもない。コミュニケーションがうまくいってないってことだよ。だったら、みんなにプロンプトを見せた方がいいかもね。

これだね。ちょうどいいバランスを見つけるのが大事。バイブコーディングはクソだけど、AIから得られる賢いオートコンプリートは好きだな。何もないところからブログ記事を生成するのはクソだけど、AIが提供してくれる文法やスペル、言い回しの修正は好き。

一番いい話は、口から耳へ、炎の前で語られるものだよ。これって手書きなの?

いろんなことを学ぶためにChatGPTを使ってるよ。 なんでその出力を信じるの?チャットボットはすごく不正確だから、自分を誤解させるためにわざわざ努力してるんじゃないの?

誰かがAIを使って素晴らしい投稿を書けるとしても、著者が手書きの方が可能性が高いと考えるのは正しいと思う。人々はトピックについて深く考えるのを避けるためにAIを使っているように見える。そうじゃなければ、実際の執筆部分がそんなに難しくないはずだよ。これは、AIコーディングに対する一般的な反論に似ていて、実際の執筆の前に難しい部分が終わっているんだ。コード生成はほとんどの場合、重要なボトルネックではなかったしね。

私は同意するけど、すべてのケースでそうとは限らない。何かを学びたいから読んでいるなら、素材がどうやって生成されたかは気にしないよ。正確で直感的であれば、LLMはそれが得意になってきたから、私にとっては価値がある。人間が時間をかけて教育的でクリエイティブなものを作ったり、心地よいスタイルやユーモアを持っているのは楽しいけど、それを求めてブログを読んでいるわけじゃない。気になるのは、明らかにAI生成のブログ記事が(おそらく意図せずに)余計なジョークや不自然に明るいトーンで人工的な性質を隠そうとすること。そうすると内容が曖昧になって、読書体験が非効率的になるんだ。人間の作家がいることで価値が出るのにね。でも、非技術的なブログを読むときは、人間らしいものを求めている。実際の人が時間と労力をかけた作品を楽しみたいんだ。機械に触れられるほど、良いものになる。 > ブログ記事は手書きの方が人間らしいよ。手書きのブログ記事、めっちゃ読みたい!

人間って、独特な体験学習のことだよね。私たちは自分の失敗の積み重ねでできてる。だから、失敗を他人に押し付けるのは、人間らしさがなくなるし、人間の体験からも離れちゃう気がする。もしかしたら、人間ってそんなに特別じゃないのかも。でも、それはまた別の話だね。

正直、こんな文句が多いのが理解できない。25年以上ブログを書いてるし(同じサイトで20年以上)、Macに切り替えてからエムダッシュを使ってるし(Markdownパーサーがダブルダッシュをエムダッシュに変換するから、vimでテキストを打つときに気に入ってる)、長文投稿をLLMに通して可読性をチェックしてもらうようにしてる。AIは、木材のサンダーみたいに、物を「完成させる」ためのツールだよ。ノコギリやハンマーとして使うものじゃない。自分の声で書いてる限り、ただのオートコレクトが良くなるだけだよ。

この件に関して二元論的な見方は好きじゃない。最も重要なのは、編集プロセスの出力を自分が所有しているかどうかだと思う。この記事はなぜ存在するの?あなたの独自の視点を表してる?これはあなたのベストな状態で、世界に洞察を共有しようとしてるの?もしそうなら、出す価値はあるかもね。紙とインク、テキストエディタ、スペルチェッカー、LLMに助けを求めたかどうかは関係ない。でも逆に、誰でもLLMに同じテキストを頼めるなら、読者にクリティカルシンキングをアウトソーシングしてることになるから、そりゃ非難されるべきだと思う。それはSEOスパムと同じくらい良くないよ。

私の見方では、著者は自分のメンタルモデルを説明しようとしているけど、文章に詰め込める量には限界があるんだ。欠けている前提を埋めたり、XがYを意味する理由を理解するのは私の責任だよ。言葉の選び方やトーン、さらにはミスまで、そういう小さなことが助けになる。でもLLMが混ざると、今度は別のレイヤーや少し違ったメンタルモデルを分離して、消化して、著者のものと融合させなきゃいけなくなる。

[遅延]

これについてはあまり確信がないんだけど、AIの文章作成は今のトレンドの延長線上にあると思う。書くことを簡単に、安くしてくれるものはたくさんあったよね。印刷機、タイプライター、ワードプロセッサ、文法やスペルチェック、電子配信。これはその延長に過ぎないと思う。ただ、出力を作るのにかかる手間が減るから、価値が下がるっていうのは確かにあるけど、これはこの技術のトレンドの中でずっとそうだったよね。