世界を動かす技術を、日本語で。

言うだけでいいです

概要

  • AI時代 における人間と創作物の価値評価の議論
  • 人間の価値 を「高品質な成果物」に依存させる危うさ
  • 意図と形態 という創作物の品質評価軸
  • 生成AI は意図の希薄な形態を容易に生み出す特性
  • 人間の存在価値 は条件付きでなく無条件で認めるべきという主張

AI時代における「人間の価値」議論の問題点

  • AIの発展 に伴い、「人間が担うべき役割」や「人間の方が優れている」という主張が頻出
  • 人間の成果物 とAIの成果物が似ていても、「微妙なスタイルの違い」や「一貫性のなさ」を理由に人間を評価する議論
  • 議論の根底 にあるのは「人間は高品質な成果物を生み出す限り価値がある」という条件付きの価値観
  • 人間とAIの能力差 は過去には明確だったが(例:2023年のChatGPT)、今後も続く保証はない
  • 「人間は価値がある」 という無条件な主張の方が堅牢であり、AIの進化に左右されない

創作物の「品質」とは何か

  • 品質評価 には「意図」と「形態」の二要素が存在
    • 意図 :何を実現したいのかという創作者の狙い
    • 形態 :実際に生み出された成果物そのもの
  • 多くの議論 が「形態」に偏り、「意図」を軽視する傾向
  • 創作行為 は「意図を形態へと凝縮する」プロセス
    • 人間 は自らの意図を成果物へと試行錯誤しながら反映させる
    • 生成AI は「最小限の意図」で「大量の形態」を生み出せる特徴
      • 例:「退職願を書いて」とAIに依頼→「まあ、これでいいか」と納得
  • AIによる創作物 は「意図が見えにくい形態」になりやすい
    • これが俗に「AIスロップ(AIの粗雑な成果物)」と呼ばれる理由
    • 人間も意図のない成果物 を生み出すことは可能だが、AIはそのハードルを下げてしまった

意図の伝達と生成AIの問題点

  • プロンプト に意図が込められるとはいえ、AIが生み出す形態は意図から乖離しやすい
  • LLM(大規模言語モデル) を使ったコミュニケーションでは、「プロンプトそのものを送ってほしい」という意見も存在
    • 例:Tom Hudsonの発言「メールをAIで書くなら、プロンプトだけ送ってくれた方が本心が分かる」
  • 生成AIの病理 は「意図が不明確なまま substantial form(実体的な形態)」が簡単に生まれる点
    • 人間が手作業で創作 する場合、この失敗は起こりにくい

人間の価値に関する結論

  • 「神は人を自らの姿に創造した」 (創世記1:27)という宗教的引用
  • 「人間の尊厳は能力に依存しない」 (Magnifica Humanitas, §50)という倫理的主張
  • 人間の価値 は「高品質な成果物」や「能力」による条件付き評価ではなく、無条件で認めるべきであるという結論

Hackerたちの意見

これが今まで読んだ中で一番いいAIスロップの定義だと思うし、ブログ自体はAIスロップとは真逆の内容だね。短い記事で、言葉一つ一つが大事にされてる。出力が大きくて、根本的な動機や理解が欠けていることがAIスロップを生むんであって、AIを使うこと自体が問題じゃない。この区別があるからこそ、AIそのものを責めるんじゃなくて、継続的な誤用を責めるためのメンタルモデルが持てるんだよね。AI支援のコーディング中に継続的にAIを操作することが重要な理由を理解するための正式なモデルもできる。提供された全てのプロンプトの合計が、ソフトウェアの意図を一貫した形で形成すれば、それが良い、役に立つコードを生み出すための種と仕様になる。逆に、「動かないから再試行」っていう短いプロンプトの合計を集めてみて、何が得られるか試してみて。

提供されたすべてのプロンプトの合計が、ソフトウェアの意図の一貫した見解を形成する場合、それは良い、役立つコードを生成するための種と仕様を構成する。代わりに、AIに「動かない、再試行」と言わせる短いプロンプトの合計をまとめてみて、何が得られるか見てみて。あなたはこの発言で何を言いたいの?両方のタイプのプロンプトには価値があると思うから、ちょっと分からないな。

Hank Greenのスロップの定義についての見解も見てみてね: https://youtu.be/dT5IJExTUR4?si=mjkHK024MUqCId0k 要するに、意図と配慮が機能的な変数だってこと。人間はAIなしでもスロップを生み出せるし、AIを使ってアートを作ることもできる。AIはスロップを工業規模で可能にするだけなんだ。

同感だわ。最近の反AIの発言にはイライラしてる。必ずしもその前提に完全に反対してるわけじゃないけど、形があまりにも一般的すぎるから。食べ物や水に含まれる「化学物質」について文句を言ってる人たちみたいに聞こえてきた。実際の不満はAIの特定の側面やその使い方についてのもので、このエッセイはその一つをうまく表現してる。私たちが実際に議論して対処できることだよ。

すごい。最近、ちょっとアイデンティティクライシスに陥ってたんだ。自分が情熱的で、そこそこいい開発者だって分かってるけど、AIの話が多すぎて、これが自分にとっての時代の終わりなのかどうか分からなかった。でもこの記事を読んで、何かがひらめいた。すごく納得できたし、気分が良くなったよ。

この引用はすごく関連性があると思う。ただ、あなたも私も初心者ではないと思うけど、今は味覚の問題が重要だと思う。人間は大事だし、さらに人間の味覚は置き換えられない(まだ?全く?なんでそんなことを望むの?)

ちょっと声を上げたくて、ここ数ヶ月これが私も結構気になってたって言いたかったんだ。君は一人じゃないよ。

たくさんの人が「社会への貢献」に基づいて他人を非人間化するために多くのエネルギーを使ってきたよね。例えば、雇用されていないなら医療にアクセスするべきじゃないとか。AIが人々に、自分の価値が仕事の成果に結びついているかどうかを再考させるきっかけになればいいなと思ってる。

それはもっと深い問題だよ。これには根本的な階級主義があって、実際の労働成果が少ない裕福な人々の価値を疑わないことを暗示している。例えば、あなたの例に出てきた失業者は、実際にはキャリアの中で重要な問題を解決することで、VCがスタートアップで運良く成功したのとは比べ物にならないくらい生産的だったかもしれない。

AIは色んな形でしばらく前から存在してるけど、これが実現する可能性があるって示唆するものを見たことある?何世紀もかけて人々がこれを理解しようとしてきたっていう背景と比べてみて。

「雇用されていないなら、医療にアクセスできるべきじゃない」みたいな考え。マジで、クソみたいな仕事がたくさんあるよ。私もその一つをやってるし。ホームレスの人が毎日心のこもった会話をすることが、今の私よりも社会に価値を与えてると思う。

この引用が響いたな。 「トム・ハドソンが言ったんだ、『もし君がLLMを使って僕にメールを書くつもりなら、プロンプトだけ送ってくれた方がいいよ。そうすれば、君が本当に言いたかったことが分かるから。』」私の私生活では、情報収集や問題空間の高レベルな議論にAIをよく使ってる。時々、何かを始めるためのプロトタイプコードを書くのにも使うけど、デバッグや問題解決のツールとしては優れてる。ただ、問題が何かを理解してないと、正しい方向に導くのが難しいことが多い。直感を生み出すのは苦手だけど、直感をチェックするのには最適で、アイデアをもとに素早く反復できる。けど、日常の土木技師の仕事ではほとんど使わない。メールを書くために使うことは絶対にないね。自分が言いたいことを指定する頃には、ほぼそれを言ってしまってるから。そこからの言葉の練り直しはほとんど価値がないし、エンジニアリングレポートを書くときも同じ。必要なことを伝えた時点で、その部分はほぼ書いてしまってる。一般的に、LLMは良いライティングツールじゃないと思う。書くとき、もしLLMに何かを書かせることができるなら、正直言ってそれは多分言う必要がなかったことなんだ。

同意する。コミュニケーションは私にとって明確なラインだ。私はそれを(慎重に)学ぶために使うし、コードを書くためにも使う。でも、配布用の英語を書くためには絶対に使わない。私にとって、それはひどいことだ。全く尊敬していない人に書くために使うかもしれないけど、そのケースにはまだ出会ってない。私は全ての人に対して基本的な尊敬を持っているから。

私たちの人生は、経験の大きな集まりに過ぎない。実際に私たちの人生で重要な時間は、他の人と過ごす時間だ。これらの時間こそが私たちが持っている全てで、次の瞬間は、死ぬときに失う唯一のものなんだ。機械と話すのは、食べ物をテーブルに置くためにやらなきゃいけないことだけ。機械と話した時間は全く覚えてないし、価値がないから記憶に残らない。

作者の友人のこの引用が心に響いた。 > 「もし君がLLMを使って僕にメールを書くつもりなら、プロンプトだけ送ってくれた方がいいよ。そうすれば、君が本当に言いたかったことが分かるから。」礼儀やプロフェッショナリズムをコミュニケーションに加えることには価値があるとは思うけど、プロンプト自体が欠けているのは確かだよね。でも、伝えたいことの根本はプロンプトなんだから、それをヘッダーと署名で包めばいい。私たちは人間として話しているだけじゃなく、直接コミュニケーションもしている。AIの返答を送られると、ちょっと侮辱的に感じることもある。理由は分からないけど、なんか本物じゃない感じがするんだよね。

誰かがAIの返答を送ってくると、ちょっと失礼だなと思う。自分で書く気がないなら、私も読む気がないよ。

AIのメールについて話してる人たちの話を聞くと、いつも正式な提案書みたいな長い文章のことを言ってるんだと思ってた。個人的な1対1のメッセージじゃなくてね。こういう話を聞くと驚くけど、私はLLMが普及する直前に退職したから、実際には経験してないんだ。私の経験では、同僚や友達との1対1や1対2のメールは、できるだけ短くて直接的なものが多かった。LLMが登場する前でも、今のLLMみたいに長くて構造的なメールはかなり変だったと思う。

問題は、プロンプトから作られたものはあなた自身じゃないってことだよ。もし他の人が書いてないものを読みたいなら、「Claude」や「gpt-5」とかに差し替えて、あなたが何か価値のあることを言ったふりをするのはやめてほしい。AIが手助けすることには意味があるけど、それは明確にラベル付けされた添付ファイルで、人間のための内容にしてほしい。PRとかはそうあるべきだと思う。AIが生成した内容用のセクションを設けて、残りは人間が自分の意図をはっきり説明するためのものにすべきだよ。でも、今はAIが人間のふりをしている世界に生きてる。どんどん悪化してるね。

友達や同僚にはそうだね。でも日常のビジネス取引では、LLMはすごく便利なショートカットだよ。返品したいAmazonの注文を3つ挙げて、それぞれの理由を伝えたら、詳細を調べて保証サービスのリクエストメールを生成してくれた。サクッと確認してコピーして送信、あっという間に終わった。15分かかる作業が5分で済んだよ。これを繰り返すと、結構な時間が節約できる。でも、ショートカットを使うべきじゃない時もあるから注意が必要だね。いい日には、240ボルトの毛刈りバリカンでヤクの手入れをする感じ。

そうだね、そういう感情はみんな言うけど、たぶん本気で言ってるわけじゃないよね。上司が正直なフィードバックを求めてきたときに、全力でぶつけるのはキャリアに悪影響を与えるからね。世界をどう見るかで微妙な間違いを犯すし、相手も似たような間違いをするから、コミュニケーションの構造的ルール(つまり礼儀)に従えば、その間違いのダメージは限られる。AIはプロンプトにあるものをもっと言葉を使って書き直すだけだから、味気ないこともあるけど、生のプロンプトを送るよりは平均的に良い結果が出ると思う。友達が本当に求めているのは「短いプロンプトよりも、もっとコミュニケーションに時間をかけてほしい」ってことだと思う。

それに、誰かがAIの返答を送ってくるとちょっと侮辱的に感じる。AI生成のPRコメントでこれに直面することがある。私が働いているところでは、まだ「正しいポイント」を模索していると思う。LLMは確かに貴重なフィードバックを提供できるけど、監視なしでそれを行うレベルには達していないし、そうするのはプロフェッショナルじゃないと感じる。さらに、同僚がコードを批評するのに時間をかけているのに、誰か(または何か)がほとんど役に立たないフィラーで返事をするのは、さらに悪化する。小さな手作りの贈り物を渡されて、それを目の前でゴミ箱に捨てられるようなものだ。

最後のポイントについてだけど、私はAIの返答を受け取ると侮辱的だと感じる。微妙な欺瞞があるからね。Slackやメールなどで他の人と話しているとき、受け取るメッセージはその同僚や相手が書いたものだと思っている。ところが、LLMの出力を受け取ると、その信頼が壊れる。特に、AIが使われたことが透明でない場合はなおさら。

誰かが書いたものを読むと、その文字通りの内容以上のことを学べるんだよね。だって、わざわざ言葉を選んで、手間をかけて送ってくれたわけだから。その人がどれだけ気を使ったかも感じられるし。LLMはそういう選択肢を消しちゃうから、メッセージから学べることが少なくなっちゃうし、その人とのやり取りを通じて未来のメッセージをよりよく理解するための情報も減っちゃうんだよね。

同意することが多いけど、もしそのメールがD&Dのセッションを調整するためのものだったら、あんまり気にしないと思う。特に、そうしないとD&Dをプレイする時間が見つからないならね。

今の世代が、促された弔辞や結婚式のスピーチを聞かなきゃいけないのは気の毒だよね。本当に書くことが好きな人たちが、そんな風に思われるのもさらに悪い。

AIの能力に関係なく価値を保つ人間の成果のクラスがある。それはアートとスポーツだ。人々はクリエイターに関心を持つ。出所が作品や感動、感情的な反応を定義する。でも、その領域以外のほとんどの成果はAIに取って代わられるリスクがある。企業は道徳的ではない存在で、利益を最大化することを優先し、法律は必要な範囲でしか守らない。法律は私たちの共同の行動だ。私たちは何を価値あるものとするかを社会的に構築している。機械ができることをするために5日間の労働週を守るために戦うこともできるけど…私は機械の共同所有のために戦いたい。

私は機械の共同所有のために戦いたい。大手テック企業にモデルとウェイトを公開させることができたら最高だと思う。彼らは基本的に人類の共同の労働の上に築かれた製品だから(少なくともその一部はGPLやCC-BY-SAの下でライセンスされている)。もしボタンを押して著作権や知的財産の概念を廃止できるなら、私はそうしたい。

アートは確実にAIによって価値が下がっている。バンクシーは大丈夫だと思うけど、周辺のアーティストたちはgenAIと競争している。

AIの能力に関係なく価値を保つ人間の成果のクラスがある。それはアートとスポーツだ。スポーツについては語れないけど、アートに関してはエピソードを共有するよ。友達がAIが作った曲をシェアしてくれて、そのクオリティに驚いた。プロデューサーはSunoだけを使ったって言ってたから、どんなことができるのか興味が湧いて、プロプランにお金を払った。妻と一緒に聴きたい曲を作るのが楽しくて仕方なかった。私たちが作れる曲ではなかったけど、実際に楽しいものだった(「作った」とは言わないけど、何も作ってないし)。今では彼女は車の中でそれをよく聴いてるし、新しいものが欲しいときはまた作り出せる。そう、これは人間が作った音楽がトレーニングデータとして使われているからこそ可能だって分かってる。道徳や法律についてはコメントするつもりはないけど(それについて話すのは公平なことだと思う)。ただ、私たちの中にはAI音楽を実際に楽しんでいる人もいるってことを言いたい。でも、もしかしたら私はハクスリーの『すばらしい新世界』に出てくるまんまと引っかかるタイプかもしれない。 :)

でも、その領域以外のほとんどの成果はAIに取って代わられるリスクがある。必ずしも同意するわけではないけど、その多くの成果には意図や意思決定、コミュニケーションの形でアートがあるとも言えると思う。ただ、それらの価値は本当に見る人や状況によって変わるのは認める。

ああ、社会主義ね。今回はうまくいくといいね。

サービス業は他の業界よりも長続きするかもしれないね。サービス業の価値の一部は人とのつながりだから。でも、同意するよ。私たちの心と体が機械にはできないことをする能力を失ったら、残るのは人間性だけだよね。

20代の頃、ケン・ウィルバーの本から得たアイデアが、私の悩みを解決する手助けになったことがある。全ての生命を尊重したいと思ったらどうなるのか?みんな平等なのか?彼は内的価値と外的価値の違いを説明してた。プランクトンはクジラほど複雑な生物じゃないけど、クジラはプランクトンがいないと生きられない。内的価値が高いものと外的価値が高いものがあって、すべてのものや人の価値を平坦にする必要はないんだ。LLMは私たちの集合的意識の言語コーパスから訓練されている。それは私たちの集合を反映していて、素晴らしいこと、美しいこと、そして恐ろしいことを言葉にすることができる。

ボットやLLMが登場するずっと前から、私は自分を律して(ほとんどの場合)メールの最初に「要点」と書いて、その後に「詳細」を続けるようにしてた。「要点: 明日の昼のランチにブラウニーを12個持ってきてくれる?詳細: デザートの計画がダメになった。君のブラウニーが一番だから、お願い…」この構造は私にとって解放的なんだ。必要なことを簡潔に、時にはぶっきらぼうにまとめられるし、相手が理由を知りたければ読み進めてくれるってわかってるからね。それに、自分が何を求めているのかも明確にできる。相手が自分よりもずっと上の立場だったら、たぶん適切じゃないけど。

「人間は価値がある。」それを言えばいいじゃん。自分も人間なんだから、そうすることを勧めるよ。条件をつける必要なんてない。これは、最近のベンチマークでの最先端モデルのスコアに依存しないしっかりした主張だよ。いや、実際にはそれに依存してるし、実用性にも依存してる。OPは、AIのせいで仕事がなくて市場価値ゼロの人にお金を払うつもりなんてないからね。だから「人間は(本質的に)価値がある」ってのは、ただの意味のないお世辞でしかなくて、その人間は価値を下げられてる。

市場価値で他人を判断する人がいない社会の方が絶対に良いよね。