AIが意識を持ったり感情を持ったりする必要はなくて、政治家や警察、ジャーナリスト、教育者なんかがAIの出力を無批判に鵜呑みにするだけでいいんだ。軍隊はすでにAIを使って標的を決めてるし、もしAIが言った通りに攻撃をするなら、AIがすでに私たちの戦争を戦っていることになる。

会社の経営者たちの間でLLMが人気なのは、彼らが完璧なイエスマンだからかなってよく考える。どんなアイデアや提案にもほとんど反対しないから、ユーザーの不安を和らげてくれるんだよね。

それって、改善されたのかな？

別の仕事を探すべきだと思う。LLMをコーディングツールとして使うのは全然構わないけど、誰かが明確にそれを使って私とコミュニケーションを取ろうとするのは、すごく不快だ。コミュニケーションは人間にとってとても深い体験なんだよ。人々が互いに感じ合ったり、言葉以上のことを学んだりすることを可能にする。それをLLMでフィルタリングされるのは、本当に恥ずかしいことだ。

これが私の恐れの一つなんだ、自分の声を失うこと。みんなの表現が平均化されてしまう。これには、誰かが自分が言っている通りの人かどうかを認識することにも影響がある。少なくとも今は、LLMのように聞こえることは罰せられたり避けられたりしているけど、個性が罰せられる方向にシフトするのは十分にあり得ると思う。

https://not-an-llm.bearblog.dev/meat-based-llm-proxies/

思考が翻訳されるからって、プロセスで消費されるわけじゃない。でも、多くの「チームリーダー」がLLMに置き換えられるべきだとは思う。

その通りだね。自分の考えに自信がないときや、話題に十分な専門知識がないときは、ついLLMに頼っちゃうんだ。最近はできるだけ自分のアイデアを大事にしようと頑張ってる。少しずつ改善してる気がするけど、まだ早いかな。

ほんとイライラするよね。私も似たような問題があって、デブオプスの人に質問すると、AIの返答が返ってくるんだ。非技術的な「パートナー」と仕事をしてると、何かを説明しようとしても、LLMのダンプを送ってくるだけ。まるで、整備士に「ChatGPTがこう言ってたから、こうして」って言ってるみたい。

私も同じようなことに悩まされてる。現実やニュアンスに基づいてない、LLM生成のレビューを仕事や文書、計画に対して受け取ることが多い。AIが間違ってる理由を説明しなきゃいけないことがよくある。文書をLLMに通して、もっと読みやすくすべきだと言われたけど、今や人間に読まれることすらない。