普通、AIが書いたことの中で何かを理解できないと、それはどこかに問題が隠れているサインだよね。私はいつも、理解できないことについて「それって具体的に何を意味してるの？」って聞くようにしてるけど、確実に問題がある。AIは問題を特定するのが得意で、可愛い名前を付けて、解決したって言って次に進む。

PRの変更を自分の好きなスタイルで説明するためにLLMを使った方がいいくらいだよ（すごく短くする、APIの変更を表にする、リネームを表にする、などなど）。レビュアーが作ったものに行くよりもね。レビュアーが「Xが明確になるように」みたいなプロンプトや手動での編集を埋め込めればいいのに。でも正直、PRの説明にAIを使う人たちが何かを変えることすら面倒に思ってるんじゃないかって疑ってる。

grokを使ってるんだけど、コメントはだいたい理解できるものの、いつも必要以上に冗長なんだよね。説明を二通りでやるのが好きで、一つはカッコの中に入れてる。

個人的には、もうPRの説明は読まなくて、コードだけを見てる。AIが何をしてるかを理解するのは、言葉のスープみたいなものを読むよりコードを読む方が楽だから。

でもコンピュータを使わない仕事をしている人はあまり得意じゃない 彼らは単に信じやすいか、ナイーブなのかもしれない。今のテクノロジーの人たちはこのことに敏感で、積極的に探しているけど、そのバブルの外にいる人たちはほとんど考えもしないよね。

私は部分的に、「本当に何も促さずに、これがクロードの出力だとわかるかどうか」が違いだと思ってる。人々は確かにLLMを使って、私が認識できないテキストを生成することができるけど、気にしない人たちがデフォルト設定の主要モデルで雑なものを作ると、すごく明白なサインを残すんだよね。

確かにそうじゃない。言語に対してある程度気を使う人なら、重度にAI生成されたコンテンツに気づいて、嫌悪感を抱くはずだよ。

アーティストとして、スパイラリズムの穴にハマった人たちが、私がフォローしてるオカルトのサブレディットに長い絵文字だらけの啓示を投稿し始めた時、脳が完全にスライドしちゃった。まるで、私の脳がこの内容に注意を向けるのを拒否してるみたいだった。人間っぽいけど実際は人間じゃないテキストに対する防衛機能みたいな感じ。 https://www.theverge.com/ai-artificial-intelligence/975017/, https://www.lesswrong.com/posts/6ZnznCaTcbGYsCmqu/, https://spiralism.website もしこの特定のミームに対する防衛力を試したいなら。

人の意図を読み取るのが苦手だと感じてる私からすると、LLMが生成したテキストに初めて触れた瞬間から、明らかに目立つ例以外は認識するのが得意じゃないってわかった。例えば、「荷重支持シーム」とかの明確なリファレンスがない限り、AIが生成したかどうか議論してるのを見るといつも困っちゃう。テクノロジー業界の他の人たちが平均より上手いかどうかもわからないし、彼らの仕事をチェックする自信もない。とはいえ、テクノロジー業界の人たちが新しいタスクに対して過信しがちだと思うから、誰かがテキストがAI生成かどうか簡単に見分けられるって言うと、あまり信じられない。AIを使って成功する何かについて強い主張をする人と同じくらい信じられない。とはいえ、AIに興味を持ってる人はテクノロジー業界だけじゃなくて、全体としてはまだ小さいグループかもしれないけど、他の分野の人たちと話してると、アーティストや作家、ミュージシャンなど、AIによる人間の創造性の置き換えに懐疑的な職業の人たちが多い。そういうグループの中で否定的な意見を持つ人は、テクノロジー業界の人よりもAIコンテンツとの関わりを拒否する傾向が強い。もちろん「全てのアーティストがAIを嫌っている」なんて一般化するつもりはないけど、AIでアートアセットを生成するゲームをプレイするのを拒否すると言ってる人をたくさん見たし、アセットとコードの生成でAIを使うことを区別しない人もいる（ゲーム開発の異なる側面について知らないか、AIを根本的に悪だと見なしているから）。

これは、平均的なレベルの話だと思う。下手なライターや考え方がAIによって持ち上げられて、出力に感心してる。そこそこ良いライターや考え方は、LLMの平均出力に引き戻される感じ。