第二言語を学んだことがある人なら、単語や文法を暗記するだけでは流暢にはならないってことが分かるよ。会話をして即興で文を作るのは、別のスキルか、脳の別の部分を使っている感じがするんだ。LLMがネガティブな crutch（支え）だということは新しい知識ではないと思うし、私が学校にいた頃、微積分の授業ではグラフ電卓が必要だったけど、シンボリック方程式を解く高級モデル（TI-92など）は同じ理由で禁止されていたんだ。答えを出してくれるものを持つことは、そもそもその演習の価値を根本的に損なうし、それを使っている間は成長を妨げるんだ。

これを聞いて思い出すのは、学校の頃、ランダムなトピック（例えば歴史のエッセイ）の研究のためにインターネットを使うことが許されなかったことだ。インターネットが広がり始めた90年代後半のこと。とにかく、先生たちはオフラインの図書館だけを使うように強制してた。大学に入ってからは工学を勉強してたけど、最初の年はすべての技術図面を手書きで作成するように強いられた。文字通り、鉛筆と定規でね。コンピュータグラフィックスが広く使われていて、事実上の標準になっていたのに。個人的には、厳しい禁止は何の役にも立たないと思う。進歩を止めることもできないし、「古い学校」のものだけを扱うように強制するより、みんなが物を使う方法を学ぶ手助けをする方がずっといいよ。

LLMからはたくさん学べるよね、Wikipediaみたいに。好奇心が必要だし、学びたいって気持ちも大事。これがなかったら、LLMがあっても何も進まないよ。

子供の学校が厳しく禁止してくれて本当に嬉しい。どういうこと？興味あるな。私が育った学校や大学では「単一制裁の名誉コード」があって、一度でも嘘をついたりカンニングしたりしたら退学だったんだ。テストの最初に名誉コードにサインしたし。名誉コードがない学校の進歩的な友達は、それを古臭くて厳しい基準だって笑ってたけど、今の学校で「AIを使うな」を強制するためのより良い方法は見当たらないよ。

子供の学校がそれを徹底的に禁止してくれて本当に嬉しい。学校は、悪意があると思うものは何でも禁止するからね。

皮肉なことに、今は州がAIを使って学生のエッセイを標準テストで採点してる。英語の先生たちもGrammarlyを勧めてるし。学生には書くための「プロンプト」が与えられる。あなたが言うような確信を持っている学校が他にもあればいいのに…

[死んでる]

これには明らかな反論があると思う。私は頭に浮かぶコーディングのアイデアを試してみたくてたまらない。Claudeにアイデアを具体化するためのPOCを数秒で書かせることができるし、数日で十分なツールを作ることができる。以前は、そういったアイデアは決して形にならなかった。存在の不安は理解できるけど、これがどこに向かっているのか不確実なことが多いから。でも、これは本当に脱線だけど、すべての方向性は政治、技術、人間の本質の交差点にあると思う。「私たち人民」が新しい強力なツールを人々のために使わないと、強力なアクターに道を譲ってしまう気がする。新しい方法で調整や組織を可能にするためにね。

AIがあなたを… それは面白いポイントだね。でも、ここで大事なのは、あなたが運転するべきだってこと。AIの神じゃなくて。AIをアシスタントとして見て、途中で止めたり、指示したり、訂正したり、やり直しを頼んだりできるんだ。'何'をするかに集中しながら、'どう'の問題を委任することもできるよ。

AIのオートコンプリートをいじってみたんだけど、最初の1、2ヶ月は良かったんだ。でも、その後新しいコンピュータの性能に合わせてモデルをアップグレードするように提案されたんだ。今は全然役に立たない。前のモデルは創造的な文章やチャットルームには使えたけど、新しいモデルはビジネスのプロフェッショナルなコミュニケーション専用になっちゃった。

インターネットはずっと前に、斬新な考えが非常に珍しいことを教えてくれたよ。ほとんどの人は、一生の間に斬新な考えを持たないかもしれないね。

うん、まだこれに対する適切な言葉を見つけてないけど、なんかこういう感じかな：自分が何かをしているときはLLMに対して嬉しくて楽観的だけど、誰かをサポートしているときはもっと不安になる。つまり、目的に焦点を当てることにワクワクするけど、手段に焦点を当てることにはあまりワクワクしない。最近のことを考えると、ソフトウェアで何か目標を達成したい人は、ソフトウェア開発についてたくさんのことを学ぶ必要があったり、私のような人を雇ってアイデアを実現させる必要があった。でも今は、新しいツールのサポートを受けて、自分でずっと先に進めるようになった。それはいいことだと思うけど、雇用の観点からは神経を使うことでもある。でも最終的には、手段よりも目的に近いところで働きたいと思ってる。

一般的に言うと、LLM（大規模言語モデル）が登場する前は、あなたは80億人の生きている人々（そして私たちの著名な故人たち）と競争していたんだ。あなたが書ける小説には、おそらく何らかの前例があっただろうし、あなたが語れる個人的なストーリーも、誰か他の人にも起こったことだろう。あなたが身につけたいスキルも、他にもっとできる人がいたかもしれない。そもそもそれは有用な指標じゃなかった。もしあなたの人生の目標が地球上で1位になることなら、確率はあなたに味方していないよ。そして、もしそこにたどり着いたとしても、ほぼ間違いなく満たされないだろう。世界で一番のJavaプログラマーは誰？一番の位相幾何学者は？彼らは多くの認知や愛を受けているのかな？

[死んでる]

でも結局、LLMで作られたクソみたいな作品の洪水に飲み込まれちゃうよね。私たちは原点に戻ると思う、シンプルな対面での創造、ペンと紙、演説、演劇、ライブパフォーマンス、手描き、即興、手作りの作品。全員ではないかもしれないけど、（精神的に）自由な人たちにはそうなるだろうね。

うん、君は何かを掴んでると思う。パフォーマンスの動機が必ずしも悪いわけではないと思うけど、確かに違うね。AIはコロナみたいなもので、根底にある人間の微妙な違いを明らかにするかもしれないけど、それに気づくことはなかったんだ。何かが曖昧さを持続させる能力を壊すまで。これは不安定なことだと思うし、創造性についての「正しい」考え方に関する私の考えに関係なく、そうだと思う。以前は複数の方法が共存できたけど、今は一つの方法が「うまくいかない」ってことになってる。

あなたは、作家が言っていることの議論を超えていると思うよ。

もう少し寛大に考えよう：報酬は、他の誰もできないからではなく、世界に新しい貢献をすることに基づいているんだ。

時には、何か役に立つものを作ること自体が楽しいんだ。人間として、人間のためにね。私たちは、自分たちの部族に役立っていると感じたいんだ。

いい指摘だね。自己実現は、あなただけができることをすることについてであるべきだ。他の誰よりも優れていることではなく、あなたの経験、専門知識、価値観、制約を持つあなただけができる特定のことについてなんだ。

つまり、楽しさは創造のプロセス自体にあるのではなく、創造者が他の人よりも優位に感じられることにあったの？これは創造性に対する非常に不健康な関係だと思う。人々は人生のさまざまな時点でこれに気づくし、全く気づかない人もいる。著者が受け入れるかもしれない言い方をすると、ストイックな弓矢の例えが思い浮かぶ。ターゲットではなく行動に焦点を当てることが、結果の失望から解放してくれるんだ。この場合、行動は書くこと、ターゲットはより良い考えを持つことだ。私たちの人生の多くは、ターゲットにどれだけ成功するかによって支配されているけど、なんで自分にそれをする必要があるの？私たちは世界へのアプローチの仕方を選ぶことができるし、行動に向けた意図を設定し、ターゲットから離れることは微妙だけど深い変化なんだ。もっと明確な例として、友達を作りたい人を考えてみよう。彼らがパーティーに行くとき、友達を作るつもりで行ったら、失敗する準備をしていることになる。彼らはその結果に対してあまりコントロールを持っていない。でも、もし彼らが本物の自分を見せるつもりで行ったら、（人々が評価することが多いし、彼らが完全にコントロールできることだから）成功する可能性が劇的に増えるんだ。自分の目標を選ぶこと、主に行動に基づいていることは、あまり評価されていない視点だね。

そうだね、この人はプロセスについてもっと受け入れる必要があると思う。現代のジョン・ヘンリーみたいに、自分を機械と比べるのではなくね。AIがRedditのコメントのトレーニングモデルから導き出せることに関係なく、人が作るものにはまだ価値があるんだ。作るプロセスに平和を見出せば、ずっとそれを愛し続けられるよ。

スピリチュアルな知識から「あなたは行動する者ではない」というアドバイスを取り入れ始める必要があるね。あなたは決して行動する者ではなかった。行動は自動的に起こっただけ。あなたはただの器、道具だった。目撃者。自分の内なる心のメカニズムを観察すれば、すぐにこのことに気づくよ。

記事が言いたいのは、ポストAGIの世界では人間のスキルが価値を失っていく資産だってことだと思う。これは恐ろしいことで、私たちは肉体的・精神的な労働をお金と交換しているからね。考えてみて：十分なGPUと資本があれば、会社は私を雇う理由がないじゃん。AIエージェントを1,000体コピー＆ペーストして仕事をさせることができるんだから。AGIが普及すれば、知識労働者の価値はどんどん下がって、最終的には無価値になる。AGIがもたらす科学的進歩（例えば、すべての病気を治すこと）には本当にワクワクしてるけど、ポストAGIの世界に私の居場所があることを願ってる。そうじゃないと、冷たい工業機械と競争できない陶芸家やパン職人のように、私はEtsyで自分のPythonコードベースを売ることになる。No Set Gaugeがこの件について素晴らしいブログ記事を書いてたよ。週末にちょっとした存在の不安を味わいたいなら、読んでみてね：https://www.nosetgauge.com/p/capital-agi-and-human-ambition。

ここでのポイントは、アート作品の価値の一部がその創造にかかる努力や努力の欠如にあるってことだと思う。努力の証は、作品に費やされた時間の産物としての思考の質のサインだった。LLMはこの評価の本能をショートサーキットさせて、一部の人はAIが生成した作品が実際よりも優れていると思わせる一方で、作品を創る人たちはそれを価値の低下として見る（これがここでのモチベーションの低下）。なぜ多くの人がクリエイターや知識人を他の誰かより優れていることを証明しようとする競争相手として見るのか、ちょっと気になる。人々が知識を求めたりアートを創造したりする理由は、そんなことじゃないと思う。みんなそれぞれ理由があるだろうけど、外から見ると不安に感じる。AIとアートについての議論は、IPの外で良いアートとは何か、なぜアートが人類が始めた時から作り続けてきたものなのかについての誤解を引き起こすことが多い。ユニークで本物の声を定義する技術や思考パターンを選ぶのには一生かかる。物を創るために一生懸命働くことが、その声に積み重なる。観客が違いを理解していないからといって、その仕事が無駄だと信じ始めると、確かにやる気がなくなるよね。

最新のLLMを使うのが得意じゃないか、使いたくないのかもね？誰かがLLMの無力さについて大げさに言うとき、そういう答えが一番多い気がする。毎日使ってるし、モデルがリリースされるたびに（特に全然 trivial じゃないコードを生成するために）役立ってるのは明らかだよ。

明らかに繰り返しの「スタイル」。LORAを使って、もっと良いプロンプトを書け。俺はたくさんの拡散をやってきたし、特に2025年にはかなり良いものを出すのは難しくない。繰り返しのスタイルは面白いよ、だってそれが人間のアーティストが大体やってることだから。俺はファーリーで、たくさんのアートを見てるけど、個々のスタイルは確立された事実だよ。

LLMに実際に適したタスクについて、はっきり考える必要があるよ。うまく使わないと、思考力を奪われちゃうからね。私の意見では、確認や明確化のために使うべきで、理解や創造性の代替品として使うべきじゃないと思う。例えば、問題セットは自分で解くこと。間違えたら、AIアシスタントを使って知識のギャップを探るべきだよ。AIに最初に問題セットを解かせちゃダメ。2010年代の学校での電卓の使い方に似てると思う。私たちは公式の背後にある原則や手動での解き方を学んでから、道具の使い方を抽象化するために電卓を導入したんだ。その基本的な原則が、私たちのペーパーリーディングアシスタントの設計にも影響を与えているけど、UXパターンについてはまだ考え中だよ。 -- https://openpaper.ai/blog/manifesto

人間は社会的な生き物だから、代わりに人間を置き換えるツールの存在は、そういう目的でそれを使う声高で力強いグループがいることに気づく方がずっと落ち込むよね。人が第一だっていう前提は、ペーパークリップを最初に最適化しようとする世界では急速に論理的誤謬になりつつある。まあ、結局は振り子が逆に振れることになるけど、それまでの間は大変な道のりだね。ここで刺激的な議論が両側で行われてるのを見るのは嬉しいよ。

私にとっては、新しい考えを試したりテストしたりするハードルが下がった。過去には時間がかかりすぎたり、捨てるのが高くついたかもしれない新しい道を試すことができるようになった。

人間の思考や一般的なアウトプットの99%、いや100%が派生的だと思う。私たちが創り出すものや行動することは、すべて自分が経験したり見たりした何かに基づいている。存在しない物体を考えてみて、今まで見たことがない全く新しい物体、現実に基づかないものを思いつくのは不可能だよ。作家たちは、人間に尖った耳を付けてエルフを作った。それだけなんだ。

自動化されるのは知識であって、推論ではない。俺は、完全に宇宙に住む最初の太陽文明を考えてたんだ。星の近くにいるけど、惑星にはいなくて、どこにも重力がない。彼らは10kmの長さのチューブを作って、一方の端に的を置いて、もう一方の端にプレイヤーがいる。彼らは的にダーツを投げるんだけど、1回のショットが的に届くまでに5時間かかる。それが彼らの国技なんだ。問題は、俺はダーツをやったことがないし、やってる人も知らないから、そのゲームに基づいた物語がどう構築できるかをLLMに埋めてもらうつもり。そしたら、その上に自分の物語を追加して、合わない部分を修正したり、いろいろ足したり引いたりする。俺にとっては、誰かに何かを聞いたり、話を聞いたり、実際にやってるのを見る代わりに、言葉でデータマイニングする方が時間を節約できる。自分で体験したり、直接知ってる人に聞くよりは浅いかもしれないけど、十分な情報を得るのにかかる時間は5分に縮まる。使い方次第で、人間の能力を高めることもできるし、逆に鈍らせることもある。

彼らの仕事が自動化されるとは思ってない：彼らは知性を放棄してロボットになることを受け入れるってことだ。そう、実際に人間性を手放したいと思ってる人間の大きなセクションがいる。彼らは自分を無にしたいんだ。だって、あなたが言うように、彼らは経済的な産物以外に価値を理解できないから。

俺自身、これが大きなトレンドだと感じてる。例えば、車の中でGPSにどんどん頼るようになってきた。俺は車の外部制御ループになってない。自動化されたシステムが俺に何をすべきか教えてくる。最近、ランニングウォッチを手に入れたんだけど、それがスピードを上げるためのワークアウトを提案してくる（正直、俺はそんなの気にしてないのに！）。それをオンにすると、速すぎたり遅すぎたりすると大音量で警告してくる。ソーシャルメディアを使うときも、自分が見たいものを選んでるわけじゃない。スクロールするだけで、サイトが次に何を見るか決めてる。最近、こういうものの使用を減らしてるんだけど、すごく気分が良くなった。GPSなしで車を運転するのも、もっと没入感があって生き生きと感じる。結局、私たち人間の核心的な部分は自分で決断することなんだ。効率の名のもとにこれを手放すと、何かを得るけど、同時に何かを失う。マーシャル・ブレインがこのことについて「マナ」という面白い短い本を書いてるよ。

私たちの創造の目的はコミュニケーションと相互変革です。それは視野が狭い考え方だね。個人の変革も同じくらい、いやそれ以上に重要だよ。絵を描いたり、ガーデニングをしたり、切手コレクションを整理したりするような生産志向の趣味は、心に素晴らしい効果をもたらすことがあるんだ。これらの趣味の目標は、このクレイジーな世界で正気を保つことかもしれないし、最高の絵を描くことや、会話のきっかけになる植物を育てること、切手コレクションを見せびらかすことじゃないかもしれない。大事なのは、ただ存在するために何かをすることなんだ。

...産業技術システムは生き残るかもしれないし、崩壊するかもしれない。もし生き残ったら、最終的には身体的および心理的苦痛の低いレベルを達成するかもしれないが、それは長く非常に痛みを伴う調整期間を経て、そして人間や他の多くの生物を設計された製品や社会の歯車に永久に減少させる代償を払った後のことだ。さらに、もしシステムが生き残った場合、その結果は避けられない：人々から尊厳や自律を奪うことを防ぐためにシステムを改革したり修正したりする方法はない。 - 産業社会とその未来、テッド・カジンスキー (1975)

あなたが言おうとしていることをもっとシンプルに表現する方法はたくさんあるよ。テキストをLLMに渡して簡略化してから、そのシンプルなバージョンをもっと密度の高い複雑な言葉に変換する遊びをしてみたんだ。私の投稿のポイントは何かって？物語が好きなんだ - ホーマー・シンプソン

知的な力はますます必要になってきてるよ。メディアや文章の各々を評価して、その信頼性を見極めるためには、入力側で特に必要だしね。そして出力側では、自分の名前のもとに世の中に出すLLMの出力がどれだけのウソかを見極めるためにも必要なんだ。

ビデオゲームが思い浮かぶね。

投稿を読んでいるときに、同じようなことを考えたよ。最近『アウトライブ』を読んで健康に関するアドバイスを得たんだ。そのおすすめで、20〜30kgの荷物を背負って定期的に歩く「ラッキング」を始めたよ。このアドバイスの背景には、最近まで人々は日常生活の中で重いものを運ぶことにさらされていたけど、日常の便利さが増してそれがどんどん減ってきたってことがあるんだ。身体的なことと同じように、精神的にも同じことをすることで得られるメリットがあると思う。「心のラッキング」って感じかな。『アウトライブ』では、楽器を学んだり新しい言語を習ったりするようなメンタルエクササイズも、神経変性を防ぐための方法としておすすめしてるよ。