世界を動かす技術を、日本語で。

書くことは考えることです

概要

  • 科学論文執筆 は研究活動の本質的な一部
  • LLM(大規模言語モデル) による自動生成との違いと課題
  • 人間による執筆の 思考深化 ・創造性への影響
  • LLMの利用価値と 限界 についての考察
  • 執筆を通じた研究者自身の成長 の重要性

人間による科学論文執筆の価値

  • 科学論文執筆は 科学的方法 の一部であり、研究成果の伝達手段
  • 単なる結果報告ではなく、 新たな思考や発想 を引き出す手段
  • 執筆を通じて、 非線形で混沌とした思考 を整理し、意図的かつ構造的なものに変換
  • 研究データや分析結果を 物語化 し、主張や研究の影響力を明確化
  • 手書きによる執筆は 脳の広範な接続性 を促進し、学習や記憶にも良い影響
  • 執筆は単なる哲学的見解ではなく、 科学的根拠 に基づく重要性

LLM時代における人間執筆の意義

  • LLMは適切なプロンプトで 論文や査読レポートを短時間で自動生成 可能
  • LLMは 責任能力を持たない ため、著者として認められない
  • LLMによる全文執筆は 出版倫理上認められず、編集利用も明示が必要
  • 執筆が「思考」であるならば、LLM生成文書は 研究者自身の思考を反映しない 懸念
  • LLMの 幻覚(hallucination)現象 による誤情報や架空引用のリスク
  • LLM生成文書の 検証や編集の手間 が、むしろ執筆より時間や労力を要する場合も
  • LLMを科学データベースのみで訓練するアプローチの可能性

LLM活用の利点と限界

  • LLMは 可読性や文法の向上 に役立ち、特に英語非母語話者に有用
  • 多様な科学文献の検索・要約 や、箇条書き・アイデア出しを支援
  • ライターズブロックの克服、新たな説明や異分野間の関連発見にも貢献
  • しかし、執筆全体をLLMに委ねると 研究分野への省察や創造的思考の機会喪失
  • 論理構成力や物語化能力 など、学術執筆以外でも重要なスキルの獲得機会減少

参考文献

  • Van der Weel, F. R. R. & Van der Meer, A. L. H. 手書きの脳接続性向上に関する研究
  • Hutson, M. AIによる論文執筆支援の可能性
  • Naddaf, M. AIによる査読変革と懸念
  • Ji, Z. et al. LLMの幻覚現象に関する調査
  • Walters, W. H. & Wilder, E. I. ChatGPTによる引用の誤り
  • King, M. R. Bardによる著者多様性分析の事例

まとめ

  • 人間による科学論文執筆 は、単なる成果伝達以上の価値
  • LLMは 補助的ツール として活用可能だが、 創造性・思考深化の機会 は人間執筆でこそ得られる
  • 科学的発見や研究者の成長のためにも、 人間による執筆の重要性 を再認識

Hackerたちの意見

よく「書くことはすごく大事だ」と言う人がいるけど、彼らが言いたいのは「書くと自分が賢くなった気がする」ってことだと思う。彼らが感じているのは、頭の中でアイデアを何週間も組み立ててきて、やっとそれが一つにまとまったときに、より高いレベルでその情報をまとめる準備ができるってこと。それを、書くこと自体と勘違いしてるんだよね(もし一週間前に書こうとしたら、全然うまくいかなかったはず)。

一つだけ個人的な体験を話すと、書いているときに自分の考えや知識の矛盾やギャップに気づくことがあるんだ。それを見つけて解決するのが、「書くことは考えることだ」と言うときの根拠なんだよね。

これは少なくとも俺には当てはまらないな。例えば、アイデアや思考、知識を紙に書くことで具体的なものを作っているとする。その過程で、ギャップや間違いを見つけて、それを修正する機会を見つけるんだ。でも「修正」に限らず、新しい次元や視点も開けるんだよ。以前は意識の中になかったものもね。俺は書くことを考えるための道具だと思ってる。グループでブレインストーミングしたり、一般的なグループディスカッションも同じように役立つ。これらは自分の考えを補強して、新しい方向を開いたり、今までアクセスできなかったつながりを解き明かしてくれる。ポール・グレアムのエッセイ「Putting Ideas into Words」を読んでみて。あと、彼の他の書き物も参考にしてみて。ポール・ジスナーの「Writing to Learn」っていう素晴らしい本もあるよ。これをみんなに勧めたい。学びながら書くことは、教えることに似ていて、いわゆるファインマンテクニックの学びの重要なステップなんだ。

時々、自分の頭の中で思いついたことから、実際に完成したものを作れるか試してみるのが好きなんだ。例えば、数日前に、簡単な単語を逆さにするのが難しいことに気づいた。自分で試してみて、目を閉じて頭の中で単語を逆さにしてみて。これができない人もいれば、頭の中でできる人もいるけど、少なくとも紙やテキストエディタに外に出せば、めちゃくちゃ簡単だってことにはみんな同意するはず。

それには同意できません。このワークフローがどれほど一般的かはわかりませんが、私は異なる未統合のアイデアを全部書き出して、潜在的な構造が「明らかになる」まで並べ替えます。最終的には何かが統合されます。確かに、潜在的な構造は最初から存在していた(だからこそ書き出したわけですが)、でもそれが私にとって見えなかったり、最適ではなかったり、すべてのポイントを含んでいるわけではありません。反復が必要なこと自体が、書く行為が実際に統合を行っていることを証明しています。

物事を視覚的に配置することが認知的なサポートを提供し、より多くのことを考えるための労力を減らすことを考慮に入れる必要があります。だから、アイデアを書き出すことは、より広範な統合に達するのを助けるんですよ。

君の言う通りだと思う。追加すると、書かなくてもいい考えがたくさんあって、考えずに書くことも多いよね。鄧小平や他の偉人たちは、自分の考えのためにほとんど書かなかったし。逆に、私たちのような凡人は、何も考えずに反射的にコメントしちゃうことが多い。今の時代には合ってるよね。千の気を散らすものの中で、キーボードを打つことが、何かを掴んでいるような錯覚を与える。パソコンでのメモ取りは、まるで第二の脳を持っているかのような錯覚を与えるし、ネットでの叫びは、考えを共有しているように感じさせる。私は「書くことは考えること」よりも「考えが言葉に先行する」の方が好きだな。人間の小さな心にはこっちの方が合ってるけど、まだちゃんと学んでないんだ。

書き方によるね。アイデアを書き留めると、テキストとして表現した時に「内なる批評家」が活性化されることが多い。そうすると、ギャップや欠陥を見つけやすくなる。全ての分野に当てはまるわけじゃないけど、多くの場合そうだよ。

もし彼らが1週間前に書くことを試みていたら、組み立てていたアイデアのギャップにもっと早く気づいて、ギャップを早く埋めることができたはずだ。

考えることと書くことは密接に関連してる。考えることとChatGPTを使うことはそうじゃないけど。

https://www.media.mit.edu/projects/your-brain-on-chatgpt/ove...

基本的なメッセージには同意するけど、「書くことは考えること」ってのは状況的に正しいだけだと思う。昔はそうじゃなかった。書くことが安くなってから、書くことで考えることを学ぶようになったんだ。確かに、俺たちは生の思考を紙に書き直すことでアイデアを発展させるように脳を訓練してきたけど、それは一つの方法に過ぎない。18世紀後半から19世紀、20世紀初頭の本や日記をたくさん読んできたけど、トルストイやツヴァイク、ゲーテなどの作家たちは、まず頭の中で本を完成させてから、20~30日で書き上げていたのが明らかだ。昔は考えることと書くことは切り離されていた。それが事実なんだ。現代の安価な書き物技術、つまりペンと紙、そしてコンピュータのおかげで、その能力を失ってしまったんだよね。今のアプローチが間違っているとは言わないけど、考える唯一の方法が書くことだとは思わないでほしい。ソクラテスは、書くことが人々の記憶を破壊すると主張していた。彼が100%正しかったわけじゃないけど、今こうしているわけだし。LLMの使用に対する批判は、すごく皮肉だよね。書くこととのアナロジーは…自ずと出てくる。LLMと共に育つ子供たちは、ただ違う考え方をするようになるだろう。

あなたは「考えることは書くこと」という逆の意見に反応しているようですね。確かにそれは真実ではないと思います。書かなくても考えることはできますから。彼らが言いたいのは、書くことは単に完成した考えを吐き出すだけではないということです。その行為によって、自分の考えを批評したり、考えについてさらに考えたり、考えを簡略化したり広げたりする手助けになります。自分の状態を吐き出した後は、メタ的に考えるのが楽になりますよ。

作家たちは…最初に頭の中で本を完成させてから書く。中世の哲学の長くて緻密な文章を読んでいると、スクラッチペーパーが存在しなかった時代に彼らがどのように発展させたのか疑問に思います。 > LLMと共に育つ子供たちは、ただ違った考え方をするでしょう。人々はこういうことを軽々しく言っていますが、具体的に何が来るのでしょうか?今、私は大学生がLLMに頼ることをためらわない問題に悩まされています。無視しないようにしようとしているけど、彼らはただ考えることが少なくなっているだけのように感じます。

そうですね、LLMは「書くこと」とは全く異なります。なぜなら、彼らは創造的なエージェントだからです。だから、書くことは私の考えを何度も見直すことを可能にし、時間をかけて編集することができます。まるで、時間をかけて考えたり書いたり編集したりする自分が何人もいるような感じです。LLMは、他の誰かが思考や執筆、編集を一部または全部やってくれるようなものです。だから、私は考えることが少なくなります。自転車は自分のエネルギーをより遠くに運んでくれます。書くこと。車は全く異なるエネルギー源を使わせてくれます。LLM。どちらが私の体力にとって良いのでしょうか?ちなみに、トルストイや他の人たちがあの巨大な本を頭の中に保ちながら、1ヶ月で書き上げるというアイデアは面白いですね。何か証拠や同じことを考えている人はいますか?トルストイの場合、彼は伯爵でお金もあったでしょうからね。

書くことが安くなってから、私たちは書くことで考えることを学びました。確かに、私たちは生の思考を紙に編集することでアイデアを発展させるように脳を訓練してきましたが、それは単なる一つの方法に過ぎません。ここにはいくつかの誤解があると思います。まず、この記事は「考えることは書くことだ」とは主張していませんし、特に「書かないと考えられない」とも言っていません。彼らはただ、書くことがより高品質な思考を支え、促進することを説明しています。次に、紙は書くための唯一の媒体ではありません。そして、書くことは思考を支え、改善するための唯一の持続的なコミュニケーションの形ではありません。 > 思考は以前は書くことから切り離されていました。今もそうです。

似ているけど異なる理論として、ラリー・マクエナニーの仕事が面白いかもしれません。書くことには二つのクラスがあります:思考のための書き方とコミュニケーションのための書き方です。ラリーはここで水平と垂直の空間的メタファーを使っています。思考のための書き方は安い紙(やソクラテス)よりも前から存在していますが、主にプライベートな行為です。コミュニケーションのための書き方は、フィクションやジャーナリズムを含む広い範囲をカバーしています。ラリーは、問題について考えるために書くことと、その答えを論文で伝えることのギャップを埋めるのに苦労している論文作成者を対象にしたクラスを教えています。

紙が安くなる前は、ワックスや木の板が一時的な書き込みに使われていました。 > 私は18世紀後半、19世紀、20世紀初頭の本や日記をたくさん読みましたが、トルストイやツヴァイク、ゲーテなどの作家たちが最初に頭の中で本を完成させてから、20〜30日で表紙から表紙まで書いたことは明らかです。作家が頭の中で全体の本を構成してから書き下ろすことが一般的だったとは真剣に疑います。特別な記憶力を持つ作家がこれを行ったかもしれませんが、トルストイの頭から完全に形成された状態で出てきたわけではないというテキスト証拠に基づいた『戦争と平和』の書き方についての本があります。

書くこととは切り離された思考があった。それは事実だ。安価な書き物技術、つまりペンと紙、そしてコンピュータのおかげで、現代ではその能力を失ってしまった。今のアプローチが間違っているとは言わないけど、思考するためには書くしかないと思わないでほしい。もっと良いフレームで考えたいんだけど、自分の言語と文化を学ぶのは生涯にわたるプロセスなんだ。大きな段階、つまり大人の段階では、自分の言語で書くことを学ぶことが含まれる(言葉を選ぶ以上のことが書くことにはあるって言いたいんだよね;特に思考としての言語の文脈では)。実際、現代の多くの人はこの大きな段階から抜け出せていない。書くこと=思考から進めない。でも、言語そのものを思考やアイデアから区別する次の段階を学ぶ人もいる(あるアイデアは知られている?理解されている?認識されている??でもそのアイデアは「自己」や他の複雑な概念なんだ)。だから、現代の唯一の特質として認めるのは、基礎的な思考と書くことだけを学ぶ人が多くて、書くことが思考の二次的なものになる「高度な」言語思考を学ぶ人が少ないってこと。最後に、このアイデアは意味論のブログや本を読んで学んだんだ。

作家が本を頭の中で全部作ってから書くかどうかはわからないけど、実際、小説や日記、その他の「書かれた」作品を秘書やタイプライター、テープレコーダーに口述するのは非常に一般的だったんだ。今はそれが珍しいように思えるけど、日記を読み返してみると、物理的に手書きするよりも口述する方がよくあった印象がある。

確かにそうだけど、別の視点から言いたいな。特に抽象的な思考は書くことで大いに助けられるのは明らかだよね。書かれたテキストが思考のキャッシュみたいな役割を果たすから。まるでLLMのコンテキストウィンドウみたいに、たくさんのコンパクトで圧縮された「トークン」(言葉)で満たすことができる。抽象的な思考は「抽象的」だから、頭の中で視覚化できないし、直感的な想像力(カントの「アンスシャウング」)の恩恵を受けられない。だから、たくさんの抽象的な思考を作業記憶の中で扱うのは難しい。作業記憶をCPUのレジスタのように考えることもできて、それは非常に少数に制限されている。一方で、CPUキャッシュやRAMの内容は、私たちが書き留めたものに対応する。私たちの「アンスシャウング」(視覚的想像力)は、複雑な視聴覚コンテンツ、つまり具体的な思考を処理するのが得意なGPUの固定機能ハードウェアみたいなもので、他の何か(抽象的な思考)には役に立たないんだ。

話すことも考えることなんだ。だから、自由な言論は第一修正なんだよ。誰かが自由に話す権利を否定するのは、あなたの考えをコントロールしているってこと。書くことは、考えるためのスーパーパワーみたいなもんだ。ハリー・ポッターに出てくる「ペンシーブ」を使うような感じで、ハリーとダンブルドアが記憶のかけらを取り出して鏡の池で再生するシーンがあるけど、書くことでアイデアに対して複数の分析レベルで注意を向けることができるんだ。それも、頭の中で手動でアイデアを保持するよりもずっと少ない労力でね。

https://voicebraindump.com

話すことも思考なんだ。だから、自由な言論が第一修正条項なんだ。誰かがあなたの自由に話す権利を否定することは、あなたの思考をコントロールしていることになる。素晴らしいポッドキャスト(おそらくRadiolab)で、この第一修正条項の意味に関する考え方がかなり最近のもので(1910年代から1920年代)、「自由な言論」の意味がそれ以前とは根本的に異なることが語られている。

付け加えると、読むことも考えることなんだ(理想的にはね)。そして、読むことと書くことが考えることだから、習慣としてAIモデルにそれを委ねるべきじゃない。特に、学生の成長過程では、読書や執筆のモードで考える方法を学ぶ必要があるんだ。反省したり、メモを取ったりね。ポケット計算機の使い方と比べてみて。しっかりした基礎があれば、電子計算機を使うのは問題ないけど、まずは頭の中で計算する方法やペンと紙を使う方法を学ぶべきなんだ。そうしないと、計算を入力する際にタイプミスがあったかどうかを確認できないからね。例えば、結果が100ずれているのは、小数点をしっかり押さなかったからかもしれない。若い人たちがその段階に達する前にLLMに頼ってしまうことがすごく心配なんだ。

子どもたちは未来に生きるようなもんだよね。進化したAIがある世界で、子どもたちを信じてあげるべきだと思う。彼らも変化の激しいテクノロジーの世界をうまくやっていくはず。一方で、インターネット世代の理想はどんどん消えつつある。文化やメディアの豊かさのデジタルドリームが、情報戦争で飽和状態になって、冗長なコンテンツの悪夢に変わりつつある。

LLM(大規模言語モデル)が思考に与える影響って、計算機と同じだと思う。ある種の思考をショートカットして、別の思考を開放するんだ。LLMを使うことで、むしろ思考が増えた気がする。大量のノイズの中から1%のシグナルを見つけたり、抽象的なアイデアのために正確な表現を考えたり、専門外の分野を結びつけたりするのが楽になるから。もちろん、間違いを犯すこともあるけど、LLMがなければもっと遅いペースで同じ間違いをしてたと思う。正確に言うと、リサーチをしなかったり、自分の専門外の分野に手を出さなかったりして、思考が狭くなってたはず。LLMを禁止すれば厳密な思考が促進されるって考えるのは間違い。計算機を禁止しても、みんなが数学が得意になるわけじゃないからね。でも、計算機を使うことで数学が好きな人は、もっと深いところまで掘り下げられるようになるんだ。

実際に物事を書き留めるときには、もっと深いことが起こっているんだ。特にエンジニアリングではこれが重要なんだ。だから、「RFC」が多くのテック企業で普及しているんだよ。書く側にとっても、レビューをする側にとっても同じくらい役に立つことが多い。

書きの発明と比べてみて:> 「タモスのもとにトトが来て、自分の発明を見せ、他のエジプト人もそれを利用できるようにしたいと願った。彼はそれらを列挙し、タモスはそれぞれの使い道について尋ね、いくつかを称賛し、他のものを非難した。タモスがトトに様々な技術を称賛したり非難したりするのを繰り返すには長い時間がかかるだろう。しかし、文字に関しては、トトは言った。これがエジプト人を賢くし、記憶力を向上させるだろう。これは記憶と知恵の特効薬だ。タモスは答えた:おお、非常に巧妙なトトよ、技術の親や発明者が、自分の発明が利用者にとって有用か無用かを最もよく判断できるわけではない。今回の件では、文字の父である君が、自分の子供に対する父性愛から、彼らに持ち得ない特性を与えようとしている。この発見は、学ぶ者の魂に忘却を生み出すだろう。彼らは自分の記憶を使わず、外部の書かれた文字に頼るようになるからだ。」 -- プラトン『パイドロス』この会話は2000年以上続いているんだよね。タモスが正しいと思うけど、今や私たちは読むことと書くことを全てに使っている現実は変わらないね。

読むことは他人の考えを考えること。書くことは自分の考えを考えること。大きな違いがあって、それが多くの人にとって書くことが苦痛な理由なんだ。だからこそ、書くことは非常に重要なんだよね。追記:教えることも本当に重要だよ。考えを結晶化するのは非常に価値があり、難しいことなんだ。

いや、読書は他の誰かが与えた文脈で自分の心のLLMを満たしているだけだよ。自分の思考は、読んだ後に起こることなんだ。

LLMがどうやって科学論文を書き始めることができるのか、正直不思議だよね。例えば、ウェスタンブロットの結果や、関連する遺伝子のために設計されたトランスジェニックマウスのデータ、さらには単一細胞のシーケンシングデータを持っているとする。君の原稿は新しいタンパク質の同定、マウスの遺伝子編集、そしてマウスでどの経路が影響を受けるかを示している。LLMにはどんな素材を与えるべきなんだろう?LLMはこれらの新しい発見の中で、どれが意味のあるものかをどうやって「知る」んだろう?私の知る限り、LLMは君が指示したことを言い換えること以外はできないと思う。これは、ワープロが普及する前の時代に戻るようなもので、研究者は原稿をタイピストに口述したり、手書きの紙を渡したりしていた。科学論文を書く上で本当に難しいのは、言葉を「紙に書く」ことではなく、何を言うかを決めることなんだよね。

LLMはどの新しい発見が意味のあるものかをどうやって「知る」んだろう? arXivの全てを学習しているから、平均的な研究者よりも関連する公的な論文を把握している可能性が高いよ。

LLMは最初に計画やアウトラインを作ることもできるから、それも一種の執筆だよね。

ポール・グレアムの言葉を引用すると、「書くことは考えることだ。上手に書くためには、明確に考える必要があるけど、明確に考えるのは難しい。実際、書くことでしかできない考え方もある。書かずに考えているなら、実際には考えていると思い込んでいるだけだ。だから、書く人と書かない人に分かれた世界は、思ったより危険だ。思考する人としない人の世界になるだろう。」

私の執筆経験では、しばしば無意識から湧き出るものをただメモするだけのことが多い。最も大変なのは、ある特定のつながりや感情、言葉を保持することだね(無意識は私の作業記憶が追いきれないほど生成するから)。時々、その感情やつながりを、他の誰かや自分にとって意味があると思う言葉に合わせるのに苦労することもある。これが「書くことは考えること」って部分だと思うけど、むしろ「効果的で注意深い(自己)コミュニケーションが考えること」って感じかな。

前のマネージャー(兼編集者)が言ってたのは、書くことは発見だってこと。それはほぼ同じことだと思う。私も同意するよ。

もし書くことが考えることなら、どんな言語が最良の思考を生むかもっと考えるべきかもね。それは存在するのかな?どうやってそれを作り出すんだろう?もし思考が言語に依存するなら、人間の言語を与えるのではなく、人工知能のために新しい言語を作るべきかもしれない。