ハクソク

世界を動かす技術を、日本語で。

クロードのサイクル [pdf]

2026年3月3日原文(www-cs-faculty.stanford.edu)

概要

  • 入力された内容は PDFファイルのバイナリデータ であり、テキスト情報ではありません。
  • このままでは 内容の確認や翻訳は不可能 です。
  • PDFファイルの中身を知りたい場合は、 テキスト抽出 が必要です。
  • テキストデータとして再度 貼り付け直す ことを推奨します。
  • 必要に応じて PDFからテキストを抽出する方法 も案内可能です。

PDFバイナリデータ入力時の注意

  • 入力された情報は %PDF-1.4 から始まるPDFファイルの中身
  • このままでは 人間が読めるテキスト情報 は含まれていない
  • PDFファイルには テキスト・画像・レイアウト情報 などがバイナリ形式で格納
  • テキスト化したい場合は PDFリーダーや専用ツール で抽出が必要
  • 抽出したテキスト を貼り付けていただければ、内容の要約や翻訳が可能

PDFからテキストを抽出する方法

  • Adobe Acrobat などのPDFリーダーで「テキストをコピー」機能を利用
  • Google Drive にアップロード後、「Google ドキュメントで開く」で自動抽出
  • オンラインOCRサービス （例：Smallpdf, iLovePDF, PDF24等）で変換
  • コマンドラインツール （例：pdftotext, Poppler-utilsなど）でテキスト化
  • 抽出したテキストを 再度貼り付け直す ことで、内容の要約・翻訳が可能

次のステップ案内

  • PDFファイルのテキスト化 を先に実施
  • テキストが抽出できたら その内容を貼り付けてください
  • 必要であれば、 具体的な抽出手順やおすすめツール も案内可能
  • テキスト内容があれば、 要約・翻訳・解説 を迅速に提供
  • 不明点があれば、 どのような内容か や 希望する作業 をお伝えください

Hackerたちの意見

確率分布のRLスケーリングに適した問題の領域について考えるのは面白いね。前は、速い方法がなかったから（人間の認知に頼るしかなかった）問題を試すのが難しかったけど、今はそのパターンを確率分布に組み込んで、正しい「召喚呪文」を使えば誰でもアクセスできるようになった。専門家は、モデルを正しい条件付き分布に強制する方法を知っているから、こういうシステムをもっと生産的に使うだろうね。このことから浮かぶ疑問は、これらのモデルが科学の拡大する境界にどうやって追いつくのかってこと。もしRLが専門家の行動をモデルに取り入れるために必要なら、専門家がその境界をもっと早く押し広げるとどうなるの？2030年には、AnthropicはClaudeを「最新の状態」に保つために（a）固定モデルでの継続的学習（コンテキストウィンドウの拡大？難しそう）か（b）継続的なトレーニング（高コスト）なしでどうするつもりなんだろう。すごい時代だね。

└

ちょっと関連してるけど、オープンウェイトモデルって基本的にタイムカプセルみたいなもんだよね。このモデルは知識のカットオフポイントがあって、その時代に永遠に生き続ける感じ。

└

データ共有契約が許せば、今日の推論結果が明日のトレーニングデータになるかもね。モデルはすでに有望な思考の連鎖をラベリングするのが得意だと思うし。「無料」の推論を研究者に提供する代わりに、その推論のトレースが将来のトレーニングデータとして使われるっていう条件なら、全然あり得ると思う。

└

LORAを使えるよ。

└

専門家は自然にこれらのシステムをより生産的に使うだろう。なぜなら、彼らはモデルを正しい条件付き分布に強制する方法を知っているからだ。それが正しい技術を引き出すんだ。結局のところ、「どんな質問をするべきかを知っている」ってことに帰結する。

└

2030年、AnthropicはどのようにClaudeを「最新の状態」に保つつもりなのか。2030年には、AnthropicはClaudeが自分自身の進捗を「最新の状態」に保つことを期待している。ここでは半分冗談だよ。

└

2030年、AnthropicはどのようにClaudeを「最新の状態」に保つつもりなのか。2030年には、AnthropicはClaudeが自分自身の進捗を「最新の状態」に保つことを期待している。ここでは半分冗談だよ。

└

トップ研究者たちの話を聞いたり読んだりして得た理解では、近い将来のモデルアーキテクチャはコンテキストウィンドウを劇的にスケールアップしようとするみたい。コンテキスト内学習がかなり強力だという一般的な信念があって、ウィンドウを拡大することで継続的学習に大きな利益が得られるかもしれない。最近のオープンウェイトモデルが、ハイブリッド注意アーキテクチャを通じてコンテキストウィンドウのメモリコストを劇的に削減できることを示しているから、そんなに難しくないみたい。Qwen3-next、Qwen3.5、Nemotron 3 Nanoはどれも素晴らしい例だよ。Nemotron 3 Nanoは、消費者向けハードウェアで100万トークンのコンテキストウィンドウを使って動かせるんだ。

LLMは、ここにいる多くの人が言ってるように、次に来る最も確率の高い単語を見つけるだけのものじゃないの？それが前提だとしたら、どう説明できるの？この問題解決の方法は「考える」って言えるの？

└

問題を解決するっていうのは、時には問題を新しい道を開くように言い換えることなんだよね。「惑星はなぜ太陽の周りを回るのか？」と「惑星が目に見えないリードで太陽に繋がれているのは、世界にどんな力が存在するからなのか？」（もちろんすごく単純化してるけど、言いたいことは分かるよね）。人間が正しい質問をするためにいるから、ただのLLMじゃないんだよね。さらに、いくつかの解決策は迷路を走るようなもの。間違った道や次に言うべき言葉を全部知っていて、正しいものを力技で見つけることができれば、全体像を見ずに迷路を走り抜けるマウスのように解決策を見つけるかもしれない。このことが「考える」って言えるかはもっと哲学的な問題だね。私にとっては、これが私たちがLLMよりもバイオコンピュータに近いことを示してると思う。

└

LLMは、ここにいる多くの人が言ってるように、次に来る最も確率の高い単語を見つけるだけのものじゃないの？ 基本モデルはそうするように訓練されてるよ。もしウェブページに問題があって、その後に「答え: 」って書いてあれば、そのページに続くのは答えである可能性が統計的に非常に高い。基本モデルがテキストを予測するのが得意になりたいなら、一般的な質問の答えを学ぶのが良い戦略になるんだ。NNの訓練は、モデルがトレーニングセットを暗記するのではなく一般化するように促すから、これが多くの質問に答えられる計算パターンを学ぶインセンティブを生むんだ。ただし、実際に一般化できるかはケースバイケース。時には、トレーニングセットからそのままコピー＆ペーストされた入力が出てくることもあるけど、それは基本モデルの話。実際にチャットするLLMは、単純な統計分布に基づいて最も確率の高い単語を予測するわけじゃない。彼らはRLHFによって出力するように報酬を与えられた単語を出力するから、単にテキストを予測するのではなく、質問に答えるアシスタントとしての役割も果たすんだ。RLHFがあるからこそ、「あなたは絶対に正しい」とか、英語圏ではあまり使われない「掘り下げる」って言葉が多く使われる理由でもあるよ。

└

その説明は、基本モデルに対してはまあ妥当だね。でも、Opus 4.6みたいなのは、単に「最も可能性の高いトークンを予測する」以上の行動を教えるために、いろんなトレーニングが加わってるんだ。問題解決や良いチャットボットになるためのトレーニングも含まれてるしね。 （†それにしても、ちょっと過小評価してるし、具体性が欠けてるよね。「最も可能性の高い単語」は、あるトレーニングデータセットに基づいて定義されるんだから。例えば、数学者が問題を解くのをトレーニングしたら、モデルは実際に数学者のように考えるのが上手くならないと、うまく予測できないよ。一般的に「次に何が起こるかを予測できること」は、知能の良い定義の一つだと思う。）

Hacker Newsで議論の続きを見る