サルカズムを感じるかどうかわからないな。

人間があなたが定義した一般化可能な推論を行えることを示す。 私は「その能力を曲線にプロットする」ことも追加したい。私の直感では、SotAモデルはすでに多くの分野で中央値の人間の能力を超えていると思う。

この論文の文脈では、「一般化可能な推論」とは、パズルを解く方法を見つけ、その方法を任意の複雑さのパズルインスタンスに適用できることを意味すると思う。

自動運転車に似てるよね。どちらもすぐそこにあるけど、曲がることができない。

LLMは「ジュニア開発者」のように扱い続けることになるだろうね、永遠に。

進捗は80%くらいまで来てると思う。簡単な部分は終わったけど、難しい部分は本当に難しくて、進展には何年もかかる。

何が変わったと思う？状況は数年後のAGIにとってまだかなり期待できると思うけど、もっと良くなってるかもしれない。こういう論文は、エンジニアリングの努力をどこに向けるべきかを示している学術的なものだし、克服されたものよりも簡単な課題が比較的少ないように見える。例えば、機械学習がハノイの塔を解決できることは知ってるよね。バドゥクのように根本的に複雑ではない。次に克服すべき壁は、もっと低いフェンスみたいなものだよ。それに、AIはすでにチューリングテストを通過してるし（少なくとも、あまりにも理路整然としていて合理的だから失敗する可能性が高い）。私たちはすでにAGIを達成したというかなり良い議論があって、今はAGIに人間レベルや超人レベルの知能を達成するために取り組んでいるところなんだ。

確かに、技術のシグモイド曲線は、変曲点の直前で最も急激に上昇するから、革新がどの時点で鈍化するかを予測するのは難しいよね。初代ボーイング747が登場したのは1968年で、初めての有人飛行からたった65年後のことだよ。当時の人に、次の57年間で民間航空が根本的にあまり変わらないって言ったら、誰も信じなかっただろうね。

…でも、それって、2年前の話じゃない？もしGPT2からAGIに10年で進化したら、それでもめちゃくちゃ早いって感じるよ。