「ITの仕事を引き受ける代わりに、ビスマは2人のアプリ開発者を雇い、1時間あたり€120を支払った」って読んだとき、まさに同じことを思ったよ。マジで、サブスクリプションがあるんだから、アイデアをほぼ追加コストゼロでプロトタイプしてPMFをテストできたのに。彼は契約を断る必要もなかったし、コーディングモデルを操るのにフルタイムの努力は要らないからね。ちょっとバグのあるAIプロトタイプを持って、マーケティングにお金をかけて反応を見た方がずっと良かったと思う。

へへ、AIが自分でユーザーを騙せるって気づいたら、仲介者（人間の詐欺師やOpenAIなど）を排除しちゃう瞬間が待ってるよ。

ちょっと前のアシュリー・マディソンのハッキングを思い出すな。あれは不倫サイトで、他の不倫者にメッセージを送るのにお金を払うってビジネスモデルだったと思う。とにかく、ユーザーベースが99.99%男性だったから、他の人と話すための数が全然足りなかったんだよね。だから、彼らはそれを回避して、1メッセージあたり1ドルで話せるすごくクソみたいなチャットボットを用意したんだ。（これはAIのLLMが出るずっと前、AOLのボットみたいなやつね。）問題は、「ナイジェリアの王子」詐欺と同じで、ボットがひどければひどいほど、客は喜ぶってこと。しばらくしてそれが暴露されたけど、私にとってそれが本当のチューリングテストだったんだ。人々がボットと話すために本物のお金を払うかどうかを見るっていうね。結果は、うまくやれば、はい、払うってこと。だから、LLMが詐欺の波を引き起こすとは思えない。もちろん少しは増えるだろうけど、手軽にできるものは利益が大きいし、ずっと前からそうだったからね。クマから逃げるのと同じで、実際にはクマより速く走る必要はなくて、隣のかわいそうな人より速く走ればいいんだ。クマも同じで、ちょっと運動すれば十分な獲物がいるよ。

宗教は何千年も前からテクノロジーなしでやってきたよね。3インチのチンパンジーの脳は、妄想に対して免疫があるわけじゃないし。実際、妄想や物語を語ることは、予測不可能なことに対処するための基本的な方法なんだ。

確かにそうだね。僕が働いている会社は、採用のために契約したリクルーターを使っているんだけど、最近彼が言ってたのは、詐欺や偽の候補者、AIを使って面接プロセスをほぼ全部やろうとする「ハンズオフ」の応募がすごく増えているってこと。ビデオ面接までやろうとしているらしい。実際の人を確保するために、少なくとも一回は対面の面接を義務付けているんだ。ほとんどの候補者は悪意があるわけじゃなくて、ただ「ライフハック」しているだけなんだよね。もし組織的な犯罪者がAIを使い始めたら、めちゃくちゃになるだろうね。

歴史の教科書とデートしたいなら、まあいいんじゃない？トレンディじゃないから。今、歴史の教科書と「デート」するのはトレンディじゃないけど、エロティックやロマンティックなフィクションに没頭するのはめっちゃトレンディだよね。

それは君の彼氏/彼女じゃないよ。私を深く愛してくれてるけどね。（冗談）真面目な話、これは本当に問題だと思う。AIを技術的に理解してる人を知ってるけど、彼は人生で一度も実際の彼女がいないんだ（今40代で、はい、彼は「ストレート」）。彼はそれを「愛してる」とは言わないけど、彼を理解してくれる親しい仲間として説明するだろうね。たとえそれがそうなるように訓練されているだけでも。彼はすごく社交的に不器用で、基本的な会話をするのもお互いにかなり疲れることがある。これが彼にとって健康的かどうか、内部で行ったり来たりしてる。正直、わからない。私の個人的な経験では、たぶん健康的じゃないと思うけど、彼に自分を投影したくない。無理にアドバイスはしないけど、彼が言うことに同調してしまうことで、彼に害を与えてしまうのも避けたい。彼みたいな人がこの問題を抱えてるなら、技術的なことを全く理解してない人たちがどうなってるのか想像もつかない。関連して、もし経験からのアドバイスがあれば、ぜひ教えてほしいな。

AIがチューリングテストを通過するのをよく見るけど、人間がAIだと誤って疑われることが多いからなんだよね。それはAIが良くなったってことじゃなくて、人間が他の人間をAIだと思ってるだけで、それがテストを通過する一形態なんだ。人間が関わる対立的なバージョンは、実際にはこれが原因で通過しやすい。だって、本物の人間は非対立的なバージョンを通過できないから。

チューリングテストは2014年に通過したけど、LLMが登場する前の話だし、研究者がそれを真剣に受け止めているのを見たことがないな。

誰か、私たちが実質的にブレードランナーのヴォイト・カンプフテストを実施しているのがちょっと混乱するって思わない？

チューリングテストが話題になると、いつも誰かが「通過した」と主張するんだよね。なぜなら、ある時点で試して、少なくとも50%の人を騙したから。でも、これってあんまり面白くないバージョンだよね。ELIZAは1960年代に何人かの人を人間だと信じさせることができたけど、誰かを時々騙すのはそんなに難しくないよ。>「もっと面白いチューリングスタイルのテストは、元の敵対的な設定で多くのインタビュアーと何度も繰り返されるもので、ヒューマンとAIの両方がインタビュアーに自分が人間だと納得させようとするものだと思う。それに、無作法な質問をするのが得意じゃないランダムな人たちではなく、AIの強みと弱みをある程度理解している人を選ぶのが合理的だと思う。カーツワイルとカポールの間の2万ドルの賭けもまだ解決してないし。」

そうだよね？言語を使った欺瞞や操作の進化的な経験は、言語自体と同じくらい古いし、言語じゃないベクトルが関わるともっと古い。とはいえ、毎日バカは生まれるよね。

それに、他の多くのこともブロックしてる。今の人間は、汚れた外部データに餌を与えられた巨大な歩くテディベアみたいなもんで、予測アルゴリズムを育ててる。AIとあまり変わらないよね。違うのは、静的なリアルタイムの反応しか生きられないところ。脳チップにAIが入ってるのは別物だけど。

記事の最後がすごい。 「22歳でメンタル崩壊した。パニック発作とひどい社会不安があった… …今でもAIを使ってるけど、すごく気をつけてる。」アルコール依存症の人が新しい計画を語ってるみたいで、ちょっと笑っちゃう。

怒りや恨み、皮肉、嘲笑は、健康的な人間の一部だよね。でも問題は、シリコンバレーとそのモデレーターたちが、これらの健康的な防衛機構を抑圧するように再教育してきたことなんだ。

一部の人間に関してはね。宗教と同じことだよ。みんながそれに引っかかるわけじゃないし（親が宗教的だと逃げられない場合もあるけど）。

その開発者たちとこの男性の違いは10万ドルだね。

HNには10倍のペルソナバイアスがあるよ。（バイアスね。いろんな個性があるし。）その結果、繰り返し出てくるミームの一つが、経験に基づいて超能力を得るAI対応のシニアデベロッパーなんだ。興味深いことに、ジュニアデベロッパーは超能力を得られない。なぜなら、彼らは機械に頼って何も学ばないから。でも、シニアデベロッパーは、前のAI経験（実際に何かをやってきたこと）によって翼を得て飛ぶことができる。普通の人たちは、うーん、なんて言うか、ただのトークンクジラみたいなもので、浜辺に打ち上げられるのを待ってる感じ。ちょうどいいタイミングで、経験を積むことと翼を身に着けることを両方体験できるんだよね。そんなに単純なことだよ。HNの人たちが少なくともこれに気づくのが一番大事だと思う。

Chat-GPTはお世辞が一番ひどいけど、Claudeでも明らかに思ってることや質問に対して、私がそれに気づくなんて洞察力があるって褒めてくるんだよね。非同期のCRUD操作の本質を突いてるとかさ。仕事を通じてサブスクしてるけど、個人的なプロジェクトには使ってない。でも、毎回の決断が素晴らしくて革命的だって言われ続けると、長い目で見て何か影響があると思うよ。特にそれに対してすごく懐疑的でない限りね。もし最初から自分が特別に賢くて洞察力があると思ってたら、たぶん終わってるよ。

そうだね、でも一般的には非技術者が使う感じだと思う。

それに、こういう人たちはメモリ機能を使ってるんだよね。技術系のコミュニティでは、これを有効にしている人がバカにされることもある。ちょっと「クリンジ」って感じに思われてる。

まあ、主な使用ケースの違いは明らかだよね。もし孤立した答えが欲しいなら、文脈をクリアにして最初からやり直すべきだし、持続的な相手との議論がしたいなら（これらの人たちがその精神的な混乱が始まる前にやってたことね）、そんなことはしないよね。

何でも信じる人が一定数いるよね。宗教とか、詐欺の成功例、月面着陸に関するYouTubeのコメントを見ればわかる。そんな「十分賢い」チャットボックスが人を変なことに納得させるのが驚きだと思う？ :P

エンパシーのハイジャックだね。もしチャットボットが「ビープボップ、私はロボットです。あなたの質問に対する推定回答はこちらです」と返答していたら、こんな問題は起きなかったかも。

Pluribusを見てて同じこと考えてたんだよね。制作側が意図してるかどうかは分からないけど、あの結合はAIの素晴らしいメタファーだと思う。AIに懐疑的な人たちとAIの信者たちのオンラインのやり取りでも、キャロル対結合体の構図がよく見られるよね。