広告もサブスクリプションもない静的サイトにアーカイブリンクを投稿する意味って何？

aphyrのサイトにはNSFWの写真があるかもしれないから、新しいUKの法律に引っかかってドメインがブロックされたのかも。

UKをジオブロックすることで年齢確認ができるけど、そうじゃないとサイトの運営者は自分のコンテンツがUKで成人向けと見なされるかどうかを確認しなきゃいけないし、何か対策を講じる必要があるよね。

そして、ハルスペクスLLMが失敗した時、私たちは何に頼るの？

うん、同じ印象を持ったよ。著者の視点には共感するけど、ここで見せている最小限の楽観主義を持つことすらできない。説明されている「プロセスエンジニア」はすぐに自動化システムに置き換わると思う。「統計エンジニア」は、AIモデルの変化の速さについていけないだろうし、各言語や文脈ごとに異なる統計的な振る舞いやバイアスがあるから、そもそもその深い専門知識を持つために誰も彼らにお金を払うことはないと思う。もっと可能性が高いのは、その仕事がAI基盤モデルの会社で行われることで、でもそれは一度だけ行われて、トレーニングプロセスに組み込まれるんだ。

そして、進歩的な労働政治（現在の自動化の流れでは漸近的に運命づけられている）。これって具体的にどういう意味？

マジック8ボールは、君が投げかける質問の「無数の内部状態」を処理できるんだ。でも、答えをくれるのに、私たちはそれを使わないよね。

ある意味、技術は「普通じゃない」よね。デジタル化の技術革命を考えると、その経済への影響をうまく説明するのは難しい。初期の頃は、銀行が億ドルのビジネスから百万ドルのビジネスに変わると言われてたし、大学もほとんどの管理業務を排除できるはずだった。会計や財務も簡単になるってね。以前の技術革命も予測不可能だったけど、振り返ると納得できる部分もあった。でも、今の経済の核心的な活動が何かははっきりしない。ミクロレベルでは明確だけど、ズームアウトするとぼやけてくる。なぜアカウンタビリティが必要なのか？その文脈では明らかに必要だけど、どうやってそれが集約されるのか理解するのは難しい。

だからこそ、私はソフトウェアエンジニアリングにはかなり楽観的なんだ（でもコーディングにはあまり興味がない）。1) と 2) は、作り上げたコーディングタスクやサンドボックスで簡単に設定できるけど、3) はそれを広げて役割全体を支配するんだ。どうしてLLMやエージェントが、実際のソフトウェアエンジニアよりもこのソフトウェアエンジニアリングの仕事をうまく進められないの？このことについて満足のいく答えを聞いたことがない。特に、ミスをする部分について。LLMの欠点（つまり、ひどいコードを生成すること）を擁護する理由は「人間も悪いコードを書くから」っていうのが多いけど、それってどうなの？人間もミスをするし、理論的にはLLMのソフトウェアエンジニアは人間よりもずっと少ないミスをするはず。だから、どうして君を巻き込む必要があるの？今の流れにワクワクしているソフトウェアエンジニアの考え方が理解できないんだ。理論的には、君の専門知識に特別なものはなくて、LLMが達成できないことはないと思う。新しくてエキサイティングな技術に夢中になっていると、責任者たちが私たちを完全に埋め尽くすことに喜んでいることに気づかないんだよね。

「インカンター」と「プロセスエンジニア」を一つにまとめて「ユーザー」にできると思う。これについてもっと話したかったけど、どう表現すればいいかわからなかったから、かなり削ったんだ。「インカンター」っていうのは、直感的でより非公式な実践者の知識やメティスを指していて、「統計的/プロセスエンジニア」と対比させているんだ。多くの人がこの二つを融合させると思うけど、私はここでいくつかの重要なポイントを示したいんだ。ユーザーは、個々の直感、民間伝承、正式・非公式なテキスト、科学論文、厳密に設計されたハーネスや社内実験など、さまざまなアプローチを統合している。農業のように、地元の気候や土地品種についての深い直感的な知識があるけど、大規模な産業実践や研究プロットもあって、それらの異なるアプローチが複雑に相互作用しているんだ。

YouTubeで見かける音声だけの雰囲気コーダーに魔法使いの帽子とローブを着せたら、まさに「インカンター」だよね。面白い。

だいたい同意だね。ただ、自分のソフトウェアを作りながら使うことで、抽象的な感覚を得るのがちょっと恋しいかな。テストのしやすさは「使いやすい」の良い指標だと思う。なぜなら、「使いやすい」というのはサブシステムが十分にデカップリングされていて、予期しない使用パターンをカバーできることを意味するから。それがテストのしやすさの副産物なんだよね。心配なのは、能力を示すのが難しくなってきてること。例えば、Githubのプロフィールは良いシグナルだったけど、評価できるエンジニア以外は誰も気にしなかった。今はそのシグナルがさらに価値がなくなってる。リードミーやブログの投稿も、今は自分のコミュニケーションスキルや問題への考え方を示すものとしてはあまり役立たなくなってきてる。

実装のスピードやバグ修正がボトルネックだった あの頃を懐かしく思い出すし、戻りたいなってよく思う。最近は、意味のあるコードを書くのに数日かかることも珍しくない。シニアになるコストってやつかな。

エンジニアとして、この仕事にこれほどワクワクすることはないよ。AIのトレンドが、君の仕事の中でまだワクワクする部分をほとんど自動化するまで、どれくらいかかると思う？みんな、自分には関係ないと思ってるけど、影響を受けるのは他の人だって。私たちは自分のやってることが特別で、AIに自動化されることはないって思い込んでるし、今のところは自分の仕事が安全だって信じてるんだよね。

ワクワクするけど同時に怖い。確かに前よりずっと生産的になったし、エンジニアを完全に排除することはできないと思ってる…でも、5人のチームが1人のエンジニアに置き換わるのはどれくらい先かな？自分が仕事を続けられるのか、それとも4人のうちの1人になるのか、ドキドキだよ。

私たち？

名前もすごく印象に残るよね。今では人を責めるときに「ミートシールド」って呼ばないなんて考えられない。

それは論理的に考えてもそうだよね。結局、道具を使う人が責任を持つわけだから。道具が強すぎるとか倫理的に使うべきかどうかは、別の話だと思う。極端に言えば、核兵器も誰かが発射したり投下したりしないといけないからね。（安全性や倫理については常に議論すべきだけど！）

Data & Societyが2019年にこの役割についての論文を出したけど、「道徳的クランプルゾーン」っていう言葉を使ってた。自動運転車の事故で誰に責任を負わせるかに焦点を当ててたからね。「ミートシールド」って言葉には物理的な感じがあっていいけど。

Waystar Roycoの次のCEOが「痛みのスポンジ」って表現されたのを思い出す。

彼らはただ最後に置き換えられる薄い層に過ぎない。自分たちが会社だと思い込んでるちょっと傲慢な連中だけど、結局のところ、最終的には全ての人間が自動化された経済に比べて経済的に無意味になるってことだね。

もっとありそうな理由は、法律的に誰かがビジネスを管理しないといけないってことだと思う。

アメリカでは、ほとんどの州がすべての企業に社長、秘書、財務担当者を置くことを求めてるよ。

ほとんどの会社には、上層部が全く知らないようなビジネスの背景がいくつもあるよね。「未払いの請求書はこう処理する」とか、「ウェブサイトには年に一度更新が必要な証明書がある」とか、「インドネシアでは収益を隔週で報告しなきゃいけなくて、フォームがうまくいくまで何度もやり直さないといけない」とかさ。これって、結局LLM（大規模言語モデル）では根本的に無理だと思う。上層部が何を聞けばいいか分からないし、たとえ分かっても、どんなにAIが手伝っても、全てを一人の頭の中に入れておくのは無理だから。だから、これだけでもかなりの数の仕事が置き換えられないって思う。

彼らは自分たちが会社だと思ってる。その他の人はリソースに過ぎない。こういうことがどう動いているのか全く知らないけど、取締役会も同じように考えるのかな？今日もこんなことが起こるのが見える気がする：CEOがXと言う。取締役がその場でChatGPTに戦略的な情報を入力して、XよりもYの方が説得力を持って主張する。そうなった瞬間、CEOはチャットボットに反論していることになる。チャットボットは「変革的」なんて言葉を言うより早く、もっと信じられるようなことを言い返してくるかもしれない。今日の議論では勝つかもしれないけど、結局CEOは機能的に置き換えられて、最終的には実際に置き換えられたり、弱体化したりすることになるんじゃないかな。