記事の著者はそのページに、ベン・エドワーズとカイル・オーランドって書かれてるよ。

撤回された記事へのリンクがないのは奇妙だね。全然奇妙じゃないよ。隠蔽だ。

取り消された記事へのリンクがないのは変だね。まあ、取り消されたから、もう存在しないってことだし、アーカイブへのリンクを貼ることはできるけど、そうすると取り消す意味がなくなっちゃうよね。

そうだね。これはミスとして扱われてるけど、「人間はミスをするものだ！」って。でも、これはミスじゃないよ。おそらく、出版前に記事をチェックする責任があった人が見逃したミスかもしれないけど、盗作や捏造には悪意が必要だし、責任のある著者は両方に関与してた。

引用を捏造する意図がなければ、悪意はないよ。欠陥のあるツールを使うことは意図にはならない。

もっと情報がないと、それを知るのは難しいと思う。AIツールを使ったからといって、引用を作り上げるつもりだったとは限らないし、単に不注意だったかもしれない。調査せずに悪意を仮定するのは、それ自体が不注意だよ。

実際には、責任を問わない事後検証だとは言ってないし、そういう言い回しでもないよ。AI生成のものは特にラベルが付けられない限り公開しないっていうのが彼らの方針だって言ってるから、誰かが方針に従わなかったってことになるだろうし、何らかの影響があるはず。問題は、インターネット上の人々、hnも含めて、毎回最大限の影響を求めることだよ。つまり、誰かを解雇すべきだってね。私はそれが健全な反応だとは思わないし、彼らがその方針を強化して、みんなが仕事を続けられて少し学べることを願ってるよ。

今の時点でテクノロジーについて報道する人は、AIの問題点を知っているべきだよね。だから、AIが研究に使われて人間がその結果について記事を書くとしても、事実の手動確認は絶対に必要だと思う。それをしないのはただの悪意だよ。

あなたは著者のブルースカイの声明を読んだことがありますか？（あなたのコメントの時にはまだ公開されてなかったけど）それについてどう思いますか？

失敗を責めないポストモーテムは、プロセスの問題を解決するのにすごく効果的だよ。今回の場合、「すべての引用が事実確認されてないのは、編集部への提出にソースが必要ないから」とか、「記者が病気なのに働いてたのは人手不足だったから」とか、「LLMからのコピー＆ペーストは絶対にダメ」とか、そういう問題を特定できるんだ。

私の読み解きでは、「ああ、誰かがミスをして捕まった。そんなことはあってはならない。今後はもっと良くしよう。」って感じかな。それだけだね。

この一人の男が一回限りのことかどうかはあまり重要じゃないよ。彼は全体の大局には関係ないし、彼の労働を個別化しない限り、結局はAIの使い捨てオペレーターの一人に過ぎないから。人々はこの一つの記事やサイトの重要性以上に騒いでるけど、LLM技術がこういうミスを引き起こすのは避けられないのかっていう議論が続いてるからね。みんなこの話にはうんざりし始めてるけど、こういうことは繰り返されてる。

もっと大きな問題は、彼が病気で寝込んでるときに、ほとんど寝ずに働かなきゃいけないと感じたことだね。アース・テクニカの企業文化について考えさせられるよ。

興味本位の人たちが、法医学的な視点で過去の記事を遡って調べるんじゃないかな…ゴキブリを見たら…

これはあまりにも貧弱な謝罪だね。エラーの認識に至る前に、読者の同情を引こうとする前置きがあって、これはその深刻さを和らげようとする手品みたいなものだよ。

うん。これまでアーステクニカに厳しいことを言ってきたけど、今後彼らが引用されるのを見るたびに、心の中でアスタリスクを持ち続けるつもりだよ。ただ、この謝罪の中で一つだけ、みんなが言ってるほどひどくないと思える点がある。それは、AIに懐疑的なメディアの記者が仕事でさまざまなAIツールを使うのはいいことだと思う。ベン・エドワーズはもっと慎重であるべきだったけど、特に意見を述べるなら、これらのツールの状態（とその落とし穴！）に定期的に接触するべきだと思う。[1] アーステクニカでこのような実践がどれほど広まっているのか、あるいはこれが一回限りのことなのかはまだわからない。でも、彼が言ってるように進んだのなら、このミスの偶然の性質、つまりAIに懐疑的なメディアでAIの新しい行動を報告する際のユーザーエラーであることは、ただ皮肉なだけで、よりひどいものではないよ。[1] 編集: このスレッドの他の場所でilamontの新しいコメントを読んで、同意したよ。非常に合理的な注意点だね！

自分のミスを認める人を見るのは本当に新鮮だね。最近では珍しいことだよ。

すごい、彼は二つのAIツールを使ったことを認めてるね。クロードコードを使ったけど、ブログがAIクローラーを拒否するように設定されてたから、ページをチャットGPTに貼り付けたんだ。それで、チャットGPTが作り出した引用をパラフレーズしたことを責めてる。彼は、記事のアウトラインを作るためにAIを使っただけだと言ってるけど、証拠は彼がAIの出力をそのまま使ったことを示してるよ。

病気でも働くのってアメリカ特有のことなの？

修正してくれて嬉しいな。似たようなエラーもチェックして、再発防止のためにプロセスを改善するって約束してくれた。これが組織がミスをしたときに期待することだよね。多くの組織はこれができてないけど。

もう一つ言いたいことがある。もし著者が病気で書けないのに、仕事が危うくなると思って無理して書いたなら、Arsの労働文化や病気休暇・休暇ポリシーについて自己反省する時期かもしれないね。ここでそういうことがあったって暗に言ってるように聞こえるけど、記事にはその辺の情報が見当たらない。別のところで追加情報が共有されたの？ 編集: ああ、著者のSNSにそのことが書いてあるリンクを見つけた。質問はもういいや、同意するよ。

業界全体でどれくらい一般的なことかは分からないけど、私が知ってる二つの衰退している出版物では、編集者が最初に解雇されたよ。質が急降下して、それが死のスパイラルを早めたかもしれない。要するに、ループに入れるシニア編集者すらいないかもしれないね。

厳密に管理された環境で、出力が慎重に検証されることが求められる。 ジャーナリズムの内側は分からないけど、もちろん誰もが理解していると思っている職業の一つだよね。現実的に、引用を確認して事実をチェックするのは特に慎重な検証なの？引用は特に明らかなリスクだと思うけど、どんなに病気でも、誰がLLMに何かを書くのを検証せずに任せるの？それは見積もりや引用の金額を確認しないのと同じで、特にLLMが書いたものに関しては考えられないよ。自分で数字を見積もるか、削除した方がマシだと思う。もしかしたら著者はLLMをよく理解してないのかもね。