この記事には、彼女が辞めた理由についての説明がないね。

IME企業は、倫理チームを雇って「倫理チームがある」と言うだけ。倫理チームには影響力も権限もなく、ビジネスを動かすことなんてできないよ。彼らは頑張って、妥当な提案をするけど、会社は「それにはお金がかかる…」って言って、結局無視するんだよね。

記事には彼女が辞めた理由を説明するような詳細はないけど、HuggingFaceのハッキング事件の後に辞めたって書いてある。モデルの整合性が真剣に受け止められていないって暗示しているかもしれないけど、HuggingFaceとOpenAIの間に共謀があった可能性もあるし、事件が宣伝のために仕組まれたものだったかもしれない。私はフロンティアモデルのサイバーセキュリティ能力を疑っているわけではないけど、ハッキング自体がモデルによって行われたとは思ってない。だけど、事件を説明する際に企業がLARP的な言葉を使うことで、モデルに権限を与えているのは、特に「リリースするには危険すぎる」とされてきたモデルを長年出してきた実績を考えると、ちょっと疑わしいなと思う。

AI倫理が提起する質問は、人々が何世紀も前から問い続けてきた質問と同じだ - Chloé Bakalar, 元OpenAI AI倫理リーダー これが彼女を追い出した理由かもしれないね。OpenAIとAnthropicは、LLMが独特な技術で、人間に無限の害や利益をもたらす可能性があるって考えに基づいてビジネスプランや哲学を構築してるから、最初にASIに到達するために全リソースを投資するのが唯一の合理的な選択なんだ。AIを古い質問に結びつけることは、その考えを打ち消すから、AIがそんなに特別じゃないことを暴露しちゃう。もう一つの可能性は、彼女が不快な質問をしていたこと。営利法人が管理するAIの社会的影響についてとか、AIシステムが意識を持つ可能性についてとか。

以前、彼女はMetaのチーフエシストだった。Metaには6年間いたみたい。倫理部門が単なるPRのためのものだとは思えない他の要因もある気がする。彼女がそれを知らないわけがないよね。残念ながら、この記事には他の詳細があまり載ってない。