世界を動かす技術を、日本語で。

教皇レオ14世、AIは人類に奉仕すべきであり、特権階級のためではないと述べる

概要

  • Pope Leo XIV が初回回勅「Magnifica Humanitas」を発表
  • AIのリスク と社会的・倫理的課題を強調
  • Big Techの権力集中 と格差拡大への警鐘
  • AIの軍事・経済利用からの解放 を提唱
  • 人間の尊厳と共通善 を中心に据えた規制と参加型アプローチ

教皇Leo XIVによるAI回勅「Magnifica Humanitas」の主題

  • AI技術 を「新たな産業革命」と位置付け、社会全体での議論と規制の必要性を訴求
  • AIの「武装解除」 (disarm AI)を提案し、軍事・経済的競争からの切り離しを主張
  • Big Tech による権力集中と、それに伴う格差拡大の危険性を指摘
  • AIが既得権益層の力を増幅 し、民主主義や社会的連帯を損なうリスクの強調
  • AI開発・運用の全段階で倫理的責任の明確化 を要求

AIと社会正義・人間性

  • 人間の尊厳 は能力や地位、選択に依存せず、存在そのものに基づくと宣言
  • AI依存の危険性 :個人の創造性や判断力の低下、他者との関わりの希薄化
  • 技術は中立ではない :背後の利害関係や意図が反映されることを警告
  • 集中したデータ支配 が新たな植民地主義や搾取構造を生む危険性

倫理的AI開発と規制の必要性

  • 倫理原則の事後適用ではなく、設計段階での組み込み を強調
  • AI開発の慎重な進行 と「責任ある配慮」の重要性を訴え
  • 倫理的AI憲章 (Anthropicなど)も、少数者による決定でなく社会的合意が不可欠と指摘
  • トランスヒューマニズムやポストヒューマニズム への批判:限界を超えることが進歩ではなく、人間性はむしろ限界を通して花開くと主張

労働・経済・社会への影響

  • AIによる雇用機会の保護と人間の役割の不可欠性 を強調
  • 技術進歩が構造的格差を生む現実 への警鐘
  • 税制改革 やイノベーション利益の透明性・共有を提案
  • 新たな「奴隷制」 として、AIに潜む人間・環境搾取を批判

データ主権と新たな植民地主義

  • 個人データの支配権回復 と利用目的・主体の透明化を要求
  • データやAI技術の独占 が新たな支配・搾取の形態となることへの危惧

AIと戦争・倫理

  • AIの軍事利用に対する厳格な倫理的制約 の必要性を強調
  • 戦争における意思決定の人間性維持 と国際法整備の訴え

カトリック社会教説との連続性

  • 過去の教皇回勅 (特にLeo XIII「Rerum Novarum」)との関連付け
  • 隣人愛・連帯・次世代への配慮 を強調
  • 社会的正義 のデジタル領域への適用:監視社会、アルゴリズム差別、技術アクセス格差への警告

バベルとエルサレムの対比

  • バベルの塔 (権力・自己充足の追求)と エルサレム再建 (祈り・共同体参加)を対比
  • AI時代も「二つの愛」が人間の心で争う という宗教的メッセージ

専門家・社会からの評価

  • Santa Clara University のBrian Patrick Greenなど、倫理・技術分野の専門家による高評価
  • AIの社会的目的と人間への貢献 を問い直す契機として注目

まとめ

  • AI時代の倫理的課題人間中心の社会構築 への呼びかけ
  • 技術進歩と社会的連帯、個人の尊厳 の両立を模索するカトリックの新たな指針

Hackerたちの意見

まあ、ほぼダブってるね。 https://news.ycombinator.com/item?id=48265206

教皇がAIの未来の重大さを認識して、早めに発言してくれて嬉しいね。

AIが何をすべきかっていう話の多くについて、実際には「AI」の部分が「企業」に置き換わった方が幸せだと思うことが多い。

もしかしたら、すべての企業がAIに置き換わった時に、偶然正しい場所にたどり着くかもね、ハハ。(もちろん、そんな可能性は高くないけど、ちょっと冗談を言ってるだけ)

結局同じことだよね。AIは主に企業が提供するサービスだし。はいはい、オープンソースのモデルもあるのは知ってるけど、今の世界でのAI利用の大半は企業によって制限されてるって言ってもいいと思う。ほとんどの人は自分のOSをちょっと設定するのも難しいのに、自分でホストするオープンソースのAIを管理するなんて無理だよ。

もし企業を認知を持つ非人間的存在と考えるなら、そうだね。いろんな宗教もそういう特徴を持ってるから、ローマ教皇の立場を皮肉的に強化することになるね。ジョシャ・バッハが宗教がA/Bテストを公開しないって言ってるのを見てみて:51:47のところで。https://youtu.be/7bqdPHLIY8w

…「金持ち」や「全ての人」、「政府」と入れ替えてもいいよね。実際、このテーマについてアドリブで読むと、これらの文が面白い違った意味合いを持つことが多いよ。

AIに問題があるって人はいないと思う。みんな、ついに晩期資本主義にうんざりして、反発してるんじゃないかな。

それは意味のない、大衆迎合的なトロープだからだよ。具体的な問題に依存する解決策や文脈、役立つ情報はゼロだね。

今年の初めにメキシコシティの教会でこれの広告を見かけたよ。 https://juanito.ai

オレンジのカトリック聖書の初稿を始める時が来たね。

バトラーリアン・ジハードを始めるのもいいね。

15年前からタイムトラベルしてきたHNユーザーは、15億人近い宗教の最高指導者からのメッセージについて、疑問を持つ反応がたったの2つ(どちらもフラグが立ってる)しかないなんて理解できないだろうね。本当に時代は変わった。

時代は色んな面で変わったよね。例えば、1) 今はAIがあるし、2) 教皇がアメリカ人で、今の両党のトップ政治家よりも信頼できるってこと。人々が教皇の権威の時代を懐かしんでるわけじゃなくて、常識のある誰かを探してるだけなんだよね。

それって何の意味があるの?教会は今、犬に魂があるって言ってるし、出生前後の中絶も擁護してる。AIについての意見記事は無関係で、最新のスター・ウォーズ映画みたいなもんだよ!

HNでの反AIメッセージは、フラグが立てられたり、ダウンボートされたりするのに気づいたよ。ダンたちが他の手段でそれを抑圧してるんじゃないかって思う。HNはAIに対して全然中立じゃなくて、他の技術とは違った形で強く支持してるみたいだね。なんでかは考えるまでもない。編集:これも含めて!笑

教皇は、我々の(ロビー活動を受けた)政治家たちよりも、何が危険かをよく理解してるよ。

2025年1月にバチカンが出した人工知能に関する以前の論文を読んでないなら、ぜひ読んでみて。https://www.vatican.va/roman_curia/congregations/cfaith/docu... 高度な技術に対する深い理解で知られていない組織からの素晴らしい洞察だよ。

より道徳的なAIが必要だとしても、その道徳が数人によって決められるのは不十分だよね。教会の歴史を考えると、特に皮肉だと思う。間違ってはいないけど、結局、ほとんどの教会や宗教、カルト… なんでも、あなたのスピリチュアルな組織の呼び方に関わらず、そういうビジネスだよね。

ごめんけど、君の古臭い偏った道徳には屈しないよ。教会の時代は終わったし、AIは特定の誰かのためにあるわけじゃない。誰も誰かに何かを返す必要はないんだ。