世界を動かす技術を、日本語で。

デロイト、44万オーストラリアドルの報告書にAIを使用した後、オーストラリア政府に返金へ

2025年10月7日原文(theguardian.com)

概要

  • Deloitteが AI利用による誤り を含む報告書で 政府に一部返金
  • 報告書には 架空の引用や誤った参照 が多数含まれていた事実
  • AI生成コンテンツ が品質問題の一因と指摘
  • 報告書の 結論や提言自体は維持
  • 今後の コンサル契約やAI利用 への信頼性問題

DeloitteのAI活用報告書に関する返金問題

  • Deloitteが 連邦政府向け報告書AIツール(Azure OpenAI GPT-4o) を使用

  • 報告書に 複数の誤り (架空の引用・存在しない裁判例など)発覚

  • Department of Employment and Workplace Relations(DEWR) が最終支払い分の返金を要求

  • Deloitteは 誤った脚注や参照 を一部訂正、ただし 提言内容は変更せず

  • 返金後、 契約内容は公開予定

    • 報告書初版は2024年7月4日公開、後に訂正版を再掲載
    • Australian Financial Review が8月に誤りを指摘し、問題が表面化
    • University of Sydney のDr Christopher Rudgeが「AIによる“幻覚”」と表現

AI活用による品質問題と業界批判

  • Deloitteは AI活用が誤りの直接原因 とは認めず

  • Labor党のDeborah O’Neill上院議員 が「人間の知性の問題」と批判

  • 「コンサル契約時は AI利用の有無や専門性 を確認すべき」と提言

  • ChatGPTサブスクリプション の方が有用では、との皮肉も

    • 元報告書には 実在しない論文や裁判例 の参照が複数
    • 報告書の修正版で「AI利用」を付録に明記
    • Deloitteは 報告書の結論・提言自体は正当 と主張

今後のコンサル業界とAI利用への影響

  • AI活用による品質担保説明責任 の重要性増大
  • コンサルティング業界の 信頼性低下リスク
  • AI生成コンテンツの検証体制 強化の必要性
  • 発注側は AI利用有無や専門家関与 の事前確認が必須
  • 政府調達における透明性・説明責任 の強化要請

Hackerたちの意見

知っておくべきことだね…オーストラリア政府を欺いて納税者のお金を不正利用したら、結果は部分的な返金だけだよ。

クレイグ・ライトの話だね、彼は有名なサトシの偽物だよ。ビットコインで名を馳せる前に、彼は詐欺的なGST還付やR&D税額控除を使って何百万も盗んで、さらに数千万を狙って捕まったんだ。彼はオーストラリアを逃げ出して、詐欺の一部を返済したけど、その後は他の国で贅沢に暮らしていて、税金の詐欺に対するさらなる罰は受けてない。

公平に言うと、これが基本的に必要な仕組みなんだよね。10人のうち1人の不正社員がいたら、全額返金されると思う? いや、請求可能な時間と不正による損害賠償しか戻ってこないよ。逆に働く契約があったら、契約書の方が実際の作業より長くなっちゃうよ。

誰かコンサルティングがどう機能するのか、そしてなぜそうなのか教えてくれない? もしある男がアドバイスをする以外に本当のスキルがなかったら、負け犬扱いされるよね。でも、これを会社にして、企業や政府がそのアドバイスを求めて列を作る。自社の従業員の方が、何も知らない外部の人よりもアドバイスをくれるんじゃない? ただググったりプレゼンを作ったりするだけの人たちに頼るのはどうかと思うんだけど。

自分の決断に責任を持つために、誰かを責める理由を探したり、決断をした後に「論理的」な理由を見つけようとすることだね。でも、そうすることで自分がバカに見えたくないだけなんだ。

もし実行したい悪いアイデアがあって、その責任を取りたくないなら、コンサルタントを雇い続けて、自分が聞きたいことを言ってくれるまで待つんだ。コンサルティングの質なんて関係ないし、インターンやAIでも十分だよ。プロジェクトが結局失敗したら、コンサルタントのせいにする。自社の従業員は会社にとって何がベストかアドバイスしてくれるけど、自分のために何がベストかは考えてくれないから、彼らを抑えつけて黙らせて、彼らの立場を学ばせるんだ。誰かが何が起こったのか気づく頃には、もう次に進んで素晴らしい履歴書のポイントを手に入れてる。

理論的には、ユニークな問題や課題を解決するのが得意な人たちがいるんだ。特定の問題に特化して、多くの会社でそのバリエーションを解決する経験を積んでいる人もいるかもしれない。彼らは伝統的な会社では過小評価されていて、給料も低いことが多い。もしそういう人たちを集めて会社を作り、彼らの専門知識を高く売ったらどうなるだろう? コンサルティング会社に本当のスキルがないと考えるのは間違いかもしれない。実際、彼らはただの「マネジメントコンサルタント」ではなく、技術系のコンサルタントも多いんだ。技術系の会社も基本的には専門のコンサルタントだし、セキュリティ関連は特にそのモデルが一般的で、少なくともいくつかの会社は能力に対して尊敬を集めている。コンサルティング会社には多くの批判があるけど、それは正当なものもある。HNのコメント欄でも悪いコンサルティング体験の話が見つかるかもしれない。でも、ユニークな問題を解決する才能がない会社で働いていた人たちも知っているし、彼ら自身が問題を引き起こしていることもある。良いコンサルタントは、従業員から見落とされたり無視されたり、うまく伝わっていない洞察を引き出そうとするんだ。彼らは要件収集やマネージャーとのコミュニケーションなど、良いソフトウェアエンジニアと重なる問題解決スキルを持っている。

私が直接見たコンサルタントの使い方をいくつか紹介するね:- 彼らは私たちの会社が政府のR&D税額控除の複雑なルールを乗り越えるのを手伝ってくれた。開発者全員にインタビューして、ガイドラインに対してどれだけがR&Dだったのかを評価してくれたんだ。これはコンサルタントを使う良い例だと思う。専門知識を持った人を得られるし、巨大な会社でない限り、常にその知識を持った人を雇うのは無理だから。- 彼らは私たちのソフトウェア開発の実践について調査を行い、他の多くのソフトウェア会社とも同じことをして、私たちのパフォーマンスを他社と比較してくれた。もしあなたがソフトウェアについて何もわからない無能なマネージャーなら、これは良いかもしれない。プロセスを改善する明らかな方法を指摘してくれるかもしれない。でも私たちにとっては、時間とお金の無駄だった。

単に「アドバイスをする」だけじゃないよ。「コンサルティング」には、ソフトウェアの実装までいろんなことが含まれてる。顧客は大企業で、予算も大きいし、いろんな規制もある。彼らが一番求めるのは法的な保証なんだ。プロジェクトがうまくいかなかったり、時間通りに実施されなかったりした場合、訴えられる相手が必要だから。単に破産して消えるような人じゃない、ってことね。「品質」は法的な保証に比べると、ほとんどオマケみたいなもんだ。そこでコンサル会社が登場する。彼らは大量の社員を抱えてて、その多くは大学を卒業したばかりの人たち。彼らが生み出す仕事の質はあまり良くないかもしれないけど、問題が起きたときには、いつでも人を追加投入できる(あるいは無給で長時間働かせることもできる)。だから「ミートファーム」なんて呼ばれることもある。簡単には破産しないしね。こういう会社がソフトウェアを開発する方法は、しばしば海外の第三者を介して、時にはいくつかの中間会社を通じて行われる。それぞれが自分の取り分を取るんだ。これが機能するってことは強調しておきたい。退屈で、時には魂を削られるような仕事だけど、簡単じゃない。規制に対処するだけでも仕事になるからね。中規模のプロジェクトを始める前に書かなきゃいけない契約書は、非常に詳細でなきゃいけない。プロジェクトが脱線したときにどうなるか、ペナルティは何か、誰が何を払うか、そういうことが書かれてる小さな本みたいなもんだ。ソースとして言うと、私はアクセンチュアに入社したとき、まさに「大学を卒業したばかり」の人だった。あるとき、静的なウェブサイトのスクロールバーの色をデフォルトから黄色に変えるのに、どれくらいのコストがかかるか見積もるように頼まれたことがある。その変更だけで、インドの誰かが実装する10行のコード変更に、3000ユーロかかるって見積もったんだ。これが2010年頃の話。退職金を提案されたときは嬉しかったよ。

私たちのようなサークルでよく聞くトロープは、大手4社のコンサルタントは不人気な決定を正当化するために存在するってこと。これは時々本当だけど… 大企業や政府は、みんなが好き勝手にミッションのために行動できるスタートアップじゃない。企業や政府は、非常に特定の役割と責任を持った人を雇う。責任を超える行動は推奨されない。大きな組織の中では、従業員は「この決定をして失敗したら、どれだけヤバいことになるんだろう?」って考えなきゃいけない。スタートアップは大きな損失を気にせずに書き捨てられるけど、大企業や政府は調査しなきゃいけない。大きな決定をする必要があるとき、たとえインターンが完璧なアイデアを持っていると確信していても、その決定を任せるわけにはいかない。失敗したら、誰がインターンにそれをやらせたんだって責任を問われるからね。だから、(名目上は)専門家であるコンサルタントを呼んで、自分の責任を「正しいことをした」ってところで終わらせるんだ。もし何か問題が起きても、自分の責任じゃないってわけ。

なんで会計士や弁護士が必要なの?それと同じことだよ。企業はたくさんのことに対してすべてのスキルを社内に持っているわけじゃない。私はITコンサルタントだった。ある大手エネルギー会社がAWSクラウドに移行したいと言ってきたけど、彼らの人たちは忙しすぎて経験がなかった。私たち(私のコンサルティング会社)はすでにその知識を持っていた。コンサルタントは単にアドバイスをするだけじゃない。多くの場合、実際に作業もする。でも、アドバイスも「製品」なんだ。社内チームに知識や時間がなければ、コンサルティング会社を雇うんだ。

どれだけの企業が社内に専門知識を持っていないか、驚くと思うよ。そして、その中で、専門知識なしに財務や技術的な決定を下して、いろんなトラブルに巻き込まれる企業がどれだけ多いかも驚くかも。さらに、社内に専門家を装っている一人の男がいて、他の人が雇われるのを防ごうと必死になっている企業も多いんだ。良いコンサルタントは、どうすればいいかを証拠をもとに教えてくれる。さらに良いコンサルタントは、必要に応じてプロジェクトベースでそのサービスを提供する。IT業界の「良いコンサルタント」は、本当に重鎮なんだ。私たちは、同じ経験を持つ人がほとんどいないような、いろんなスキルセットを持っているし、その専門知識を常に持ち続けることは誰もできないけど、月に数時間のためにお金を払う人はたくさんいるよ。もちろん、これはほとんどのコンサルティング会社の販売チャネルを反映していないけどね。営業は、サービスのためにお金を払わせるために、誰にでも話しかけることに集中している。大手コンサルティング会社が関与する場合、意思決定者は王族のように扱われることが多い。たいていは、配偶者を裏切る手助けをしたり、薬にアクセスする手助けをしたりすることが含まれている。コンサルタントが支払う、通常はラスベガスへの一週間の出張、たっぷりの小遣いカード付き。小規模な意思決定者は、地元のストリッパーとビールしか得られないかもしれない。一度、私たちがXについてコンサルティングしていた会社が、Yプロジェクトのコンサルタントに嘘をつかれているのではないかと心配して、私たちがクライアントの前で会議でそのことを探り出したことがあったんだ。彼らはただ、Dynamics CRMとSharepointを何が何でも正当化するように言われているだけだって明らかになった。

Hacker Newsで議論の続きを見る