世界を動かす技術を、日本語で。

GLM 5.2は人間の簿記担当者とほぼ同等の精度を持っています

概要

  • GLM 5.2 は英国中小企業向け四半期VAT申告書作成で高精度を示した
  • 59件の取引を 68分 で処理し、コストはわずか 2.73 USD
  • 人間の会計士とほぼ同等の正確さで、主要な数値の差異は 7ペンス のみ
  • 重大なミスは1件、その他は実務上大きな影響のない分類ミス
  • 今後はこのAI能力を中小企業向けに活用するための仕組みづくりが重要課題

GLM 5.2による英国中小企業向け四半期VAT申告書作成ベンチマーク

  • GLM 5.2 はオープンウェイトAIモデルとして評価
  • 英国のVAT登録中小企業(SME)が 四半期ごとに義務付けられるVAT申告 の自動化
    • 通常は外部会計事務所が担当し、 1,000~2,800 USD/四半期 の費用が発生
    • 法定期限は 四半期終了後5週間以内、遅延時は重い罰金
  • GLM 5.2は 59件の取引を68分 で処理し、 2.73 USD のトークンコストでほぼ完璧な申告書を作成
  • モデルはCLI(コマンドラインツール)経由で会計ソフトに各取引を入力
  • 6つの評価基準で取引ごとに正確性を判定
    • 主要項目(Box 5)の差異は 7ペンス(約10セント) のみ

ベンチマークの実施方法

  • Claude Fable 5 を用いて、会計ソフトから取引データと領収書PDFを抽出
  • 対象期間は Vineyard Finance社2026年第1四半期 (1~3月)
  • 人間による帳簿作成と検証を経たデータを利用
  • モデルには「ユーザーノート」として現実的な文脈も提示
    • 例:「founder shares」「personal car hire」
  • GLM 5.2は Google Cloud Platform 上で外部環境から隔離して実行
    • インターネット接続と会計ソフト、認証済みCLIのみ利用可能
  • モデルプロバイダーは Fireworks AI (量子化形式は未公開、FP16またはFP8と推定)

モデルの入出力・スコアリング

  • モデルには 銀行取引データテキストPDF領収書、必要に応じてユーザーノートを提示
  • 画像処理不要なため、視覚機能の欠如は問題にならず
  • 各取引は以下の6基準で評価
    • 取引種別(例:purchase, bank_fee, transfer, sales_income等)
    • 勘定科目(チャートオブアカウント上の「account」)
    • VAT区分(例:reverse charge, 20% VAT, 0% VAT, VAT exempt)
    • VAT金額(許容誤差0.02 GBP)
    • リバースチャージVAT(許容誤差0.02 GBP)
    • 領収書添付(税務署要件)

パフォーマンスとコスト

  • 1四半期(59取引)を 68分 で処理
  • 合計 5.73Mプロンプトトークン、出力トークンは最大139,128
  • プロバイダーキャッシュ利用によりコスト削減
  • 総コストは 2.73 USD、従来の人間会計士と比較し圧倒的な低コスト

モデルの主な誤り

  • 重大なミス:創業者株式(founder shares)の処理
    • 正しくは「Unpaid Shares」勘定に計上すべきところを「Capital Account」と誤分類
    • 法的・会計的に重要な差異があり、監査時や年次決算で問題となる可能性
    • 金額は 10,000 GBP(約13,300 USD) と大きい
  • その他の誤り
    • 14件: zero-rated VATtax-exempt の混同
      • 税務上は異なるが、実務影響は小
      • 1~2月は100%混同、3月は正しく分類
    • 3件: Wiseの複数通貨取引 のVAT計上ミス・過剰計上
      • 一部は実質的な影響なし、3月は独自に正しい分割計上も見られた

モデルが常に正確だった点

  • 勘定科目の分類(創業者株式を除く)
  • 取引への領収書添付ミスなし
  • 金額・日付・ベンダーが同じ複雑な取引の正確な識別
  • 銀行間移動や複数仕訳に分かれた取引の正確な処理
  • これらは従来、高額なAIモデルや熟練会計士でしか達成できなかった精度

今後の展望と課題

  • 記帳業務はAIでほぼ解決済み との結論
  • 今後は 英国スタートアップやSME向けの実用的な仕組み(scaffolding) の構築が課題
  • Vineyard Financeでは toot-books.com でβ版を公開中
  • 自動記帳に興味がある場合は adam@vineyard-finance.com まで問い合わせ推奨

Hackerたちの意見

人間の簿記係とほぼ同じくらい正確だね。メトリックシステムを使わないためならなんでもいいけど、マジでこのメトリックって何?LLMが人間の簿記係と同じくらい正確だって、なんで気にしなきゃいけないの?人間って完璧な記憶力があるわけじゃないし。

人間の簿記係がいて、その人をこの会社のAI簿記係に替えようとしてるなら、気にすると思うよ。

こんにちは、ブログ記事の著者です。私はこのベンチマークのための人間の簿記係の一人でした(準備担当;共同創業者がVATの提出を確認しました)。このデータをモデル評価に使うつもりだったので、すごく注意深くやったんだ。だから、これは「良い簿記係」ってことになるのかな。前の会社では簿記係がたくさんミスをして、会社のアカウントを再発表しなきゃいけないほどの深刻なミスもあったよ。

これはAI簿記係を提供するサービスだから、かなり関連性のある指標だね。

面白い記事だね。昔簿記をやってたから、LLMに支えられたシステムが自動化されるのはあんまり驚かないな。彼らが遭遇したエラーの種類は、税法の細かいポイントに関するスキルや知識の向上で対処できるみたいだし。彼らのソフトウェアにとって重要なのは、HMRCから問い合わせがあったときに出力に責任を持つかどうかだね。それがなければ、ユーザーはリスクを背負うことになるけど、HMRCとのやり取りは楽しくないからね。それがあれば、多くの小さな会社にとってはかなりの節約になるかも(でも多くの会計事務所の従業員には悪影響だね)。

これには全然驚かないよ。問題をかなり制約して、狭い文脈を与えれば、かなり信頼性の高い再現性のある結果が得られるからね。 vibe-coded deepseek簿記でかなり良い結果が出たことがあるよ。 https://github.com/traverseda/beansync これはメールや他のソースを解析して、数字を抽出し、異なる取引を関連付けて、ウェブ検索をして、質問をして、メモを保存する(regexベースで、すごくシンプル)。難しいのは良いデータを得ることだね。レクサスネクサスとかが僕の銀行口座やクレジットカードにAPIアクセスできるのは確かだけど、僕にはできない。メールがほとんどのプロバイダーにとって最良の方法だった。今のところ2段階認証を避けられてるけど、必要になったら面倒だろうな。

イギリスの主要な銀行と連携してるよ。洗練された製品を使いたいのか、それとも銀行フィードをAPIとして使う方が興味あるのか、気になるな。どの銀行を使ってるの?

自分へのメモ:traversedaはメールに2段階認証を設定していなくて、彼のLLMは完全にアクセスできるみたい。うーん。

こんなの試すのはめちゃくちゃ怖いよ。きれいなウェブサイトと動画、ブログ記事しかないし、創業者についての情報もない。LinkedInでも何も見つからないし、昨年設立されたVineyard Finance LTDって会社だけ。LLMに渡すデータについてはみんな神経質だけど、ここでは一線を引くよ。今のまま少しの料金を払ってアカウントをやってもらう方がいい。

創業者についての情報はもうすぐ公開するよ -- 今公開準備中なんだ。少し古い創業者のプロフィール(アダムとイヴァ)もここに載ってるよ: https://www.biomage.net/our-team

自分のパソコンにbeancount用のフォルダーを作って、そこにいろいろ入れてる。あと、ビジネスの銀行口座には、リードトークンを使ってMercury CLIでアクセスしてるし、メールもIMAPで完全に同期してる。Claude CodeとOpusが全部スムーズに繋げてくれるから、アカウントは常に最新の状態。年末にはその情報を使ってビジネスの税申告を準備して、後で自分の分もやった。2025年の税申告は結構複雑で、ビジネス税の考慮がいくつか変わったり、1099として自分に誤って送られたお金があったりして、Claude Codeのアドバイスを受けながら税ソフトで全部やったんだ。結果はかなり良かったよ。予想通り監査(または慎重にレビュー)されたけど、唯一のエラーは妻の非課税の障害手当の小額を割り当てたところだった(障害はカリフォルニアが母性給付金の保護を提供するために使う仕組みで、彼女は実際には障害者じゃない)。IRSからそのことを指摘されて、その分を支払った(雇用主から返金されるべきものだったのに、アメリカ政府からではなかった)けど、すべてはうまくいった。正直、その金額は小さすぎて調査しなかったし(まだ彼女の雇用主からの返金も追ってない)、会計士や税理士に頼んでアドバイスを受けていればほとんどの問題は避けられたと思う。でも結局、IRSは説明すれば非常に合理的だし、現代的なエージェントのおかげで全体のプロセスはかなりシンプルだった。最後には、ソフトウェアを使ってインタラクティブに作業する方が好きだった。ほとんどの会計士や弁護士は、ドキュメントを一度に全部集めてから作業するのを好むけど、私は段階的に申告書を作成できて、すべてをプラグインできた。たくさん質問できて、明確にしてもらえたし。今年も同じ方法でやるつもり(もちろん、税金はもっとシンプルになるけど)。

なんで監査されたと思う?

Hacker Newsで議論の続きを見る