世界を動かす技術を、日本語で。

インターネットにおける成功の測り方には問題がある

概要

  • 広告費の意思決定 において、データの信頼性が深刻に損なわれている現状
  • eコマースサイトのコンバージョン率低下 の背後に潜むボットトラフィックの実態
  • 分析ツールが見抜けない巧妙なボット が業界全体に蔓延
  • 広告ROIの大幅な過小評価 と、実際の売上改善事例
  • デジタル経済全体を揺るがすボット経済 の構造的問題

データドリブンな意思決定と広告費の罠

  • 広告費の最適化 を目指す企業が、 虚偽のデータ に惑わされる現状
  • コンバージョン率0.1%未満 という異常値に直面したeコマース事例
  • 50,000人の訪問者 に対し、 実売上は47件 のみという現実
  • Google Analytics等のレポートは好調 を示すが、 実際の収益は停滞
  • Facebook広告に月4,000ドル投資 しても、 利益に結びつかない課題

ボットトラフィックの発見と調査

  • 独自のトラッキングスクリプト を開発し、 実際のユーザー行動 を観察
  • 1週間で判明した68%の非人間トラフィック という衝撃的な結果
  • 標準解析ツールをすり抜ける高度なボット の存在
  • 他のeコマースサイト200社超にスクリプト導入平均73%が偽トラフィック
  • 業界全体の構造的課題 として浮き彫りになるボット問題

ボットの巧妙な行動パターン

  • 人間らしい「エンゲージメント」を模倣 する設計
  • 滞在時間・スクロール速度・クリック動作 が機械的に一定
  • カート投入→放棄を正確に繰り返すボット によるメトリクス操作
  • InstagramやTikTokからの流入も64%がボット という実態
  • バニティメトリクス(見かけだけの指標) が意思決定を誤らせる要因

「善玉ボット」と「悪玉ボット」の混在

  • 大手小売業者やブランドが利用する合法的なデータスクレイピング
    • 在庫監視・価格調査・広告表示の多様性確認 などビジネスインテリジェンス目的
  • 全インターネットトラフィックの約50%がボット という調査結果
  • 不正広告クリックや偽装流入 による広告費搾取

ビジネスへの影響と広告ROIの改善事例

  • Google広告に月12,000ドル投資していたクライアント事例
    • ボット検出・除外後、トラフィック71%減少
    • 実売上は34%増加、ROIが劇的に改善
  • 本当のCRO(コンバージョン率最適化)の効果が可視化
  • 「マーケティングが下手」ではなく、「ボットに広告していた」事実

広告プラットフォームの利益相反

  • 広告プラットフォームはクリックやインプレッション単位で課金
  • ボット流入を除外すると収益が大幅減少 するため、根本的対策が進まない現状
  • 「AIによる検出は業界最高水準」との公式回答、実態との乖離
  • 業界関係者も「みんな知っている」 というオフレコの証言

ボット経済の隠された構造

  • スタートアップが「ユーザー成長」を装い、実は80%がボット
  • 投資家・広告主・分析会社が「見て見ぬふり」する構造的共犯関係
  • デジタル経済の半分以上が「ボットによる茶番」 という認識
  • AIと自動化の進化で、今後さらに拡大する懸念

まとめと今後の課題

  • 自社のアナリティクスを今すぐ見直す必要性
  • 「自分のビジネスは大丈夫」と思い込まない危機意識
  • この「デジタルのハリボテ」が崩壊したときの業界全体への影響
  • 真のデータドリブン経営に不可欠な、トラフィックの質の見極め
  • ボット経済を前提とした新たな指標・対策の模索

Hackerたちの意見

こんにちは、HN。マーケティングエージェンシーを運営していて、クライアントの分析結果が全然意味不明だったから、この問題にハマっちゃったんだ(5万の訪問者で、47件の売上)。結局、ユーザーの行動を追跡するための簡単なスクリプトを作って、200以上の小規模なECサイトを分析したよ。平均して73%がボットトラフィックで、通常の分析ではリアルなトラフィックとしてカウントされてる。ボットがエンゲージメントを真似るのが異常に上手くなってきてる。自分の発見をまとめたんだけど、見た奇妙なパターンや広告技術の内部者とのオフレコの会話も含めてね。これって、誰も話したがらない大きなオープンシークレットみたいで、全体のシステムがそれによって支えられてる感じ。ここにいる他の開発者や創業者、マーケターたちも、自分のデータで似たような不一致を見たことがあるのかな?

「すべてのクリックはクリック詐欺」って、真実からそんなに遠くないよね。

これってすごく一般的なことだから、全体の記事が驚くべき現象として取り上げられてるのが不思議だよ。PostHogって聞いたことある?

残りの27%の偽陰性率はどのくらいだと思う?0.1%の総コンバージョン率だと、270人に1人が何かを買うことになるけど、俺は訪れるオンラインストアのうち、たぶん10回に1回は何かを買ってると思うんだよね。

それが全部詐欺だとしても、ほんとに関係あるの?47件の売上を一定期間追跡したんだよね。その期間の広告費はどれくらいだったの?それを過去のデータと組み合わせれば、成功したキャンペーンかどうかは分かるはず。会社がビルボードやバスの広告を出すとき、ダッシュカムや犬に見られるかどうかなんて気にしないよ。大事なのは、最終的な利益への影響だけ。

一度、スイスのイエローページで働いてたことがある。私たちの有料クライアントは、自分のビジネスエントリーを訪れたユーザー数を報告するダッシュボードを持ってた。エンジニアリングチームはボットをフィルタリングすることに決めたんだ。数字は50%以上も劇的に減った。1日も経たないうちに、ビジネスからフィルターを外すように命じられた。結局、ボットもリアルな人間なんだから。

結局、ユーザーの行動を追跡するためのシンプルなスクリプトを作って、200以上の小規模なeコマースサイトを分析したよ。なんでMicrosoft Clarityを使わなかったの? > ボットがエンゲージメントを真似るのが異常に上手くなってきてる。Google Analyticsがこれに役立つと思うけど、どうも気にしてないみたい。

そうだね、痛みの多くは自分で引き起こしてる。内部の「SEO」ツールからトラフィックが来るeコマースの仕事をしていることが多いけど、通常、担当者はマーケティングの人で、技術的な人じゃないから、問題を特定するのも修正するのも難しいことが多い。eコマース企業は非常にサイロ化されていて、チームの一部の人が特別なツールでサイトをスクレイピングしている一方で、別の人がまた別のツールでスクレイピングしていることがよくある。ニュースレターを担当している人、オーガニック検索を担当している人、有料広告を担当している人、営業の人がそれぞれ自分のことをやっている。悲しいことに、彼らは通常、欲しいデータを消化できる形式で得るためにはほんの数SQL結合の距離なのに、サイロ化のせいでその会話を持つのが難しい。さらに、新しいボットにも対処しなきゃいけない。Huaweiのボットはすべてをスクレイピングするけど、店は中国に配送してないかもしれない。だから、広告詐欺をしていない正当なボットにも対処する必要がある。興味深いのは、誰もサーバーログに興味を持っていないこと。無料で手に入るし、CDNキャッシュヒットがなくても、チェックアウトトランザクションや新しくキャッシュされたページがないページを記録している。広告詐欺も企業内で行われている。私はかつて非常に成功した会社で働いていて、売上と在庫切れのものだけを測定していた。メールのオープン率やクリック率は必要なかったし、私たちの主な問題は売れすぎることだった。それは素晴らしい問題だったよ。売れすぎると、すべてをタイムリーに出荷できなくなるか、大きなトラックが足りなくなるからね。それ以来、あんなに成功したサイトで働いたことはない。代わりに、偽の指標で称賛される人たちがいる。SEO担当者が作るものやマーケティング担当者が測るものには、常に何らかのナンセンスな側面がある。あるいは、会計が実店舗の売上と混ざっていて、各販売に対して無料配送や割引が与えられているのに、AdWordsを使って「ドア」を通過させるために使われている。営業マネージャーは取締役会の誰かに報告しなければならないから、売上が良くないと、ナンセンスな統計を使って事実を隠すことができる。取締役会は利益だけを気にしているから、ナンセンスな偽の指標でこの状況が進むのは好きじゃない。eコマースのもう一つの根本的な問題は、基本的な販売スキルが不足していることだ。専門的な販売をするためにショップフロアで働くと、顧客のニーズを聞くことができるから、販売の技術を学ぶことができる。得意である必要はないし、実際には自分の限界を知っている方が良いこともある。私にとっては、商品知識がない高額商品がそれに当たるけど、その販売をもっと有能な同僚に渡すことができる。すべての販売に勝てるわけではないけど、小売業では、顧客が手ぶらで帰ることがないような素晴らしい連続を持つことができる。適切な商品を適切な価格で提供すれば、対面販売のコンバージョン率は90%に近くなるし、買わなかった顧客が翌日や翌週に戻ってきてお金を使うこともある。ハイストリートの小売業では、顧客がドアを通るだけで15%以上の割引を提供することはあり得ない。でも、これは特に小規模から中規模のショップではeコマースの基本だ。これが瞬時に商品の価値を下げる。何らかの理由でチャットボットがあることが多いけど、Dellのような企業はそれをうまくやることができるだろうけど、典型的な小規模なeコマースサイトもこれを失敗することが多いから、チャットボットを使おうとする顧客は、販売員から即座に助けを得られない。じゃあ、どうする?それは商品によるけど、目標は顧客を生涯の顧客にすることで、彼らを使い捨てにすることではない。それを達成するためには、商品、価格、在庫、配送時間、顧客サービス、そして顧客にあなたのために宣伝してもらうためのインセンティブが必要で、レビューや口コミなど、本当に人間のスキルが必要なハードな部分がある。時には、一度きりの販売になることもある。例えば、マットレスを買う場合。でも、それでも顧客サービスの基本は重要だ。さらにおかしいのは、何を買っても、購入したものに対する広告やインセンティブが来ること。これがキャリアに悪影響を与えない理由がわからないけど、誰もこれを解決しようとしていない。次回は、みんなが必要とするデータを見つけて、自分のスクリプトでそのデータだけを収集し、報告生成などの内部目的に使えるライブバックアップを持つつもりだ。開発者の監視なしに、150のスクリプトをクッキーとともにダウンロードするミステリースクリプトコンテナは存在しない。私の直感では、本当に重要なのは売上だけだ。売上が発生しない理由については、すべてのデバイスで機能が正常であれば、もっと深く掘り下げる必要がある。それは、ショールームフロアで働いたことがある人だけが理解できる知識レベルだ。本当に、ウェブサイトは販売員の知識をHTMLに凝縮したものであるべきだ。でも、顧客に何をアップセルするか、あるいは顧客が特定の商品に躊躇した場合にどの製品を勧めるかを、顧客にサービスを提供している人に尋ねることはない。代わりに、これらのことを管理するミステリーミートAIスクリプトがある。広告詐欺についての情報をありがとう。通常、私は内部のスクレイピングの影響でウェブサイトのパフォーマンスが大きく損なわれるため、広告詐欺からは遠く離れているし、開発者としてはページの読み込み時間がトラフィックに対して支払った金額よりもずっと重要なんだ。

「みんな知ってる。でも、もしちゃんとフィルタリングしたら、収益が一晩で40%落ちちゃうし、投資家はパニックになるだろうね。」上の「収益」って言葉、ちょっとおかしい気がする。「広告インプレッション」とか「クリック」とか「訪問者数」とか、他の何かを言いたかったの?もしボットトラフィックが40%も収益を増やしてるなら、それは素晴らしいニュースじゃない?収益のことなら、そのまま続ければいいよね。

面白いね。サイトが実施したボット対策について具体的には書いてないから、補足すると、ボット防止策は良いけど、ユーザーに多くのハードル(CAPTCHAとか)を設けるほど、正当なユーザーが離れちゃうんだよね。それがコンバージョン率に大きな影響を与えると思う。これを解決するには、ECフローに摩擦を加えるんじゃなくて、分析やアトリビューションの側面を見直すべきだと思う。特にボット技術がどんどん進化して、リアルなトラフィックと区別がつかなくなってきてるから。

スクリプトを見てみたいな。読んでみても、方法論がしっかりしてるかどうかは分からないし。例えば、広告ブロッカーを使ってる正当なユーザーや、JSを無効にしてるユーザーが誤ってカウントされることはないのかな?それにしても、73%ってのは驚きじゃないね。むしろもっと高いと思ってた。これに関しては、こんな言葉が状況をうまく表してると思う。> 「いくつかの大手広告プラットフォームにこのことを持ち出そうとしたとき、会話はいつも予測可能な流れになった。営業担当者はすごくフレンドリーだったけど、クリック詐欺やボットトラフィックの話をした途端、トーンが一瞬で企業用の言葉に変わった。「私たちのAI検出は業界の最前線です」とか「広告詐欺には真剣に取り組んでいます」とかね。礼儀正しいけど、しっかりした壁があって、質問をやめろっていう明確なサインだった。> 何年も知ってる担当者の一人が、ついにオフレコで真実を認めてくれた。「おい、俺たちは知ってるよ」と彼は言った。「みんな知ってる。でも、もしそれをちゃんとフィルタリングしたら、収益が一晩で40%落ちて、投資家がパニックになるだろうね。」

長年知っている担当者が、ついにオフレコで真実を認めた。「みんな知ってるよ」と彼は言った。「でも、もしそれをちゃんとフィルタリングしたら、収益が一晩で40%減るし、投資家はパニックになる。」訴訟の時間かな?

企業側でも問題だよね。マーケティング担当者が見栄えの良い指標で評価されると、コンバージョンの問題はファネルの後半にあると思い込んじゃう。ベンチャーキャピタルの支援を受けてるスタートアップでも、ボットのサインアップに目をつぶるインセンティブがある気がする。投資家が注意を払ってないから、数字が良く見えるし。

これには驚いた。業界ではトラフィックの数字がほとんどナンセンスだってのは常識だと思ってたし、広告クリックのメトリクスが特に超怪しい、通常は半分以上が詐欺だってのも知られてるはずなのに、OPは「正確な広告支出分析」のビジネスをしてるのに、今さらこれを発見したの?全然信じられない。ストーリーのその部分は全く新しくないし、その仕事に従事してる人なら、こんなの知ってるはずだよね?ボットパターンを分類するセクションはもっと興味深いけど、そこについてはあまり語られてない気がする。

5万から47件のコンバージョンって、少なくとも俺には明らかに偽の増加に見える。半分以上が詐欺から、実質的に詐欺だけになって、ほんの少しだけリアルなユーザーがいるって感じ。

最後に働いてたスタートアップは、マーケティングチームの時間や開発時間をかなり投資して、いわゆるリードからのコンバージョンを「修正」しようとしてたんだ。他にもたくさん問題があったけど、実行不可能なビジネスプランとかね。でも、もし無駄に追いかけ回してなければ、もっと早くピボットする時間があったかもしれないのに。

これはもう10年以上前からよく知られていることだよね。ブログ記事はdatacopsのマーケティング活動だ。

私たちの中にはそれを知っている人もいたけど、状況は悪化している。ここ10年、マーケティングチームに関わってきたけど、なぜか説明できないけど、彼らは数字を無条件に信じている。特に広告費に関して。部門の存続を年々指数関数的に増加させる必要があるKPIで正当化しなければならないから、膨れ上がった数字は良いことだと思っている。彼らはただ、営業が契約を結ばないせいにすることができるんだ。

OPは自分のウェブ解析製品を売ってるから、この記事は話半分に聞いた方がいいよ。

高度なボットトラフィック検出とフィルタリングを導入したら、報告されたトラフィックが71%も減ったんだ。[...] でも、その後の売上報告が来たら、実際の売上は34%も増えてた。彼らの本当のコンバージョン率最適化(CRO)の努力はずっと機能してたけど、結果は偽のクリックの山の下に埋もれてたんだ。マーケティングが下手だったわけじゃなくて、ただロボットに広告費を何千ドルも使ってたってこと。マーケティングのROIは、一晩で「ひどい」から「素晴らしい」に変わったよ。ボットトラフィックを検出することで、どうして広告費が減るのか理解できないな。例えば、Google Adsに特定のクリックに対してお金を払いたくないって言えるの?彼らはボットを避けるためにターゲティングを変更したの?

フィルタリングのことだと思うけど、ユーザーがボットだと検出したら、広告を読み込まないってことかな?

ボットトラフィックをブロックすれば、リターゲティングが改善されて、リターゲティング予算が実際の人に使われるようになって、コンバージョンが増えるって想像できるな。

類似ユーザーやリマーケティングオーディエンスを作るとき、ボットユーザーが混ざってると、Facebookや他のプラットフォームに間違ったシグナルを送るかもしれない。 > 例えば、Google Adsに特定のクリックに対してお金を払いたくないって言えるの? いいえ。

広告テック業界でほぼ15年働いてたけど、GoogleやFacebookみたいな大企業はユーザーを騙してるよ:- ダブルトラッキングを許可しないから、彼らの数字を信じるしかない - 彼らの「クリック」のIPを見ると、よくFBやGoogleのデータセンターのIPレンジが見える - そして、彼らが送るトラフィックのほとんどは、巧妙なアルゴリズムと重いプロファイリングで、あなたのオーガニックトラフィックを盗んでる。だから、あなたのサイトで買うはずだった人たちを主張して「素晴らしい」パフォーマンスを得てるんだ。影響指標をうまくやろうとしてる会社も見てきたけど、これは例外だね。広告を表示してるウェブサイトはユーザーをイライラさせて、何の利益も得てない - 広告を出したい店舗やブランド、人々は何も得られないのに大金を払ってる - ただの仲介業者だけが利益を得てる。

Google広告って、誰かにお店の前に立ってもらって、入ってくる人にチラシを配ってもらうようなもんだよね。確かに、あなたの店に来るお客さんの中には、Googleからチラシをもらった人もいるだろうけど、その中に新しいお客さんはいたの?

彼らはダブルトラッキングを許可していないから、彼らの数字を信じるしかない。Facebook AdsとSA360は、どちらもサードパーティのインプレッションとクリックトラッキングを許可してるし。ウェブサイトを追跡するために使えるサードパーティの分析ツールも無数にあるし。 > 彼らの「クリック」からIPを見てみると、よくFBやGoogleのデータセンターのIPレンジが見える。こんなの聞いたことないし、めちゃくちゃ単純だね。このメガコープたちはVPNを持ってないの? > 彼らはただ賢いアルゴリズムと重いプロファイリングを使って、あなたのオーガニックトラフィックを盗んだんだ。これを書いてるときに脳卒中でも起こしたのか?全然意味がわからない。10年以上この業界にいる私から見ても、あなたの言ってることは全く信じられない。15年経ってもこの業界や技術を理解してないのか?

数年前に読んだ記事を思い出すな。似たような例を挙げて、ウェブサイトの広告市場はほとんどが人工的なもので、詐欺やボットだって言ってた。でも、たくさんの仕事や会社、業界全体が、これが真実じゃないふりをすることに依存してるんだ。

その記事、私も覚えてる。最初はこれ、再投稿だと思ったけど、現在の日付が付いてるね。もしかして、マンデラ効果が働いてるのかも。

じゃあ、私がFacebook広告を運用してて、詐欺的なトラフィックが大量に来たら、誰がそのボットに偽のクリックをさせてるの?Facebook?彼らには動機があるよね。クリックごとにお金をもらってるし。でも、そんなことする勇気はないと思う。捕まったら訴えられて終わりだし。競合?彼らが私のマーケティング予算を燃やそうとしてるのかも。でも、それには多くの企業が持ってない技術的な洗練が必要そうだし。本当に怪しい業者にお金を払うつもりなの?それはありえない気がする。広告代理店?支出に対するリターンがひどいってすぐにバレるから、それも考えにくい。誰か他の人?彼らの動機は何?

もしかして、リアルな人間に見せかけようとしてるボットなのかな?特定のターゲットじゃなくて、ただ本物のユーザーを装おうとしてるだけ?

私はFacebookだと思う。彼らは競合に対する裁判を乗り越えられると思ってる。ほぼ無限のリソースがあるからね。

AIやデータスクレイパーのおかげで、いろんな目的でボットがトラフィックを集めてるし、Facebook広告を追いかけたり、ストアをクロールしたりしてるけど、もちろん購入はしてないよね。

他の誰か?その人たちの動機は?政府の場合、動機は安定した経済だよね。でも、この社会では笑い声が聞こえてきそう。

おそらく、Facebook自体ではなくて、広告を買い続ける限り問題に反応するインセンティブがないんだろうね。

でも、彼らがそんなことをするとは思わないな。企業の悪行の歴史を見れば、「会社Xが利益を得るためにこんなことをするはずがない」って言うと、大体間違ってることが分かるよ。これはFacebookだけじゃなくて、すべての企業に当てはまる。収益 = R、活動のコスト = A、捕まる確率 = P、罰金の可能性 = F。もしR > A + P x Fなら、その行動をするってこと。

これ、数年前には知られてた気がするけど、あまり注目されなかったね。2022年にWiredに載ってたボットに関する記事があるよ。https://www.wired.com/story/bots-online-advertising/ それ以前の2010年代には、eBayの社員がオンライン広告の歪んだインセンティブを発見したんだ。Freakonomicsがその件についてポッドキャストをやってるよ。二部構成だけど、広告業界の裏側の考えや動きが知りたいなら、すごく価値があるよ。https://freakonomics.com/podcast/does-advertising-actually-w...

最近、Redditで851ドル分の広告を出したけど、結果は最悪だった。アクティブユーザーあたりの平均エンゲージ時間は8秒(平均だよ、中央値じゃない!)。これって、ほとんどがボットだったんじゃないかって思っちゃう。もしそうなら、誰がそのボットを動かしてたんだろう?