これが私の最初の考えでもあった。結局、これってユーザーがチャットの出力を見るのをさらに遠ざけるだけで、情報が確実に信頼できるように見せるだけだよね。LLMが構造化データを生成して、それをビジュアライザーに突っ込むことができるのがそんなに衝撃的なの？心配なのは、それが信頼できるかどうかで、実際には信頼できないってことは知ってるし。

俺にとっては使いやすさとか生活の質を向上させる機能だね。見かけの自信を高めることとは関係ないと思う。結局、どれだけLLMを信じるか（または信じないか）によるんだろうな。最近、制限要因はLLMじゃなくて自分の直感だって気づいてきた。これがその助けになると思う。

GoogleがNano Bananaを使ってフローチャート生成を推し始めたときも似たようなことがあったよ。見た目が良いプレゼンは、実際に重要なこと、つまり基礎データの正確性から人々の目を逸らすことがある。

最近見かけたLinkedInの投稿で、AIを過信している人たちの例を見つけた。数字を作り出すこともできるってことに気づいてないんだよね。リンクはこちら：https://www.linkedin.com/posts/mariamartin1728_claude-wrote-... 追記：投稿者に感謝、誰かが問題を指摘したときに訂正のメモを投稿してたよ：https://www.linkedin.com/posts/mariamartin1728_correction-on...

同意するよ。次は感情を揺さぶる音楽を追加するかもね、スロップの盛り上がるクライマックスに合わせてオーケストラの部分が盛り上がるみたいな。

それは、物事にどれだけの努力がかかるかについての直感とずれてるよね。人間が関わってる場合、「このデータを使ってすごくおしゃれなインタラクティブチャートを作った」って言うと、もっと多くの作業をしたってことになるし、データの正確さにもそれなりの努力がかかってるだろうと推測できる。でも、LLMの場合は、そのおしゃれなチャートを作るのにそんなに手間がかからないんだよね。だから、努力のサインだったものが、実際には余計な努力がかかってないデータを信じるように私たちを誤解させてる。 （もちろん、人間はずっとこの傾向を利用して、派手なグラフィックを信じてきたけど。）

もう起こったよ。 :) https://www.reddit.com/r/dataisugly/comments/1mk5wdb/this_ch...

チャートを作るときに思考の連鎖を使うと、全体の正確さが向上するんじゃないかと思ってる。

LLMの上にデータツールを作るときにいつもぶつかる緊張感だな。見た目のいいチャートがあると、出力が信頼できるように感じるけど、データが間違ってることもある。チャートがあると、気づきにくくなるだけなんだよね。LLMはデータの出所や計算の過程を示す必要がある。まるで「見出しを読んだから記事の内容は全部わかる」っていうのと同じくらいひどい。