世界を動かす技術を、日本語で。

求めていないAI機能に溺れていて、嫌になっている

概要

  • AI技術 の普及が消費者向けテクノロジー製品の質に悪影響を与えている現状
  • 本来の価値 がAI機能やトレンドに置き換えられ、ユーザー体験が損なわれている指摘
  • 生成AI によるネット上の情報の信頼性・本物らしさの低下
  • AIモデルの訓練 における倫理的問題と個人データの無断利用
  • 企業の姿勢 への疑問と、AI中心主義への懸念

AIブームの弊害と消費者向け製品の悪化

  • AI技術 への期待と好奇心から始まった体験
  • Rabbit R1 など新製品への興味と失望
  • AI機能 がスマートフォン以外の製品にも拡大し、使い勝手の悪化
  • 本来の製品価値が 流行のギミック に置き換えられる現状
  • 企業 がユーザー体験よりAI導入自体を重視する傾向
    • Google Gemini の例:Assistantよりも遅く、基本機能すら満足に動作しない
    • Apple Siri とApple Intelligenceの品質低下
    • Microsoft Copilot の過剰な統合とユーザー体験の阻害
    • Arcブラウザ の後継DiaもAI偏重で独自性喪失、PerplexityやChatGPT Atlasと同質化
  • AI搭載 が本当の改善ではなく、単なるマーケティング手段となっている現実

生成AIがもたらすインターネットの劣化

  • 生成AI によるネット上の本物らしさ・多様性の喪失
  • X(旧Twitter) ではChatGPTによる投稿や自動化アカウントの増加
    • インセンティブ設計 の問題でスパムや偽物が目立つ状況
  • InstagramYouTube もAI生成スクリプトの氾濫
  • Reddit のスレッドも要約生成中心となり、議論の本質が薄れる
  • Google検索 もAI概要機能で誤情報や信頼性低下
  • インターネット本来の 人間らしさ や偶発性の喪失

生成AI開発の倫理的問題

  • AIモデル訓練 における著作物の無断利用
    • 書籍・記事・写真・動画・SNS投稿など、許可なくデータセット化
    • クリエイターへの 正当な報酬・クレジット・同意 の欠如
    • 生成物の裏にある無数のオリジナル作品の搾取
  • AI生成コンテンツ へのエンゲージメントがオリジナル制作者に還元されない構造
  • データ収集 の際のユーザーの同意や透明性の不足

AI利用による個人データの収集とリスク

  • AIプロダクト への入力や対話内容が全てデータとして収集・分析
  • 個人情報 や心理的プロファイルの詳細な蓄積
  • Googleアカウント やGemini利用による情報統合の懸念
  • 自己運用型LLM でプライバシーを守るには高性能なハードウェアが必要
  • ユーザー の知らぬ間にデータが次世代モデルの訓練に利用される現実

企業のAI中心主義への疑問と今後への思い

  • 生成AIやLLM は適切に使えば有用だが、あくまで補助的機能が望ましい
  • 企業 はAI導入そのものより、ユーザー本位の製品改善に注力すべき
  • AI偏重 がイノベーションの本質を損なう懸念
  • 今後 はAIトレンドが沈静化し、製品本来の価値が見直されることを期待

Hackerたちの意見

数ヶ月前に自宅のセットアップをMX Linuxに変えたんだけど、PCがWin10のクソみたいなアップデートに比べてめっちゃサクサク動くんだよね。ロック画面にウィジェットはいらないし、スタートメニュー開いたときにキャンディクラッシュのことなんて知りたくない。Edgeなんて使いたくないし、Firefoxで十分だわ。Win11のAIのクソみたいな機能なんて論外。

同じく。久しぶりにWindowsからFedoraに戻ったんだけど、Fedoraは気が散ることが少なくて、ずっとこのままでいてほしいな。

Windows 10については分からないけど、Windows 11では、みんなが文句言ってるようなことは簡単に無効にできるよ。

1ヶ月くらい、両親にLinuxに移行してもらおうと頑張ってるんだけど、母が自動更新でパソコンを壊しちゃってさ。Linux Mintとかに移れば、もっと速く動くって説明しても、常に監視されて広告が出ることもないって言っても、全然理解してくれない。残念ながら、無駄だったみたい。両親は「難しすぎる」って信じ込んでるし、Windows Updateが母に新しいノートパソコンを買わせるようなことをするたびに、僕に電話してハードドライブを消去する手順を教えてもらう方が「簡単」だと思ってるみたい。一方で、LinuxかmacOSに移行しない限りテクサポートはしないって言おうかとも思ったけど、彼らはそれを気にしないだろうし、結局は折れちゃうんだろうな。

EoLのWindows 10に備えて、古いデュアルXeon / VEGA64のタワーにUbuntuをインストールしたよ。初めてのLinuxユーザーだけど、このパソコンはまた速くなった。Ubuntuにしたのは、古い初心者でもワンクリックでGPTサポートがあるから。君もできるよ。次は、最高のCore2Duo Windows 7 Pro 64ビットパソコンを引退させる時だ…でも自然に壊れるまで待つつもり。

そうだね。生成AIは良くない。一般の人たちもそれに気づき始めてる。技術やコンピュータサイエンスのバブルの中だけが楽観的なんだよね。

技術やコンピュータサイエンスのバブルってどういう意味?私が関わってるソフトウェアエンジニアたちは、AIツールについてあんまり楽観的じゃないみたい。どちらの側にもバブルがあると思うけど、私はおもちゃプロジェクト以外で使ったことがあまり良い経験じゃなかったから、AI懐疑派の方に近いかも。

技術系のサークルの外でAIについての会話は、ほぼ全てネガティブだよ(中でも大半がそう)。最近の記憶の中で、一般の人々がこんなに一斉に反対した技術ってあったかな?

それは違うと思う。私は高校生だけど、管理者たちがMicrosoft CopilotとChatGPTのどちらがいいかって話してるのを何度か聞いたことがあるよ。

僕がいる(非テクノロジーの)業界は、誰もがエグゼクティブサマリーを超えて読むことはないだろうっていう膨大な量のテキストを生成してる。仕事仲間はそれを大好きだよ。テクノロジーコミュニティの中では、クリプトのような分断を見ている - 成功を願っている人たちはすごく楽観的だし、他の分野で働いている人たちはせいぜい疑わしい感じ。

CSのバブルにいる人たちは、自分たちのソフトウェアエンジニアリングという(良い)キャリアが壊れるまで楽観的だと思う。

それでも、非技術系の人たちがChatGPTにお金を払っているのには驚かされる。

http://archive.today/74kzf

ありがとう。そのサイトのためにブロッカーをオフにしなきゃいけなかったよ、ポップアップに溺れそうだった。

フォーラムやコミュニティが本物の声を失いつつある… 大半のツイートのコメントは同じようなロボット的なトーンで、エンゲージメントを稼ぐためだけに存在しているのが明らかだよね。AIが状況を良くするわけじゃないけど、正直言って、著者の不満の多くはLLMが登場するずっと前から問題だった。エンゲージメントベイトは儲かるし、80億人がつながるインターネットは常に単一文化に向かうだろうね。

問題を100倍悪化させるのは、ソーシャルメディアがずっとクソだったとしても、かなり注目すべきことだよね。最近のredditの投稿の半分はChatGPTが書いたもので、OPが何にも返事してないし。

フォーラムやコミュニティが本物の声を失いつつある… 大半のツイートのコメントは同じようなロボット的なトーンで、エンゲージメントを稼ぐためだけに存在しているのが明らかだよね。前にも言ったけど、Something Awfulが面白かった理由の一部は、参加するのにお金がかかったからだと思う。そんなに大金じゃないけど、ボットトラフィックをかなり低く抑えるには十分な額だよね(アカウントがバンされるとすぐにお金がかかるから)。それに加えて、エンゲージメントを得ることに大きなメリットがない(「面白いことをするのが楽しい」以外は)し、フォーラムをつまらなくする人をバンしたり調査したりするモデレーターの姿勢もあって、結局これが僕が使う唯一のソーシャルメディアになった。完全なオッサンではないけど、TwitterやInstagramの魅力は理解してる。でも、機械学習の推薦システムは本質的に良いものに反すると思うんだ。YouTubeやTikTokの推薦が僕の人生を意味的に良くするわけじゃないし、これらのシステムが意図通りに動くなら、ただ時間を無駄にするだけだよね。

同意。僕には、唯一有効なソーシャルネットワーク(ソーシャルメディアやフォーラム)は、何らかの半ロックされた/キュレーションされた王国になるのが避けられないように思える。ウェブ上でボットトラフィックとエンゲージメントが増えるにつれて、その魅力は確実に減少していくよね?特に、ユーザーがより洗練されていく中で、単純なボットがますます多くの活動を支配するようになると。もし実際に人と関わっていないなら、インターネットはまだ楽しい/中毒性があるのかな?

一番イライラするのは、これらのウィジェットがUIを揺らしてくることだよ。JSのロジックの多くがこの問題を抱えてるけど、AIウィジェットの遅延でUIが再フローされて、クリックしようとしてたものが動いちゃうんだよ!それから、誤クリックで迷い込むことになるし。

Google SheetsにうざいGeminiのポップアップが出てきて、セルやUIが隠れちゃうんだよね。数式を編集しようとすると、ほんとイライラするし、考えるだけで血圧上がるわ。

Geminiは使ってないけど、AndroidのGoogle Messagesで「Start Chat」ボタンの上に永久にGeminiのFABがあって、どうしても消せないんだよね。Material 3のガイドラインでは「1つの画面に複数のFABを表示しない」って言ってるのに。

ほんと、失礼すぎるよね。彼らがそうする理由は、会社の一部がAI関連の指標を達成したいからで、ボタンをクリックさせることでそれを実現してるんだ。逆に考えると、そもそも多くの製品は無料だから、製品の変更がユーザーではなく会社に利益をもたらすのは驚くことじゃない。でも、少なくともある程度の敬意は必要だよね。機能は必要な時に使えるようにあって、ユーザーに「使って!」って叫ぶためじゃない。彼らが追いかけてるAIの指標なんて、実際には存在しないし、彼らにとっても利益にならない。結局、管理職が同じAIバブルにいるから、機能が採用されたって言うのが良く見えるだけなんだ。でも、その機能は全然役に立たないし、良くもない。多分、ちゃんとしたドキュメントがあればずっといいよね。そして、有料版でもボタンが揺れるのは分かってるし、彼らは気にしない。業界全体がアプリやウェブサイトでユーザーから便利に抽象化されて、ユーザーを統計として扱うことができるのが本当に嫌だ。こんなことをする会社で働くのは恥ずかしいことだと思う。「ユーザーを操る」なんて、最低のビジネスモデルだよ。幸い、みんなそれが下手だから、ほとんど無視できるけど(ソーシャルメディアのフィードは別だけど)。でも、こんな世界にいるのは本当に嫌だよね。もし誰かが目の前でこんなことをしたら、何かを売りつけて、役に立たない機能をずっと見せられたら、絶対に文句言って二度と取引しないと思う。それがテクノロジー企業にも当てはまるべきだよ。

Google HomeのNestが「アップデート」されたんだけど、前は「サーモスタットの設定温度は?」って聞くと「70度何とか」って教えてくれたのに、今は「クールに設定されてます」って言うだけ。全然役に立たないし、「サーモスタットの設定温度は?」って聞かないといけないから、長くて面倒くさい。

AI(リスト確認)うん、また誰も望んでない貪欲な機械が出てきたね。裕福な少数派が運転してて、(メモ確認)また人類の救世主として装ってる。さて、SaaSの上で、グリーンエネルギーが詐欺だという主張の下に。

最近、私は一般的なルールが常に成り立つことにますます確信を持つようになった。つまり、分散が進むほど腐敗が少なくなり、ユートピアが増えるってこと。例えば、法定通貨は悪い。金の取引は良い。ブロックチェーンは良い。単一のネットワークは悪い。デバイス上のAIは良い。オープンソースのAIやデータセットは良い。OpenAIとクローズドデータセットは悪い。自宅で充電する電気自動車は良い。自宅で発電するのも良い。一つの企業が電力を独占するのは悪い。小さなフォーラムは良い。Redditは悪い。ソーシャルメディアの巨人たちは悪い。

最初の部分はちょっと面白いね。この人はAndroidとWindowsについて文句を言ってるけど、一方でMark Gurmanは毎週AppleがLLM統合でどれだけ遅れてるか報告してる。だから、僕はiOSとmacOSを使ってるけど、Appleがちゃんとしないからこんな問題は一切ないんだ。

アプリにヒントを与えるための動作を減らす設定や好みのテーマ(ライト/ダーク)のOSレベルの設定を取得するのにどれくらい時間がかかった? バブルが弾ける前に「ユーザーはあなたのクソみたいなAI^wLLM機能には興味がない」っていう新しい設定を追加する時間はあるのかな?