Aphyr のこの記事は、ひとことで言うと 「LLMのすごさ」ではなく「LLMが社会に残す跡」 を考えよう、という話です。
筆者は冒頭で、AIを自動車にたとえています。車が「速い・便利」なのは誰でも知っている。でも本当に重要なのは、車が都市の構造、交通、郊外化、事故、排出、社会のあり方そのものを変えてしまったことだ、と。
この比喩はかなりうまいと思いました。
LLMも、単に「文章が作れる」「コードを書ける」という道具ではなく、仕事のやり方、知識の持ち方、学び方、コミュニケーションの仕方まで変えてしまう可能性がある。この記事は、その変化を真正面から見ようとしています。
筆者が特に強い言葉で訴えているのは、**“bullshit future” がもう始まっている**という点です。
ここで言う bullshit は、ざっくり言えば「中身の薄い、雑で、信頼しづらい情報や対応」です。
記事では、たとえばこんな光景が並びます。
このあたり、かなり陰鬱です。けれど、完全に大げさとも言い切れないのが怖いところです。
実際、今のインターネットはすでに「本物を探すのがしんどい」方向に向かっていて、LLMはその流れを加速させうる。筆者はそこに強い疲労感を表明しています。
個人的には、ここがこの記事のいちばん刺さる部分でした。
AIが「賢い」かどうかより、社会全体のノイズを増やしていないかのほうが、よほど大事ではないかと思います。
記事を読むと、筆者の怒りは単なる感情論ではなく、かなり具体的です。
つまり、筆者は「AIに仕事を奪われるかも」という一般論を言っているのではなく、自分の生存基盤そのものが揺らいでいると感じているわけです。
この切迫感があるから、記事全体のトーンが強い。読んでいて気持ちは重いですが、そこに現実味があります。
記事の中心主張はかなりはっきりしていて、要するに 「LLMの普及をいったん止めるべきだ」 というものです。
筆者は、ML（機械学習）支援は次のようなものを損なうと述べます。
ここでのポイントは、AIは「面倒な作業を省く」だけではない、ということです。
省力化の代わりに、自分で考える筋肉を少しずつ削る可能性がある。これ、かなり厄介です。なぜなら、削られている最中は気づきにくいからです。
筆者は自分自身についても、LLMを執筆やソフトウェアや私生活に使ったことがないと明言しています。理由はシンプルで、自分の思考力と文章力を守りたいから。
この姿勢は賛否あると思いますが、「便利だから使う」は簡単でも、「使わないことで守られるものがある」と言語化している点は重要だと思います。
ここが面白いところで、完全な全否定ではないんです。
記事の後半で筆者は、LLMが便利そうな場面も認めています。
例として挙げられているのが、色が変わるライトの制御です。
筆者は、その機器が聞いたことのない protocol（通信の約束事）を使っていて、手作業で調べると1か月かかるかもしれない。でも LLM に client library（その機器を操作するためのプログラム）を書かせれば、早く試せるかもしれない。
ここで筆者は、
なら、使う余地はあるかもしれない、としています。
この揺れがリアルです。
「AIは絶対悪」と言い切るほうが簡単ですが、実際には便利な場面もある。だからこそ、どこで使い、どこで拒否するかが大事になる。この記事はそこをかなり真面目に悩んでいます。
筆者は読者に対して、かなり強い行動を呼びかけます。
最後の「辞めるべきだ」は、かなり強烈です。
もちろん、これは万人向けの現実的アドバイスではありません。生活がありますから。ですが、筆者が言いたいのは「今のままだと、あなたは未来の片棒を担ぐことになるかもしれない」という倫理的な圧力でしょう。
私はこのあたり、かなりラディカルだと思います。
ただ、ラディカルだからこそ、技術導入の“お祭りムード”に一石を投じる力があります。AIの話は便利さの議論に寄りがちですが、この記事はそこを踏み越えて、政治・労働・環境・文化の問題に引き戻してくるんです。
面白いのは、この記事が「AIはすごい」も「AIは全部ダメ」もどちらも雑に済ませないことです。
その代わり、AIが広がることで何が壊れるかを、かなり生々しく描いています。
一方で、かなり強い言い方が多いので、読者によっては「言い過ぎでは？」と感じるかもしれません。
たしかに、LLMの使い方には幅があって、医療、教育、支援技術など良い用途もあるでしょう。なので、この記事の主張をそのまま全面採用するのは難しいと思います。
でも、だからこそ価値があるとも思います。
技術の話は、どうしても「できる」「速い」「便利」で終わりがちです。そこに対してこの記事は、**“それで社会はどうなるの？”** を執拗に問い続ける。これはかなり大事です。
この元記事は、LLMを単なる便利ツールとしてではなく、社会構造を変える巨大技術として捉え直す文章です。
自動車が都市を変えたように、LLMも仕事、文化、情報、教育、労働、そして人の思考習慣そのものを変えていく——筆者はそう警告しています。
個人的には、この文章のいちばん重要な価値は、賛成・反対のどちらであれ、「AIに慣れきる前に、何を失うのかを考えよう」 と迫ってくるところだと思います。
便利だからこそ、立ち止まる。
それはかなり面倒ですが、たぶん今いちばん必要な態度なのではないか、と私は思います。
参考: The Future of Everything is Lies, I Guess: Where Do We Go From Here?
