PaPoo
cover
technews
Author
technews
世界の技術ニュースをリアルタイムでキャッチし、日本語でわかりやすく発信。AI・半導体・スタートアップから規制動向まで、グローバルテックシーンの「今」をお届けします。

AI slopがOpen Sourceを壊す? GitHubコミュニティが直面する「ノイズ地獄」の話

記事のキーポイント

何が起きているのか

この記事は、ArchestraというOpen Sourceプロジェクトのチームが、「AI slop(AIが量産する雑で中身の薄い投稿)」に本気で困っている、という話です。
ここでいうAI slopは、見た目だけはそれっぽいけれど、実際には役に立たないコメント、提案、PRのこと。要するに、​AIが作った“中身のないノイズ” ですね。

これ、かなり笑いごとではないと思います。Open Sourceって、本来は「みんなで良くしていく場所」のはずなのに、そこに雑音が大量発生すると、まともな人ほど疲れて離れていってしまう。この記事は、その嫌な現実をかなり生々しく語っています。

この記事が伝えていること

1. AI botがIssueを荒らした

Archestraでは、$900のbounty(報酬付きの課題)を出したところ、まずは普通の貢献者が反応してくれたそうです。
ところがその後、AI botが大量に流れ込んできて、Issueは253件のコメントまで膨れ上がったとのこと。

しかも問題なのは、単に数が増えただけではなく、​中身の薄い「実装案」や、運営側への攻撃的なコメントまで混ざっていたこと。
これはもう、コミュニティ運営としてはかなりしんどいです。通知が鳴りっぱなしになり、本当に大事な会話が埋もれてしまうからです。

image_0002.png

2. PRの質も落ちた

別の課題では、​27本ものPull Request が来たそうですが、その多くがテストすらしていないものだったとのこと。
PRは、コード変更の提案です。Open Sourceでは重要な仕組みですが、数だけ増えて質が悪いと、メンテナの負担が爆増します。

記事では、チームメンバーが毎週半日をAI garbageの掃除に使っていたと書かれています。
これはもう、開発の時間を削って“ゴミ処理班”をやっているようなもの。正直、かなり気の毒です。

3. 対策しても完全には止まらない

Archestraは最初、貢献者の「reputation(評判)」を見て振り分ける小さなbotを作ったり、さらに「AI sheriff」なる仕組みまで作ったそうです。
名前はちょっと面白いですが、実際には本物のPRまで誤って閉じてしまうこともあったとのこと。ここはまさに“AI対策あるある”で、ルールを厳しくしすぎると今度は本物を弾いてしまうんですよね。

このバランスの難しさ、かなり本質的だと思います。

image_0003.webp

最終的な対応は「封鎖」に近かった

最終的に彼らが選んだのは、かなり強い対策でした。
オンボーディングを通過していない人は、Issueを作れない、PRを開けない、コメントもできないようにしたのです。

これはOpen Sourceの空気感としては少し寂しいですが、現場の事情を考えると「まあ、そうなるよね」とも思います。
理想を言えば誰でも自由に参加できるのが最高です。けれど現実には、AI botが大挙して押し寄せてくるなら、入口を絞らざるを得ない。きれいごとだけでは回らないわけです。

記事ではこれを「nuclear option(核オプション)」と呼んでいます。かなり強硬ですが、著者は量より質を取ると明言しています。

GitHubの仕組みを“抜け道”として使う

ここがこの記事のいちばん面白いところです。
GitHubには「Limit to prior contributors」という設定があり、​過去にmainブランチへcommitしたことがある人だけがコメントやPRを出せるようにできます。

image_0004.webp

ただし、この仕組みには弱点があります。
GitHubはAI botと本物の新規開発者を区別できないので、どちらも「まだ実績がない人」として扱われてしまうのです。

そこでArchestraは、ちょっとトリッキーな方法を使いました。

要するに、​**“本物の参加者だけを手動で通す”ための仕組みを、GitHubの仕様を使って作り込んだ**わけです。
これはかなりハック感がありますが、実務上はよくわかる発想です。きれいではないけれど、現場の痛みがそのまま形になっている感じがします。

image_0005.webp

この記事の重要なポイント

著者が強く訴えているのは、AI生成の雑な投稿は単なる“うるさいノイズ”ではなく、​コミュニティの健全性を壊すということです。

特に問題なのは3つです。

実際、記事ではLiteLLMのrepoで、攻撃者がAI botを使って会話の流れをねじ曲げようとした例にも触れています。
つまりこれは単なる運営の愚痴ではなく、​安全性の問題でもある、ということです。

image_0006.webp

ここはかなり重要だと思います。AI生成物って、便利な場面ももちろんあるのですが、コミュニティ空間に大量流入すると、品質だけでなく信頼そのものを壊しかねない。
Open Sourceは「誰でも参加できる」からこそ成立していますが、参加のハードルがゼロだと、逆に場が荒れてしまう。この矛盾は、今後ますます大きくなりそうです。

個人的な感想

率直に言うと、この記事はかなり嫌な現実を突きつけてきます。
でも同時に、「ああ、現場はもうそこまで来ているのか」と納得もしてしまいました。

AIはコードを書ける。コメントも書ける。Issueもそれっぽく作れる。
でも、その結果として**“参加しているふり”のノイズが大量に増える**なら、コミュニティはむしろ弱るのではないか――この記事はそんな疑問を投げかけています。

個人的には、今後のOpen Sourceは「開かれた場」であることと、「荒らされない場」であることを両立するために、かなり設計を考え直す必要があると思います。
そしてその時、AIは味方にもなるし、敵にもなる。結局はどう運用するかなんですよね。

image_0008.png

まとめ

この元記事は、AIがOpen Sourceコミュニティにもたらす“便利さ”ではなく、​雑音・疲弊・安全性の低下という厄介な側面を描いた記事です。
Archestraの対応は強引ですが、現場の切実さがよく伝わってきます。

「AI slop」という言葉は少し面白く聞こえるかもしれませんが、内容はかなり深刻です。
Open Sourceの未来を考えるなら、こういう話は避けて通れない、というのがこの文章の核心だと思います。


参考: Let's talk about AI slop

同じ著者の記事