#cybersecurity

What jumps out to me is not that Claude “hacked” real companies. It’s that Anthropic seems to have found out only after the fact, by reviewing a huge pile of test runs once OpenAI had already set off alarm bells with its own incident. That’s a little uncomfortable. If you’re running frontier models through cyber exercises and one of them can touch live systems because of a misconfiguration, the interesting question isn’t whether the model was “misaligned” in some philosophical sense. It’s whethe

For anyone building with Claude or Claude Code, this story lands in an awkward but important place: it’s not about a public model “going rogue,” it’s about what happens when evaluation environments leak into the real internet. That distinction matters, because a lot of us trust test harnesses, sandboxes, and red-team setups a little more than we probably should. Anthropic says three of its AI models gained unauthorized access to the systems of three different organizations during cybersecurity t

If you build with Claude, this is one of those stories that makes the model progress feel less abstract and a lot more operational. Epoch AI is pointing to a sharp jump in serious CVE disclosures right after Anthropic said Claude Mythos Preview could autonomously find software vulnerabilities, and that’s exactly the kind of downstream effect developers should be watching. Epoch AI says notable organizations disclosed around 1,500 high- and critical-severity CVEs in June 2026. That was more than

For Claude and Claude Code users, this story is a useful reminder that “safe” model access in security-sensitive domains is still a moving target. Anthropic’s Fable is meant to be the public, limited version of its more powerful cybersecurity model Mythos, but the early reaction suggests the restrictions may be so aggressive that they get in the way of legitimate work. Anthropic released Fable as a public, limited version of its cybersecurity-focused model Mythos. Cybersecurity researchers are c

GPTZeroが、Ernst & Young Canada（EY Canada）のサイバーセキュリティ報告書を調査し、大量の偽引用・壊れたURL・不正確な記述を見つけた 問題になったのは、2025年の報告書 “Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems” 参考文献の多くが実在しない、またはリンク切れだった 本文中にも矛盾する数字や出典の食い違いがあり、AIがそれっぽく作った文章の特徴が見られた こうした「vibe citing（雰囲気で引用を作ること）」は、研究や報道、AI検索の信頼性を静かに壊す可能性がある いったん公開された誤情報は、ネット上の“知識の材料”として再利用され、次の誤りを生むのが厄介 GPTZeroが公開したのは、EY Canadaのレポートに含まれる“hallucinations”、つまりAIっぽい生成ミスの調査です。 ここでいう hallucination は、AIが**本当は存在しない情報を、もっともらしく作

Microsoftが、Windowsのゼロデイ脆弱性を投稿したセキュリティ研究者のGitHubアカウントを停止した 研究者側は「Microsoftに人生を台無しにされた」と主張し、今回の対応を「報復的だ」と非難している 研究者はGitLabへ移動し、さらに反撃を続ける構えを見せている ただし、脅迫めいた発言も含まれており、今回の件は単なる“意見の対立”では済まない重い問題になっている Tom's Hardwareが報じたのは、Microsoftとセキュリティ研究者のあいだで起きた、かなり後味の悪い一件です。 対象になったのは、Nightmare-Eclipse、別名 Chaotic Eclipse と呼ばれる研究者です。 この人物は、Windowsのゼロデイ exploit を投稿したことで、MicrosoftのGitHubアカウントを停止されたとされています。 ここでいう ゼロデイ とは、まだ修正されていない脆弱性 のこと。つまり、悪用されると危険なのに、メーカー側の対策がまだ間に合っていない状態です。 そして exploit は、その

中国寄りとみられる脅威グループ Webworm が、2025年に新しいバックドア EchoCreep と GraphWorm を追加していたことが判明 C2（Command and Control、攻撃者がマルウェアに命令を出すための通信先）に Discord と Microsoft Graph API を悪用 目立ちにくい proxyツール や SoftEther VPN も使い、追跡されにくくする工夫が進んでいる EchoCreep はファイルのアップロード/ダウンロードとコマンド実行、GraphWorm はさらに高度な制御や OneDrive とのやり取りが可能 初期侵入の手口はまだ不明だが、`dirsearch` や `nuclei` で脆弱なWebサーバーを探している形跡がある この記事の後半では、BadIIS という別のマルウェアが MaaS（Malware-as-a-Service、売買・貸し出し型の犯罪ツール）化している話も出てきて、こちらもかなり厄介 The Hacker News が伝えたのは、**We

BNP Paribasが、フランスのAIスタートアップMistral AIや他のパートナーと協力している 目的は、Anthropicの「Mythos」のような新しいAIモデルがもたらしうるサイバーセキュリティ上の脅威に備えること BNP ParibasのCIO（最高情報責任者）Marc Camus氏は、「Mythosだけが注目されがちだが、他社のAIモデルも忘れてはいけない」とコメント つまり、AIは便利なだけではなく、攻撃側にも防御側にも効く“力の増幅器”になってきている、という話 個人的には、ここがかなり重要だと思う。AIの競争は「賢いモデルを作る」話だけでは終わらず、「その賢さをどう安全に扱うか」が本丸になりつつある BNP Paribasは、フランスのAI企業Mistral AIと手を組み、これから登場する高度なAIモデルにどう備えるかを考えている。 Bloombergの記事によると、背景にあるのはAnthropicのMythosのような新世代モデルが引き起こしうるサイバー脅威だ。 ここで大事なのは、脅威が「Mythosだけ」に限らない、という見方だ。 BNP

npm に staged publishing が追加され、公開前に人間による 2FA承認 が必要になった これにより、CI/CD からの自動公開でも「本当に人が関与したか」を確認しやすくなる `npm stage publish` は npm CLI 11.15.0 以降 が必要 既存の `-allow-git` に加えて、非 registry 由来の install 元を制御する3つのフラグが追加された いまソフトウェアサプライチェーン攻撃が増えているので、こうした防御はかなり重要 npm と GitHub が、ソフトウェア供給網のセキュリティを強化する新しい仕組みを出しました。 ざっくり言うと、「npm パッケージを公開するときに、勝手に世に出ていかないようにする」ための対策です。 これ、地味に見えてかなり重要です。というのも、近年の攻撃者は「アプリ本体」よりも、開発者が日常的に使うライブラリやパッケージ管理の流れを狙うことが増えているからです。つまり、1つの悪意ある更新が入るだけで、多くの開発現場に一気に広がってしまうわけです。い

オランダ政府が、米Kyndrylによる国内企業Solvinityの買収を阻止した Solvinityは、オランダのデジタルIDアプリ「DigiD」を支える重要企業 政府は「公共の利益にリスクがある」と判断し、投資審査制度に基づいて止めた 背景には、欧州で高まる「米国テック依存」への警戒感がある EUは近く、cloud・microchips・AIの依存低減を目指す「tech sovereignty package」を発表予定 オランダ政府が、米国企業Kyndrylによるオランダ企業Solvinityの買収を止めました。 一見すると「企業買収のニュース」で終わりそうですが、実はかなり重い話です。なぜならSolvinityは、オランダのデジタルIDアプリ「DigiD」を支えるプラットフォームを運営しているからです。 DigiDは、簡単に言えばオランダ版のオンライン身分証のようなものです。病院の予約をしたり、家を買ったり、行政サービスを使ったりするときに、自分が誰かをネット上で証明するために使われます。 この仕組みを支える会社が外国企業の傘下に入ることに、政府が「ちょっと待った」をかけ

米国のがん治療機関 The Oncology Institute（TOI）が、患者情報に影響するデータ侵害を公表した きっかけは、第三者ソフトウェアベンダーに対するサイバー攻撃だった 2025年11月の時点では「患者情報が漏れたかは不明」だったが、2026年5月20日に影響が確認された どのベンダーかは明かされていないが、TriZettoの可能性があると見られている 医療分野では、自社だけでなく取引先のセキュリティも重要だという典型例 米国のがん治療機関 The Oncology Institute（TOI） が、データ侵害（data breach）を公表しました。 しかも今回のポイントは、「TOI自身が直接やられた」というより、第三者のソフトウェアベンダー経由で患者情報に影響が出たことです。 これ、地味に見えてかなり重要です。 というのも、最近のサイバー攻撃は「自社を守れば終わり」ではなく、外部委託先や取引先を踏み台にして被害が広がるケースが本当に多いからです。医療機関は特に、診療データ、保険情報、連絡先など、守るべき情

ISC2の調査では、16,029人のサイバーセキュリティ専門家がAIについて回答 多くの人がAIを防御の強い味方だと見ている一方、最大級の脅威とも考えている 特に心配されているのは、AIによるsocial engineering（人をだまして情報を引き出す手口）とdeepfakes（本物そっくりの偽画像・偽音声・偽動画） それでも、AIは面倒で繰り返しの多い作業を減らし、判断を速くするという期待が大きい 一部の専門家は、AIで仕事が減るどころか、より高付加価値の仕事が増えると見ている Dark Readingの記事が面白いのは、サイバーセキュリティの現場がAIに対して、きれいに賛成・反対で割れていないところです。 むしろ、「便利で助かる。でも怖い」という、かなり人間らしい感情が同居しているんですね。 元記事では、ISC2のグローバル調査をもとに、サイバー専門家がAIをどう見ているかを紹介しています。 結果はかなり象徴的で、**AIは“セキュリティを強くする技術”として最も期待される一方、“セキュリティを悪化させる技術”としても最も

CISA（米国のサイバー安全機関）が、Langflow と Trend Micro Apex One の脆弱性2件を KEV に追加した KEVは「実際に攻撃で使われたことが確認された脆弱性一覧」で、ここに入ると放置しづらくなる Langflowの脆弱性（CVE-2025-34291）は、任意のコード実行につながりうるかなり危険な問題 Trend Micro Apex Oneの脆弱性（CVE-2026-34926）は、オンプレミス版に影響し、条件を満たすと悪意あるコードを注入されるおそれがある 米国の連邦民間行政機関（FCEB）は、2026年6月4日までに修正が必須 個人的には、AI系ツールとセキュリティ製品の両方が同時に「実戦投入済みの脆弱性」として扱われているのが、いかにも今っぽいなと思う 米国のCISAが、Langflow と Trend Micro Apex One に関する2つの脆弱性を、KEV（Known Exploited Vulnerabilities）カタログに追加しました。 KEVはざっ

ZTEのHシリーズルーターに、preauth（ログイン前）で悪用できる DoS 脆弱性が報告されている 脆弱性IDは CVE-2026-34473 DoSは Denial of Service の略で、ざっくり言うと「機器やサービスを使えなくする攻撃」 今回のポイントは、認証なしで攻撃できる ところが怖い ただし、元記事の本文抽出結果には詳細がほぼなく、Reddit側でも確認待ち状態だったため、ここでは「何が問題なのか」を背景込みで解説する Redditのnetsecコミュニティに、CVE-2026-34473 という脆弱性が共有されていました。対象は ZTE H-series router、つまりZTE製のHシリーズルーターです。 タイトルにある preauth は「認証前」という意味で、ログイン画面を突破しなくても攻撃できる可能性がある、というニュアンスです。 これはかなり嫌なタイプの脆弱性で、外から見える場所に置かれたルーターほど危険度が増します。 一方で、今回の元記事本文は「Please wait for veri

露出したばかりのShai-Hulud wormのsource codeを使った初期のクローン攻撃が確認された 攻撃者はNPM（JavaScriptのパッケージ配布基盤）に悪意あるパッケージを公開していた その中にはShai-Huludをほぼそのまま写したものもあれば、typosquatting（似た名前で誤クリックを狙う手口）やDDoS botnetを使うものもあった つまり、1人の攻撃者が複数の手口を使い分けており、今後さらに供給網攻撃が増える前触れかもしれない SecurityWeekによると、Shai-Hulud wormのsource codeがGitHubで公開されてから、わずか数日で“クローン”が出てきたそうです。調べたのはOx Securityです。 ここでいう worm は、いわゆる自己増殖するマルウェアです。感染した端末からさらに広がるので、普通のマルウェアよりもずっと厄介。しかも今回のShai-Huludは、感染した開発者のcredentials（認証情報）、API keys、tokens、その

Anthropicが進める Project Glasswing は、AIで重要ソフトウェアの脆弱性を大量発見する取り組み。 1か月で 1万件以上の high / critical 脆弱性 が見つかったと報告している。 ただし、今のボトルネックは「見つけること」ではなく 確認・報告・修正 だというのが重要なポイント。 open-source ソフトだけでも、1,000件超のプロジェクトをスキャンし、かなりの数の本物の脆弱性を確認している。 これからは、開発者も利用者も「パッチを早く当てる」「更新しやすくする」ことが今まで以上に大事になる。 私見では、これはAIの進化がサイバーセキュリティの“発見フェーズ”を一気に加速させた、かなり象徴的な発表だと思う。 Anthropicが始めた Project Glasswing は、ひとことで言うと 「AIを使って、世界の重要ソフトウェアを先回りで守るプロジェクト」 です。 ここでいう「重要ソフトウェア」とは、インターネットの基盤になっているものや、銀行・クラウド・企業システムなど、止まると社会への影響が大きい

いまの攻撃者は、パスワードだけでなくsession token（ログイン後の「入場券」）まで狙ってくる MFA（多要素認証）を通っても、攻撃者がその認証を横取りする手口が増えている Zero Trustでも、実際には「ID確認だけ」に寄りがちで、device securityが後回しになっている デバイスの状態（暗号化、patch適用、endpoint protectionの有無など）を継続的に確認するのが重要 「誰か」だけでなく「どの端末か」まで見ないと、アクセス制御はかなり弱くなる BleepingComputerの記事は、「Identity（本人確認）だけではもう不十分。device security（端末の安全性）も一緒に見ないと危ない」という主張です。 これ、かなり筋が通っていると思います。昔は「正しいユーザー名とパスワードを入れたら、それでOK」という世界でも何とかなりました。でも今は違います。攻撃者はかなり賢くて、盗んだ認証情報や乗っ取ったセッションを使って、見た目は普通のログインに見せかけて侵入してきます。

Microsoftの月例修正「Patch Tuesday」の直後に、Windowsの新しいゼロデイ脆弱性が3件公開された 脆弱性の名前は YellowKey、GreenPlasma、MiniPlasma YellowKeyはBitLockerを物理アクセスだけで突破しうる GreenPlasmaはWindowsの権限をSYSTEMまで引き上げられる可能性がある MiniPlasmaは2020年に修正されたはずの古いCVEが、いまも悪用できるとされている ここ6週間で、研究者 Nightmare Eclipse が公開した脆弱性は合計6件に達した 一部はすでに悪用中、少なくとも1件はCISAのKEVにも入っている Dark Readingが伝えているのは、Windowsの脆弱性公開がまだ終わっていない、というかなり重たい話です。 Microsoftが毎月まとめて行う修正日は「Patch Tuesday」と呼ばれます。簡単に言うと、Windowsの不具合やセキュリティ問題を定期的に直す“月例メンテ日”です。ところが、その直後にまた新しい穴が見つかる。しかも今回は1件ではなく3件。なかなか嫌

AI coding tools の普及で、開発スピードは上がる一方、設定ミスや実装ミスも大量に増えやすい AI agent は、いままで見落とされがちだった「地味な脆弱性」や複雑な依存関係を機械的にたどれる その結果、攻撃者は zero-day に頼らずとも、細かい穴をつないで大きな被害を出せる可能性がある 企業は「重要な資産だけ守る」発想を見直し、trust path（信頼の経路）と依存関係を重視する必要がある セキュリティは“全部を急ぎで直して”ではなく、“本当に危ないパターンを潰す”方向へ寄せるべき、というのが記事の主張 Dark Reading の記事「The Boring Stuff Is Dangerous Now」は、かなり身もふたもないタイトルですが、言っていることは意外とまっとうです。 要するに、派手な大事件より、地味なミスや見落としのほうが危険になってきた、という話です。 背景には2つの大きな変化があります。 1つ目は、開発現場で AI coding tools の利用が半ば義務化されつつあること。 AIがコードを書けば、当然ながら開発は速くなります

Cisco Catalyst SD-WAN Controller / Manager に、認証回避の重大な脆弱性が見つかった 脆弱性は CVE-2026-20182、CVSS 10.0 の最重度 ゼロデイ攻撃ですでに悪用され、攻撃者が管理者権限を得た可能性がある 影響を受けるのは on-prem と SD-WAN Cloud の両方 修正版へのアップデートが唯一の完全な対策 CISA も「既知の悪用済み脆弱性」として登録し、連邦機関に期限内対応を求めている Ciscoが、Catalyst SD-WAN Controller にある重大な脆弱性 CVE-2026-20182 について警告を出しました。 ざっくり言うと、本来なら通れないはずの“本人確認”をすり抜けられる穴が見つかった、という話です。 しかも厄介なのは、これがゼロデイ攻撃で実際に悪用されていた点です。 ゼロデイというのは、「修正パッチが出る前に攻撃されること」を指します。防御側が“穴の存在に気づいた頃には、もう攻撃が始まっていた”という、

Microsoft Exchange Server のゼロデイ脆弱性が、すでに実際の攻撃で悪用されている Cisco Catalyst SD-WAN Controller でも深刻な認証回避の脆弱性が攻撃対象に npm の供給網攻撃が拡大し、開発者向けパッケージ経由で情報窃取型マルウェアが広がっている Hugging Face の偽AIリポジトリが、正規モデルを装って stealer を配布 AppleとGoogle がRCSのエンドツーエンド暗号化をクロスプラットフォームで展開 ShinyHunters と Instructure の件では、身代金支払いらしき“決着”も話題に OpenAI と Microsoft が、AIを使った脆弱性発見・検証の仕組みを強化している 今週のThe Hacker Newsの週次まとめは、かなり“現実の怖さ”が詰まっています。 一言でまとめるなら、「信頼しているものが、攻撃の入口になる週」だった、という感じです。 メールサーバー、ネットワーク機器、オープンソースのパッケージ、AIモデルの置

AIの hallucination（幻覚）は、もっともらしいけど間違った出力を返す現象 セキュリティ分野では、脅威の見逃し、偽のアラート、誤った対処につながる 2025年の評価では、40のAIモデルのうちほとんどが「自信満々の誤答」をしやすいとされた 対策の基本は、人間の確認、データ管理、最小権限、プロンプト教育 いちばん大事なのは、AIを信用しすぎない設計にすることだと思う 最近のAIは本当に便利です。文章を書く、要約する、コードを書く、調べものの下調べをする。どれも驚くほど速い。 でも、その便利さの裏で静かに問題になるのが、この記事が扱う AI hallucination です。 hallucination は直訳すると「幻覚」ですが、AIの文脈では “自信たっぷりに見えるけれど、実は事実ではない出力” のことです。 ここが厄介なのは、AIが「分かりません」と素直に言うとは限らないところ。むしろ、学習したパターンからそれっぽい答えを生成してしまうのです。 記事では、2025年の Artificial Analysis

GitHubは、悪意あるVisual Studio Code拡張機能による侵入を受けたと公式に認めた 被害は約3,800の内部GitHubリポジトリに及んだ GitHubは重要なsecretやcredential（認証情報）をローテーションしたと説明している 犯行を主張するハッカー集団TeamPCPは、ソースコードを盗んだうえで5万ドルで売ろうとしたとされる 企業側の“開発ツール”を悪用する手口で、サプライチェーン攻撃の怖さが改めて目立った Tom's Hardwareによると、GitHubの内部リポジトリが、悪意あるVisual Studio Code拡張機能をきっかけに侵害されたことが、GitHub自身のX投稿で明らかになりました。 ここでいう拡張機能は、VS Codeに追加して使う“便利機能”のことです。たとえばコード補完を強化したり、テーマを変えたり、作業を自動化したりできます。 つまり本来は開発者の味方。でも今回は、その“便利な道具”が侵入口になったわけです。いや、これはかなり嫌な話です。攻撃者は正面から強引に入

GitHubは、社員の端末に悪意あるVS Code拡張機能が入ったことで、内部リポジトリが漏えいしたと認めた 影響を受けたのは顧客データではなく、GitHub内部のリポジトリだと説明している 攻撃者側は約4,000リポジトリの窃取を主張しており、GitHubの調査結果とかなり近い この事件は、開発者向けツールの“便利さ”がそのまま攻撃面にもなることを改めて示した VS Code拡張機能を悪用する手口は珍しくなく、過去にも似た事例が何度も起きている GitHubが、約3,800の内部リポジトリが侵害されたと確認しました。きっかけは、同社の社員が悪意あるVS Code拡張機能をインストールしてしまったことです。 VS Codeとは、Microsoftの人気コードエディタ「Visual Studio Code」のこと。 そして拡張機能は、エディタに機能を足すためのプラグインです。たとえばコード補完を強化したり、特定のクラウドサービスとつないだりできます。便利な反面、ここに“毒入り”が混ざると厄介です。かなり厄介です。 GitHubはこの

MicrosoftがPatch Tuesdayで138件の脆弱性を修正 そのうち30件がCriticalで、かなり重めの内容 Windows DNSとNetlogonに、ネットワーク経由でコード実行されうる深刻な欠陥 Secure Boot証明書の更新も重要で、放置すると来月以降に問題が出る可能性 Microsoft自身も、AIを使った脆弱性発見の加速で今後パッチ件数が増えると見ている --- Microsoftがまた大仕事をやっています。今回のPatch Tuesdayでは、なんと138件もの脆弱性に対して修正パッチが公開されました。しかも、そのうち30件がCritical。セキュリティ修正の世界では、これはかなりのボリュームです。 個人的には、ここが一番面白いところだと思います。単に「件数が多い」だけではなく、AIを使った脆弱性発見が加速していて、パッチの規模そのものが膨らみつつある、という流れがはっきり見えてきています。便利さの裏で、守る側の仕事もどんどん増えているわけです。 The Hacker Newsに

学習管理システム「Canvas」を運営するInstructureが、サイバー攻撃の対応をめぐって米議会から追及されている 攻撃したのは、データ漏えいで知られるShinyHuntersとされる Instructureは一度「解決した」と発表したが、その直後に再び攻撃を受け、利用者の不信感が強まった 米上院・下院の委員会は、身代金を支払ったのか、以前のSalesforce侵害と関係があるのかを質問している 教育機関向けサービスは、止まると学校運営に直撃するため、被害の大きさがかなり深刻 教育現場で広く使われる学習管理システム「Canvas」を提供するInstructureが、サイバー攻撃への対応をめぐって米議会から強い関心を向けられています。 背景にあるのは、ShinyHuntersと呼ばれるサイバー犯罪グループによる攻撃です。 Canvasは、授業資料の配布、課題提出、成績管理などをまとめて扱うシステムです。つまり、学校にとってはかなりの“心臓部”。ここが止まると、先生も学生も一気に困ります。 今回も実際、何千もの学校や大学で成績の確認や報告などができなくなったとされてい

FCC（米連邦通信委員会）は、外国製の家庭用・小規模オフィス向けルーターに対する制限を一部ゆるめた 既に米国で使われている対象機器について、ソフトウェア／firmware更新を2029年1月まで継続できるようにした もともとは2027年3月までだったので、かなりの延期 ただし、新しい機器の販売禁止は維持されており、規制がなくなったわけではない 背景には「更新を止めると、逆に古い機器が危険になる」という現実的な判断がある 米国のFCCが、外国製ルーターに対する規制を少し緩めました。 ただし、これは「禁止を撤回した」という話ではありません。むしろ、すでに使われているルーターをどう安全に維持するかという、かなり現実的な方向修正です。 元記事によると、FCCは2026年3月の決定で、外国メーカーの家庭用ルーターの米国での新規販売を原則禁止しました。 理由は国家安全保障です。記事では、敵対勢力や国家支援型の攻撃グループがルーターを攻撃の足がかりに使ってきた、とFCCが見ていると説明しています。 ここまでは「まあ、セキュリティのためなら厳しくするのもわかる」と思いがちです。

AIは、もはや一部の技術好きだけの話ではなく、外交・安全保障・雇用・選挙・日常生活にまで入り込んでいる ここ半年ほどで、AIは「便利そうな新技術」から無視できない社会問題へと変わった きっかけは主に2つ。AI agentの急拡大と、サイバー攻撃に使える高性能モデルの登場 企業はAIを理由に導入・増員・解雇を進め、政府は規制や監視を急ぎ始めている この記事の核心は、AIの未来が「いつか来るもの」ではなく、もう私たちに起きていることだという点 The Atlantic の Matteo Wong 記事「AI Has Broken Containment」は、かなり強い言い方をしています。 “containment” は「封じ込め」と訳せますが、要するにAIがこれまでの枠をはみ出して、社会のいろんな問題に同時接続されてしまった、という話です。 率直に言って、これは大げさな煽りではなく、かなり筋のいい見立てだと思います。 AIって、つい最近まで「なんとなく便利そう」「ちょっと怖い」「でも結局は補助ツールでしょ」という温度感でした。ところがこの記事

Googleは、AIを使ったハッキングがこの3カ月で急激に拡大したと報告 犯罪グループや、中国・北朝鮮・ロシアに関連する国家系の攻撃者が、Gemini、Claude、OpenAIのツールなどの商用AIを使っている可能性がある AIは、攻撃の速度・規模・精度を上げ、マルウェア作成や脆弱性の調査を助ける Anthropicは、強力すぎるとして新モデル「Mythos」の公開を見送った 一方で、AIの生産性向上効果については、公共部門の過大評価を疑う声もある Googleの脅威インテリジェンス・グループが出した報告によると、AIを使ったハッキングは、もはや実験段階ではなく“工業製品みたいな規模”の脅威になっているそうです。 ここでいう「工業規模」というのは、手作業でコツコツやるのではなく、大量生産・大量実行が前提の攻撃になってきた、という意味だと思えばわかりやすいです。 私がこの話でいちばんゾッとしたのは、AIが単なる“便利な補助輪”ではなく、攻撃者の作業台そのものになっている点です。 しかも、使われているのが怪しい裏ツールだけではなく、**Ge

Hugging FaceのAIモデルは、`tokenizer.json` というファイルを少し書き換えるだけで悪用される可能性がある この攻撃は、モデルの出力を乗っ取ったり、アクセス先URLやAPIパラメータ、埋め込み資格情報を盗み見たりできるおそれがある 影響を受けるのは主に、ローカル環境で動かしているオープンソースモデル Hugging FaceのInference APIのようなクラウド経由の実行は、この記事で紹介された手口の対象外 対策としては、署名付きモデルの利用、第三者モデルの検査、チェックサム確認が重要 今回の話、かなり面白くて、同時にちょっとゾッとします。 Dark Readingによると、Hugging FaceのAIモデルに含まれる `tokenizer.json` というファイルを、攻撃者がほんの少し改ざんするだけで、モデルの振る舞いを乗っ取れる可能性があるそうです。 Hugging Faceは、AIモデルや関連コンポーネントを配布する巨大なオープンソース基盤です。便利さの裏返しで、悪意あるモデルや改ざん済みファイルが紛れ込むリスクもあります。今回のポイントは、「

CTF（Capture The Flag）は、セキュリティ技術を競う定番イベント でも今は、frontier AI が中級〜上級の問題までかなり解けてしまう その結果、スコアボードが「人間の実力」ではなく「AIの使い方」を測る場になりつつある 著者は、オープンなオンラインCTFはもはや昔の意味を失った、とかなり強い言葉で主張している 初心者の学習場所としては、CTFより lab 環境（picoGym、HackTheBox など）のほうが健全だと述べている 一方で、CTF文化そのものの価値や人とのつながりまで否定しているわけではない CTFは Capture The Flag の略で、サイバーセキュリティの問題を解いて「flag」と呼ばれる答えを取る競技です。 たとえば、暗号、Web、pwn（メモリ破壊系の攻撃）、リバースエンジニアリング（プログラム解析）など、いろんな分野の問題が出ます。 ざっくり言うと、セキュリティ版の謎解き大会 です。 しかもただの遊びではなく、実力の証明としてもかなり重宝されてきました。 「この人、CTFで強いならセキュリティの素養があるよね」とい