#risk_management

「Shadow AI」とは、会社が正式に管理していないまま社員が使い始めたAIツールのこと Vantaは、社内のツール・データ・アクセス権限を横断的に見える化する新機能「Vanta Agent for Risk」を発表 背景には、社内で“builder culture”が広がり、社員が自分でAIツールや機能を作る流れがある ただしVantaは、AIを禁止したいわけではなく、「安全に使える状態に整える」ことを狙っている AI時代では、信頼とセキュリティがこれまで以上に重要になっている、というのがこの記事の大きなテーマ この記事でまず面白いのは、「Shadow IT」ではなく「Shadow AI」が問題になっているという点です。 Shadow ITは、会社の許可を取らずに社員が勝手にツールを使うこと。昔からある話で、たとえば「勝手にPCを持ち込む」みたいな時代から続いてきた現象です。 でもAIは、これを一段ややこしくしました。 なぜなら、社員が便利さに惹かれてAIツールを使い始める一方で、機密データを入れてしまう危険があるからです。しかもAIは便利だけど挙動が読みにくい。

欧州中央銀行（ECB）が、銀行幹部を急きょ集めて会合を開き、AIの最新モデルが露わにした弱点への対応を迫る見込み。 監督当局は、AIが金融システムに与えうるリスクの深刻さを強調する狙い。 ここで問題になるのは、AIそのものの便利さよりも、「どう壊れるか」「どこで誤作動するか」という地味だけど重要な論点。 金融機関にとっては、AI導入のスピードだけでなく、テスト、監視、ガバナンス（管理体制）が問われる局面だと思う。 Financial Timesの記事によると、ECB（欧州中央銀行）は銀行に対し、最新のAIモデルによって明らかになった欠陥を修正するよう促すため、急きょ会合を招集するという。 ポイントはかなりはっきりしていて、ECBは「AIはすごい」で終わらせる気がなく、金融システムに対するリスクを本気で見ているということだ。 AIと聞くと、多くの人は「便利なチャットボット」や「自動化で仕事が楽になる話」を思い浮かべると思う。 でも金融の世界では、便利さの裏にある“壊れ方”がとても重要だ。 たとえばAIは、うまく動いているときは頼もしい。 顧客対応、文書整理、与信判断の補助、リスク