#research

GPTZeroが、Ernst & Young Canada（EY Canada）のサイバーセキュリティ報告書を調査し、大量の偽引用・壊れたURL・不正確な記述を見つけた 問題になったのは、2025年の報告書 “Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems” 参考文献の多くが実在しない、またはリンク切れだった 本文中にも矛盾する数字や出典の食い違いがあり、AIがそれっぽく作った文章の特徴が見られた こうした「vibe citing（雰囲気で引用を作ること）」は、研究や報道、AI検索の信頼性を静かに壊す可能性がある いったん公開された誤情報は、ネット上の“知識の材料”として再利用され、次の誤りを生むのが厄介 GPTZeroが公開したのは、EY Canadaのレポートに含まれる“hallucinations”、つまりAIっぽい生成ミスの調査です。 ここでいう hallucination は、AIが**本当は存在しない情報を、もっともらしく作

IIScの紹介記事は、AIでは苦戦しやすい組合せ最適化問題に向けた新しい計算機の話を扱っている 研究の主役は、neuromorphic computer（脳のように動く計算機）とIsing machine、そしてFowler-Nordheim annealerという仕組み 目的は、ただ速く計算することではなく、複雑な解の中から“よさそうな答え”を探索すること 研究はNature Communicationsに掲載され、IIScを含む国際共同研究として進められた 個人的には、これは「AIをもっと賢くする」話というより、そもそも計算のやり方を変える発想が面白いと思う Indian Institute of Science（IISc）の記事「A Eureka machine that thinks like nature and explores what AI cannot」は、かなりざっくり言うと、AIが得意ではない種類の問題を解くための新しい計算機について紹介しています。 ここで言う“Eureka machine”は、単な

Lenz Researchの調査では、1,000件の実際の事実確認（fact-check）クエリに対して、最先端の5つの frontier LLM のうち少なくとも1つが多数派と食い違った割合は67%だった。 しかも単なる「ちょっとした言い方の違い」ではなく、34%は2段階以上ずれる“本質的な不一致”だった。 5モデルの一致度を示す Krippendorff’s α は 0.639。完全にバラバラではないけれど、「みんな同じ答えを返す」とは全然言えない水準。 とくに True / False の両極には比較的集まりやすい一方で、Mostly True / Misleading の中間ゾーンで壊れやすいのが面白い。 個人的には、LLMの“賢さ”よりも「どこで迷うか」「どこで割れるか」こそ重要な情報だと思う。実運用では、ここがかなり効いてきそうだ。 --- Lenz Researchは、実際のユーザーが提出した事実確認用の主張 1,000件を、5つの最先端LLMに見せて、それぞれに判定を出させた。 対象モデルは以下の5

元記事はReddit上の投稿ですが、本文は「Reddit - Please wait for verification」となっており、記事として読める具体的な内容は確認できませんでした。 そのため、ここではタイトルから読み取れる論点と、周辺文脈をふまえて解説します。 もし本当に「OpenAIのモデルが、AI研究の中心的な考え方を否定した」という話なら、かなり大きなニュースです。 ただし、元投稿の中身が見えていない以上、断定はできません。ここはかなり大事です。 AIの世界では、「モデルが賢いのか、それとも単に大量のデータを覚えているだけなのか」がずっと議論されてきました。 今回の元記事タイトルは、 「An OpenAI model has disproved a central ...」 という形でした。途中で切れているので最後まで断言はできませんが、文脈としてはたぶん、 OpenAIのあるモデルが これまでAI研究で重要とされてきた考え方を ひっくり返した、あるいは弱めた という話だと考えられます。 ここでいう「central」というのは、おそらく「中心的な」「

MIT（マサチューセッツ工科大学）のSally Kornbluth学長が、大学を取り巻く深刻な問題について学生・教職員向けにメッセージを出しました。 テーマは大きく2つ。Funding（資金） と talent pipeline（人材の供給ルート） です。 これ、かなり生々しい話です。 大学の話というと「研究がどうこう」の少し遠い世界に聞こえがちですが、実際には研究費が減ると、学生の受け入れ人数も減るし、研究そのものも縮む。つまり、大学の中だけの問題ではなく、未来の技術や医療、イノベーションの土台にも直結します。そこがこのメッセージの重さだと思います。 MITは、財政面で長期的な圧力を受けている 特に大きいのは、endowment returns（大学基金の運用益）への8%課税 - endowmentは、大学が持つ巨大な基金のこと 米国連邦政府の研究助成は一部回復したが、MITには以前ほど流れてきていない Federal research awards（連邦研究助成金）による研究活動は20%以上減少 **新規の研究助成採択も20%

OpenAIが開催した「Parameter Golf」は、かなり変わった縛りのある機械学習コンテストでした。 でも、単なる“お遊び”ではなく、AI研究・コード作成・量子化・モデル設計が、AIエージェントの時代にどう変わるのかをかなり生々しく見せてくれたイベントだったと思います。 1,000人超が参加、提出は2,000件超と大規模だった 目的は、FineWebデータセットの損失を最小化すること ただし条件が厳しく、16MBのアーティファクト制限と8×H100で10分以内の学習が必要だった 参加者の多くがAI coding agentsを使っていた その結果、参加のハードルは下がった一方で、審査やルール判定の難しさも増えた 量子化、テスト時学習、新しいトークナイザ、独自Attentionなど、アイデアの幅がかなり広かった OpenAIはこれを、将来の研究コンテストの試金石と見ている まず前提から。 Parameter Golfは、OpenAIが機械学習コミュニティ向けに実施した制約つきの研究チャレンジです。 や