#machine_learning

コーネル大学の研究者が、複雑な判断を助けるAIツールを開発した ただしAIが答えを出すのではなく、人間の選択の矛盾や偏りを見つけるのが役目 使い方は、評価基準の重みづけと、選択肢どうしの比較を組み合わせる仕組み 映画の短編評価と学生課題の採点でテストされ、一貫性と再現性が高い結果が出た 高い stakes（失敗できない重要な判断）では、こういう“考えを整理させるAI”はかなり有効そう ふつう、AIを意思決定に使うと聞くと「AIが答えを出して、人間がそれを信じる」というイメージを持つ人が多いと思います。 でも今回のコーネル大学の研究は、ちょっと発想が逆です。 このツールは、AIが人間の判断を採点するというより、人間の判断に矛盾がないかを点検するためのものです。 たとえば、就職候補者の比較、大学院の選択、映画賞の候補の順位づけのように、単純な「良い・悪い」では決めにくい場面で使うことを想定しています。 個人的には、ここがかなりおもしろいと思いました。 AIが人を置き換えるのではなく、人間の考えを整理するための鏡みたいに働くわけです。これは、A

このリポジトリは、PyTorchモデルのHessian（ヘッシアン）行列の固有値・固有ベクトルを、できるだけ軽く計算するためのツール集です。 ただし「全体を巨大な行列として持つ」のではなく、Hessian-vector product（HVP）という仕組みを使って、メモリ消費を抑えながら近似的に計算します。 Lanczos法、stochastic power iteration、Hutch++、Stochastic Lanczos Quadrature など、線形代数のアルゴリズムが好きな人にはかなり刺さる内容です。 実用面では、通常のPyTorchモデルだけでなく、HuggingFace系のTransformerやTransformerLensにも対応しているのが面白いところです。 個人的には、深層学習の「学習後のモデルをどう見るか」を支える、かなり“渋いけど重要”なライブラリだと思います。 Hessianは、ざっくり言うと「損失関数の曲がり具合」を表す行列です。 たとえば、山の地形を想像してください。 坂が急なら曲がりが強いし、なだらかなら曲

OpenAIが開催した「Parameter Golf」は、かなり変わった縛りのある機械学習コンテストでした。 でも、単なる“お遊び”ではなく、AI研究・コード作成・量子化・モデル設計が、AIエージェントの時代にどう変わるのかをかなり生々しく見せてくれたイベントだったと思います。 1,000人超が参加、提出は2,000件超と大規模だった 目的は、FineWebデータセットの損失を最小化すること ただし条件が厳しく、16MBのアーティファクト制限と8×H100で10分以内の学習が必要だった 参加者の多くがAI coding agentsを使っていた その結果、参加のハードルは下がった一方で、審査やルール判定の難しさも増えた 量子化、テスト時学習、新しいトークナイザ、独自Attentionなど、アイデアの幅がかなり広かった OpenAIはこれを、将来の研究コンテストの試金石と見ている まず前提から。 Parameter Golfは、OpenAIが機械学習コミュニティ向けに実施した制約つきの研究チャレンジです。 や

AI agents は、普通の ChatGPT 的な使い方より はるかに多くの tokens を消費しがち その理由は、agent が 考える・試す・失敗する・やり直す を何度も繰り返すから 使った分だけ課金される仕組みでは、成功しても失敗しても請求が増える 実際に、チーム規模が小さい会社でも 予想外の高額請求 が起きている しかも厄介なのは、事前に正確な請求額を予測しにくいこと この記事が扱っているテーマは、いまのAI業界でかなり重要です。 それは 「AI agents は便利だけど、気づかないうちにすごい勢いでお金を使う」 という問題です。 ここでいう AI agent とは、単に質問に答えるAIではなく、 「目的を与えると、自分で手順を考えながら作業を進めるAI」のことです。 たとえば、コードのバグ修正、調査、要約、ファイル操作、タスク分解などを自動でやるタイプですね。 普通のChatGPTの使い方なら、1回の質問で1回の回答が返ってきます。 でもagentは違います。 途中で「どう進めるか」を考え、必要なら何度もツールを呼

SANA-WMは、camera-controlled な 720p video generation を行うための、効率重視の world model ここでいう world model は、世界の動きや状態の変化を“予測するモデル”のこと 「minute-scale」というのがポイントで、短いクリップではなく、もっと長めの時間幅を扱おうとしている しかも 720p という、かなり実用的な解像度を対象にしているのが面白い 細かい実装詳細は元ページの本文からは読み取れないが、タイトルだけでも「動画生成」と「世界モデル」の橋渡しを狙っているのがわかる world model は、ざっくり言うと「世界がこの先どう変わるか」を頭の中でシミュレーションするモデルです。 AIの文脈では、単に画像をきれいに作るだけではなく、時間の流れや物体の動き、カメラの視点変更まで含めて未来を予測するイメージですね。 たとえばゲームの中でキャラクターが歩いたら、背景や遠景もそれっぽく変化しますよね。 world model は、そういう「次に何が起きるか」を考える仕