01 / BRIEF

ニュースの概要

さくらインターネット、Preferred Networks、NICTは10月14日、生成AIの安全性を継続的に評価・改善する「能動的評価基盤」の社会実装に向けた取り組みを発表しました。評価用の問いを自動生成・更新し、さくらのAI Engine上のモデルへの試験適用を検討します。

02 / KEY FACTS

主な事実

  • NICTは評価プロンプトを自動合成・更新し、対象モデルの回答を評価する仕組みの高度化を進めます。
  • さくらインターネットは来年度中の運用開始を目指し、国内外のLLMへの試験的な適用を検討します。
  • PFNはNICTとの共同研究を通じ、PLaMo 3.0 Primeの後継モデル開発と評価基盤への組み込みを進める計画です。

03 / CONTEXT

注目する理由

日本の法令や文化に沿ったAI運用では、導入時の評価だけでは変化するリスクを捉えきれません。継続評価の仕組みは企業や自治体のモデル選定・改善を支える可能性がありますが、評価の妥当性も検証が必要です。