#Biosecurity

OpenAIはGPT-5.5に関連するBio Bug Bounty programの詳細を公開しました。 バイオ領域のリスク評価や安全性検証に関する公式更新です。

OpenAIは、GPT-5.5 Bio Bug BountyとしてBio Bounty programの詳細を公開しました。 カテゴリはSafetyで、バイオ領域に関する潜在的な危険能力や安全上の問題を外部から検証する取り組みと位置づけられます。 対象は安全性研究者、バイオセキュリティ関係者、AI安全性評価に関わる開発者です。 参加条件、報奨金、対象範囲、地域条件、モデルアクセス条件の詳細はRSS項目内では明記されていません。 実務上は、フロンティアモデルのバイオリスク管理を外部検証に広げる安全性施策として注目です。

AnthropicはAE Studioとの共同研究として、AIモデル内の二重用途知識をモジュール化して取り外す手法GRAMを公開しました。 バイオ、サイバー、核物理、専門コードなどの危険にも有用にもなり得る知識を、一般能力を保ちながら制御するための研究です。

GRAMはTransformer層に追加ニューロンを置き、二重用途カテゴリごとの知識を補助モジュールに学習させる手法です。 モデル本体の一般重みは固定し、必要に応じて特定領域のモジュールを取り外すことで、その領域の能力を下げることを狙います。 実験では合成トピック、Web/コード/科学を含む現実的な混合データ、50M〜5Bパラメータのモデルで検証されています。 モジュール除去はデータフィルタリングに近い能力抑制を示し、一般性能は大きく損なわなかったと報告されています。 対象領域はウイルス学、サイバーセキュリティ、核物理、専門コードなどで、Claudeの本番機能として提供されたものではありません。 Anthropicは、フロンティア規模や下流タスクでは未検証で、知識がモデル内に強く絡み合う場合の限界も残ると説明しています。 実務上は、危険能力をモデル全体の再学習なしで制御する安全性研究として重要ですが、現時点でAPI利用者の移行や設定変更はありません。

OpenAIが科学研究支援の取り組み「Rosalind」を紹介しました。研究者がAIを使って仮説形成、実験計画、文献理解などを進める方向性に関係します。

科学研究では、AIが大量の文献・データ・実験条件を扱えることが価値になります。一方で、生物・化学領域は悪用リスクもあるため、安全性評価やアクセス制御が重要です。今回の発表は、OpenAIが研究支援と安全対策を両立させながら、高度な科学タスクへモデルを使う流れを示しています。研究者・バイオ/化学系企業・AI安全性に関心がある人には重要です。