PRC-linked influence operations are targeting AI debates in the US
OpenAIが、中国政府関連の影響工作ネットワークが米国のAI政策・世論形成を標的にしているとする脅威レポートを公開しました。
AI規制、雇用への影響、データセンター建設、選挙などを題材に、AI生成コンテンツを大量展開していると分析しています。
OpenAIは、SpamouflageやCAMOとして知られる中国政府関連ネットワークが、複数のSNSやWebサイトでAI政策議論への影響を試みていると報告しました。
活動には、AI規制への反対、AIによる雇用不安、データセンターの環境負荷、米国の選挙や政策担当者への攻撃などが含まれます。
OpenAIは自社モデルが使われたアカウントを停止し、脅威アクターが複数のAIツールを使い分けていると説明しています。
同社は、敵対的利用の監視を政治的な意見の検閲とは分け、表現内容ではなく欺瞞的な行動や操作パターンを対象にするとしています。
製品機能や料金の更新ではなく、AIの不正利用、政策議論、選挙の健全性に関する安全性発表です。