【脆弱性】Claudeで攻撃対象領域を分析、OpenSSHの修正にも貢献

米Anthropicは10月20日（現地時間）、AIモデル「Claude」を使い、ソフトウェアで外部の攻撃者が到達できるコードの範囲を分析して狭める研究の初期結果を公開した。同社でAIのリスク評価を担うFrontier Red Teamのクリス・ロルフ氏が執筆した。

攻撃者が到達できる範囲を狭めるには、外部に見せる必要のない機能を認証後に利用できるようにしたり、初期設定で無効にしたりする方法がある。同社は、これにより未発見の脆弱性も悪用されにくくなり、深刻度を下げられるとしている。

研究では、複数の言語で書かれたオープンソースプロジェクト25件、計500万行超をClaudeで分析した。洗い出した1万7000以上の設定項目のうち3842項目がセキュリティに関わり、合計493件の問題が見つかった。認証を前提とする11件のプロジェクトでは、すべてで意図せず外部から到達できるコードが確認された。

リモート接続に使われるOpenSSHでは、バージョン10.4の実験的なコード約4500行に認証前のクライアントが到達できた。Anthropicの報告を受けて10.5で対策が入り、その後も修正を重ねた結果、認証前に到達できたコードの約5分の1が削減され、10.6に反映された。

同社は、この分析手法を再利用可能なスキルとしてまとめ、オープンソース向け脆弱性発見サービス「OSS Scanner」に組み込む作業を進めている。初期設定以外の動作に影響する変更は、人間が判断する設計としている。