【脆弱性】生成AIによるソフト改造に懸念、品質管理が課題

生成AIを利用してスマート家電やソフトウェアの機能を変更する動きが広がる中、改変したコードの品質やセキュリティを懸念する声が出ている。従来は専門的なスキルや時間を要した改変が、AIの利用によって手軽になっている。

AnthropicのAIコーディングアシスタント「Claude Code」を使い、スマートテレビのコードを書き換えたという利用者は、広告の表示を避けるため、AIにモデル番号を伝えてパッケージを削除し、新しいランチャーを書き込んだとXに投稿した。別の利用者は、販売を終了した「Lululemon Mirror」のソフトウェアを改造し、音楽や動画を再生できるようにしたと報告している。

GitHubで公開されている「REA：Reverse Engineer Anything」は、AIエージェントに登録して指示することで、既存ソフトウェアの機能を解析できるという。WebサイトやJavaScript、Android、Windowsアプリなどを対象とし、Claude CodeやCodexなどで利用できる。プロジェクトの評価指標の一つであるスターは、11月5日時点で42万を超えた。

一方、米メディア404 Mediaのジェイソン・コーブラー記者は、AIで複製したソフトウェアには、利用者が理解していない、または修正方法を知らない不具合が含まれることが多いと指摘した。脆弱なソフトウェアが重要な機器に導入されれば、機器やネットワークへの攻撃につながる可能性があるほか、コードにマルウェアが仕込まれることも懸念している。