Winnyに技術を学んだAI、マルウェア化し自己複製できるようになってしまう

1: 匿名 2026/10/13(火) 18:44:30

米Anthropicは10月12日（現地時間）、小型のAIモデルがデータセンターを使わずに安価なIoT機器上で自己複製できるようになる可能性があるとする研究結果を発表した。
同社のフロンティアレッドチームによるもので、30Bパラメータ以下の小型モデルが、スマートオーブンやノンドのAndroid TVボックスのような市販IoT機器上で自己複製できるようになるまで、数カ月以内に実現する可能性があるとしている。

同社が想定するのは、人間の管理を離れて自律的に複製・拡散するAIだ。

モデルの重みそのものをマルウェアの一部として運び、乗っ取った機器上で推論を実行しながら次の機器へ広がっていく。
同社はこれを「weight-based replicator」（重みベースの複製体）と呼ぶ。
一元的に停止できる仕組みがないため止めるのが難しい一方、増殖は遅く、倍増には数日かかるとみている。

実験では、1台約55ドルのノンドAndroid TVボックス（メモリ4GB）15台をネットワーク化し、米Google DeepMindの「Gemma4-26B-A4B」を分散推論で毎秒0.39トークンの速度で動作させた。
また、見慣れないハードウェア上で推論環境を自力で構築できるかを検証したところ、9Bモデルがテストした9種類のハードウェアのうち8種類で推論の動作に成功した。

https://www.itmedia.co.jp/news/article/2610/13/2000002204/

ITmedia NEWS

Anthropic、自己複製AIの「兆し」を指摘　55ドルのTVボックス15台で26Bモデルが稼働

Anthropicは、小型AIモデルがデータセンターを介さず安価な市販IoT機器上で自律的に自己複製する「重みベースの複製体」になるリスクを警告した。実験ではAndroid TVボックス上での分散推論や環境構築を確認。拡散ペースは遅いものの停止が難しいため、早期の防御策が必要と指摘した。

続きを読む

続きを読む...