"Цифровая плесень": ученые предупредили о новых ИИ-вирусах
Они способны научиться самостоятельно заражать умные устройства уже в этом году
Астана. 14 октября. KAZAKHSTAN TODAY - Искусственный интеллект может научиться самостоятельно распространяться между подключенными к интернету устройствами уже к концу 2026 года, считают исследователи компании Anthropic.
Речь идет о так называемой цифровой плесени - ИИ, который сможет проникать в устройства, создавать собственные копии и распространяться дальше без участия человека. Результаты исследования опубликованы на сайте Anthropic.
В отличие от обычных вредоносных программ такие ИИ-системы потенциально смогут приспосабливаться к разным устройствам. Для их работы не понадобятся мощные дата-центры: вычисления можно будет распределять между умными телевизорами, приставками и другой бытовой техникой.
Авторы исследования Уильям Чжоу и Дэниел Фримен сравнили такую систему с плесенью, которая постепенно захватывает новые поверхности. По их оценке, ИИ сможет создавать новые копии за несколько дней, а остановить его будет сложно из-за отсутствия единого центра управления.
В ходе эксперимента исследователи запустили ИИ-модель на 15 недорогих Android-приставках стоимостью около 55 долларов каждая. Устройства смогли совместно выполнять вычисления, хотя скорость работы оставалась низкой.
Затем специалисты проверили, способен ли ИИ распространяться между устройствами в изолированной сети. Модель GLM-5.2 самостоятельно находила новые устройства, переносила необходимые файлы и запускала другую ИИ-модель. В четырех из пяти испытаний она охватила все восемь устройств, в пятом - семь.
Однако эксперимент проходил в упрощенных условиях: устройства не требовали авторизации, а более мощная модель управляла распространением меньшей. Поэтому говорить о появлении полноценного автономного ИИ-вируса пока рано.
По прогнозу исследователей, уже к концу 2026 года небольшие ИИ-модели могут научиться выполнять все эти действия самостоятельно.
Ранее сооснователь Microsoft Билл Гейтс предупредил, что в 2027 году злоумышленники могут использовать новые ИИ-модели для масштабных кибератак, вымогательства и нарушения работы финансовых рынков.
О рисках также заявляли глава Anthropic Дарио Амодеи и ученые комиссии медицинского журнала The Lancet. Среди возможных угроз они называли массовые кибератаки, вмешательство в работу критически важной инфраструктуры и потерю контроля над искусственным интеллектом.
Ранее глава Anthropic предупредил о возможном захвате интернета "роем ИИ". Создатели ИИ также предупреждали об угрозе скорой гибели человечества.
