Создатели ИИ предупреждают об угрозе скорой гибели человечества
Мощный ИИ может дать авторитарным режимам инструменты для "тоталитарного кошмара" с тотальной слежкой, заявил Дарио Амодеи
Астана. 10 сентября. KAZAKHSTAN TODAY - Многие создатели технологии в кулуарах допускают летальный сценарий для человечества, но не говорят об этом открыто. Об этом заявил Джейкоб Коксон, создававший системы для самых мощных ИИ-моделей.
"Люди, создающие ИИ, всерьез верят, что к концу десятилетия он может убить нас всех", - написал он на своей странице в Сети.
По его словам, руководители компаний в прессе подбирают обтекаемые формулировки, хотя в частных беседах признают те же страхи.
Коксон утверждает, что системы ИИ близки к моменту, когда смогут "взломать что угодно, за одну ночь перевернуть любую отрасль и получить реальную власть и ресурсы", при этом темпы прогресса, по его оценке, не снижаются.
Напомним, сооснователь Anthropic Дарио Амодеи еще в январском эссе предупреждал, что мощный ИИ может дать авторитарным режимам инструменты для "тоталитарного кошмара" с тотальной слежкой, а позже назвал появление сверхинтеллекта "испытанием для человечества как вида".
Глава OpenAI Сэм Альтман ожидает появления сверхинтеллекта в течение "нескольких тысяч дней", то есть примерно к 2032 году, тогда как Амодеи в обращении в Белый дом в марте 2025 года призывал готовиться к появлению "мощного ИИ" уже к концу 2026-го.