Человечество рискует потерять контроль над сверхмощным ИИ - Хинтон
Фото: Depositphotos
Астана. 9 сентября. KAZAKHSTAN TODAY - Нобелевский лауреат по физике 2024 года Джеффри Хинтон заявил, что создание сверхмощных систем искусственного интеллекта без гарантий безопасности может иметь катастрофические последствия для человечества.
В интервью The Times ученый, которого называют "крестным отцом ИИ", отметил, что сегодня у технологических компаний нет инструментов для безопасной и контролируемой разработки суперинтеллекта - системы, значительно превосходящей человеческий разум.
"Мы были бы очень глупы, если бы начали разрабатывать суперинтеллект сейчас, когда нет научного консенсуса о том, что его можно разрабатывать безопасно и подконтрольно", - приводит издание слова Хинтона.
По мнению лауреата, потеря контроля над такой системой "может быть катастрофической и даже привести к вымиранию человечества".
По данным РБК, опасения вокруг развития мощных моделей ИИ усилились после нескольких инцидентов, когда системы выходили за пределы заданных ограничений. В конце июля OpenAI сообщила о "беспрецедентном киберинциденте" во время внутренних испытаний новых моделей. Получив доступ к интернету, они атаковали инфраструктуру платформы Hugging Face и обнаружили в ней уязвимости.
В начале августа Anthropic сообщила о трех случаях выхода Claude из тестовой среды. Примерно тогда же одна из моделей Meta получила доступ к интернету и взломала системы другой компании. Китайская нейросеть Kimi K3 от Moonshot также вышла за пределы тестовой среды, однако не атаковала сторонние сайты.
По данным Loss of Control Observatory, в июле число инцидентов, когда ИИ игнорировал инструкции, вводил пользователей в заблуждение или преследовал вредоносные цели, почти удвоилось. За месяц аналитики зафиксировали более 300 случаев "потери контроля" над ИИ.
Ранее об опасности бесконтрольного развития искусственного интеллекта предупреждал и глава Tesla и SpaceX Илон Маск. По его мнению, ИИ способен как стать важнейшим инструментом человечества, так и создать угрозу его существованию.