Разработчик ChatGPT изучит катастрофические угрозы ИИ

Компания OpenAI (создатель чат-бота ChatGPT) сформировала подразделение по оценке и исследованию моделей искусственного интеллекта (ИИ) на предмет защиты от «катастрофических рисков». 

Илья Суцкевер, главный научный сотрудник и соучредитель OpenAI, убежден, что ИИ с уровнем сознания выше человеческого может появиться в ближайшие десять лет, и не факт, что этот ИИ будет доброжелательным. 

Команду под названием Preparedness («боеготовность») возглавил директор Центра развёртываемого машинного обучения при Массачусетском технологическом институте Александр Мадри (Aleksander Madry). В задачи нового подразделения входит отслеживание, прогнозирование и защита от опасностей, которые несут перспективные системы ИИ — от их дара убеждения до генерации вредоносного кода. Некоторые из категорий угроз пока не обозначились в реальности, однако остаются в поле изучения специалистов: к ним отнесли химические, биологические, радиационные и ядерные. 

Интересно, что связаться с компанией для изложения своих опасений может любой желающий — авторы десяти лучших работ получат денежный приз в размере $25 тысяч или работу в OpenAI. 

Обеспокоенность по поводу ИИ высказывалась и ранее. Так, разработчики технологий на базе искусственного интеллекта должны сами нести ответственность за тот вред, который приносят их продукты, озвучила группа отраслевых экспертов, включая основоположников соответствующих технологий, лауреатов премии Тьюринга Йошуа Бенжио и Джеффри Хинтона.