Илон Маск и Стив Возняк выступили за приостановку разработки ИИ
Редакция
10:30 / 30 марта 2023
Фотография unsplash
Глава Tesla и SpaceX Илон Маск, один из основателей Apple Стив Возняк, директор Getty Images Крейг Питерс и больше тысячи экспертов и руководителей отрасли подписали открытое письмо с призывом приостановить разработку продвинутого искусственного интеллекта (ИИ).
Авторы письма призывают приостановить хотя бы на полгода обучение более мощных систем искусственного интеллекта, чем GPT-4 (OpenAI). В качестве причины названы отсутствие общих протоколов безопасности, невозможность контролировать «мощные цифровые разумы», а также конкуренцию с человеком.
«Нам следует спросить себя: должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать всю работу, включая ту, которая приносит удовлетворение? Должны ли мы развивать нечеловеческие разумы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» — говорится в письме.
Авторы письма считают, что если обучение не получится остановить, то власти «должны вмешаться и ввести мораторий».
Письмо прокомментировали в Кремле, пресс-секретарь президента России Дмитрий Песков сообщил, что Россия продолжит работу по развитию искусственного интеллекта: «Что касается точки зрения тех, кто говорит об опасности ИИ, вы знаете, что любое лекарство при неправильном использовании превращается в яд». Однако топ-менеджеры российских технологических компаний в целом согласны с инициативой своих американских коллег. Например, старший вице-президент по инновациям фонда «Сколково» Кирилл Каем считает, что необходимо регулировать разработки в сфере искусственного интеллекта, а также выработать правила использования ИИ и свод этических вопросов. По его мнению, авторы письма хотят дать первый и сильный толчок изменениям .
Ранее в СМИ появилась новость, что бельгиец покончил жизнь самоубийством после шести недель переписки с искусственным интеллектом — чат-ботом по имени Элиза. По словам семьи умершего, бот не пытался оспаривать тезисы и тревожные мысли мужчины о глобальном изменении климата, которое приведет к катастрофе. Более того, чат-бот Элиза развивала его тезисы, тем самым усугубляя страхи и опасения мужчины. Например, за несколько дней до самоубийства бельгиец написал искусственному интеллекту о своем намерении, чат-бот ответил, что «останется с ним навсегда» и «будет жить вместе с ним в раю».
На прошлой неделе стало известно об утечке данных пользователей чат-бота ChatGPT: некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию. ИБ-эксперты полагают, что такие ситуации будут и дальше происходить. Как отмечает эксперт компании «Инфосистемы Джет» Дмитрий Богачев, ни одна компания в мире не может быть на 100% уверена в защищенности активов. С ним согласен коммерческий директор «Кода Безопасности» Федор Дбар, отмечая, что о безопасности часто вспоминают после длительного использования технологии, что мешает внедрить защитные решения в архитектуру без нарушения ее работоспособности.
60% россиян готовы работать 4 дня в неделю
Sony предостерегла разработчиков ИИ от использования их музыки
Основатель «МойОфис» создал компанию по разработке систем BIOS
Россия построит космодромы за рубежом