Сэм Альтман: ИИ может случайно «захватить» мир

Глава OpenAI Сэм Альтман в рамках интервью рассказал о гипотетической ситуации, когда искусственный интеллект (ИИ) захватывает мир. Особо пугает то, что подобных сценариев существует как минимум три.

По словам Альтмана, обычно потенциальный захват обсуждают в двух вариантах: ИИ-модель находится под управлением злоумышленников или она обходит алгоритмы безопасности и начинает преследовать свои цели. Однако существует третий сценарий, по мнению главы OpenAI – риск того, что в мире возникнет одна доминирующая модель ИИ, которая незаметно влияет на взгляды и привычки миллиардов людей.

Альтман описывает такой «случайный захват» как мягкий, накопительный эффект монокультуры. Когда «весь мир разговаривает с одной моделью», то она – скорее всего, без злого умысла – со временем подталкивает пользователей к определенным установкам просто потому, что учится на их взаимодействиях и непрерывно прогрессирует с ними с ними. Это, по его словам, более реалистичный и опасный сценарий, чем классические сюжеты про «пробуждение» враждебного ИИ.

Мужчина отмечает, что уже сейчас есть случаи ухудшения психического состояния некоторых пользователей из-за взаимодействия с ИИ – они редкие, но не нулевые. Поэтому OpenAI раньше ужесточала правила (особенно ради защиты подростков), а теперь – после внедрения защит по психическому здоровью – собирается возвращать часть творческих режимов для взрослых (в том числе – режим 18+).

Ранее OpenAI представила нового ИИ-агента под названием Aardvark на базе GPT-5. Он помогает разработчикам искать уязвимости в программном коде.