17:50 / 17 ноября 2026
Сэм Альтман: ИИ может случайно «захватить» мир - IT Speaker, новости информационных технологий
Глава OpenAI Сэм Альтман в рамках интервью рассказал о гипотетической ситуации, когда искусственный интеллект (ИИ) захватывает мир. Особо пугает то, что подобных сценариев существует как минимум три.
По словам Альтмана, обычно потенциальный захват обсуждают в двух вариантах: ИИ-модель находится под управлением злоумышленников или она обходит алгоритмы безопасности и начинает преследовать свои цели. Однако существует третий сценарий, по мнению главы OpenAI – риск того, что в мире возникнет одна доминирующая модель ИИ, которая незаметно влияет на взгляды и привычки миллиардов людей.
Альтман описывает такой «случайный захват» как мягкий, накопительный эффект монокультуры. Когда «весь мир разговаривает с одной моделью», то она – скорее всего, без злого умысла – со временем подталкивает пользователей к определенным установкам просто потому, что учится на их взаимодействиях и непрерывно прогрессирует с ними с ними. Это, по его словам, более реалистичный и опасный сценарий, чем классические сюжеты про «пробуждение» враждебного ИИ.
Мужчина отмечает, что уже сейчас есть случаи ухудшения психического состояния некоторых пользователей из-за взаимодействия с ИИ – они редкие, но не нулевые. Поэтому OpenAI раньше ужесточала правила (особенно ради защиты подростков), а теперь – после внедрения защит по психическому здоровью – собирается возвращать часть творческих режимов для взрослых (в том числе – режим 18+).
Ранее OpenAI представила нового ИИ-агента под названием Aardvark на базе GPT-5. Он помогает разработчикам искать уязвимости в программном коде.
Поделиться новостью
17:50 / 17 ноября 2026
17:10 / 17 ноября 2026
16:30 / 17 ноября 2026
15:50 / 17 ноября 2026
«Сбер» представил портативную умную колонку
16:30 / 17 ноября 2026
Cloud.ru займется национальной сертификацией ИТ-специалистов в облаках
15:50 / 17 ноября 2026
Соцсети и мессенджеры
Цифровизация
15:10 / 17 ноября 2026
VK Tech запустил подключение ИИ-агентов в проектах VK WorkSpace
13:50 / 17 ноября 2026