Создатель C++: « ИИ приводит к росту уязвимостей»

Создатель языка программирования C++ Бьерн Страуструп считает, что нынешние ИИ-инструменты еще не способны качественно писать сложный системный код и проектировать языки программирования. Таким образом, популярный вайб-кодинг может приводить к серьезным ошибкам и уязвимостям в том или ином решении. 

«Мне кажется, что в той области, которая интересует меня больше всего, т.е. в области кода, все так же будут писать люди, используя привычные абстракции. Примеры попыток сгенерировать код в этой области с помощью ИИ, что я видел, не дали хороших результатов – наоборот, лишь привели к росту числа ошибок и уязвимостей», – отметил Страуструп. По словам эксперта, проблема не только в качестве генерации, но и в проверке результата: изменения, внесенные ИИ, трудно отслеживать, поскольку небольшое изменение промпта может повлиять сразу на множество частей проекта, в том числе важных. 

«Сгенерированный ИИ-код обычно сильнее подвержен изменениям, чем код, написанный человеком. Когда разработчик вносит изменения, они, как правило, локальны, и можно относительно легко отследить их последствия. С ИИ все иначе: вы не всегда понимаете, что именно изменилось и где, поэтому приходится разбираться», – подчеркнул Бьерн Страуструп.

Своим мнением по поводу активного распространения ИИ-кодинга поделились разработчики статического анализатора кода PVS-Studio, который специализируется на поиске ошибок в коде, в том числе написанном на C++.

Филипп Хандельянц, руководитель разработки статических анализаторов PVS-Studio, считает, что опасения создателя C++ абсолютно обоснованны, но только в одном сценарии.

«Критика Бьерна Страуструпа полностью оправдана в случаях, когда разработчик просто вставляет результат работы ИИ-агента в проект. При таком подходе, в зависимости от промпта, нейросеть может сгенерировать неоптимальный код, к тому же содержащий баги и/или потенциальные уязвимости. Мы видели подтверждение этому при проверках проектов, написанных с помощью вайбкодинга: Vib-OS, markus. К счастью, авторы этих проектов ставили перед собой цель не написать production-level решение для всех, а скорее провести тематическое исследование», – отметил Филипп Хандельянц.

При этом он подчеркивает, что генерация кода нейросетью ничем не отличается от человеческой работы с точки зрения необходимости контроля. Он напоминает, что любой код – будь то написанный человеком или ИИ – должен проходить ревью, статический и динамический анализ, а также формальную верификацию. В таком случае ИИ становится отличным ассистентом: он помогает писать бойлерплейтный код, рутинные тесты и генерировать гипотезы, что заметно ускоряет работу разработчиков.

Руководитель направления разработки C++ PVS-Studio Олег Лысый, в свою очередь, обратил внимание на то, что ИИ уже стал неотъемлемой частью индустрии, и у разработчиков нет выбора – использовать его или нет, есть только вопрос «как». По его мнению, сценарий, при котором нейросеть автоматически генерирует код по задаче из трекера и сразу заливает его в репозиторий, абсолютно неприменим для серьезной разработки. 

«Тем не менее с тем же успехом можно критиковать использование IDE с их системами автодополнения кода. Представьте, что мы будем критиковать подход, при котором разработчик пишет случайную букву на клавиатуре, жмет кнопку Tab для автодополнения и сразу же коммитит код. Звучит безумно? Вот и мне хайп вокруг ИИ кажется безумием», – добавил Олег Лысый.

При этом создатель С++ не утверждает, что ИИ бесполезен. По его мнению, ИИ можно использовать для написания документации, но проверять ее все равно должен живой специалист. 

Ранее стало известно, что Yandex B2B Tech разрабатывает VibeCraft – сервис для создания сайтов по текстовому описанию без навыков программирования. Пользователю необходимо описать свою идею словами, ИИ-ассистент уточнит детали, а сервис займется реализацией проекта.