Google разработал ИИ-искателя багов

Компания Google представила ИИ-инструмент Google для поиска уязвимостей. Новая разработка под названием Big Sleep уже обнаружила 20 уязвимостей в популярных open-source проектах. 

ИИ-инструмент был разработан DeepMind и командой Project Zero. Отмечается, что он уже продемонстрировал реальный результат, обнаружив баги в таких проектах, как библиотеки FFmpeg и ImageMagick. 

В Google отметили, что каждый баг был найден именно ИИ, без вмешательства человека. Однако перед отправкой отчета, его все-таки проверяет реальный специалист, чтобы избежать ложных срабатываний. 

По словам вице-президента Google по безопасности Хизер Эдкинс, данное изобретение можно считать прорывом в автоматическом поиске уязвимостей. Подобные ИИ уже появляются и в других компаниях. Например, RunSybil и XBOW, последний даже возглавил рейтинг HackerOne. 

Однако у ИИ-разработки есть и недостатки: некоторые баг-репорты оказываются «галлюцинациями» – несуществующими проблемами, придуманными ИИ. Разработчики называют такие отчеты «ИИ-мусором» и жалуются на то, что они отвлекают от реальных задач. 

Ранее редакция IT Speaker писала о том, что белый хакер под никнеймом RenwaX23 выявил критическую уязвимость в браузере Safari. Apple оценила ошибку в 9,8 из 10 возможных баллов и заплатила за нее всего $1000.