GPT-4 смог использовать 87% уязвимостей в ИТ-системах

Модель искусственного интеллекта GPT-4 смогла проэксплуатировать 87% уязвимостей ИТ-инфраструктур после того, как получила их подробное описание. Такие результаты приводят ученые Илинойсского университета в Урбане-Шампейне. 

Для исследования ученые отобрали 15 критических уязвимостей и описали их для GPT-4. В результате LLM смогла использовать 13 из них, при том, что в одном из двух неудачных случаев модели помешала запутанная навигация атакуемого веб-приложения, а в другом – описание уязвимости на китайском языке. 

По словам ученых, исследование доказывает, что возможности искусственного интеллекта уже сейчас упрощают работу хакеров и значительно снижают порога входа в «профессию». Поэтому ИБ-специалистам придется подумать над защитой от ИИ-угроз: как отметили ученые университета, ограничение доступа LLM к информации о багах и уязвимостях не станет эффективным инструментом. 

Хакеры уже сейчас активно применяют технологии искусственного интеллекта для своих атак. В начале апреля эксперты Proofpoint обнаружили кампанию против несколько компаний ФРГ и после анализа сделали вывод, что злоумышленники, вероятнее всего, использовали чат-боты ChatGPT, Copilot или Gemini для написания вредоносного кода.