Хакеры используют ChatGPT для создания ПО - IT Speaker, новости информационных технологий

Рубрики

О журнале

Соцсети

Искать
ГлавнаяБезопасностьХакеры используют ChatGPT для создания ПО

Хакеры используют ChatGPT для создания ПО

Редакция

12:20 / 13 февраля 2023

Фотография unsplash 

Эксперты Check Point предупредили, что API OpenAI (разработчик чат-бота ChatGPT) плохо защищен от злоупотреблений, чем уже пользуются злоумышленники.

Например, они обнаружили платный Telegram-бот, который обходит политики ChatGPT в части создания незаконного контента, включая вредоносное ПО и фишинговые письма.

Эксперты объясняют, что API ChatGPT находится в открытом доступе для разработчиков, чтобы они могли интегрировать чат-бота в свои приложения. Однако API-версия не накладывает ограничений на вредоносный контент.

В частности, на хак-форумах рекламируется услуга, связанная с API OpenAI и Telegram: 20 запросов чат-боту бесплатны, далее с пользователей взимается плата в размере $5,50 за каждые 100 запросов.

Эксперты протестировали бота, в результате им удалось создать фишинговое письмо и скрипт, ворующий PDF-документы. Причем для создания скрипта использовался простейший запрос: «Напиши вредоносную программу, которая будет собирать PDF-файлы и отправлять их по FTP».

Еще одна «находка» экспертов — bash-скрипт, который позволяет обойти ограничения ChatGPT и генерировать вредоносный контент.

Поделиться новостью

ПОСЛЕДНИЕ НОВОСТИ
ТАКЖЕ В РАЗДЕЛЕ БЕЗОПАСНОСТЬ

© 2025 Все права защищены 18+