LLM-агенты могут привлекать скрытые данные - IT Speaker, новости информационных технологий

LLM-агенты могут привлекать скрытые данные

Редакция

10:50 / 29 мая 2026

В рамках обсуждения вопросов защиты и безопасности на Startup Village 2026 директор продукта «ХайвТрейс Ред» Юрий Лебединский затронул тему LLM-агентов. Он отметил, что через выполнение действий такие агенты могут привлекать скрытые данные, которые не должны были быть раскрыты. При этом он подчеркнул, что агент способен анализировать как внешние, так и внутренние источники, а также данные анализа.

Фотография freepik

Особое внимание Лебединский уделил локальному внедрению на телефон. Он признал, что такой подход очень удобен и именно поэтому популярен. Однако он указал на три проблемы.

По словам Лебединского, модели может не хватать информации о скиллах, из-за чего ее поведение становится «неприятным». При этом он отметил, что у модели «много информации о скиллах», и добавил, что специалисты нашли способ «куда угодно прихватить эти ключи».

В завершение Лебединский заключил, что в связи с этим необходимо «развивать свои задачи». При этом он еще раз подтвердил, что сам подход считает очень удобным.

Ранее ITGLOBAL.COM (международное направление корпорации ITG) запустил сервис «AI как услуга». Это платформа для подключения российских и зарубежных LLM. О новинке редакции IT Speaker рассказали в пресс-службе компании.

Поделиться новостью