Контакт-центры будут предупреждать о звонках с ИИ

Контакт-центры российских компаний и госструктур должны будут предупреждать собеседников о том, что с ними общается ИИ. Это касается как звонков, так и переписок в интернете. Об этом стало известно из законопроекта «О регулировании систем искусственного интеллекта», пишут «Известия». 

В документе сказано, что клиенту следует предоставлять возможность общения с консультантом-человеком, но если диалог идет через чат-бот, то должно быть соответствующее указание на роботизированные ответы и сообщения. Для этого планируется закрепить порядок направления претензий и обращений в структуру, применяющую ИИ. 

«Сегодня ИИ активно используется в call-центрах, чат-ботах, сервисах поддержки, но далеко не всегда пользователи осознают, что общаются не с человеком. В условиях, когда технологии становятся всё более реалистичными, вопрос честного уведомления выходит на первый план – как с этической, так и с правовой точки зрения», – прокомментировал член комитета Госдумы по информационной политике, информационным технологиям и связи Антон Немкин. 

По словам Немкина, подобная маркировка ИИ-собеседника поможет уменьшить риски манипуляций. Например, это касается финансового консультирования, обслуживания уязвимых категорий граждан или предоставления медицинской информации. 

Таким образом улучшится борьба с мошенничеством. Это связано с тем, что зачастую под видом ИИ-сервисов могут действовать злоумышленники, которые хотят ввести человека в заблуждение, узнать личные данные или провести фишинговую атаку. 

Отмечается, что клиент контакт-центра компании должен знать, когда он получает автоматизированный ответ, чтобы адекватно оценивать его значимость, точность и возможные ограничения. Кроме того, функция переключения на «живого» специалиста по запросу улучшает контроль со стороны клиента и снижает риск недопонимания, добавил депутат. 

Ранее стало известно о том, что компании будут вынуждены отказаться от спам-звонков из-за поступления исков о возмещении морального вреда со стороны пользователей. Бизнесу придется выбрать текстовые сообщения в мессенджерах.