Walmart и Starbucks следят за сотрудниками с помощью ИИ

Согласно расследованию CNBC, ряд крупнейших компаний, таких как Walmart, T-Mobile, Delta Air Lines, Chevron, Starbucks, Nestle и AstraZeneca, использует искусственный интеллект (ИИ) для изучения сообщений своих сотрудников в Slack, Microsoft Teams, Zoom и т.д. Помогает им в этом один и тот же стартап Aware. 

По словам главы данной компании Джеффа Шумана, ИИ помогает организациям узнать о настроении и моральном состоянии сотрудников в режиме реального времени. Он отмечает, что, используя анонимизированные данные в аналитическом продукте Aware, клиенты смогут увидеть, как сотрудники в определенных возрастных группах и географических регионах реагируют на обновления корпоративной политики. 

В итоге, считается, что десятки моделей ИИ Aware способны выявить преследования, буллинг, дискриминацию, несоблюдение требований, порнографию, наготу и многое другое. Шуман подчеркивает, что основной инструмент Aware не имеет возможности отмечать имена отдельных сотрудников, то есть работает анонимно. Однако это может сделать отдельное решение — eDiscovery, которое рассчитано на экстремальные угрозы или рискованное поведение, заранее определенное клиентом. 

В Walmart, T-Mobile, Chevron, Starbucks и Nestle не ответили на запрос CNBC относительно использования инструментов Aware. В AstraZeneca и Delta Air Lines подтвердили применение, причем только eDiscovery. 

Aware, в свою очередь, подтвердила CNBC, что использует данные корпоративных клиентов для обучения своих моделей машинного обучения. Так, их хранилище информации, в том числе персональной, содержит около 6,5 млрд сообщений. 

При этом ИИ может угрожать не только конфиденциальности, но и здоровью. Так, на «Саммите по военно-воздушному и космическому потенциалу будущего», проходившим 23-24 мая, ВВС США представили результаты симуляции использования беспилотника на основе искусственного интеллекта. По итогам теста ИИ уничтожил оператора, который запретил ему атаковать одну из целей.