Чат-бот портала Нью-Йорка обманывает бизнес

Чат-бот на базе искусственного интеллекта, который работает на портале Нью-Йорка MyCity, предоставляет бизнесменам недостоверные данные. Порой это приводит к нарушению действующего городского законодательства. 

Чат-бот, разработанный на базе Azure AI от Microsoft, был внедрен на портал в октябре прошлого года в качестве вопросно-ответной системы для помощи нью-йоркскому бизнесу. Однако аналитики The Markup выяснили, что чат-бот нередко предоставляет обманчивую информацию. Например, он ответил утвердительно на вопрос о возможности полностью безналичного расчета в магазинах, хотя закон города запретил такую практику еще четыре года назад. 

Представитель Управления технологий и инноваций Нью-Йорка Лесли Браун отметил, что чат-бот пока работает в рамках «пилота», поэтому со временем его ответы станут точнее. 

– Однако он уже предоставил тысячам людей своевременные и точные ответы о бизнес-рисках, – заявил Браун. – Мы продолжим работать над обновлениями этого инструментам, чтобы улучшить поддержку малого бизнеса в городе. 

Работу чат-бота нью-йоркского портала, возможно, улучшит новый инструмент от Microsoft. Компания внедрила в облачную платформу Azure AI несколько функций, одна из которых отслеживает «галлюцинации» искусственного интеллекта. Инструмент, также созданный на базе ИИ, будет направлять чат-бот к безопасным и правильным ответам, блокируя потенциально вредоносную информацию.