В Open AI собрали команду для управления «сверхразумными» ИИ

В компании Open AI (той самой, которая разработала популярный ChatGPT) создали специальную команду для управления «сверхразумными» ИИ и контроля над ними. Для своей работы команда получит доступ к 20% вычислительных мощностей компании, сообщается в официальном блоге Open AI. 

По мнению специалистов, искусственный интеллект, превосходящий человеческие возможности, появится в ближайшие 10 лет. Поэтому специалисты Open AI отводят себе четыре года на поиски решения. Создатели ChatGPT разделяют мировую озабоченность вопросами контроля ИИ-технологий: быстро развивающийся искусственный интеллект может или стать помощником человечества, или породит грандиозные проблемы для мира. 

«Существующие технологии настройки искусственного интеллекта базируются на обучении с подкреплением на основе обратной связи от человека. При этом такие методики рассчитаны на то, что люди в принципе могут контролировать ИИ, что маловероятно с системами, потенциально более разумными, чем человек», — объяснили в компании. В Open AI также согласны с тем, что ИИ необходимо регулировать на законодательном уровне. 

Цель работы новой команды будет заключаться в том, чтобы создать специальный ИИ, который будет оценивать другие ИИ-системы и обеспечивать желаемые результаты, а также сможет гарантировать безопасность их эксплуатации. Для этого экспертам необходимо будет разработать настраиваемую обучающую систему для ИИ, провести испытания и утвердить получившуюся модель, а потом провести стресс-тесты всей получившейся схемы оценки и обучения ИИ. 

Также Open AI ищет в свою новую команду выдающихся исследователей и инженеров, особенно тех, кто специализируется на машинном обучении.