OpenAI работает над новой ИИ-технологией

OpenAI начала работу над новым подходом к своим моделям искусственного интеллекта (ИИ) под кодовым названием «Strawberry» (клубника), пишет Reuters.

Интересно, что в OpenAI над «Strawberry» работает отдельная команда, и подробности разработки неизвестны даже их коллегам из других отделов.

Считается, что модели «Strawberry» позволят ИИ не просто генерировать ответы на запросы, но и заранее планировать «глубокие исследования». 

«Мы хотим, чтобы модели ИИ видели и понимали мир лучше, чем мы. Непрерывные исследования новых возможностей искусственного интеллекта — обычная практика в отрасли, и существует общее убеждение, что эти системы со временем улучшатся в рассуждениях», — заявил представитель OpenAI. 

Журналисты отмечают, что проект «Strawberry» ранее назывался «Q*». Источники, которые видели его презентацию, рассказывали, что ИИ способен отвечать на сложные научные и математические запросы, которые не способны обрабатывать коммерчески доступные модели. 

На этой неделе OpenAI продемонстрировала демо-версию исследовательского проекта, который, как утверждается, обладает новыми человеческими навыками мышления. Компания надеется, что эта инновация значительно улучшит способности ее моделей ИИ к рассуждению. Источник отмечает, что «Strawberry» включает специальный способ обработки модели ИИ после ее предварительного обучения на очень больших наборах данных.

В документе компании говорится, что «Strawberry» поможет выполнять задачи с большим горизонтом (LHT), которые требуют от модели планирования заранее и выполнения ряда действий в течение длительного периода времени. 

Также стало известно, что группа сотрудников OpenAI на условиях анонимности обратились в Комиссию по ценным бумагам и биржам США, заявив, что компания запрещает работникам предупреждать федеральные власти об опасностях разрабатываемых ИИ-технологий.

Так, ряд сотрудников OpenAI пожаловались на жесткие трудовые договоры, в которых компания фактически запрещает работникам обращаться к властям, даже если какая-либо ИИ-разработка потенциально опасна для человечества.