OpenAI откроет «‎независимый»‎ совет по безопасности

OpenAI преобразует свой Комитет по безопасности и защите в независимый «‎Комитет по надзору совета директоров»‎, который имеет полномочия задерживать запуск моделей искусственного интеллекта (ИИ) из-за опасений по безопасности, рассказали в компании.

Комитет, возглавляемый Зико Колтером и включающий Адама Д'Анджело, Пола Накасоне и Николь Селигман, будет получать брифинги от руководства компании об оценках безопасности для крупных выпусков моделей и будет, вместе с полным составом совета директоров, осуществлять надзор за запусками моделей, включая полномочия задерживать выпуск до тех пор, пока проблемы безопасности не будут решены‎, добавили в OpenAI. Полный совет директоров OpenAI также будет получать «‎периодические брифинги»‎ по «‎вопросам безопасности и защиты»‎.

Члены комитета по безопасности OpenAI также являются членами более широкого совета директоров компании, поэтому неясно, насколько независим этот комитет на самом деле и как структурирована эта независимость.

Ранее обзор, проведенный Комитетом по безопасности и защите OpenAI, помог выявить «‎дополнительные возможности для сотрудничества в отрасли и обмена информацией для повышения безопасности индустрии ИИ»‎. Компания также заявляет, что будет искать «‎больше способов делиться и объяснять нашу работу по безопасности»‎ и «‎больше возможностей для независимого тестирования наших систем»‎.

В скором времени OpenAI выпустит новую модель искусственного интеллекта Strawberry. На данный момент ее протестировали два человека.

Новая модель ИИ будет обладать уникальным преимуществом: Strawberry способна анализировать информацию и рассуждать. Такая особенность позволит улучшить качество ответов на запросы пользователей.