20:00 / 17 февраля 2025
Meta* остановит разработку ИИ, если будут риски - IT Speaker, новости информационных технологий
Глава Meta* Марк Цукерберг заявил, что компания может приостановить разработку некоторых систем искусственного интеллекта (ИИ), если ее специалисты сочтут их слишком рискованными.
Согласно новому документу Frontier AI Framework, компания классифицирует ИИ-системы как «высокорискованные» и «критически рискованные». Обе эти категории систем могут быть использованы в кибератаках, химических и биологических атаках.
Основное различие между ними заключается в том, что «критически рискованные» системы могут привести к катастрофическим последствиям. В свою очередь, «высокорискованные» системы могут облегчить проведение атаки, но не так надежно и предсказуемо, как «критически рискованные» системы.
Компания классифицирует риск системы не на основе какого-либо эмпирического теста, а на мнении внутренних и внешних исследователей, которые подлежат проверке со стороны руководителей высшего звена.
Так, если система считается «высокорискованной», Meta* ограничит доступ к ней внутри компании и не выпустит ее до тех пор, пока не будут реализованы меры по снижению риска до умеренного уровня.
Если же система будет признана «критически рискованной», Meta* примет меры безопасности для предотвращения ее утечки и прекратит разработку до тех пор, пока систему не удастся сделать менее опасной.
В то же время Meta* поясняет, что не считает существующую оценку «достаточно надежной, чтобы предоставить окончательные количественные показатели» для определения степени риска системы.
Напомним, что ранее стало известно, что компания Meta* тайно обучала искусственный интеллект (ИИ) на базе данных LibGen — пиратского ресурса. Согласно рассекреченным документам, Meta* рассматривала так называемую «общедоступность» теневых баз данных как возможность избежать ответственности».
* Компания Meta признана экстремистской организацией и запрещена в России
Поделиться новостью
20:00 / 17 февраля 2025
19:40 / 17 февраля 2025
19:30 / 17 февраля 2025
19:20 / 17 февраля 2025
19:40 / 17 февраля 2025
19:30 / 17 февраля 2025
19:20 / 17 февраля 2025
19:00 / 17 февраля 2025