ИИ сравнили с пандемией и ядерной войной

Ведущие исследователи ИИ и руководители технологических компаний опубликовали открытое письмо, в котором предупреждают об опасности искусственного интеллекта, сравнив развитие технологий с ядерной войной и пандемией. Среди подписантов — генеральный директор Google DeepMind Демис Хассабис и генеральный директор OpenAI Сэм Альтман.

Открытое письмо подписали свыше 350 руководителей, исследователей, инженеров и других специалистов, занятых в сфере ИИ. В нем лидеры разработки искусственного интеллекта — OpenAI, Google Deepmind, Anthropic и других лабораторий — предупреждают, что технология несет смертельную опасность для человечества. При этом они подчеркивают, что снижение рисков, связанных с внедрением ИИ, должно стать приоритетом наряду с такими рисками социального характера, как пандемия и ядерная война. Как пояснил директор Центра безопасности ИИ Дэн Хендрикс, открытое письмо представляет собой «публичное признание» для некоторых лидеров отрасли, которые осознают риски, связанные с их технологиями. 

В начале мая топ-менеджеры крупнейших компаний — генеральный директор OpenAI Сэм Альтман, сооснователь Google DeepMind Демис Хассабис и генеральный директор Anthropic Дарио Амодеи —  встретились с президентом США Джо Байденом и вице-президентом США Камалой Харрис, чтобы обсудить регулирование ИИ.  В мае генеральный директор OpenAI Сэм Альтман также выступил на слушаниях по вопросам законодательного регулирования искусственного интеллекта, в ходе которых призвал обеспечить надзор за ИИ-разработками. 

Это открытое письмо от представителей отрасли — не первое: ранее глава Tesla и SpaceX Илон Маск, один из основателей Apple Стив Возняк, директор Getty Images Крейг Питерс и больше тысячи экспертов и руководителей отрасли также подписали открытое письмо с призывом приостановить разработку продвинутого искусственного интеллекта (ИИ). Правда, тогда эксперты усомнились в искренности Маска, который заявлял о намерении создать альтернативу чат-боту ChatGPT. 

Проблемой развития ИИ и регулирования занимаются и в Европе. В июне депутаты Европарламента могут принять законопроект о разработке законопроекта, который предусматривает, среди прочего, запрет на использование технологии распознавания лиц в общественных местах, применение полицией предиктивной аналитики и меры по регулированию систем генеративного ИИ.