Guardian: ИИ может вызвать финансовый кризис

Guardian опубликовал интервью с историком и писателем Ювалем Ной Харари. В нем он рассказал о том, что искусственный интеллект (ИИ) может стать причиной нового финансового кризиса, последствия которого будут катастрофическими. 

Харари уверен, что никто не может обеспечить полную безопасность работы ИИ. Таким образом технологии на базе искусственного интеллекта могут вызвать разные опасные сценарии, в том числе такие, которые угрожают существованию человечества. 

Писатель подчеркивает, что ИИ отличается от любых предыдущих технологий тем, что может принимать решения самостоятельно, создавать новые идеи и развиваться. Он указывает на финансы как на сферу, идеально подходящую для систем искусственного интеллекта, и потенциальный источник серьезного кризиса. 

Историк считает, что ИИ может создать финансовые инструменты, которые будут на порядки сложнее, чем те, что привели к кризису 2007-2008 годов, и которые никто не сможет понять, что затруднит их регулирование. 

Тем не менее, ведутся активные действия для обеспечения безопасности в работе ИИ. Так, на глобальном саммите по безопасности ИИ в Блетчли-Парке (Station X) была подписана многосторонняя декларация, которую Харари называет «очень важным шагом вперед». Ведущие правительства выразили обеспокоенность и стремление к сотрудничеству в этой области. Особенно значимым Харари считает присоединение к декларации Китая, подчеркивая, что без глобального сотрудничества остановить самые опасные возможности искусственного интеллекта будет сильно сложнее. 

Саммит завершился соглашением о сотрудничестве 10 правительств, включая США и Великобританию, Евросоюз и крупнейших компаний в области ИИ — OpenAI и Google — по тестированию передовых моделей ИИ до и после их выпуска. 

Свое беспокойство по поводу искусственного интеллекта выразил и Илон Маск. Бизнесмен считает, что он представляет угрозу для человечества. Маск подчеркнул, что с подобной проблемой люди сталкиваются впервые в истории.