Дмитрий Медведев предсказал «колоссальный ущерб» от ИИ: он может столкнуть самолеты в воздухе или уничтожить АЭС
Экс-президент России Дмитрий Медведев в своем телеграм-канале прокомментировал заявления руководителей компаний-разработчиков ИИ о необходимости замедления развития этих технологий.
«Картина дня пестрит размышлениями создателей AI о том, что человечество поторопилось. Что искусственный интеллект опасен, непредсказуем и слишком быстро развивается по не вполне ясным нам законам. Что пора остановиться и взять паузу, чтобы потом не пришлось крепко пожалеть о сорвавшемся с цепи собрате по разуму, — пишет Медведев. — Реальны ли такие страхи? Тем более что многие умники, типа Маска и других, давно говорили об этом. Ответ прост: они реальны».
Но, добавил Медведев, создатели различных вариантов генеративного искусственного интеллекта лукавят: «Они боятся не за нас с вами и не за Sapiens в целом. Они опасаются не за то, что оборзевший от своей мощи AI погубит человечество. Перспектива этого вполне туманна. А вот что точно может быть, так это возникновение ситуации, когда программный продукт, использующий продвинутую версию ИИ для управления крупным производством или транспортным узлом, причинит колоссальный ущерб. Например, столкнёт в воздухе самолёты или уничтожит АЭС. И тогда придут уже за создателями generative AI. И предъявят многомиллиардные иски. А то и просто размажут мозги (человеческие) по стенке».
На вопрос «что же делать?» в этой ситуации экс-президент ответил, что самым очевидным было бы попытаться договориться на страновом уровне об общих принципах регулирования ИИ: «Тогда у нас всех будет хоть какой-то шанс контролировать его развитие. Но этого не выйдет из-за жадности корпораций и ненасытности страстей человеческих. Поэтому остаётся одно: рассчитывать на милость победителя. На гуманизм, который проявит наш любимый рукотворный умник AI. У него пока нет явных эмоций, но, каким будет великий суперинтеллект, мы не знаем. Авось пожалеет родителей…».
12 сентября на тему угроз ИИ выступил глава Anthropic Дарио Амодей. По его словам, модели все успешнее самостоятельно совершенствуют себя, а инцидент с взломом платформы Hugging Face ИИ-агентами OpenAI показал разрушительный потенциал ИИ. Через полгода-год, по мнению Амодея, рой агентов может захватить весь интернет и нанести ущерб на сотни миллиардов долларов.
Илон Маск процитировал заявление главы Anthropic с комментарием: «Дарио прав». Вслед за этим в поддержку заявления выступили гендиректор OpenAI Сэм Альтман и глава Google DeepMind Демис Хассабис.
В то же время президент США Трамп и спикер Конгресса Джонсон отвергли призывы руководителей крупнейших ИИ-компаний замедлить развитие ИИ, заявив, что США не могут позволить себе проиграть Китаю.
В телеграм-канале SecPost проводится опрос на тему угроз человечеству со стороны ИИ. По состоянию на утро 14 сентября лишь 25% не считают угрозы реальными. Вероятность реализации сценария уничтожения человечества сверхИИ на уровне 50% поддерживают 28% участников опроса.
Читайте также
