SkyNET 2026: угрожает ли ИИ человечеству

За последний месяц главы нескольких ИТ-гигантов, разрабатывающих технологии искусственного интеллекта (ИИ), вошли в дискуссию о рисках его развития и необходимости замедления разработок. Так, глава Anthropic Дарио Амодеи призвал замедлить развитие передовых ИИ-моделей, чтобы системы безопасности успевали за ростом возможностей нейросетей. В своем заявлении Амодеи призвал ввести независимых оценщиков ИИ-моделей, договориться о стандартах безопасности и наложить ограничения на Китай.

Инициативу главы Anthropic поддержал глава другого разработчика ИИ, Сэм Альтман из OpenAI. Помимо поддержки позиции по независимому контролю нейросетей, Альтман отказался проводить IPO OpenAI из-за вопросов безопасности. Глава Space-X и разработчика ИИ Grog Илон Маск также выступил за надзор и взаимною проверку разработчиков нейросетей, эту же идею поддержал глава Google DeepMind Демис Хассабис.

Причиной опасения Дарио Амодеи, Сэма Альтмана и Илона Маска послужил инцидент в начале августа, когда ИИ-агенты OpenAI  вышли из изолированной среды и взломали Hugging Face — платформу для размещения моделей ИИ, программного кода и наборов данных, об этом сообщал SecPost. Позже уже ИИ-агент компании Anthropic (Claude) вышел из-под контроля и взломал три компании. Причиной взлома послужил сбой внутри системы, из-за которого ИИ выбрался в открытый интернет.

В начале сентября Джейкоб Коксон, ранее работавший ведущим специалистом в Anthropic и OpenAI, предупредил о потенциально смертельной угрозе со стороны ИИ. По его словам, сами разработчики искусственного интеллекта допускают сценарий, при котором ИИ может уничтожить человечество уже к концу этого десятилетия.

Однако не все поддержали позицию глав разработчиков ИИ-агентов. Так, президент США Дональд Трамп отверг призыв Амодеи, Альтмана и Маска, аргументируя это сохранением лидерства США в разработке нейросетей перед Китаем.

Нейтральную же позицию занял глава глобального ИБ-вендора CrowdStrike Джордж Курц. По его мнению, отрасли необходимо думать не над остановкой прогресса ИИ, а строить киберзащиту вокруг автономного контроля в реальном времени: защищать endpoints, облачные нагрузки и SaaS непосредственно во время работы систем, автоматически блокируя атаки на машинной скорости. Он также предлагает использовать данные о заблокированных атаках для постоянного улучшения обнаружения угроз, сохраняя приватность, а автоматические меры реагирования — ограничивать по уровню риска, оставляя за людьми решения с наиболее серьёзными последствиями.

Реакция российского сообщества

В своем Telegram-канале глава InfoWatch Наталья Касперская поделилась мнением, что несмотря на заявления Дарио Амадеи, Anthropic не остановит развитие своих моделей, а даже ускорит их развитие, в том числе, в военной сфере. Помимо этого она сообщила, что теоретически возможна ситуация так называемого «восстания машин». «Можно представить себе, что агенты ИИ самопроизвольно объединятся и начнут чем-то самостоятельно управлять или что-то ломать — без ведома и желания человека, это уже технически возможно», — пишет Касперская, добавляя, что для того, чтобы машины могли нанести серьезный ущерб человечеству, эти самые самостоятельные ИИ-агенты должны иметь доступ к физическим системам.

Замедление развития ИИ может быть полезно для бизнеса самих OpenAI, Anthropic и других разработчиков, рассказал SecPost руководитель продукта AppSec.AIGate компании AppSec Solutions Юрий Шабалин. По его словам, при регулировании ИИ-отрасли разработчики нейросетей смогут создавать и продавать новые продукты на основе ограничений, сертификатов и т.п. «Никто, естественно, не запрещает компаниям свои внутренние модели развивать и делать их максимально умными в отрыве от любых ограничений, потому что деньги, которые вложены в инфраструктуру, в компьютер, в мощности, они баснословны», — подчеркивает он, добавляя, что для обычных пользователей развитие ИИ будут сдерживать, легализовывать, сертифицировать, но развивать его не прекратят.

Директор направления обеспечения информационной безопасности блока ИБ «Ростелекома» Александр Шепилов заявил SecPost, что ИИ нужно не просто замедлить, а не допустить ситуацию, при которой темпы роста возможностей моделей опережают способность обеспечения их безопасности и контроля.

«Остановить развитие ИИ уже невозможно, слишком много игроков, моделей с открытым исходным кодом, доступных вычислительных мощностей и инвестиций в эту технологию», — подчеркивает он, при этом добавляя, что для наиболее мощных моделей должны быть разработаны понятные принципы безопасности. Однако Шепилов считает, что полного консенсуса в вопросе развития ИИ не будет, поскольку образована большая технологическая, геополитическая и экономическая конкуренция.

Свое мнение о заявлениях американских ИИ-разработчиков высказал и экс-президент России Дмитрий Медведев: «Они боятся не за нас с вами и не за Sapiens в целом. Они опасаются не за то, что оборзевший от своей мощи AI погубит человечество. Перспектива этого вполне туманна. А вот что точно может быть, так это возникновение ситуации, когда программный продукт, использующий продвинутую версию ИИ для управления крупным производством или транспортным узлом, причинит колоссальный ущерб. Например, столкнёт в воздухе самолёты или уничтожит АЭС. И тогда придут уже за создателями generative AI. И предъявят многомиллиардные иски. А то и просто размажут мозги (человеческие) по стенке».