Критические риски GenAI могут подорвать ИТ-проекты компаний

Скрытые угрозы, возникающие при внедрении генеративного ИИ, становятся одним из основных факторов, способных нарушить работу корпоративных ИТ-систем. При этом аналитики Gartner отмечают, что многие из них проявляются не на этапе пилотов, а значительно позже — как эффекты второго или третьего порядка.

В перечень перечень скрытых рисков компания включила: теневой ИИ — использование сотрудниками публичных GenAI-сервисов без разрешения ИТ-подразделения; технический долг GenAI — накопление ИИ-сгенерированных материалов, которые сложно поддерживать и обновлять; эрозию профессиональных навыков — постепенную утрату экспертности при чрезмерной автоматизации; требования к суверенности данных — необходимость хранить и обрабатывать данные и модели только внутри установленных государством границ; зависимость от технологий отдельных поставщиков — глубокую привязку к их API и экосистемам.

Теневой ИИ

Продолжение ниже

Несанкционированное использование сотрудниками публичных GenAI-сервисов остается одним из самых распространенных скрытых рисков. В сообщении приводится результат опроса: 69% компаний подозревают или фиксируют такие случаи. По оценке Gartner, несогласованные ИИ-инструменты повышают вероятность утечек данных, потери интеллектуальной собственности и инцидентов безопасности. Прогноз на 2030 год — более 40% предприятий столкнутся с инцидентами, связанными с теневым ИИ.

Технический долг GenAI

Увеличение объема автоматически генерируемых материалов — кода, текстов, дизайна — создает дополнительную нагрузку на сопровождение. В сообщении Gartner отмечается, что к 2030 году половина компаний будет сталкиваться с задержками обновлений и ростом затрат из-за накапливающегося технического долга. Аналитики отмечают, что обновление и исправление созданного ИИ контента нередко обходится дороже и сложнее, чем планировалось.

Суверенность данных и моделей

Усиление требований к хранению и обработке данных становится значимым ограничением для проектов GenAI. Прогноз Gartner — к 2028 году 65% правительств введут собственные нормативы технологического суверенитета. Как указывается в сообщении, подобные правила повышают совокупную стоимость владения (Total Cost of Ownership —TCO), усложняют архитектурные решения и требуют раннего включения юридических и комплаенс-команд.

Эрозия навыков

Постепенная утрата человеческой экспертизы рассматривается как долгосрочный системный риск. В материале подчеркивается, что чрезмерная опора на ИИ способна снижать уровень профессионального суждения и приводить к потере накопленного опыта и внутренних практических знаний, которые невозможно быстро восстановить. Gartner отмечает, что такой процесс развивается незаметно и проявляется только в ситуациях, где ИИ ошибается в нестандартных сценариях и требуется человеческая интуиция. Компания рекомендует определять области, где критично участие специалистов, и использовать ИИ как инструмент дополнения, а не замены их экспертизы.

Интероперабельность и зависимость от поставщиков

Выбор единой технологической платформы для ускорения внедрения GenAI может обернуться глубокой зависимостью от одного вендора. В сообщении отмечается, что такие решения привязывают данные, модели и процессы к API и инструментам поставщика, ограничивая возможность миграции и усложняя интеграции. Рекомендации включают использование открытых стандартов, модульных архитектур и тестирование интероперабельности на ранних этапах.