OpenAI покупает стартап безопасности ИИ Promptfoo
OpenAI объявила о приобретении стартапа Promptfoo, разработчика платформы для тестирования безопасности LLM и ИИ-агентов. Технологии компании планируется интегрировать в корпоративную платформу OpenAI Frontier для автоматизированного анализа и защиты агентных систем. Финансовые условия сделки не раскрываются.
OpenAI объявила о приобретении компании Promptfoo — разработчика инструментов для проверки безопасности и надежности систем на базе больших языковых моделей. После завершения сделки технологии стартапа будут интегрированы в платформу OpenAI Frontier, предназначенную для создания и эксплуатации корпоративных ИИ-агентов.
Promptfoo разрабатывает платформу, позволяющую тестировать приложения на базе LLM и агентные системы. Ее инструменты помогают выявлять уязвимости еще на этапе разработки — например, симулировать атаки типа prompt injection, обход защитных механизмов (jailbreak) или утечки конфиденциальных данных.
Платформа интегрируется непосредственно в процессы разработки и позволяет проводить автоматизированное тестирование безопасности ИИ-приложений. Разработчики могут запускать сценарии атак, анализировать поведение моделей и отслеживать результаты тестов, что упрощает выявление рисков до внедрения систем в рабочие процессы.
OpenAI планирует расширить возможности Frontier за счет автоматизированного red-teaming, проверки агентных рабочих процессов на наличие уязвимостей и инструментов отчетности и трассируемости событий безопасности. Эти функции должны помочь компаниям безопасно внедрять автономных ИИ-агентов в бизнес-операции.
Promptfoo также развивает открытый инструментарий для тестирования LLM-приложений — CLI и библиотеку с открытым исходным кодом. OpenAI заявила, что продолжит поддерживать и развивать этот проект, параллельно расширяя корпоративные функции безопасности внутри Frontier.
Стартап Promptfoo был основан Иэном Вебстером и Майклом Д’Анджело. Его инструменты используются более чем в четверти компаний из списка Fortune 500. Компания привлекла около $23 млн инвестиций и в июле 2025 года оценивалась примерно в $86 млн. Стоимость сделки с OpenAI не раскрывается.
Интерес к технологиям тестирования безопасности ИИ усиливается по мере распространения автономных агентных систем. Такие системы способны выполнять цифровые задачи без постоянного участия человека, но одновременно открывают новые возможности для атак — например, для доступа к конфиденциальным данным или манипулирования автоматизированными процессами.
Читайте также
