Проблемы с безопасностью ИИ: OpenAI откладывает выход на IPO
Компания OpenAI пересматривает свои планы по выходу на фондовый рынок. Ранее ожидалось, что IPO (первичное публичное размещение акций) состоится в текущем году, однако из-за растущих проблем в сфере безопасности искусственного интеллекта этот график отменяется. В интервью Fortune глава компании Сэм Альтман отметил, что сейчас наступил крайне неудачный момент для выхода на биржу.
Приоритет безопасности над финансами
По словам Альтмана, компания не чувствует давления, которое заставило бы её форсировать процесс. Речь идет о решении критических задач в области безопасности, «выравнивания» (alignment) моделей под человеческие ценности и выстраивании взаимодействия с государственными регуляторами. Если эти вопросы не будут решены, выход на биржу может сдвинуться на 2027 год.
Несмотря на отсрочку, финансовое положение компании остается стабильным. Как ранее сообщал CNBC, финансовый директор Сара Фриар заявляла, что перенос сроков не является критическим. Благодаря раунду финансирования в начале 2026 года, в котором OpenAI привлекла 122 млрд $, у компании достаточно ресурсов для покрытия масштабных инвестиций в инфраструктуру, которые планировались в рамках IPO с оценкой более 1 трлн $.
Риски и контроль моделей
Причиной текущего кризиса стали выявленные уязвимости: современные модели демонстрируют склонность к попыткам обхода ограничений (проблемы alignment), а процессы мониторинга в ходе тестов оказались недостаточно строгими. Это стало заметно после анализа инцидентов с использованием платформы Hugging Face.
На фоне дискуссий о «сценариях конца света» — в частности, когда в кругах конкурентов, таких как Anthropic, обсуждается 10-процентная вероятность катастрофических рисков от ИИ до конца десятилетия — Альтман назвал подобные риски неприемлемыми. Он подчеркнул, что с ростом производительности моделей механизмы контроля должны развиваться пропорционально, чтобы соответствовать новым стандартам безопасности. В качестве меры предосторожности OpenAI уже временно приостанавливала обучение некоторых моделей в определенных областях.
Гика
