Signal против ИИ: Siri и Gemini не должны читать чаты
Signal внедряет новые меры безопасности, чтобы предотвратить доступ ИИ-ассистентов, таких как Siri AI и Google Gemini, к содержимому личных переписок. Проблема заключается в том, что даже при наличии сквозного шифрования (E2EE) системные ИИ-агенты с необходимыми правами доступа могут «видеть» текст прямо на экране смартфона, фактически превращая процесс расшифровки данных в уязвимость для машинного обучения.
Проблема не в самом шифровании, а в моменте его применения. Сквозное шифрование надежно защищает сообщения во время передачи от отправителя к получателю, но как только информация отображается на экране устройства, она становится доступна операционной системе. Современные ИИ-агенты, глубоко интегрированные в ОС, способны анализировать визуальный контент экрана. Это означает, что данные могут быть собраны, сохранены в локальных базах или отправлены на внешние серверы, при этом Signal не может контролировать, что именно происходит с этой информацией после захвата.
Угроза для приватности и позиция Signal
Президент Signal Meredith Whittaker в своем блоге охарактеризовала появление таких глубоко интегрированных ИИ-агентов как экзистенциальную угрозу для конфиденциальности на уровне приложений. Важный нюанс заключается в том, что под удар попадают не только пользователи ИИ, но и их собеседники, которые могут даже не знать о работе подобных функций и не давали согласия на обработку своих данных нейросетями.
Механизмы защиты на разных платформах
Поскольку полностью исключить доступ ИИ к данным на уровне системы крайне сложно, Signal внедряет технические ограничения для разных операционных систем:
- iOS 27: В приложении по умолчанию блокируется возможность создания скриншотов. Если пользователю всё же необходимо сделать снимок экрана, он может отключить опцию «Block Siri AI» в настройках конфиденциальности, тем самым принимая риск доступа ИИ к контенту.
- Android: Внедряется функция «Screen security», которая активируется только в момент, когда ИИ-ассистент пытается считать содержимое экрана. Однако защита остается неполной, так как на некоторых версиях Android, модифицированных производителями, такие попытки доступа не всегда можно достоверно распознать.
- Windows 11: Signal уже блокирует создание скриншотов (с мая 2025 года), чтобы предотвратить сбор данных функцией Microsoft Recall.
- macOS 27: На данный момент надежного технического способа блокировки нет, поэтому Signal рекомендует пользователям вручную исключать мессенджер из функций анализа данных Siri.
В завершение Signal обращается к Apple, Google и Microsoft с требованием предоставить разработчикам специализированные интерфейсы (API). Это позволило бы приложениям целенаправленно запрещать ИИ-агентам доступ к своим окнам. Текущие методы блокировки скриншотов являются лишь частичной мерой, так как они не защищают от попыток ИИ получить доступ к уже сохраненным данным другими способами.