Представьте: вы поручаете ИИ-ассистенту заказать всё необходимое, а он сам читает ваши переписки, чтобы понять, что вам нужно, заходит в банковское приложение и оплачивает покупки. Удобно? Возможно. Но за это удобство вы отдаёте системе доступ к своей карте, переписке, контактам и календарю — и обратно этот доступ уже не забрать.

Именно такой подход раскритиковала президент мессенджера Signal Мередит Уиттакер. В интервью Bloomberg, опубликованном на этой неделе, она назвала ИИ-ассистентов, которые выполняют задачи за пользователя, новой формой инфраструктуры слежки, а применительно к защищённым мессенджерам — «бэкдором». Поводом стал прогноз гендиректора Microsoft AI Мустафы Сулеймана о том, что в будущем Copilot сможет полностью взять на себя покупки пользователя, проанализировав его групповые чаты.

Что увидит ИИ, который покупает за вас

Уиттакер перечислила, к чему ассистенту придётся получить доступ, чтобы этот сценарий работал: кредитная карта, браузер, мессенджер Signal, право отправлять сообщения её родным от её имени, домашний адрес и календарь. По её словам, это система с очень широким доступом к множеству приложений и сервисов, и применительно к Signal её можно рассматривать как своего рода бэкдор.

«Чат-боты вам не друзья»

В том же интервью Уиттакер прямо заявила, что ИИ-чат-боты «не ваши друзья», не сознательные существа и не разумные собеседники. Так она ответила на растущий тренд, когда пользователи воспринимают ИИ как доверенного компаньона. По её словам, системы лишь имитируют эмпатию и понимание, но в основе лежит сопоставление образов в обучающих данных, а не реальное понимание.

Сама она, возглавляя Signal с сентября 2022 года, признаёт, что использует ИИ только для форматирования документов и не задаёт ему вопросов: она не хочет, чтобы реакция системы, усредняющей уже готовые ответы, вмешивалась в её работу над идеями.

Почему это бьёт по шифрованию

Главный аргумент Уиттакер: агентные системы, которым для работы нужен почти полный доступ к цифровой жизни пользователя, структурно несовместимы со сквозным шифрованием. ИИ-агент, читающий сообщения до их шифрования или после расшифровки, обесценивает саму защиту — неважно, зашифрованы ли данные при передаче, если система с правами root обрабатывает их в открытом виде прямо на устройстве.

Вес этим словам придаёт то, что Signal управляет самым распространённым в мире протоколом сквозного шифрования — он используется в том числе в WhatsApp с более чем 2 млрд пользователей.

Где слабое место

Наиболее вероятным первым способом взлома защищённых мессенджеров Уиттакер называет уязвимость типа prompt injection — когда злоумышленник манипулирует ИИ-агентом и заставляет его выполнять непредусмотренные команды.

Куда движется рынок

Это не абстрактная тревога. Microsoft в рамках проекта Solara, представленного на конференции Build 2026, разрабатывает операционную систему, где ИИ-агенты заменяют привычные приложения и становятся основным интерфейсом. Похожих стратегий придерживаются Google, Apple и OpenAI. Уиттакер считает, что такой сдвиг создаёт базы данных всей цифровой жизни человека — и они становятся главной целью как для хакеров, так и для государств.

Главный вывод

Рост продуктивности за счёт передачи корпоративному ИИ контроля над перепиской, календарём, контактами и финансами — это, по мнению Уиттакер, не выгода, а сделка. Сделка, в которой пользователи меняют конфиденциальность на удобство, толком не понимая её условий.