«Проверить удаление нельзя»: эксперт предупредила о рисках после утечки переписок с Notion AI

«Проверить удаление нельзя»: эксперт предупредила о рисках после утечки переписок с Notion AI
Изображение: Газинформсервис
В конце октября через внешнего облачного провайдера взломали машины разработки Fireworks AI, где лежал набор диалогов с Notion AI из аналитической функции Insights. Пострадали менее 1% рабочих пространств, однако эксперт компании «Газинформсервис» отметила, что по договору с сервисом клиентских данных там вообще не должно было быть — поначалу скомпрометированную выборку на серверах подрядчика даже приняли за тестовую синтетику.

В самой Notion заявили, что большинство записей хранилось без указания автора и организации. Ирина Меженева, ведущий инженер-аналитик лаборатории технологий искусственного интеллекта Аналитического центра кибербезопасности компании «Газинформсервис», объяснила, что сотрудники регулярно оставляют в подобных чатах фрагменты кода, названия клиентов, пароли и ключи API: такой текст выдаёт компанию по самому содержанию, поэтому разработчики сервиса и посоветовали клиентам срочно сменить все секреты, которые попадали в переписку. 

«При подключении облачного сервиса со встроенным ИИ запросы сотрудников уходят по цепочке внешних подрядчиков и их облачных площадок, где заказчик не может проверить, удаляются ли данные на чужих серверах на самом деле. Поэтому контролировать отправку лишнего остаётся только на своём периметре — в момент работы человека с внешним сайтом. В „Газинформсервисе“ для этого используют систему удалённой изоляции браузера Ankey RBI, которая в связке с DLP выносит работу с веб-ресурсами в отдельную изолированную сессию, отслеживает действия пользователя и не даёт выгружать файлы и рабочие данные за пределы компании», — подчеркнула Ирина Меженева.

Тематики: Безопасность

Ключевые слова: информационная безопасность, Газинформсервис