Дан старт разработки ИИ-системы для диагностики граждан

30.11.2021 |

Игорь Новиков.

Российские власти готовы начать разработку новой системы искусственного интеллекта (ИИ), которая позволит строить «психологические портреты» россиян с целью их анализа и диагностики противоправных намерений. Цель создания ИИ-систем жестко ограничивается задачей выявления граждан, которые осуществляют незаконную деятельность, вовлекают других людей в террористическую активность и экстремизм, подталкивают их на совершение противоправных действий. Обучение ИИ-системы планируется осуществлять на типовых постах и репликах в социальных сетях. Дальнейшая диагностика будет также базироваться на анализе цифрового следа граждан при их социальной онлайн-активности.

Тендер на исследование применимости ИИ на госзакупках

Как стало известно из анализа портала госзакупок, 23 ноября там был размещен тендер на проведение исследований возможности применения ИИ для психологической диагностики личности по ее поведению в социальных сетях. Стоимость тендера составила 36 млн рублей. Заказчиком выступил ФГБУ «Институт системного программирования им. В.П. Иванникова». Итоги конкурса должны быть подведены уже 29 ноября.

Согласно условиям тендера, подрядчик, одержавший победу, получит грант (его размер не разглашается) на разработку технологии психологической диагностики личности путем анализа данных профиля в соцсетях. Срок действия гранта - до 1 сентября 2024 года. Генеральным заказчиком выступает Аналитический центр при Правительстве РФ (АЦ).

Технология ИИ-диагностики личности

В тендерной документации указывается, что появление новой технологии позволит проводить достоверный анализ личности по ее цифровому следу без психологического очного тестирования, которое требует добровольного согласия. В документе отмечается, что это «открывает широкие возможности по оценке личности и прогнозированию ее поведения».

Отмечается, что диагностика может оказать очень подробной, потому что в социальных сетях накапливаются «обширные материалы относительно интересов, увлечений», регистрируются «точки посещений пользователя и его поведенческая активность».

Заказчик планирует широко применять полученные результаты в дальнейшем для распространения технологии с целью «оценки состояния лиц, принимающих ключевые государственные или корпоративные решения, оценивать творческий потенциал работников и моделировать их профессиональное развитие».

Трудности на пути создания ИИ-системы

В то же время, по мнению юристов, применение подобной технологии может войти в противоречие с действующим законодательством по защите персональных данных. Непонятно также, на каких данных предлагается обучать будущую ИИ-модель, чтобы обеспечить достоверность результатов.

Очевидно, что в настоящее время очень широкая выборка «оставляемого социального следа» находится в собственности владельцев социальных сетей. Эта информация в своей совокупности недоступна для правительственных организаций во всем мире. Возможны только узкие выборки, которые вряд ли могут составить релевантную обучающую модель. Если же проводить обучение ИИ-системы на узкой выборке таких данных, то добиться сходимости модели наврядли возможно. В документации эта проблема не рассмотрена.

В то же время в АЦ уверены, что создание ИИ-модели возможно, а ее последующее применение позволит своевременно выявлять призывы на разжигание национальной розни, вербовку или привлечение граждан к террористической деятельности». Будущая система позволит реагировать на эти действия с упреждением.

При этом юристы отмечают, что если пользователи своевременно не ограничили доступ к размещенной ими в соцсетях информации, она находится под защитой Закона о персональных данных. На их обработку необходимо получение отдельного согласия, где будет отражено право на наложение ограничения в предоставлении информации для обработки третьими лицами.