Исследование показало, что помощники на основе искусственного интеллекта обмениваются конфиденциальными данными пользователей

Исследователи из Университетского колледжа Лондона в Великобритании и Университета Реджо-ди-Калабрия в Италии проанализировали десять помощников на основе искусственного интеллекта, которые необходимо загрузить и установить на компьютер или мобильный телефон для использования, и обнаружили, что они собирают большой объем персональных данных об активности пользователей в сети.

Анализ показал, что несколько помощников передавали на свои серверы полное содержимое веб-страниц, включая информацию, видимую на экране.

Один из помощников на базе искусственного интеллекта, Merlin, улавливал вводимые формы, например, банковскую или медицинскую информацию, в то время как ChatGPT, Copilot, Monica и Sider могли определять атрибуты пользователя, такие как возраст, пол, доход и интересы, и использовали эту информацию для персонализации ответов даже в разных сеансах просмотра.

«Сбор и обмен данными — это не пустяк. Помимо продажи или передачи данных третьим лицам, в мире, где часты масштабные кибератаки, невозможно узнать, что происходит с данными о просмотре страниц после их сбора», — предупредила Анна Мария Мандалари, один из авторов исследования, слова которой цитируются в заявлении Университетского колледжа Лондона.

В ходе исследования исследователи смоделировали реальные сценарии просмотра веб-страниц, создав образ «богатого мужчины-миллениала [коренного представителя цифрового общества] из Калифорнии» в США, которого они использовали для взаимодействия с помощниками при выполнении обычных интернет-задач, включая чтение новостей, совершение покупок на Amazon и просмотр видео на YouTube.

Также учитывались такие действия в частном пространстве, как доступ к университетскому порталу здравоохранения, вход в службу знакомств или доступ к порнографии, при этом исследователи предположили, что пользователи не хотели, чтобы их отслеживали, поскольку эти данные являются персональными и конфиденциальными.

Согласно исследованию, проведенному в США, некоторые ИИ-помощники, включая Merlin и Sider, не прекращали запись активности, когда пользователь переходил в личное пространство, как следовало бы, нарушая законы США о защите данных, поскольку собирали конфиденциальную информацию о здоровье и образовании.

Авторы исследования утверждают, что крайне необходимо ввести нормативный надзор за ИИ-помощниками для защиты персональных данных пользователей, и рекомендуют разработчикам принять принципы конфиденциальности, заложенные в дизайне, такие как явное согласие пользователя на сбор данных.

Читайте также: Perplexity хочет купить Chrome у Google почти за 30 миллиардов долларов