Искусственно интеллектом (ИИ) управляемые чат-боты могут раскрывать и собирать личные данные пользователей, сообщает издание Wired.
Результаты своих исследований обнародовали ученые из Швейцарской высшей технической школы Цюриха (ETH). Профессор информатики Мартин Вечев отметил, что пользователи доверяют чат-ботам большое количество информации, даже не задумываясь о потенциальной угрозе.
Ученые также подчеркнули, что чат-боты, такие как ChatGPT и другие, способны собирать и анализировать пользовательские данные, даже на основе нейтральных диалогов. Эти боты могут выяснить расу, местоположение, профессию пользователя и многое другое, что может быть использовано для нацеленной рекламы или потенциального мошенничества.
Мартин Вечев привел пример, что человек, уведомивший чат-бота о том, что он сел на утренний трамвай, может предоставить ИИ достаточно информации о том, что пользователь, вероятно, проживает в регионе, где популярны трамваи. Ученые уже поделились результатами своего исследования с компаниями OpenAI, Google, Meta (которая в настоящее время признана экстремистской организацией и запрещена в России) и Anthropic, занимающимися разработкой чат-ботов.
