Google тратит миллиарды, чтобы Gemini казалась самой передовой — почти телепатической, точно интеллектуальной. Но вот парадокс: чем «умнее» система выглядит на презентациях, тем чаще реальные люди ловят звонки в три часа ночи от незнакомцев, ищущих слесаря. Не потому что те ошиблись номером. Просто машина решила, что ваш телефон — это часть полезного ответа.

Вот конкретная ночь. Пользователь на Reddit пишет, что его телефон превратился в ад. Уже месяц ему звонят незнакомцы и просят связать их с адвокатом, дизайнером продукта, слесарём. Люди звонят с просьбами, которых он не понимает, и злятся, когда он говорит, что не тот человек. Он отчаянно просит помощи — как это остановить?

Оказывается, Gemini — это чат-бот Google, который генерирует ответы на вопросы, — выдавала его номер в ответах на запросы об услугах. Не потому что он их рекламирует. Просто… система решила, что это релевантная информация.

А откуда он вообще знает?

Я честно пыталась понять механику. Есть же логика: чтобы выдать чужой номер, ИИ должен его откуда-то взять. Но откуда?

В марте разработчик из Израиля получил сообщение в WhatsApp от незнакомца. Тот нашёл его номер в ответе Gemini, где ИИ давал неверные инструкции по обслуживанию клиентов и почему-то приложил реальный телефон этого разработчика.

А в апреле аспирантка из Вашингтонского университета просто баловалась с Gemini и выудила из него номер своего коллеги. Просто так. В качестве эксперимента.

Я посмотрела, что говорят эксперты. Они связывают это с тем, что в обучающих данных — тех самых текстах из интернета, на которых модель училась отвечать, — оказались персональные данные. PII, как это сокращается в англоязычных статьях (по сути — любые штуки, по которым можно тебя найти: телефон, адрес, email).

Но вот что меня зацепило: точно никто не понимает, как это работает. То ли модель прямо запомнила номера (это называется меморизацией — когда ИИ зубрит факты наизусть, как школьник перед контрольной), то ли как-то реконструирует их из кусочков информации. Механизм — чёрный ящик даже для создателей. Мы кормим машину интернетом, а она потом непонятно как его «выплёвывает» обратно.

Я хочу стереться, а кнопки нет

Внешне система выглядит мощной, современной, «умной». Она даёт быстрые ответы, экономит время, заменяет поиск. Корпорация выглядит на шаг впереди. Но реальный баланс сил тут неловкий: чат-бот обладает «знанием» вашего номера, а вы не обладаете никаким рычагом, чтобы это знание у него изъять.

Вы не давали Google разрешение публиковать ваш номер в ответах ИИ. Вы не нажимали «я согласен». Вы, возможно, даже не пользуетесь Gemini. Но ваш номер там есть, и его можно получить за секунду.

Зачем нам это читать, если мы не адвокаты и не разработчики из Израиля? Дело в том, что под ударом может оказаться кто угодно, чей телефон когда-то оказался в открытых или полуоткрытых данных — в резюме на сайтах вакансий, в старых пресс-релизах, в PDF-ках университетов, в упоминаниях в СМИ. Ваш номер мог быть в подписи к старому посту на форуме или в PDF с программой конференции 2019 года. Машина съела всё, и теперь не отрыгивает по команде.

Это не хакерская атака. Это не утечка базы данных с тёмного форума. Это «полезный помощник», который невинно раздаёт ваш номер каждому, кто спросит «а как до них дозвониться?».

Заплатили за ум, получили сплетника

Мне кажется, тут происходит что-то важное про разрыв обещаний и реальности. Маркетинг ИИ говорит нам: «Мы построили волшебную машину для доступа к знаниям». А на практике эта машина работает как тот дядя на районе, который помнит всех и всё, и болтливо рассказывает соседям лишнего.

Корпорации тратят миллиарды на то, чтобы ИИ казался интеллектуальным. Но когда дело доходит до базового вопроса — «а можно ли удалить персональные данные из этой штуки?» — оказывается, что механизма нет. Или он спрятан так глубоко, что обычный человек никогда его не найдёт. Мы не админы своей цифровой тени. Мы гости в собственном доме.

Что делать? Честно — почти ничего. Вы не можете зайти в настройки Gemini и нажать «забудь мой номер». Вы не можете проверить, есть ли вы в обучающих данных.

Если вы вдруг начали получать странные звонки — возможно, виноват не спам-робот, а слишком «умный» помощник. Можно попробовать искать себя в Gemini с разными запросами, но это скорее диагностика, не лечение.

Пока это выглядит как отдельные кейсы, а не массовая эпидемия. MIT Technology Review пишет о нескольких подтверждённых случаях, но не о миллионах. Возможно, номера попадают в выдачу только при определённых, редких запросах.

Но «редко» — это холодное утешение, если звонят именно вам. И сам факт, что система способна на такое, а вы не можете этого контролировать, говорит о странном цифровом мире, где мы платим за удобство собственной неприкосновенностью, а кнопки «стоп» просто нет в интерфейсе.

Так что если сегодня ночью вам позвонит кто-то, кто ищет адвоката — знайте: это не случайность. Это генеративный ИИ, который «помогает».

Материалы