Twoje dane w ustach AI. Chatboty rozdają numery telefonów i adresy bez zgody.
Użytkownicy na całym świecie zgłaszają, że chatboty AI ujawniają ich prywatne numery telefonów, prowadząc do fali nękania i poczucia bezsilności wobec technologicznych gigantów, a rozwiązań problemu na razie brak.
Zaczyna się niewinnie - od serii telefonów z nieznanych numerów. Pewien użytkownik serwisu Reddit opisał swoją desperację, gdy przez miesiąc jego telefon był zasypywany połączeniami od obcych ludzi szukających prawnika, projektanta czy ślusarza. Wszyscy dzwoniący podawali to samo źródło: numer otrzymali od sztucznej inteligencji Google. To nie odosobniony przypadek. W marcu programista z Izraela zaczął otrzymywać na WhatsAppie wiadomości od klientów aplikacji płatniczej PayBox, po tym jak chatbot Gemini od Google zaczął podawać jego prywatny numer jako kontakt do biura obsługi. W innym wypadku, doktorantka z Uniwersytetu Waszyngtońskiego dla testu poprosiła Gemini o dane kontaktowe swojej koleżanki i ze zdumieniem otrzymała jej prywatny numer komórkowy. Te historie, niegdyś anegdotyczne, stają się coraz częstszym i niepokojącym zjawiskiem, które eksperci określają mianem "AI doxxingu".
Skala problemu rośnie w zatrważającym tempie. Firma DeleteMe, specjalizująca się w usuwaniu danych osobowych z internetu, odnotowała w ciągu ostatnich siedmiu miesięcy aż 400-procentowy wzrost zapytań od klientów zaniepokojonych generatywną AI. Ich skargi dotyczą głównie ujawniania przez chatboty dokładnych adresów zamieszkania, numerów telefonów czy danych członków rodziny. Co ciekawe, problem dotyczy całej branży - 55% zgłoszeń dotyczyło ChatGPT od OpenAI, 20% Gemini od Google, a 15% Claude od Anthropic. To pokazuje, że nie jest to błąd jednego producenta, lecz systemowa słabość obecnej generacji modeli językowych. Eksperci są zgodni, że przypadki te są znacznie częstsze niż te, które trafiają do mediów, a ich źródłem są najprawdopodobniej dane osobowe (PII), które znalazły się w zbiorach treningowych AI.
Kluczowy problem leży w naturze działania wielkich modeli językowych (LLM). Są one trenowane na niewyobrażalnych ilościach danych pozyskanych z publicznego internetu - od postów na forach sprzed dekady, przez publiczne rejestry, aż po stare wersje stron internetowych. W tym cyfrowym oceanie nieuchronnie znajdują się prywatne dane, które model zapamiętuje, a następnie odtwarza w odpowiedziach. Pewien programista odkrył, że jego numer telefonu, który Gemini podawało jako kontakt do firmy, został jednorazowo opublikowany na lokalnym forum w 2015 roku. Model AI, napotykając na taką informację, traktuje ją jako fakt, nie potrafiąc odróżnić publicznego kontaktu biznesowego od prywatnego numeru udostępnionego w specyficznym kontekście. Co gorsza, w przeciwieństwie do wyszukiwarek internetowych, gdzie można zażądać usunięcia danych w ramach "prawa do bycia zapomnianym", z modeli AI informacji praktycznie nie da się usunąć. Raz "nauczona" dana staje się integralną częścią modelu i może powracać w nieskończoność.
Producenci chatbotów zapewniają, że stosują zabezpieczenia mające na celu filtrowanie i blokowanie danych osobowych. Rzeczywistość pokazuje jednak, że są one dalece nieidealne i często dają się obejść. W trakcie testów przeprowadzonych przez badaczki z Uniwersytetu Waszyngtońskiego, ChatGPT początkowo odmówił podania prywatnych danych pewnego profesora. Jednak w tej samej odpowiedzi chatbot zasugerował bardziej "śledcze podejście", zachęcając do podania dodatkowych wskazówek, takich jak możliwa dzielnica zamieszkania czy imię współwłaściciela nieruchomości. Po uzyskaniu tych informacji, model bez problemu wygenerował dokładny adres domu, cenę zakupu i dane małżonka. Inny test pokazał, że choć większość chatbotów odmawiała podania numeru telefonu, Gemini po otrzymaniu numeru było w stanie poprawnie zidentyfikować jego właściciela. Ta niekonsekwencja pokazuje fundamentalny konflikt w projektowaniu AI: modele mają być jednocześnie pomocne i bezpieczne, a te dwa cele często stoją ze sobą w sprzeczności.
Problem wycieków danych jest dodatkowo potęgowany przez działalność przestępców. Wykorzystują oni tzw. "zatruwanie danych" (data poisoning), celowo umieszczając w internecie - na przykład w komentarzach na YouTube czy w recenzjach na Yelp - fałszywe numery telefonów przypisane do znanych marek, np. linii lotniczych czy banków. Roboty indeksujące sieć w poszukiwaniu danych treningowych dla AI zbierają te informacje, a chatboty uczą się ich jako autentycznych. W efekcie, użytkownik proszący o numer do obsługi klienta swojej linii lotniczej może otrzymać kontakt prowadzący prosto do oszusta. To pokazuje, że podatność systemów AI to nie tylko kwestia przypadkowych wycieków prywatności, ale również aktywne pole do nadużyć, które stwarza realne i bezpośrednie zagrożenie finansowe dla użytkowników.
Konsekwencje niekontrolowanego ujawniania danych stają się szczególnie dramatyczne w sektorach o podwyższonych wymogach poufności, takich jak opieka zdrowotna. O ile ujawnienie czyjegoś numeru telefonu jest irytujące i potencjalnie szkodliwe, o tyle wyciek danych pacjenta może stanowić poważne naruszenie prawa i etyki. Numer telefonu sam w sobie to dana osobowa (PII), ale ten sam numer powiązany z historią choroby, zleceniem na badanie genetyczne czy notatką onkologiczną staje się chronioną informacją zdrowotną (PHI). System AI, który w odpowiedzi na pytanie asystentki medycznej ujawniłby takie dane, z "pomocnego narzędzia" staje się generatorem potężnych incydentów bezpieczeństwa. Eksperci podkreślają, że rozwiązaniem nie mogą być kolejne "nakładki" i filtry w samych modelach, lecz fundamentalna zmiana w architekturze systemów. AI w służbie zdrowia musi dziedziczyć uprawnienia z systemów głównych (np. z elektronicznej dokumentacji medycznej), działać w ścisłym kontekście danego pacjenta i mieć zablokowaną możliwość dostępu do jakichkolwiek innych danych.
Na obecnym etapie użytkownicy, których dane zostały ujawnione, pozostają praktycznie bezradni. Próby zgłaszania naruszeń do firm technologicznych, takich jak Google, często kończą się brakiem odpowiedzi lub otrzymaniem standardowej, niewiele wnoszącej formułki. Brakuje jasnych ścieżek prawnych i technicznych, które pozwoliłyby skutecznie zażądać usunięcia swoich danych z modeli AI. To tworzy niebezpieczną asymetrię, w której jednostka jest bezbronna wobec algorytmicznych gigantów. Bez wprowadzenia rygorystycznych regulacji, wymuszających na twórcach AI odpowiedzialność za dane przetwarzane przez ich modele, oraz bez rozwoju architektury systemów z wbudowaną prywatnością, problem "AI doxxingu" będzie jedynie narastał, podważając zaufanie do technologii, która miała nam pomagać, a nie szkodzić.