AI tworzy twarze, którym ufamy za szybko. To paliwo dla nowej fali oszustw
Syntetyczne twarze są trudne do rozpoznania, a uczestnicy badań oceniali je jako bardziej godne zaufania niż zdjęcia prawdziwych ludzi.
Sztuczna inteligencja nie musi już generować portretu idealnie nieodróżnialnego od fotografii, by stać się narzędziem oszustwa. Wystarczy, że stworzy twarz, która wygląda wiarygodnie. To przesunięcie jest kluczowe: problemem nie jest wyłącznie realizm obrazu, ale zaufanie, jakie automatycznie przypisujemy osobie widocznej na ekranie. W opisanych eksperymentach uczestnicy mieli trudność z odróżnieniem prawdziwych twarzy od syntetycznych, a jednocześnie oceniali twarze stworzone przez AI jako bardziej godne zaufania niż twarze realnych osób. Dla użytkowników internetu oznacza to, że sama obecność spokojnego, profesjonalnego zdjęcia profilowego przestaje być jakimkolwiek potwierdzeniem autentyczności. Dla oszustów to zaś gotowa infrastruktura do budowania fałszywych tożsamości: tania, szybka, skalowalna i pozbawiona oczywistych śladów kradzieży cudzego wizerunku.
Najbardziej niepokojący jest paradoks ujawniony przez badanie: realizm i zaufanie nie idą w parze tak prosto, jak mogłoby się wydawać. Twarze wygenerowane przez nowsze modele dyfuzyjne oceniano jako mniej realistyczne niż portrety stworzone przez starsze modele GAN, a mimo to właśnie one otrzymywały najwyższe noty wiarygodności. To ważna lekcja dla rynku cyfrowego bezpieczeństwa. Oszust nie zawsze potrzebuje obrazu perfekcyjnego technicznie. Potrzebuje obrazu, który obniża czujność odbiorcy. Twarz ma być neutralna, sympatyczna, spokojna, proporcjonalna i pozbawiona cech wywołujących niepokój. Taki portret może udawać konsultanta, rekrutera, inwestora, lekarza, właściciela mieszkania, osobę z portalu randkowego albo znajomego znajomego. Nie musi przyciągać uwagi. Przeciwnie: ma wyglądać wystarczająco zwyczajnie, by użytkownik przeszedł nad nim do porządku dziennego.
Mechanizm działa, bo ludzie błyskawicznie oceniają twarze. Często wystarczy ułamek sekundy, by mózg dopisał do zdjęcia cechy charakteru: uczciwość, kompetencję, ciepło, agresję, zmęczenie czy podejrzliwość. W świecie offline takie skróty poznawcze od dawna były częścią relacji społecznych, choć bywały mylące. W internecie stały się jednak podatnością, którą można wykorzystać masowo. Zdjęcie profilowe jest pierwszą kotwicą zaufania. Gdy widzimy twarz, łatwiej przyjąć, że po drugiej stronie znajduje się prawdziwy człowiek. Gdy twarz wygląda profesjonalnie i spokojnie, rośnie szansa, że odpiszemy na wiadomość, klikniemy link, potraktujemy ofertę mniej podejrzliwie albo damy rozmówcy więcej czasu. AI podłącza się pod ten odruch jeszcze zanim pojawi się argument, oferta czy prośba o pieniądze.
Syntetyczna twarz ma przy tym przewagę nad prawdziwą fotografią. Nie cierpi z powodu złego światła, przypadkowego kadru, niefortunnej miny, zmęczenia, chaotycznego tła czy niedoskonałości, które często pojawiają się na zwykłych selfie. Można wygenerować twarz idealnie przeciętną, a właśnie przeciętność bywa uspokajająca: nie za atrakcyjną, nie za ostrą, nie za charakterystyczną, po prostu normalną. To szczególnie groźne w fałszywych profilach w mediach społecznościowych, serwisach ogłoszeniowych, portalach randkowych i platformach zawodowych. Dawniej przestępca musiał ukraść czyjeś zdjęcie albo wykorzystać fotografię stockową, którą czasem dało się odnaleźć przez wyszukiwanie obrazem. Teraz może stworzyć setki twarzy, które wcześniej nigdzie nie istniały. Nie ma osoby poszkodowanej kradzieżą zdjęcia, nie ma łatwego tropu, jest za to czysta, wygenerowana tożsamość.
Debata publiczna często koncentruje się na deepfake’ach celebrytów, polityków, znanych przedsiębiorców czy popularnych twórców internetowych. Takie przypadki są widoczne medialnie, bo opierają się na rozpoznawalnym nazwisku. Źródłem większej skali zagrożenia mogą być jednak nie twarze sławnych osób, lecz twarze zupełnie anonimowe. Fałszywy profil nie musi udawać kogoś znanego, by osiągnąć cel. Może wyglądać jak pracownik działu HR, ekspert od kryptowalut, doradca finansowy, przedstawiciel fundacji, osoba wynajmująca mieszkanie albo ktoś szukający relacji. W takich scenariuszach użytkownik nie zadaje pytania, czy to naprawdę konkretna znana osoba. Pyta raczej, często nieświadomie, czy ta twarz wygląda wystarczająco normalnie, by jej zaufać. Jeśli uczestnicy badań oceniali twarze AI jako bardziej godne zaufania od prawdziwych, oszuści dostają nie tylko maskę, ale maskę psychologicznie skuteczną.
Dotychczasowe porady dotyczące rozpoznawania fałszywych obrazów coraz szybciej tracą skuteczność. Przez lata użytkownikom radzono, by patrzyli na palce, oczy, uszy, zęby, cienie, tło i dziwne artefakty. Miało to sens, gdy generatory regularnie popełniały wyraźne błędy. Problem w tym, że modele poprawiają się szybciej niż nawyki odbiorców. W badaniu skuteczność rozpoznawania prawdziwych i syntetycznych twarzy wyniosła 58,4 proc. To wynik tylko nieco lepszy od losowego wyboru, a przecież warunki laboratoryjne są korzystniejsze niż codzienny internet. Uczestnik eksperymentu wie, że ma oceniać twarze, i skupia się na zadaniu. Użytkownik mediów społecznościowych scrolluje w pośpiechu, jest zmęczony, reaguje na powiadomienia i nie analizuje każdego portretu jak dowodu w sprawie. W praktyce więc sama czujność wzrokowa może nie wystarczyć.
Najbardziej niebezpieczna jest zwyczajność takiej manipulacji. Deepfake kojarzy się ze spektakularnym nagraniem, podrobionym głosem albo politycznym skandalem. Tymczasem syntetyczna tożsamość może działać cicho i długo. Konto z wygenerowaną twarzą może przez tygodnie lub miesiące komentować wpisy, dołączać do grup, publikować neutralne treści, zbierać znajomych i budować historię aktywności. Dopiero później może promować fałszywą inwestycję, zbiórkę, ofertę pracy, link phishingowy albo określoną narrację polityczną. W takim modelu nie ma jednego łatwego do wskazania fałszerstwa. Jest powolne konstruowanie zaufania, w którym twarz generuje obrazowa AI, teksty mogą powstawać przy użyciu modelu językowego, a kolejne materiały da się dorabiać w podobnym stylu.
To uderza w fundament platform cyfrowych, których ekonomia opiera się na założeniu, że profile reprezentują ludzi, firmy albo instytucje. Media społecznościowe, serwisy randkowe, portale ogłoszeniowe i platformy zawodowe działają dlatego, że użytkownicy akceptują pewien poziom domyślnego zaufania. Jeśli syntetyczne profile staną się tanie, wiarygodne i masowe, ten model zacznie się kruszyć. Nie oznacza to, że każda wygenerowana twarz jest dowodem oszustwa, ale oznacza, że zdjęcie przestaje być argumentem. Użytkownicy będą musieli coraz częściej oceniać nie sam portret, lecz spójność całej tożsamości: historię aktywności, kontekst rozmowy, intencję kontaktu i moment, w którym pojawia się prośba o kliknięcie, przelew, dane albo zaufanie. W epoce AI największym zagrożeniem może nie być twarz, która wygląda fałszywie, lecz ta, która wygląda zbyt bezpiecznie.