Mama, to ja, zgubiłem telefon. Jak oszuści podrabiają głos AI

Mama dostała w czwartek wieczorem wiadomość głosową w komunikatorze. Z numeru, którego nie znała. Dwadzieścia sekund: „Mamo, to ja, zgubiłem telefon, piszę od kolegi. Mam głupią sytuację, potrzebuję szybko przelać pieniądze, oddam jutro. Napisz tutaj, nie dzwoń na mój stary numer”.

Głos był prawie mój. Trochę za płaski, bez mojego „no” na początku zdania, ale tempo i barwa się zgadzały. Mama nie odpisała. Zrobiła to, co robi od pół roku ze wszystkim, co wygląda podejrzanie: zapisała plik i wysłała mi go z pytaniem „To ty?”. Do folderu „oszuści” trafił dwunasty plik.

Siedziałem akurat przy komputerze. Zadzwoniłem do niej z mojego normalnego numeru, który wcale nie zginął. Mama odebrała po pierwszym sygnale i powiedziała: „No właśnie myślałam”.

Ile nagrania potrzeba

Kiedy tłumaczę to znajomym, zawsze widzę to samo zdziwienie: przecież nikt nie ma nagrań mojego głosu. Ma. Wystarczy filmik z wesela wrzucony do mediów społecznościowych, relacja z wakacji, nagranie z zebrania online, a nawet powitanie na poczcie głosowej.

Narzędzia do klonowania głosu, które da się dziś uruchomić bez wiedzy technicznej, potrafią zrobić przekonującą kopię z krótkiego fragmentu nagrania. Modele badawcze pokazywane przez duże firmy potrzebowały kilku sekund próbki. Im więcej nagrania, tym lepsza kopia, ale do dwudziestosekundowej prośby o pieniądze nie trzeba studia nagraniowego.

Nie wiem, czy ktoś sklonował akurat mój głos. Moja twarz i głos są w sieci na nagraniu z wystąpienia na spotkaniu programistów w Gdańsku, więc materiał by się znalazł. Równie dobrze mógł to być po prostu ogólny głos młodego faceta, dopasowany do tego, że ktoś wie, jak mam na imię i kim jest moja mama. Przy takich wiadomościach sam głos robi połowę roboty, a drugą połowę robią emocje.

Po czym poznać, że to nie on

Jakość klonów szybko rośnie, więc nie opieraj się na tym, czy „brzmi sztucznie”. Patrz na scenariusz. Prawie zawsze wygląda tak samo:

• nowy numer i powód, dla którego stary nie działa („zgubiłem telefon”, „rozbiłem ekran”, „to telefon kolegi”),
• pośpiech („szybko”, „zanim zamkną”, „tylko dzisiaj”),
• prośba o tajemnicę albo zakaz dzwonienia („nie mów tacie”, „nie dzwoń, nie odbiorę”),
• pieniądze w formie, której nie da się cofnąć: przelew na obce konto, kod BLIK, płatność kartą na podanej stronie,
• wiadomość głosowa zamiast rozmowy. Nagranie można przygotować wcześniej, rozmowę na żywo z pytaniami trudniej podrobić.

Wiadomość do mamy miała pięć z pięciu. Ten sam schemat opisywałem przy przejętych kontach i prośbach o BLIK, tylko tam przestępca pisał. Teraz dochodzi głos.

Hasło kontrolne, czyli nasza najstarsza technologia

W niedzielę zrobiłem rodzinne spotkanie na wideo: mama, tata, Emilia i ja. Franek przez pół rozmowy machał do kamery. Ustaliliśmy jedno słowo.

Zasada jest prosta. Jeśli ktoś z nas dzwoni albo pisze z prośbą o pieniądze, pomoc w nagłej sprawie, podanie kodu, druga osoba pyta o hasło. Kto go nie zna, nie jest nami. Bez dyskusji, bez „przecież słyszysz, że to ja”.

Przy wybieraniu hasła trzymaliśmy się kilku reguł:

• nie da się go wygrzebać z internetu: żadnych imion psów, nazw ulic, dat urodzin, drużyn piłkarskich,
• jest łatwe do zapamiętania przez wszystkich, łącznie z tatą, który nie lubi zapamiętywać,
• nigdzie go nie piszemy: ani w komunikatorze, ani w mailu, ani w notatkach w telefonie. Ustaliliśmy je na głos,
• nie używamy go na co dzień, tylko wtedy, gdy sprawa jest podejrzana albo nagła.

Emilia na początku się śmiała, że to jak z filmu szpiegowskiego. Po dwóch minutach przypomniała sobie, że jej koleżanka z pracy dostała podobną wiadomość „od córki”, i przestała się śmiać. Postanowiła wprowadzić to samo z Frankiem, bo on też ma już telefon.

Co zrobić, kiedy przychodzi taki telefon

Ułożyłem z rodzicami krótką kolejność. Wisi teraz na lodówce, obok kartki z kalendarza.

1. Rozłącz się albo nie odpisuj. Nie trzeba być grzecznym dla kogoś, kto może być oszustem.
2. Zadzwoń sam na numer, który znasz. Zapisany w telefonie od lat, nie ten, z którego przyszła wiadomość.
3. Jeśli nie odbiera, zadzwoń do kogoś, kto może wiedzieć, gdzie jest. Do drugiego rodzica, rodzeństwa, partnerki.
4. Zapytaj o hasło, jeśli rozmowa naprawdę jest z tą osobą, ale z nowego numeru.
5. Nie przelewaj niczego pod presją czasu. Prawdziwy syn poczeka dziesięć minut. Oszust nie lubi czekać.

Jeśli ktoś już przelał pieniądze, od razu dzwoń do banku, a potem zgłoś sprawę na policję. Incydent możesz też zgłosić do CERT Polska przez incydent.cert.pl. Podejrzane SMS-y przekazujesz na 8080, o czym pisałem przy fałszywych SMS-ach o dopłacie do paczki, ale na wiadomości głosowe w komunikatorze ten numer nie zadziała. Tu zostaje zgłoszenie konta w samym komunikatorze i zablokowanie numeru.

Co zmieniłem u siebie

Usunąłem nagranie powitania z poczty głosowej i zostawiłem automatyczny komunikat operatora. Przejrzałem, które filmy z moim głosem są publiczne, a które mogą być widoczne tylko dla znajomych. Nagrania z wystąpienia nie usuwałem, ono ma być publiczne. Ale wiem, że jest, i rodzina wie, że głos to nie dowód.

Mama zapytała na koniec rozmowy, czy powinna skasować to nagranie z folderu. Powiedziałem, żeby zostawiła. Za rok odsłuchamy je jeszcze raz i porównamy z tym, co będzie wtedy przychodziło. Obstawiam, że dzisiejsza wersja będzie brzmiała śmiesznie, a to akurat nie jest dobra wiadomość.