Deepfake

Deepfake je obecný termín pro obsah generovaný umělou inteligencí, který napodobuje skutečnou osobu — hlas, obličej nebo styl písma. V kontextu telefonních podvodů se nejčastěji setkáme s voice deepfake (klon hlasu): útočník nahraje 30 vteřin hlasu cílové osoby z videí na sociálních sítích, vytvoří AI klon a pak zavolá oběti pod identitou klonované osoby. První masivně reportované případy v ČR začaly v létě 2025.

Jak to funguje

Útočník použije veřejně dostupné AI nástroje (ElevenLabs, Resemble.ai, open-source Tortoise TTS). Potřebuje 30-60 vteřin nahrávky cílového hlasu — typicky z Instagram Reels, TikToku, YouTube videa, podcastu, nebo dříve nahraného hovoru. Po několika minutách trainingu získá AI model, který umí říct cokoliv hlasem této osoby.

Jak to rozpoznat

• Nepřirozené pauzy — AI generuje text větu po větě, mezi větami je drobná pauza navíc.
• Konzistentní prozódie — hlas je přesnější ale plošší, chybí emoční variabilita.
• Chybí kašel, vzdychání, drobné ruchy v pozadí.
• Nereaguje na nečekané otázky — pokud zeptáte na něco intimního, AI buď pauzuje nebo selže.
• Žádost je neobvyklá — typicky urgentní finanční nouze.

Co dělat

1. Mějte s rodinou domluvené BEZPEČNÉ SLOVO — předem dohodnutá fráze, která zazní při skutečné nouzi. AI klon ji nezná.
2. Vždy zavolejte zpět na ZNÁMÉ číslo člena rodiny z jiného zařízení.
3. Pokládejte intimní otázky, které byste měli vědět jen vy dva.
4. Citlivé žádosti řešte přes druhý kanál — videohovor, nebo osobně.
5. Při podezření kontaktujte Policii ČR a NÚKIB.

Situace v SR

První ČR případ s prokázaným AI klonem hlasu — Brno, srpen 2025: klient Moneta Money Bank obdržel hovor s AI klonem hlasu svého osobního bankéře. Klon byl vytvořen z 45 vteřin předchozího legitimního hovoru. Klient převedl 850 000 Kč. Případ řeší NÚKIB jako precedent. EU AI Act (platný od 2024) klasifikuje deepfakes jako vysoce rizikové AI použití.

Časté otázky