Workshop Deeply Harmful

Doprovodná aktivita k projektu Supercharged by AI

Předchozí dvě části našeho seriálu se týkaly samotného projektu Supercharged by AI a materiálů Data Detox Kit, které jsou zaměřeny na online wellbeing. Třetí část seriálu přináší workshop Deeply Harmful, který otevírá závažné téma online obtěžování, s důrazem na nové formy násilí spojené s technologií deepfake a sdílením intimních materiálů bez souhlasu.

Workshop je určen pro žáky od 8. třídy ZŠ, studenty SŠ i dospělé účastníky. Využít jej lze v celku (90 minut), nebo z něj vybrat jednotlivé části pro samostatné aktivity. Pracuje se s doprovodnou prezentací, vytištěnými příběhy a sadou vysvětlujících pojmů, které účastníkům pomáhají zorientovat se v problematice online obtěžování. Tematicky workshop odkazuje k jednomu z panelů výstavy Příběhy online obtěžování.

Nové podoby obtěžování: deepfakes a NCII

V první části se workshop zaměřuje na fenomén deepfakes, tedy technologie umožňující generování videí, ve kterých lidé vypadají, mluví nebo se chovají jako někdo jiný, aniž by to skutečně udělali. Ukázky jsou záměrně vybrány tak, aby zobrazovaly zábavné parodie až po neetické případy zneužití identity.

Dalším diskutovaným tématem bylo non-consensual intimate images (NCII), tedy šíření intimního obsahu bez souhlasu. AI dnes umožňuje vytvářet falešné pornografické materiály, do nichž jsou zasazovány tváře skutečných lidí, často bez jejich vědomí. Data ukazují, že:

• 98 % deepfake videí má sexuální charakter,
• z nichž 99 % zobrazuje ženy,
• ale oběťmi bývají i nezletilí nebo LGBTQ+ osoby.

S účastníky jsme debatovali nad tím, jak snadno se dnes může stát kdokoli cílem digitálního obtěžování i násilí a jak tomu takovéto technologie přispívají.

Typy online obtěžování: příklady z praxe

Online obtěžování probíhá na digitálních platformách, jako jsou sociální sítě, e-maily, diskuzní fóra nebo jiná online místa. Má podobu úmyslného a často opakovaného chování, které zastrašuje, vyhrožuje nebo zneužívá jednotlivce či skupiny. Přestože k němu dochází online, má často hluboký dopad na offline život obětí. 

Ve druhé části jsme rozpracovali další podoby online obtěžování. Nejprve jsme si vysvětlili různé pojmy s tímto spojené, např.:

• Doxxing – zveřejnění osobních údajů oběti (např. adresy, telefonu) s cílem vystavit ji riziku.
• Sextortion – vydírání na základě intimních materiálů (skutečných i syntetických).
• Mobbing a šikana – soustavné útočení ve skupině, zesměšňování a ostrakizace.
• Swatting – falešné hlášení trestného činu s cílem vyslat na místo policejní jednotku.
• Catfishing – vytváření falešné identity k manipulaci a zneužití.

Následovalo rozdělení do skupin a práce s reálnými příběhy. Ve skupinách si účastníci nejprve přečetli příběh a následně měli odpovědět na tyto otázky:

1. Jaký je vztah mezi obětí a pachatelem?
2. Kde (v online prostředí) k obtěžování došlo?
3. Existuje nějaká zmínka o tom, proč k obtěžování došlo?

Diskuze se často stočila i k vlastním zkušenostem účastníků. Emočně silné momenty nastávaly zejména tehdy, když si uvědomili, jak snadno lze informace zneužít – a jak nepřipraveně na tyto situace mnozí reagujeme.

Co s tím? Digitální sebeobrana a podpora obětí

Závěrečná část se soustředila na možnosti reakce a prevence. Společně jsme sestavili „digitální krizový plán“, jehož základ tvořilo 5 doporučení:

1. Nastavit si soukromý profil a kontrolovat oprávnění aplikací.
2. Blokovat a nahlásit útočníka na platformě i externím subjektům.
3. Zaznamenat důkazy: screenshoty, zálohy, metadata.
4. Nehledat chybu u sebe, mluvit o tom, nebýt v tom sám.
5. Obrátit se na odbornou pomoc, doporučeny byly weby a organizace jako E-bezpečí či Konsent.

Cílem závěrečné části bylo účastníkům ukázat, že existuje nejen možnost obrany, ale i komunita, která pomáhá. A že ticho a stud jsou často hlavními zbraněmi útočníka.

Proč o tom vlastně mluvit? 

Téma online obtěžování přímo souvisí s mediální gramotností, zejména v oblasti:

• kritické analýzy obsahu (rozpoznání deepfaků, ověřování zdrojů),
• rozpoznávání manipulačních technik v komunikaci,
• orientace v platformách a jejich nástrojích ochrany.

Zároveň se dotýká kybernetické bezpečnosti – například ve vztahu k:

• ochraně účtů a dat,
• správě oprávnění aplikací,
• prevenci před sociálním inženýrstvím a phishingem.

Využití workshopu v knihovnách

Workshop Deeply Harmful lze snadno adaptovat do knihovnického prostředí, pro školní třídy, mládežnické skupiny, komunitní akce nebo i jako součást seminářů pro veřejnost. Klíčem je otevřená metodika založená na:

• empatii a bezpečném prostoru,
• skupinové práci a sdílení,
• aktivním zapojení účastníků a diskuzi,
• využití autentických (byť anonymizovaných) případů.

Všechny materiály a prezentace lze navázat na Data Detox Kit, konkrétně části věnované bezpečnosti, duševní pohodě nebo umělé inteligenci.

Závěr

V knihovnách se stále častěji setkáváme s otázkami, které přesahují klasickou informační gramotnost. Online násilí je jedním z těch témat, které nelze přehlížet. Skrze výstavu Supercharged by AI, workshopy jako Deeply Harmful a zapojení materiálů od Tactical Tech můžeme vytvářet prostředí, které bude bezpečné, podpůrné a připravené na výzvy digitálního věku.

Možná vám může připadat, že je obsah workshopu pro děti příliš těžký nebo neadekvátní. Moje zkušenost však ukazuje opak: účastníci – i ti z druhého stupně ZŠ – tato témata dobře znají, setkávají se s nimi na platformách jako Discord nebo Reddit, a mnozí mají i osobní zkušenosti. O to důležitější je, abychom s nimi otevřeně mluvili o důsledcích takového chování a nabídli jim bezpečný prostor pro sdílení i otázky.