Supercharged by AI

V letošním ročníku se můžete těšit na čtyřdílnou sérii článků, která se bude dotýkat tématu umělé inteligence a jejího vlivu na naše životy. V první části se seznámíme s obsahem výstavy, která prostřednictvím IFLA během jara 2025 probíhá v 10 zemích, včetně České republiky. Druhý text bude zaměřen na naše online životy, jak činit informovanější rozhodnutí v digitálním prostoru. Poslední dva texty pak budou věnovány workshopům, které byly v souvislosti s výstavou Supercharged by AI vytvořeny a lze je v knihovnách využívat i samostatně jako součást lekcí informační a mediální výchovy.

Umělá inteligence (AI) se stala klíčovou technologií, která ovlivňuje naše digitální životy více, než si mnozí uvědomujeme. Co kdyby vám někdo ukázal video, ve kterém říkáte něco, co jste nikdy neřekli? Takové deepfake technologie dnes díky AI nejsou žádným sci-fi, ale realitou. A právě o těchto proměnách digitálního prostředí je výstava Supercharged by AI, kterou připravila organizace Tactical Tech[1] ve spolupráci s DensityDesign Lab na Politecnico di Milano[2] a Mezinárodní federací knihovnických asociací a institucí (IFLA)[3].

 

Cílem výstavy je informovat a vzdělávat

Výstava Supercharged by AI zkoumá, jak umělá inteligence zásadně ovlivňuje tvorbu a šíření informací na internetu. V současné době jsme svědky exponenciálního růstu technologií, které umožňují generování textů, obrázků a videí na základě obrovského množství dat. To má nejen praktické využití v oblasti automatizace zpracování obsahu, ale také zásadní dopady na důvěryhodnost informací a manipulaci veřejného mínění.

Výstava se zaměřuje na to, jak se mění naše vnímání reality v digitálním prostředí a jaké jsou potenciální důsledky nekontrolovaného využívání AI. Ukazuje, jak algoritmy filtrují informace, formují naše názory a jakým způsobem mohou být využívány k šíření dezinformací nebo cílenému ovlivňování jednotlivců. Důraz je kladen na etické aspekty používání AI a na nutnost rozvoje kritického myšlení u uživatelů digitálních médií. Díky své flexibilní koncepci je výstava snadno instalovatelná v knihovnách. Obsah je strukturován tak, aby návštěvníci nejen pasivně přijímali informace, ale aby se aktivně zapojili do kritické analýzy digitálního obsahu.

Co návštěvníci uvidí?

Nástroje AI dnes nejen usnadňují práci, ale i sofistikované podvody. Poster „Podvody a manipulace“ ukazuje, jak AI usnadňuje podvody, šíření dezinformací a online manipulaci. Například deepfake technologie umožňuje vytvářet realistická videa, která mohou být použita k podvodům nebo šíření nepravdivých informací. Příkladem rostoucího nebezpečí této technologie může být deepfake, který se objevil v roce 2023 v Česku, ve kterém byla zfalšovaná identita ministra vnitra Víta Rakušana. (zdroj)

Výřez z posteru Podvody a manipulace

Dalším alarmujícím tématem výstavy je online obtěžování a kyberšikana. Tato část výstavy se zaměřuje na problematiku kyberšikany, stalking a další formy online obtěžování. Například v USA byl zaznamenán případ, kdy byl AI chatbot zneužit ke kyberšikaně učitelky. Pomocí napodobení její identity lákal cizí lidi k jejímu domu. (zdroj)

Tento poster je připraven tak, že díky jednoduché webové aplikaci, kterou si můžete načíst svým mobilním telefonem pomocí QR kódu, použijete různé barevné filtry pro zobrazení všech tří vrstev jednotlivých příběhů. Odhalíte tak typ vztahu mezi obětí a útočníkem, kde k obtěžování došlo a také proč k němu došlo a jaká byla motivace útočníka.

 

 

 

 

Výřez z posteru Online obtěžování, zde vysvětlen pojem doxxing a uvedeny jsou konkrétní příběhy

Kromě podvodů a online obtěžování se AI stále častěji využívá i k manipulaci v politických kampaních. Třetí část výstavy se věnuje umocňování politického vlivu a vysvětluje, jak AI nástroje pomáhají cílit politické kampaně a šířit personalizovaná sdělení. Výzkum z Cambridgeské univerzity ukazuje, že AI nástroje mohou manipulovat s rozhodováním lidí při volbách tím, že jim zobrazují hyperpersonalizovaný obsah, který potvrzuje jejich předsudky a omezuje kritické myšlení (zdroj).

 

 

 

 

 

Výřez z posteru, který popisuje techniky politického vlivu

Dvě tištěné publikace „Stereotype Machines“ se věnují vizuálním stereotypům a tomu, jak AI reprodukuje a zesiluje existující předsudky. Generativní AI nástroje často vytvářejí obrázky lidí podle stereotypních vzorců, což může vést k posilování zastaralých pohledů na různé kultury. Studie provedená výzkumníky z MIT ukázala, že AI generuje zkreslené vizuální reprezentace etnických skupin na základě nekriticky převzatých datových sad (zdroj).

 

 

 

 

 

 

Výřez z knihy Stereotype machines

Český a evropský kontext

V České republice se v posledních letech objevily případy zneužití umělé inteligence, zejména v politické sféře. Například deepfake videa politiků nebo manipulativní obsah vytvořený generativní AI byl použit k ovlivňování veřejného mínění. Národní úřad pro kybernetickou a informační bezpečnost (NÚKIB) varuje před rostoucími riziky spojenými s využíváním AI v kybernetických útocích. Nedávno upozornil na nebezpečí spojená s používáním AI chatbotů, které mohou zpracovávat a uchovávat citlivé informace uživatelů bez jejich vědomí.[4]

Na evropské úrovni se intenzivně pracuje na regulaci umělé inteligence prostřednictvím AI Act[5], který má za cíl definovat pravidla pro bezpečné a etické využívání AI. Tento legislativní rámec, který vstoupil v platnost 1. srpna 2024 (a v plném rozsahu bude platný od 2. 8. 2026), zavádí klasifikaci AI systémů podle míry rizika a stanovuje povinnosti pro poskytovatele a uživatele těchto technologií.

Evropská unie také oznámila významné investice do rozvoje AI, aby udržela krok s globálními lídry v této oblasti. V rámci iniciativy InvestAI bylo vyčleněno přibližně 200 miliard eur na podporu vývoje a implementace AI technologií v různých sektorech.[6]

Tyto kroky ukazují na rostoucí uvědomění si významu umělé inteligence a potřebu jejího odpovědného a bezpečného využívání jak na národní, tak na evropské úrovni.

Co si myslíte?

Tři krátké otázky, které uzavírají výstavu, jsme převedli i do online hlasování, abyste se také mohli zapojit a sdílet svůj pohled na vliv AI na digitální svět. Vaše odpovědi pomohou lépe pochopit, jak veřejnost vnímá tyto nové technologie. Hlasovat můžete zde: https://www.menti.com/aldom1a57v61

Jedna z otázek uzavírajících výstavu

Jak výstavu využít v knihovnách

Výstava Supercharged by AI může sloužit nejen jako statická prezentace, ale také jako interaktivní nástroj pro vzdělávání a diskusi v knihovnách. Knihovníci mohou využít jednotlivé části výstavy k rozšíření povědomí o umělé inteligenci mezi svými čtenáři a pořádat tematické akce zaměřené na kritické myšlení a digitální gramotnost.

Po ukončení pilotní fáze projektu, kdy je výstava umístěna v Národní knihovně ČR, Knihovně města Olomouce, Městské knihovně v Břeclavi, Univerzitní knihovně Slezské univerzity v Opavě a Moravskoslezské vědecké knihovně v Ostravě, lze výstavu zapůjčit dalším knihovnám. V případě zájmu se prosím obraťte na Mgr. Vladanu Pillerovou (vladana.pillerova@nkp.cz).

---

[1] https://www.chip.cz/nukib-varuje-ai-chatovaci-aplikace-vas-mohou-smirovat

[2] https://commission.europa.eu/news/ai-act-enters-force-2024-08-01_en

[3] https://www.theverge.com/news/609930/eu-200-billion-investment-ai-development?

[4] https://tacticaltech.org/

[5] https://densitydesign.org/

[6] https://www.ifla.org/