Jak ukazují statistiky, děti hojně využívají nástroje umělé inteligence - od chatbotů, kteří jim pomáhají s domácími úkoly, až po tvorbu digitálních uměleckých děl - často aniž by o tom jejich rodiče věděli. Tyto nástroje mohou otevřít svět možností a pomoci dětem učit se, tvořit a rozvíjet se způsobem, který jsme si ještě před několika lety nedokázali představit. Spolu s pozitivy AI však přichází i potřeba opatrnosti.
Umělá inteligence má i svou temnější stránku, na kterou děti nemusí být připraveny - deepfakes. Na rozdíl od jiných aplikací umělé inteligence jsou deepfakes navrženy tak, aby oklamaly čtenáře nebo diváka. Deepfakes mohou být nebezpečné zejména pro děti, které nemusí rozpoznat, co je skutečné a co podvrh.
Proto děti potřebují být vedeny. Musí pochopit, jak co nejlépe využít neuvěřitelné možnosti, které umělá inteligence nabízí, a zároveň se naučit, jak si zachovat soukromí a rozpoznat rizika.
Věděli jste, že?
70 % dospívajících v USA používá generativní nástroje umělé inteligence, jako jsou ChatGPT, Gemini a DALL-E.
Čtyři z pěti teenagerů ve Velké Británii použili generativní nástroje AI.
Více než 50 % dotázaných dospívajících použilo generátory textů a chatboty s umělou inteligencí, 34 % generátory obrázků s umělou inteligencí a 22 % generátory videí.
Nejčastěji byla umělá inteligence využívána pro práci ve škole, včetně „pomoci s domácími úkoly“ a „brainstormingu nápadů“. Teenageři používají AI také k úkolům, jako je překlad cizojazyčného obsahu a z nudy.
K žertování s přáteli používalo nástroje AI 20 % dospívajících.
Pouze 37 % rodičů, jejichž děti nástroje AI používají, o tom ví.
Téměř 25 % rodičů se nesprávně domnívalo, že jejich děti nástroje AI nepoužívají.
Většina rodičů se svými dětmi o používání nástrojů AI nehovořila.
(Zdroje: Common Sense Media Report, Statista, Wired)
Co jsou Deepfakes?
Deepfakes jsou videa, obrázky nebo zvukové soubory, které jsou manipulovány pomocí umělé inteligence (AI) a vytvářejí obsah, který vypadá jako skutečný, ale je kompletně vymyšlený. Termín „deepfake“ vznikl spojením slov „deep learning“, což je podmnožina umělé inteligence, a „fake“. Tyto výtvory mohou být neuvěřitelně realistické, takže i pro dospělé je obtížné rozlišit mezi skutečným a falešným, natož pak pro děti.
Například v reklamě propagující pojištění chrupu byl použit deepfake herce Toma Hankse, přestože se na ní nijak nepodílel. Podobným způsobem byly vytvořeny celé účty celebrit na sociálních sítích, jako jsou Keanu Reeves, Tom Cruise a Robert Downey Jr.
Ještě znepokojivější je, že cílem může být kdokoli, nejen celebrity. Z obyčejné fotografie nebo videa obyčejného člověka lze nyní vytvořit vysoce realistický falešný obsah, čímž se obyčejní lidé - včetně dětí - vystavují riziku manipulace nebo zkreslování informací na internetu.
Jak se vytvářejí deepfakes a za jakým účelem?
Deepfakes vznikají tak, že se do programů umělé inteligence (AI) vkládá velké množství dat, jako jsou videa, fotografie a zvukové nahrávky určité osoby. Umělá inteligence tyto vstupy analyzuje, aby se naučila vzorce - jak se někdo pohybuje, mluví nebo vypadá - a tyto informace využívá k vytváření velmi přesvědčivého falešného obsahu.
Zatímco někteří lidé vytvářejí deepfakes pro neškodnou zábavu, jako jsou žerty nebo kreativní projekty, jiní je používají ke škodlivým účelům, jako je poškozování pověsti, šíření dezinformací nebo zneužívání osob. Zvláště zranitelné jsou děti, které jsou často aktivní na internetu a nemají dostatek zkušeností, aby dokázaly odhalit zmanipulovaný obsah.
Příklady oblíbených Deepfake platforem
Zde je pět platforem, které se běžně používají k vytváření deepfakes, a ukazujeme jejich výhody i možná rizika:
FakeMe. Tato platforma umožňuje uživatelům snadno vyměňovat obličeje ve videích, takže je přístupná i pro příležitostné uživatele. Přestože je uváděna na trh jako zábavný nástroj, byla zneužita k žertům a dokonce k online obtěžování, což vyvolává obavy o její etické využívání.
DeepFaceLab. Bezplatný pokročilý nástroj DeepFaceLab, který je určen jak pro amatérské uživatele, tak pro profesionály, nabízí rozsáhlé možnosti pro vytváření přesvědčivých deepfakes. Jeho dostupnost pro veřejnost poukazuje na to, jak se výkonné nástroje umělé inteligence staly dostupnými.
Zao. Mobilní aplikace, která si získala popularitu díky tomu, že umožňuje uživatelům vkládat své obličeje do filmových scén. Je sice zábavná, ale vyvolala debaty o soukromí, protože aplikace shromažďuje a zpracovává osobní snímky.
Reface. Tato aplikace, známá pro vytváření videí a GIFů s vyměněnými obličeji, je hojně využívána pro své jednoduché použití a zábavu. Její shromažďování uživatelských údajů však vyvolalo obavy rodičů i jednotlivců o ochranu soukromí.
MyHeritage Deep Nostalgia. Tento nástroj animuje staré fotografie a vdechuje život historickým nebo sentimentálním snímkům. Ačkoli se často používá k upřímným účelům, ukazuje potenciál umělé inteligence pro manipulaci s obrázky, což může být znepokojující, pokud je aplikován neeticky.
Rizika pro děti: Jak je mohou deepfakes ovlivnit
Deepfakes jsou víc než jen digitální trik - mohou představovat vážné riziko pro děti a ovlivnit jejich bezpečnost, soukromí a emocionální pohodu. Pokud někdo dokáže pomocí umělé inteligence manipulovat s tváří nebo hlasem člověka, je potenciál způsobit škodu alarmující.
Zde jsou některá konkrétní rizika pro děti:
Krádež identity: Deepfakes se mohou vydávat za tvář nebo hlas dítěte, což může umožnit přístup k osobním účtům, páchání podvodů nebo manipulaci s jednotlivými členy rodiny.
Kyberšikana: Deepfakes mohou být použity k vytvoření trapného nebo ponižujícího obsahu o dítěti, což může vést k online šikaně.
Dezinformace: Děti mohou být zmanipulovanými videi nebo obrázky uváděny v omyl, což může vést ke zmatení reality a ovlivnit jejich chápání světa.
Porušování soukromí: Osobní fotografie nebo videa sdílená online mohou být zneužita k vytvoření deepfakes, čímž se děti vystavují riziku, že se za ně někdo bude vydávat nebo že se stanou terčem útoku.
Emocionální újma: Setkání s deepfake sebe sama nebo někoho, komu důvěřují, může být hluboce znepokojující a vyvolat strach, zmatek nebo pocit zrady.
Jak mluvit s dětmi o umělé inteligenci a deepfakes
Otevřené, klidné a věku přiměřené rozhovory jsou nejmocnějším nástrojem, který jako rodič máte. Podívejte se, jak toto téma řešit způsobem, který vaše dítě poučí a podpoří:
Začněte se základy Přizpůsobte výklad o umělé inteligenci a deepfakes věku dítěte a úrovni jeho znalostí. U mladších dětí to řekněte jednoduše: „UI je jako velmi chytrý počítačový program, který pomáhá s věcmi, jako je hledání odpovědí, kreslení obrázků nebo dokonce natáčení videí. Někdy ji však lidé používají k tomu, aby změnili fotografie nebo videa tak, aby vypadala jako skutečná, i když skutečná nejsou - to je právě deepfake.“ Starším dětem nebo dospívajícím můžete nabídnout trochu hlubší informace. Například:
„Umělá inteligence (AI) je pokročilá technologie, která dokáže například odpovídat na otázky, vytvářet umělecká díla nebo dokonce natáčet videa. Funguje na základě analýzy vzorců a učení se z dat. Někdy však lidé používají umělou inteligenci způsobem, který není užitečný nebo poctivý, například vytvářejí falešná videa či obrázky, které vypadají jako skutečné, i když nejsou. Těm se říká deepfakes a mohou být použity k oklamání nebo uvedení lidí v omyl.“
Jasně vysvětlete rizika
Jakmile pochopí základy, vysvětlete jim, že umělou inteligenci lze také zneužít. Podělte se o příklady, jako je falešné video, na kterém někdo říká nebo dělá něco, co ve skutečnosti neudělal. Zkuste to přiblížit tím, že řeknete něco jako: „Představte si, že by někdo natočil video, na kterém byste říkali věci, které jste nikdy neřekli - mohlo by to lidi zmást nebo jim ublížit.“
Učte je kritickému myšlení Povzbuzujte své dítě, aby se ptalo na to, co vidí na internetu. Používejte příklady a společně je vyzkoušejte: „Vypadá to příliš dobře nebo divně?“.
„Kdo to zveřejnil? Je to od důvěryhodného zdroje?“
„Můžeme si to ověřit na jiné webové stránce, abychom zjistili, zda je to pravda?“.
Pokračujte v konverzaci Nejedná se o jednorázovou diskusi. S vývojem technologií z ní udělejte pravidelné téma. Ptejte se jich na nové nástroje, o kterých slyšeli, a společně je prozkoumejte, abyste si získali jejich důvěru.
Stanovte si společně hranice Promluvte si o chování na internetu a dohodněte se na pravidlech sdílení fotografií, videí nebo osobních údajů. Například: - Obrázky zveřejňujte pouze v soukromých skupinách nebo s důvěryhodnými přáteli.
- Vyhněte se stahování aplikací pro záměnu obličejů nebo deepfake.
- Před sdílením čehokoli, co vám připadá „ nepatřičné“, se o tom raději přijďte poradit.
Vytvořte si bezpečnostní plán Připravte se na možné deepfake scénáře. Například: - Pro tísňová volání používejte rodinnou šifru, abyste si ověřili, že se jedná skutečně o vás.
- Naučte je nahlašovat, blokovat a mazat podezřelé zprávy nebo hovory.
- Procvičujte, co mají děti dělat, když uvidí něco znepokojivého na internetu - neprodleně to sdělte důvěryhodnému dospělému.
Buďte zodpovědní Na vašem chování záleží. Buďte obezřetní, pokud jde o fotografie a videa, která sdílíte se svým dítětem na internetu. Pokud je to možné, omezte sdílení na soukromé skupiny nebo zprávy s rodinnými příslušníky. Ukažte jim, že soukromí si ceníte i vy.
Poskytněte jim nástroje a znalosti Jako rodič můžete pomocí nástrojů, jako je Bitdefender Rodičovská kontrola, sledovat online aktivity svých dětí a zajistit jejich bezpečnost. Umožňuje vám zjistit, zda vaše dítě stahuje nebo používá platformy umělé inteligence nebo deepfake aplikace, což vám dává možnost včas řešit potenciální rizika a iniciovat důležité rozhovory o online bezpečnosti.
Pro jejich větší ochranu můžete společně prozkoumat nástroje, jako je Scamio a Bitdefender Link Checker. Scamio umožňuje snadno zkontrolovat, zda je e-mail, textová zpráva nebo reklama na sociálních sítích skutečně podezřelá. Můžete jej společně používat na platformách, jako je WhatsApp, Facebook Messenger, webový prohlížeč nebo Discord, a to zcela zdarma!
Bitdefender Link Checker je jednoduchý způsob, jak před kliknutím na odkaz ověřit, zda je bezpečný, a vyhnout se tak podvodům nebo rizikovým webům.
Často kladené dotazy
Co jsou to deepfakes a proč jsou pro děti nebezpečné?
Deepfakes jsou videa, obrázky nebo zvukové soubory, vytvořené pomocí umělé inteligence, k vytvoření falešného obsahu, který vypadá nebo zní jako skutečný. Deepfakes mohou být použity ke kyberšikaně, krádeži identity, šíření dezinformací nebo zneužití osobních fotografií, takže je pro děti těžké poznat, co je na internetu skutečné a co falešné.
Jak mohou rodiče chránit své děti před deepfakes?
Nástroje, jako je Bitdefender Rodičovská kontrola, umožňují rodičům sledovat online aktivity jejich dětí, včetně všech stažených aplikací nebo používání platforem AI. Pro další ochranu mohou rodiče použít aplikaci Scamio, která analyzuje e-maily, textové zprávy a reklamy na sociálních sítích a hledá podvody nebo deepfakes. Nástroj Bitdefender Link Checker pomáhá ověřovat bezpečnost odkazů, čímž snižuje riziko nebezpečného obsahu.
Co mají rodiče dělat, pokud se jejich dítě stane terčem deepfake?
Nahlásit obsah platformě, kde se objevil, a požádat o jeho odstranění. Uložte si veškeré důkazy, například snímky obrazovky nebo odkazy, pro případ, že by bylo nutné podniknout další kroky. Použijte nástroje, jako je Scamio, k analýze podezřelého obsahu a potvrzení jeho pravosti. Můžete se také obrátit na místní úřady nebo odborníky na kybernetickou bezpečnost, a požádat je o pomoc. Především si s dítětem promluvte, abyste ho uklidnili a pomohli mu pochopit situaci, a zdůrazněte, že to není jeho vina. Aktivní používání nástrojů, jako je Bitdefender Rodičovská kontrola, může pomoci podobným incidentům v budoucnu předcházet.
AUTOR
 | Cristina POPOV Cristina je spisovatelka na volné noze a matka dvou dětí žijící v Dánsku. Její patnáctileté zkušenosti v oblasti komunikace zahrnují vývoj obsahu pro televizi, online, mobilní aplikace a chatbota. |
Comments