Štatistiky ukazujú, že deti vo veľkej miere využívajú nástroje umelej inteligencie - od chatbotov, ktorí im pomáhajú s domácimi úlohami, až po vytváranie digitálnych umeleckých diel - často bez vedomia rodičov. Tieto nástroje môžu otvoriť svet možností a pomôcť deťom učiť sa, tvoriť a rozvíjať sa spôsobom, ktorý sme si ešte pred niekoľkými rokmi nevedeli predstaviť. Spolu s pozitívami umelej inteligencie však prichádza aj potreba opatrnosti.
Umelá inteligencia má aj temnejšiu stránku, na ktorú deti nemusia byť pripravené - deepfakes. Na rozdiel od iných aplikácií AI sú deepfakes navrhnuté tak, aby oklamali čitateľa alebo diváka. Deepfakes môžu byť obzvlášť nebezpečné pre deti, ktoré nemusia rozpoznať, čo je pravé a čo falošné.
Preto je potrebné deti usmerňovať. Musia pochopiť, ako čo najlepšie využiť neuveriteľné možnosti, ktoré umelá inteligencia ponúka, a zároveň sa naučiť, ako si zachovať súkromie a rozpoznať riziká.
Viete o tom?
70 % amerických tínedžerov používa generatívne nástroje AI, ako sú ChatGPT, Gemini a DALL-E.
Štyria z piatich britských tínedžerov používajú generatívne nástroje AI.Viac ako 50 % opýtaných tínedžerov použilo generátory textov a chatboty s umelou inteligenciou, 34 % generátory obrázkov s umelou inteligenciou a 22 % generátory videí.
AI sa najčastejšie používala na školské úlohy vrátane „pomoci pri domácich úlohách“ a „brainstormingu nápadov“. Tínedžeri používali AI aj na úlohy, ako je preklad cudzojazyčného obsahu a z nudy.
20 % tínedžerov používalo nástroje AI na vtipkovanie s priateľmi.
Len 37 % rodičov, ktorých deti používajú nástroje AI, o tom vie.
Takmer 25 % rodičov sa nesprávne domnievalo, že ich deti nástroje AI nepoužívajú.
Väčšina rodičov sa o používaní nástrojov AI so svojimi deťmi nerozprávala.
(Zdroje: Common Sense Media Report, Statista, Wired)
Čo sú Deepfakes?
Deepfakes sú videá, obrázky alebo zvukové súbory, ktoré sú manipulované umelou inteligenciou (AI) s cieľom vytvoriť obsah, ktorý vyzerá ako skutočný, ale je úplne fiktívny. Termín „deepfake“ vznikol spojením slov „deep learning“, podmnožina umelej inteligencie, a „fake“. Tieto výtvory môžu byť neuveriteľne realistické, takže je ťažké rozlíšiť skutočné od falošných aj pre dospelých, nieto ešte pre deti.
Napríklad v reklame propagujúcej zubné poistenie bol použitý deepfake herca Toma Hanksa, hoci sa na nej nijako nepodieľal. Podobným spôsobom boli vytvorené celé účty celebrít na sociálnych sieťach, ako napríklad Keanu Reeves, Tom Cruise a Robert Downey Jr.
Ešte znepokojujúcejšie je, že cieľom môže byť ktokoľvek, nielen celebrity. Z obyčajnej fotografie alebo videa bežného človeka sa teraz dá vytvoriť veľmi realistický falošný obsah, čím sa bežní ľudia - vrátane detí - vystavujú riziku manipulácie alebo skresľovania online.
Ako sa deepfakes vytvárajú a za akým účelom?
Hlboké falzifikáty sa vytvárajú vkladaním veľkého množstva údajov, ako sú videá, fotografie a zvukové záznamy osoby, do programov umelej inteligencie (AI). Umelá inteligencia analyzuje tieto vstupy, aby sa naučila vzory - ako sa niekto pohybuje, hovorí alebo vyzerá - a používa tieto informácie na vytvorenie veľmi presvedčivého falošného obsahu.
Zatiaľ čo niektorí ľudia vytvárajú deepfakes na neškodnú zábavu, ako sú žartíky alebo kreatívne projekty, iní ich používajú na zlomyseľné účely, napríklad na poškodenie reputácie, šírenie dezinformácií alebo zneužívanie ľudí. Obzvlášť zraniteľné sú deti, ktoré sú často aktívne na internete a nemajú dostatok skúseností na odhalenie zmanipulovaného obsahu.
Príklady populárnych platforiem Deepfake
Tu je päť platforiem, ktoré sa bežne používajú na vytváranie deepfakes, s uvedením ich výhod a potenciálnych rizík:
FakeMe. Táto platforma umožňuje používateľom jednoducho vymieňať tváre vo videách, takže je prístupná aj pre bežných používateľov. Hoci sa predáva ako nástroj na zábavu, bola zneužitá na žartíky a dokonca na online obťažovanie, čo vyvoláva obavy o jej etické používanie.
DeepFaceLab. Bezplatný pokročilý nástroj DeepFaceLab je určený pre amatérskych aj profesionálnych používateľov a ponúka široké možnosti vytvárania presvedčivých deepfakes. Jeho dostupnosť pre verejnosť poukazuje na to, ako sa výkonné nástroje umelej inteligencie stali dostupnými.
Zao. Mobilná aplikácia, ktorá si získala popularitu tým, že umožňuje používateľom vkladať svoje tváre do filmových scén. Hoci je to zábava, vyvolala diskusie o ochrane súkromia, pretože aplikácia zhromažďuje a spracúva osobné snímky.
Reface. Táto aplikácia je známa vytváraním videí a GIFov s vymenenými tvárami a používa sa pre svoje jednoduché používanie a zábavu. Jej zhromažďovanie údajov o používateľoch však vyvolalo obavy rodičov a jednotlivcov o ochranu súkromia.
MyHeritage Deep Nostalgia. Tento nástroj animuje staré fotografie a vdychuje život historickým alebo sentimentálnym snímkam. Hoci sa často používa na úprimné účely, ukazuje potenciál umelej inteligencie pri manipulácii s obrázkami, ktorý môže byť pri neetickom použití znepokojujúci.
Riziká pre deti: ako ich môžu ovplyvniť deepfakes
Deepfakes sú viac než len digitálny trik - môžu predstavovať vážne riziko pre deti a ovplyvniť ich bezpečnosť, súkromie a emocionálnu pohodu. Ak niekto dokáže pomocou umelej inteligencie manipulovať s tvárou alebo hlasom človeka, potenciál spôsobiť škodu je alarmujúci.
Tu sú uvedené niektoré špecifické riziká pre deti:
Krádež identity: Deepfakes sa môžu vydávať za tvár alebo hlas dieťaťa, čo môže umožniť prístup k osobným účtom, spáchať podvod alebo manipulovať s jednotlivými členmi rodiny.
Kyberšikana: Deepfakes sa môžu použiť na vytvorenie zahanbujúceho alebo ponižujúceho obsahu o dieťati, čo môže viesť k online šikane.
Dezinformácie: deti môžu byť zavádzané manipulovanými videami alebo obrázkami, ktoré môžu zmiasť realitu a ovplyvniť ich chápanie sveta.
Porušenie súkromia: osobné fotografie alebo videá zdieľané online môžu byť zneužité na vytváranie falošných fotografií, čím sa deti vystavujú riziku, že sa za ne niekto vydáva alebo sa stanú terčom útoku.
Emocionálna ujma: Stretnutie s falošnou podobou seba alebo niekoho, komu dôverujú, môže byť hlboko znepokojujúce a môže vyvolať strach, zmätok alebo pocit zrady.
Ako hovoriť s deťmi o umelej inteligencii a deepfakes
Otvorené, pokojné a veku primerané rozhovory sú najsilnejším nástrojom, ktorý ako rodič máte. Naučte sa, ako sa tejto téme venovať spôsobom, ktorý vaše dieťa poučí a podporí:
Začnite so základmi Prispôsobte vysvetlenie AI a deepfakes veku a úrovni vedomostí dieťaťa. V prípade mladších detí to zjednodušte: „AI je ako veľmi inteligentný počítačový program, ktorý pomáha s vecami, ako je hľadanie odpovedí, kreslenie obrázkov alebo dokonca tvorba videí. Niekedy ju však ľudia používajú na to, aby zmenili fotografie alebo videá tak, aby vyzerali ako skutočné, aj keď nie sú - to je práve deepfake.“
Starším deťom alebo tínedžerom môžete ponúknuť trochu podrobnejšie informácie.
Napríklad:
„Umelá inteligencia (AI) je pokročilá technológia, ktorá dokáže napríklad odpovedať na otázky, vytvárať umelecké diela alebo dokonca natáčať videá. Funguje tak, že analyzuje vzory a učí sa z údajov. Niekedy však ľudia používajú AI spôsobmi, ktoré nie sú užitočné alebo čestné, napríklad vytvárajú falošné videá alebo obrázky, ktoré vyzerajú ako skutočné, hoci nimi nie sú. Tieto sa nazývajú deepfakes a môžu sa použiť na oklamanie alebo zavádzanie ľudí.“
Jasne vysvetliť riziká
Keď pochopia základy, vysvetlite im, že AI sa dá aj zneužiť. Podeľte sa o príklady, napríklad o falošné video, na ktorom niekto hovorí alebo robí niečo, čo v skutočnosti nerobil. Skúste to ilustrovať slovami typu: „Predstavte si, že by niekto natočil video, na ktorom hovoríte veci, ktoré ste nikdy nepovedali - mohlo by to zmiasť alebo ublížiť ľuďom.“
Naučte ich kritickému mysleniu
Povzbudzujte svoje dieťa, aby spochybňovalo to, čo vidí na internete. Používajte príklady a spoločne ich skúšajte:
„Vyzerá to príliš dobre alebo príliš divne?“.
„Kto to zverejnil? Je to z dôveryhodného zdroja?“
„Môžeme si to overiť na inej webovej stránke, aby sme zistili, či je to pravda?“.
Pokračujte v konverzácii
Toto nie je jednorazová diskusia. S vývojom technológií z nej urobte pravidelnú tému. Pýtajte sa ich na nové nástroje, o ktorých počuli, a spoločne ich preskúmajte, aby ste si získali ich dôveru.
Spoločné stanovenie hraníc
Porozprávajte sa o správaní na internete a dohodnite sa na pravidlách zdieľania fotografií, videí alebo osobných informácií. Napríklad:
- Fotografie zverejňujte len v súkromných skupinách alebo s dôveryhodnými priateľmi.
- Vyhnite sa sťahovaniu aplikácií na výmenu tvárí alebo deepfake.
- Pred zdieľaním čohokoľvek, čo považujete za „nevhodné“, sa o tom poraďte.
Vytvorenie bezpečnostného plánu
Pripravte sa na možné scenáre deepfake. Napríklad:
- Pri tiesňových volaniach používajte rodinný kód, aby ste si overili, že ste to naozaj vy.
- Naučte ich nahlasovať, blokovať a odstraňovať podozrivé správy alebo hovory.
- Precvičte si, čo by mali deti robiť, ak na internete uvidia niečo znepokojujúce - okamžite to povedzte dôveryhodnej dospelej osobe.
Buďte zodpovední
Vaše správanie je dôležité. Buďte opatrní, pokiaľ ide o fotografie a videá, ktoré zdieľate so svojím dieťaťom online. Ak je to možné, obmedzte zdieľanie na súkromné skupiny alebo správy s členmi rodiny. Ukážte im, že aj vy si ceníte súkromie.
Poskytnite im nástroje a vedomosti
Ako rodič môžete používať nástroje, ako je Bitdefender Rodičovská kontrola, na monitorovanie online aktivít svojich detí a zaistenie ich bezpečnosti. Umožňuje vám zistiť, či vaše dieťa sťahuje alebo používa platformy AI alebo deepfake aplikácie, čo vám dáva možnosť včas riešiť potenciálne riziká a iniciovať dôležité rozhovory o online bezpečnosti.
Pre ich lepšiu ochranu môžete spoločne preskúmať nástroje, ako napr. Scamio a Bitdefender Link Checker. Scamio umožňuje jednoducho skontrolovať, či je e-mail, textová správa alebo reklama v sociálnych médiách skutočne podozrivá. Môžete ho používať spoločne na platformách, ako je napr. WhatsApp, Facebook Messenger, webový prohlížeč alebo Discord, a je úplne zadarmo!
Bitdefender Link Checker je jednoduchý spôsob, ako si pred kliknutím na odkaz overiť, či je bezpečný, a vyhnúť sa podvodom alebo rizikovým webovým stránkam.
Často kladené otázky
Čo sú to deepfakes a prečo sú nebezpečné pre deti?
Deepfakes sú videá, obrázky alebo zvukové súbory vytvorené umelou inteligenciou na vytvorenie falošného obsahu, ktorý vyzerá alebo znie ako skutočný. Deepfakes sa môžu používať na kyberšikanovanie, krádež identity, šírenie dezinformácií alebo zneužívanie osobných fotografií, takže pre deti je ťažké rozlíšiť, čo je na internete skutočné a čo falošné.
Ako môžu rodičia chrániť svoje deti pred deepfakes?
Nástroje, ako je Bitdefender Rodičovská kontrola, umožňujú rodičom monitorovať online aktivity ich detí vrátane všetkých stiahnutých aplikácií alebo používania platforiem AI. Na dodatočnú ochranu môžu rodičia použiť aplikáciu Scamio, ktorá analyzuje e-maily, textové správy a reklamy na sociálnych sieťach a hľadá podvody alebo deepfakes. Bitdefender Link Checker pomáha overovať bezpečnosť odkazov, čím znižuje riziko nebezpečného obsahu.
Čo majú rodičia robiť, ak sa ich dieťa stalo terčom deepfake?
Nahláste obsah platforme, na ktorej sa objavil, a požiadajte o jeho odstránenie. Uložte si všetky dôkazy, napríklad snímky obrazovky alebo odkazy, pre prípad, že by bolo potrebné podniknúť ďalšie kroky. Na analýzu podozrivého obsahu a potvrdenie jeho pravosti použite nástroje, ako je Scamio. O pomoc sa môžete obrátiť aj na miestne úrady alebo odborníkov na kybernetickú bezpečnosť. Predovšetkým sa s dieťaťom porozprávajte, aby ste ho upokojili a pomohli mu pochopiť situáciu, a zdôraznite, že to nie je jeho chyba. Aktívne používanie nástrojov, ako je Bitdefender Rodičovská kontrola, môže pomôcť predchádzať podobným incidentom v budúcnosti.
AUTOR
 | Cristina POPOV Cristina je spisovateľka na voľnej nohe a matka dvoch detí žijúca v Dánsku. Jej 15-ročné skúsenosti v oblasti komunikácie zahŕňajú vývoj obsahu pre televíziu, online, mobilné aplikácie a chatbot. |
Comments