Na Slovensku rastie počet detí a mladých ľudí, ktorých trápi osamelosť, neistota či nadmerný stres. Štatistiky nám ukazujú, že naše deti trávia na internete čoraz viac času a stretávajú sa tam často aj s nenávistným obsahom, násilím či kyberšikanou, ktoré majú zásadný vplyv na ich duševný vývoj. „Starostlivosť o duševné zdravie nielen detí a mladých patrí k hlavným generačným výzvam. Zvlášť v tejto dobe, keď technológia umelej inteligencie ovplyvňuje každodenný život nás i našich detí viac než si myslíme. Preto je táto problematika na pôde Európskeho parlamentu i na Slovensku mojou prioritou,“ hovorí europoslankyňa za KDH Miriam Lexmann.
Deti dnes trávia veľa času na sociálnych sieťach, kde prichádzajú do kontaktu s negatívnym a nevhodným obsahom. Prečo je potrebné o tom nahlas hovoriť?
Len nedávno som sa osobne stretla s Jackie Fox z Írska – mamou 21-ročnej Nicole, ktorá v dôsledku kyberšikany spáchala samovraždu. Jackie dnes šíri osvetu o prevencii týchto deštrukčných vplyvov, ktorých súčasťou sú v dnešnej dobe aj digitálne technológie. Musíme o tom hovoriť aj preto, aby sme včas dokázali predísť každej takejto tragédii.
Na Slovensku skúsenosť s online šikanovaním priznala takmer štvrtina detí vo veku 9 – 17 rokov a až polovica detí mala skúsenosť so sexuálnymi obsahmi. Skúsenosť s tým, že ich na internete niečo nejakým spôsobom obťažovalo alebo znepokojilo, uviedla jedna tretina detí pričom až 22% detí a mladých o svojej negatívnej skúsenosti s nikým nehovorilo. Štatistiky a zistenia slovenských výskumníkov sú naozaj závažné.
Za cielením pozornosti na vybraný obsah zvlášť na sociálnych sieťach sa skrývajú aj algoritmy umelej inteligencie. Táto technológia potom ponúka používateľom mnohokrát negatívny či nevhodný obsah, keďže práve ten púta oveľa viac pozornosti a vyvoláva viac emócií. Ak niekto vyhľadá alebo si pozrie napríklad video o sebapoškodzovaní, algoritmus mu túto tému začne cielene podsúvať v rôznych kontextoch. Takto sa doslova povzbudzuje k myšlienkam a následne aj skutkom, ktoré môžu byť pre život mladého človeka fatálne. Tu musia veľké online platformy urobiť jasné kroky, k čomu sme ich zaviazali aj európskou legislatívou. Vážnym problémom sú rovnako nedostatočné mechanizmy overovania veku používateľov.
Je to medzi inými aj platforma TikTok, ktorá je dnes medzi mladými veľmi populárna a využíva tieto manipulatívne techniky. Zároveň predstavuje neakceptovateľné bezpečnostné riziká z hľadiska ochrany osobných údajov. Jej používanie pre štátnych predstaviteľov zakázalo už mnoho nielen európskych krajín, no otázka bezpečnosti sa týka všetkých nás. Aj preto som vyzvala najvyšších predstaviteľov európskych inštitúcií na koordináciu spoločného postupu pri vyhodnocovaní rizík a následných krokov.
Nehovoriac o metaverze, kde nás čaká veľká úloha podrobne preskúmať dopady tejto rozšírenej virtuálnej reality na psychické zdravie ľudí skôr než sa začne masovo využívať. Už dnes odborníci varujú pred jeho urýchleným spustením bez jasných pravidiel a ochrany. Človek totiž nie je stavaný žiť svoj život v bubline virtuálnej reality.
Ako deťom a mladým pomôcť zorientovať sa v spleti týchto online vplyvov na ich duševné zdravie? Čo môže urobiť každý z nás?
Musíme našim deťom, dospievajúcim a vôbec blízkym venovať náš čas – to je základný princíp. Nenechať ich hodiny vystavených online životu na mobiloch a počítačoch.
Prevencia a včasné rozpoznávanie nástrah sú kľúčové. Dialógom, vysvetľovaním a vzdelávaním dokážeme deťom a mladým ľuďom pomôcť vytvoriť si k moderným komunikačným technológiám zdravý prístup. Dôležitým je tiež posilňovanie kritického myslenia, flexibility či odolnosti. Základom je však aj kvalitný legislatívny rámec.
A práve preto, že technológia umelej inteligencie sa čím ďalej tým viac stáva súčasťou každého digitálneho produktu či služby považujem za rozhodujúce zdôrazniť, že sa potrebujeme sústrediť na jej dôveryhodné a etické používanie. To znamená, aby bol v centre jej vývoja na prvom mieste vždy človek a jeho dobro. Aby dôveryhodná AI bola vždy považovaná za dobrého sluhu a nie zlého pána. To je úloha aj nás, zákonodarcov.
Téme umelej inteligencie (AI) sa venujete už dlho, no v širokej verejnosti bola spopularizovaná takpovediac až v posledných mesiacoch. Spôsobil to akýsi virtuálny asistent známy pod názvom ChatGPT. Aké sú pozitíva či riziká tohto nástroja zvlášť pre mladých užívateľov?
Áno, téme AI sa venujem dlhodobo, a to nielen na pôde Európskeho parlamentu. Mojou snahou totiž je upozorniť na jej výhody a prínosy, ale aj riziká predovšetkým u nás doma. Minulý rok som preto usporiadala v Bratislave medzinárodnú konferenciu, kde desiatky špičkových odborníkov zo Slovenska spolu so zahraničnými kolegami diskutovali za účasti širokej verejnosti o výzvach, ktoré nám dynamický rozvoj AI prináša.
Musíme si uvedomiť, že Chat GPT pracuje s doterajšími poznatkami, ktoré do veľkej miery vytvorili ľudia – spracúva ich, triedi a na základe toho vytvára obsah, ktorý je pre nás rýchlosťou spracovania a množstvom informácií jedinečný.
Lenže ChatGPT robí aj chyby. Dokáže byť fakticky nepresný, vytvára teda aj logické nezmysly, ba vidíme, že táto pomôcka môže vyslovene prispieť k šíreniu dezinformácií. Kontrola človekom je tu absolútne nevyhnutná a presne toto musí byť základné pravidlo pri používaní AI: Človek musí mať vždy posledné slovo. Len tak ju dokážeme udržať pod kontrolou.
Ako reaguje na tento technologický vývoj Európsky parlament?
Už v týchto týždňoch schvaľujeme v pléne EP našu pozíciu k historicky prvej legislatívnej úprave tejto technológie. Mojím zámerom a snahou je, aby človek a jeho dobro vždy zostali stredobodom využívania umelej inteligencie.
Ide o nariadenie, známe ako Akt o umelej inteligencii, ktoré prináša pravidlá pre reguláciu AI. Návrh ju delí na podkategórie podľa rizikovosti. Neakceptovateľnou AI je kategorizácia ľudí podľa sociálneho skóre, AI využívajúca manipulatívne techniky či rozpoznávanie tváre vo verejnom priestore a pod. Medzi vysoko rizikovú AI patria napríklad aplikácie týkajúce sa autonómnych áut, diagnostiky v medicíne, zamestnanosti, vymáhania práva. Dlhodobo som sa zasadzovala o to, aby do tejto kategórie boli pridané algoritmy tzv. ekonomiky pozornosti. Práve tie totiž určujú, ktorý obsah vidíme na sociálnych sieťach a ktorý, naopak, neuvidíme. V mnohých prípadoch ide totiž o uprednostňovanie konfliktného, dezinformačného či inak negatívneho obsahu, pretože práve ten dlhšie udržiava našu pozornosť. Limitované riziko predstavujú chatboty, ktoré nám „radia“ aj pri online nakupovaní alebo učení jazykov. Žiadne riziko nepredstavuje napríklad AI, ktorá riadi triedenie mailov na spamy – tento typ nebude podliehať žiadnej regulácii. Aj v dôsledku rýchleho vývoja a rozšírenia spomínaného chatGPT sme však v Európskom parlamente predstavili špeciálnu kategóriu tzv. AI všeobecného využitia, ktorá bude tiež podliehať regulácii.
Prečo je prijatie tejto legislatívy veľmi dôležité?
Zvlášť v posledných mesiacoch sme čoraz viac svedkami rôznych výziev na úrovni jednotlivcov i štátov na dočasné pozastavenie vývoja AI, kým nenastavíme jasné pravidlá. Je to dôsledok strácania kontroly a prehľadu. Prirovnala by som to k ohňu: ak ho ovládame, je životne dôležitý pomocník, ak sa však vymkne spod kontroly, jeho sila je ničivá.
Spravovať technológiu umelej inteligencie budeme vedieť len tak dobre, ako kvalitne si nastavíme legislatívny rámec a ako formovaní budú v procese jej vývoja a nasadzovania výskumníci, technici a ostatní. Potrebujeme si určiť jasné a pre celú EÚ jednotné pravidlá, ktoré sa zároveň stanú akýmsi zlatým štandardom pre celý svet.
Zároveň však potrebujeme vzdelávať aj spoločnosť, aby sme primerane rozumeli, čo nám táto technológia prináša a ako ju dobre používať a ovládať. Je to kľúčové aj z hľadiska pracovného trhu, ktorého vývoj AI značne ovplyvní. Ak pochopíme jej fungovanie, budeme aktívni pri vytváraní súčasných regulačných a inštitucionálnych rámcov, pomôže nám zefektívniť mnohé naše činnosti.
O tom, ako napríklad zvládnuť digitálne technológie u nás doma, priamo v rodinách, sa dozviete viac aj v publikácii, ktorú vám s potešením prinášam: https://lexmann.eu/ako-na-technologie-v-rodine/.
Foto: www.august.com.au
