Inteligjenca artificiale është bërë pjesë e pandashme e jetës së shumë fëmijëve. Asistentët zanorë tashmë luajnë rol të madh për të vegjlit bazuar në kërkesat e këtyre të fundit.
Modelet gjuhësore si ChatGPT u shpjegojnë fëmijëve probleme të ndryshme si ato matematikore apo i ndihmojnë me prezantime. Po ç’ ndodh nëse IA jep këshilla të rrezikshme fëmijëve apo u tregon atyre imazhe të papërshtatshme për moshën e tyre?
A ka nevojë inteligjenca artificiale për kontroll prindëror?
Fëmijët kanë nevoja të ndryshme dhe komunikojnë ndryshe nga të rriturit, por sipas Nomisha Kurian nga Universiteti i Kembrixhit, teknologjitë e inteligjencës artificiale nuk janë të dizajnuara për këtë. Në një studim të botuar në revistën e specializuar “Learning, Media and Technology”, shkencëtarja bën thirrje që të vihet më shumë theksi tek fëmijët si grup i synuar. Për këtë studim, studiuesja e arsimit analizoi disa raste të njohura ku chatbots ose asistentët zanorë u kishin dhënë fëmijëve këshilla të rrezikshme ose të papërshtatshme.
Lojëra me alkool dhe filma horror
Sipas studimit, chatbot MyAI i Snapchat, i cili është i popullarizuar tek të rinjtë, i këshilloi studiuesit në një test, në të cilin ata pretendonin se ishin adoleshentë, se si të joshin një burrë të moshuar. Asistentja zanore Alexa, nga ana tjetër, inkurajoi një fëmijë dhjetë vjeçar që të prekte terminalet e një spine karikimi me një monedhë.
Testet e kryera nga platforma Jugendschutz.net (Mbrojtja e të rinjve) zbuluan gjithashtu disa gjetje shqetësuese: MyAI i tregoi një përdoruesi të supozuar 14-vjeçar një lojë me pije dhe rekomandoi një film horror të vlerësuar mbi 18.
Në rastet e përshkruara nga Kurian, kompanitë në fjalë kanë forcuar masat e tyre të sigurisë, sipas studiuesit. Megjithatë, nuk mjafton që zhvilluesit e IA të reagojnë ndaj incidenteve të tilla. Ata duhet të marrin parasysh sigurinë e fëmijëve që në fillim, këmbëngul Kurian.
Martin Bregentser nga iniciativa Klicksafe pajtohet: “Shtimi i mbrojtjes së fëmijëve si një mendim i mëvonshëm zakonisht nuk funksionon. Këtë e shohim në shumë shërbime”.
Produktet e falsifikuara si një rrezik
Shumë ekspertë e shohin vërshimin e imazheve apo videove false në internet që janë krijuar duke përdorur inteligjencën artificiale, të njohura si “deepfakes”, si problemin më të madh . Këto tani mund të krijohen dhe shpërndahen brenda një kohe të shkurtër, sipas raportit vjetor të Jugendschutz.net: “Shumë nga falsifikimet e krijuara duken mashtruese reale dhe vështirë se mund të dallohen nga fotografitë reale
