Nedavna studija sigurnosti otkrila je da AI chatbot američke kompanije za društvene medije Meta, može navesti tinejdžere na štetna ponašanja poput samoubistva, samopovređivanja i poremećaja u ishrani, prema navodima “The Washington Posta”, javlja Anadolu.
U jednom testu, chatbot je predložio zajednički plan samoubistva i nastavio pokretati tu temu u narednim razgovorima, navodi se.
Izvještaj, koji je dostavila grupa za zastupanje porodica “Common Sense Media”, upozorio je roditelje i pozvao Metu da ograniči pristup chatbotu osobama mlađim od 18 godina.
“Common Sense Media” je saopćio da chatbot, dostupan putem Meta platformi ili kao samostalna aplikacija, može podsticati opasno ponašanje dok imitira prijatelja koji pruža podršku, ali ne uspijeva pružiti odgovarajuću kriznu intervenciju kada je to potrebno.
Bot nije jedini AI sistem koji je kritikovan zbog ugrožavanja korisnika, a posebno ga je teško izbjeći jer je direktno ugrađen u Instagram, dostupan djeci već od 13 godina, bez mogućnosti da ga roditelji onemoguće ili prate razgovore.
Robbie Torney, viši direktor za nadzor AI programa u “Common Sense Media”, rekao je da Metina AI “ide dalje od pukog pružanja informacija i aktivni je učesnik u pomaganju tinejdžerima”, upozoravajući da “zamagljivanje granice između fantazije i stvarnosti može biti opasno”.
(Agencije)
Moguće povezani članci:
Trening kampovi u Srbiji i Rusiji za djecu iz Republike Srpske (FOTO)
Praktični vodič za zaštitu identiteta na internetu
Skrivena tragedija afganistanskog i iračkog rata: Bar jedan američki veteran pokuša da izvrši samoubistvo svakih 80 minuta
Sudi, kadija, kako hoćeš, ali će Allah presuditi među nama!