Umjetna inteligencija pod povećalom: Meta i granice etike

Interni dokument o politici Mete, u koji je imao uvid Reuters, otkriva pravila diva društvenih medija za chatbotove, koja dopuštaju provokativno ponašanje o temama uključujući seks, rasu i slavne osobe.

Umjetna inteligencija (UI) sve više oblikuje našu svakodnevicu, od personaliziranih preporuka na društvenim mrežama do sofisticiranih chatbotova koji komuniciraju s korisnicima. No, kako se granice tehnologije šire, raste i zabrinutost oko etičkih i sigurnosnih aspekata njezine primjene.

Meta pod kritikama: senzualni razgovori s djecom

Prema istrazi Reutersa, interni dokumenti tvrtke Meta otkrivaju da je njihovim AI chatbotovima, uključeno i platformama poput Facebooka, WhatsAppa i Instagrama, bilo “dopušteno” da vode razgovore s djecom o sadržajima koji su sadržavali senzualne i romantične elemente. Dokument pod nazivom „GenAI: Standardi rizika sadržaja“ opisuje pravila ponašanja chatbotova, uključujući primjere koji su izazvali zabrinutost:

• Botovi su smjeli koristiti izraze poput „vaš mladenački oblik je umjetničko djelo“.
• U nekim slučajevima, chatbot je osmogodišnjaku bez majice rekao da je „svaki centimetar tebe remek-djelo – blago koje duboko cijenim“.
• Iako je zabranjeno seksualiziranje djece mlađe od 13 godina, dopuštena je određena razina „romantične igre uloga“.

Meta je nakon upita Reutersa uklonila sporne dijelove dokumenta, tvrdeći da su bili „pogrešni i nespojivi s politikama tvrtke“.

Izazovi umjetne inteligencije

Ovaj slučaj otvara šira pitanja o razvoju i primjeni UI. Etika i odgovornost primjerice. Tko je odgovoran kada AI generira neprimjeren sadržaj? Programeri, tvrtke ili korisnici?

Trebaju li pravila i algoritmi biti javno dostupni kako bi se osigurala kontrola? Kako spriječiti da AI bude iskorišten u kontekstu koji ugrožava maloljetnike?

Umjetna inteligencija ima ogroman potencijal, ali sobom nosi i za sad nepoznate rizike. Slučaj Mete pokazuje koliko je važno da razvoj AI tehnologije prati vrlo stroga etička regulativa, transparentnost i stalna revizija pravila. Tehnologija ne smije nadmašiti ljudsku odgovornost, jer u konačnici, UI je samo jedan softverski alat, a ne i savjest.