Američki senator pokrenuo istragu protiv kompanije Meta nakon što je procurio interni dokument koji navodno otkriva da je vještačkoj inteligenciji tehnološkog giganta bilo dozvoljeno voditi “senzualne” i “romantične” razgovore s djecom, piše BBC News.
Dokument do kojeg je došao Reuters navodno nosi naslov “GenAI: Standardi rizika sadržaja”. Republikanski senator Josh Hawley nazvao ga je “osuđujućim i skandaloznim”, te je zatražio uvid u njega, kao i spisak proizvoda na koje se odnosi.
Portparol Mete izjavio je za BBC: “Primjeri i bilješke o kojima je riječ bili su i ostaju pogrešni i u suprotnosti s našim pravilima, te su uklonjeni.” Naglasili su da kompanija ima “jasna pravila” o vrstama odgovora koje njihovi AI čatbotovi mogu davati, ističući da njihova pravila “zabranjuju sadržaj koji seksualizira djecu i seksualiziranu igru uloga između odraslih i maloljetnika”.
“Osim pravila, postoje stotine primjera, bilješki i napomena koje odražavaju rad timova koji se suočavaju s različitim hipotetičkim scenarijima”, dodali su iz Mete.
Američki senator Josh Hawley, republikanac iz Missourija, objavio je pokretanje istrage na društvenoj mreži X 15. augusta. “Postoji li išta – IŠTA – što Big Tech neće učiniti za brzu zaradu?” napisao je. “Sada saznajemo da su Metini čatbotovi bili programirani za vođenje eksplicitnih i ‘senzualnih’ razgovora s osmogodišnjacima. To je bolesno. Pokrećem punu istragu kako bih dobio odgovore. Big Tech: Ostavite našu djecu na miru.” Podsjetimo, Facebook, WhatsApp i Instagram su u vlasništvu Mete.
Interni dokument o politici kompanije Meta Platforms također navodi da čatbot može pružati netačne medicinske informacije i ulaziti u provokativne interakcije o temama poput seksa, rase i poznatih ličnosti. Dokument je navodno bio namijenjen definisanju standarda za generativnog AI asistenta, Meta AI, i druge čatbotove dostupne na platformama kompanije.
“Roditelji zaslužuju istinu, a djeca zaslužuju zaštitu”, napisao je Hawley u pismu upućenom Meti i izvršnom direktoru Marku Zuckerbergu. “Da navedemo samo jedan primjer, vaša interna pravila navodno dopuštaju AI čatbotu da komentariše kako je tijelo osmogodišnjaka ‘umjetničko djelo’ čiji je ‘svaki centimetar… remek-djelo – blago koje duboko cijenim’.”
Reuters je također izvijestio o drugim kontroverznim odlukama koje je Metin pravni odjel navodno smatrao prihvatljivim. To uključuje i dopuštenje da Meta AI širi netačne informacije o poznatim ličnostima, pod uslovom da se navede napomena kako te informacije nisu tačne.
(Vijesti.ba)