Ova inovacija nagrađena je na jednoj od najprestižnijih svjetskih konferencija o vještačkoj inteligenciji (IJCAI) u Montrealu, gdje je rad austrijskog tima uvršten među 0,05 posto najboljih naučnih radova na svijetu i okrunjen nagradom Distinguished Paper Award.
Do sada se najčešće koristila metoda “pokušaja i pogreške”: ako sistem uradi nešto dobro, dobije nagradu; ako pogriješi, slijedi kazna. Međutim, kada su pravila složenija, npr. “uradi A samo ako vrijedi B”, ova tehnika pokazuje ozbiljne nedostatke.
“Ako se AI nagrađuje samo zbog poštovanja pravila, ona može pronaći način da izbjegne glavnu obavezu i sakuplja lake poene”, objašnjava profesorica Agata Ciabattoni sa Instituta za logiku i računanje TU Beč.
Zato je njen tim odlučio ugraditi norme kao logičke formule: svaka norma postaje zaseban cilj, a kršenje norme povlači odgovarajuću kaznu. Na primjer, “ne smiješ prekoračiti brzinu” pretvara se u logičku naredbu: “ako prekoračiš brzinu, slijedi kazna X”.
Ono što posebno izdvaja ovaj sistem jeste mogućnost da se pravila i njihova važnost naknadno mijenjaju, bez potrebe za ponovnim dugotrajnim treniranjem sistema. Tako se može definisati da su neka pravila važnija od drugih, ili da određena pravila vrijede samo u posebnim okolnostima.
“Naš sistem omogućava da AI i dalje postigne svoj glavni cilj, na primjer, pronađe najbolju rutu, ali pri tome poštuje pravila koja smo joj zadali”, ističe Emery Neufeld, glavni autor nagrađenog rada.
Ovakav pristup otvara vrata za širu primjenu vještačke inteligencije u oblastima gdje su pravila ključna: od saobraćaja i medicine, pa sve do pravosuđa i javne uprave. Ako AI može pouzdano poštovati zakonske i etičke norme, povjerenje u njen rad značajno raste.
Za sada rad austrijskih istraživača pokazuje da vještačka inteligencija može naučiti da “igra po pravilima ” i da bi upravo to moglo biti ključno za njen ulazak u najosjetljivije sfere društva.
(Vijesti.ba)