AA sistemak gero eta gehiago erabiltzen direnez arrisku handiko sektoreetan erabakiak hartzeko, konparazio batera kredituak ematean eta kontratazioan, EBren Politika Laborategiko diseinu- eta portaera-adituek gai garrantzitsu bat aztertzea erabaki zuten: AAk lagundutako erabakiak gainbegiratzea gizakion aldetik. Gardentasun Algoritmikorako Europako Zentroko (ECAT) kideen laguntzarekin, gizakiok adimen artifizialarekin nola elkarreragiten dugun hobeki ulertzen saiatzen ari gara.
Ekitatea AAn: uste genuena baino konplexuagoa
Senari jarraikiz, inork pentsa lezake gizakion gainbegiratzea baliagarri izaten ahal dela AAren alborapenak kontrolatzeko. Hala ere, ikerketa kuantitatiboa eta kualitatiboa uztartzen dituen azterlan sakon honek besterik adierazi du.
Ikusi dugunez, berdin-berdin gertatzen ahal da gizaki gainbegiraleek AA sistemen aholkuei kasu egitea, sistema horiek bidezko edo justu izateko programatuta egon edo ez egon. Horrek iradokitzen du gizakion gainbegiratzea ez dela nahikoa, bere kabuz, diskriminazioari aurrea hartzeko; izan ere, diskriminazioa betikotu ere egiten ahal du.
Esperimentu kuantitatibo horretan parte hartu zuten profesionalak Italiako eta Alemaniako bankuen sektoreko eta Giza Baliabideetakoak ziren, eta maileguak kontratatzeko eta emateko erabakiak AAren gomendioei jarraikiz hartu zituzten. Emaitzak nahiko harrigarriak izan ziren: AA «justu» bat erabiltzearen ondorioz, adibidez, genero-aurreiritziak murriztu ziren, baina ez zuen aurretiazko giza aurreiritzien eragina ezabatu erabakiak hartzeko garaian.
Parte-hartzaileekin eta AAn adituak direnekin egindako elkarrizketa eta tailerretan lortutako informazio kualitatiboan ere jasotzen dira ondorio horiek. Profesionalek enpresaren interesak lehenetsi ohi dituzte inpartzialtasunaren gainetik; beraz, argi dago jarraibide argiagoak behar direla AAren iradokizunak noiz baliogabetu jakiteko.
