Nola irakatsi autoei zintzoak izaten

Juanma Gallego

Ikerketa batek dio gizakien erabaki etiko eta moralak eredu estatistikoen arabera kodetu daitezkeela, ibilgailu autonomoak horren arabera jokatzeko gai izan daitezen.

Teknologia azkar garatzen da, baina garapen horrek eragiten dituen aldaketei moldatzea prozesu motelagoa izan ohi da. Halere, zenbaitetan garapen teknologikoak irizpide etikoak segituan garatu behar ditu produktu berriak kaleratu ahal izateko. Hori izango da ibilgailu autonomoen kasua. Herrialde bakoitzean lege zehatzen arabera araututa dago trafikoa, baina laster aktore juridiko berriak egongo dira tartean: ibilgailu autonomoak. Funtsean, horiek izango dira gurekin egunerokotasunean arituko diren lehen robotak.

Aktore berri horiei arauak eta irizpideak irakatsi behar zaizkie, eta zientzialari asko zeregin horretan daude, buru-belarri. Horren adibide da Alemaniako adituek egindako azken ikerketa. Diotenez, gizakiok errepidean auto bat gidatzean jarraitzen ditugun irizpide etikoak auto autonomoetan erabil daitezke. Teorian behintzat, autoak gai izango lirateke arriskuen aurrean gizakien antzera jokatzeko. Osnabrück-eko Unibertsitateko Zientzia Kognitiboen Institutuko ikertzaileek egin dute lana, eta emaitzak Frontiers in Behavioral Neuroscience aldizkarian argitaratu dituzte.

1. irudia: ibilgailu autonomoak lehen ibilaldiak egiten ari dira. Irudian, Waymo (Google) enpresaren Chrysler Pacifica furgonetaren bertsio autonomoa Phoenixen (Arizona, AEB). (Argazkia: Waymo)

Errealitate birtuala erabili dute ikerketan parte hartu duten 105 laguni hainbat trafiko egoera erakusteko. Parte hartzaileei auto bat “gidatzea” eskatu diete. Aldirietan egun lainotsu batean gidatu behar izan dute, eta ustekabeko arazo ugari planteatu dizkiete: objektuak, animaliak eta pertsonak bide erdian gurutzatu zaizkie, eta baldintza horien arabera erabakiak hartu behar izan dituzte: oztopo bat harrapatu eta bestea salbatu.

Emaitzak zenbakietara eraman dituzte, eta, horrela, parte-hartzaileen erabaki moralak azaleratu dituzte. Gizaki, animali eta objektu bakoitzari “balore” bat eman diote, eta datu horiek guztiak baliatuta estatistika bat eraiki dute. Funtsean, ikertzaileek gizakien morala kodifikatu daitekeela erakutsi nahi izan dute. Datu horiek hartu eta ibilgailu autonomoei irakatsi ahal zaizkiela uste dute zientzialariek.

Morala, zenbakitan

Ikerketan parte hartu duen Gordon Pipa adituaren arabera, “arauak eta jarraibideak definitu ahal izateko”, bi urrats eman behar dira. “Lehenik, gizakiek egoera kritikoetan hartzen dituzten erabaki moral aztertu eta ulertu behar ditugu. Bigarrenik, portaera hau estatistikaren bitartez deskribatu behar da, makinetan erabiltzeko moduko arauak zehaztu ahal izateko”.

Bestetik, ikerketaren lehen egile Leon Suerfeldek esan duenez, “gizaki, animalia eta bizigabeko objektu bakoitzari loturik doazen bizitza balioak alderatuz, gizakien portaera morala izugarrizko zehaztasunarekin azaldu eta aurreikus daiteke. Horrek erakusten du, printzipioz, gizakien erabaki moralak arauen arabera azal daitezkeela, eta makinek arau horiek har ditzaketela”.

Osnabrückeko Unibertsitateak zabaldutako ohar batean ikertzaileek azaldu dutenez, algoritmoak bi motatako datuetan oinarritu daitezke: arau kategorikoetan eta eredu estatistikoetan. Lehenaren arabera oinarritzen da, adibidez, legea. Kasu bakoitzean zer egin behar den ondo zehazten du legeak. Eredu estatistikoa erabiltzen dute, aitzitik, bai gizakiek zein adimen artifizialak, eta horrek aukera ematen die inoiz bizi ez duten egoera baten aurrean erabaki bat hartzeko. “Arauak ez dira ezarri behar era abstraktuan, gizaki batek bulego batetik egingo lukeen moduan: giza portaeran abiatuta, zuzenean ikas daitezke horiek”, diote.

2. irudia: 105 lagunek parte hartu dute ikerketan, irudian agertzen den trafiko simulagailu bat erabilita. (Irudia: Osnabrückeko Unibertsitatea)

Orain ikertzaileek bi dilemei aurre egin behar diete, Peter Koenigen arabera. “Batetik, erabaki behar dugu makinen portaeran balore moralek izango duten eragina. Bestetik, eztabaidatu behar dugu ea makinak gizakiek egingo luketen moduan aritu behar ote diren, edo ea beti egin behar ote duten”.

Koenigek aipatutako “beti” hori ñabardura garrantzitsua da. Izan ere, egoera batzuk erraz konpontzen dira. Jende guztia seguruenera bat etorriko da: hobe da paperontzi baten kontra jotzea pertsona bat harrapatzea baino. Erabaki gogorragoa izanda ere, animalia bat eta pertsona baten artean ere aukeratzean zalantza askorik ez dago. Eta bi pertsona badira? Eta erabakiak haurdun dagoen emakume baten eta agure baten artean aukeratzea eskatzen badu?

Are gehiago, oraindik ere hausnarketak ibilbide luzeagoa dauka aurretik. Izan ere, gizakiek beti ez dute jokatzen irizpide egokienen arabera, eta horrek erabaki zailak hartzeko beharra ekarriko ditu ezinbestean; zenbaitetan, kontraesanez beterikoak. Iazko ekainean Science aldizkarian argitaratutako ikerketa batek agerian jarri zituen kontraesan horiek.

Ia 2.000 lagun elkarrizketatu zituzten orduan, gidari gabeko ibilgailuek istripuetan hartu behar zituzten erabaki hoberenak zeintzuk ziren jakiteko. Baina kasu honetan, dilema gogorragoa jartzen zitzaien inkestatutakoei: bizitza asko salbatzearen truke, autoaren barruan doazenak sakrifikatu beharko lirateke, adibidez, horma baten truke talka eginez? Inkestak ondorioztatu zuenez, gehiengoak begi onez ikusten zuen autoak oinezkoen bizitza lehenestea, baina, era berean, gehienek ez lukete eurentzat horrelako autorik erosiko.

Ez da soilik norberekeria kontua. Psikologoek aspalditik dakite jende gehienak ez duela onartzen bizitza bat sakrifikatzea, azken helburua bizitza gehiago salbatzea izanda ere.Tranbiaren dilema deitu izan zaio fenomenoari (“Bultzatuko al zenuke pertsona bat tranbia baten aurrean, horrekin bost bizitza salbatzea lortuko bazenu?”), eta arazoak argi utzi du morala eta etika ezin direla hain erraz zenbaki hutsetara eraman.

Filosofiarako bidea zabalik utzita ere, erabakiak hartzeko beharra pixkanaka aurrera doa. Adibidez, BMVI Alemaniako Garraio eta Azpiegitura Digitalen Ministerioak 20 printzipio etiko proposatu ditu auto autonomoetan erabiltzeko. Osnabrückeko Unibertsitateko ikertzaileek espero dute eskuratutako emaitzak zeregin horretan lagungarriak izango direla. Zientzialariek esan dutenez, azken emaitzen arabera, ministerioak egindako zerrenda horretako zortzigarren puntua bertan behera geldituko litzateke: erabaki moralak modelizatzea ez zela posible esaten zioen puntuak. Baina, antza, posible bada. Orain erabaki horiek ondo zehaztea falta da, baina, ikusi dugunez, hori ez da lan erraza izango.

Erreferentzia bibliografikoa:

Sutfeld et al. Using Virtual Reality to Assess Ethical Decisions in Road Traffic Scenarios: Applicability of Value-of-Life-Based Models and Influences of Time Pressure. Frontiers in Behavioral Neuroscience. 05 July 2017 DOI:10.3389/fnbeh.2017.00122

———————————————————————————-

Egileaz: Juanma Gallego (@juanmagallego) zientzia kazetaria da.

———————————————————————————-

Eman iritzia

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>