Adimen artifizialak aniztasun kognitiboa kaltetzen duenean
Txatboten erabilerak diskurtsoen eta pentsaeren uniformatzea dakarrela ohartarazi du ikertzaile talde batek.
Adimen artifizialez (AA) gidatutako txatbotek —ChatGPT, Grok edo Gemini gisakoek— jendeak pentsatzeko, hitz egiteko eta idazteko duen modua aldatzen dute, Kalifornia Hegoaldeko Unibertsitateko (AEB) ikertzaile talde batek egin duen ohartarazpenaren arabera.
Adituen artean Hizkuntza eredu handi edo LLM —ingelesezko siglen arabera— ezagutzen dira txatbot hauen atzean dauden sistemak. Bada, ikertzaile talde honek dioenez, sistema hauek dakarten homogeneizazioak bere horretan kontrol gabe jarraitzen baldin badu, jakintza kolektiboa gutxitu liteke, bai eta gizateriak egokitzeko duen ahalmena kaltetu ere.
Trends in Cognitive Sciences aldizkarian argitaratutako analisi batean —preprint moduko bertsioa hemen kontsultatu daiteke, irekian— sistema hauen inguruko hausnarketa egin dute gaiaren bueltan ardura duten ikertzaile horiek. Iritzi artikulua izanda ere, orain arte egin diren ikerketan oinarritu dira, analisirako tartea emanez.
Artikuluaren lehen egile Zhivar Sourati informatikariaren esanetan, AAk erabiltzaile guztientzako “adierazpen eta pentsamendu estandarizatuak sortzen ditu”. Aniztasun kognitiboak sormena eta arazoen ebazpena bultzatzen duela dio, baina milioika erabiltzailek AA eredu berdinak erabiltzen ari diren honetan, gizakien aniztasun kognitiboa gainbeheran dagoela argudiatu du.
Arazo honen muina eredu hauek trebatzeko erabiltzen diren tekniketatik bertatik hasten da, oinarri gisa hartzen diren datuetan patroi estatistikoak atzematetik abiatzen direlako. Ondorioz, gehienetan hizkuntza eta ideologia nagusietakoak dira oinarri bezala hartzen diren ereduak.
Egileek azaldu dute eredu horiek ez direla “neutralak”. Aitzitik, datu andana batetik erauzitako ohiko patroiak detektatzeko diseinatuta daude. Horren ondorioz, bitxitasunaren aurrean gauzarik komunenak bultzatzen dituzte, nagusi diren aldaerak lehenetsiz eta gutxiengoan dauden aldaerak leunduz edo, zuzenean, kenduz.
Darabilten isuri kognitiboa, gainera, ez da nolanahikoa, eta, egileen arabera, Mendebaldeko gizarte talde hezi eta “pribilegiatuen” estilo eta baloreak lehenesten dituzte. Hori dela eta, egileak sinetsita daude “adostasun ilusio bat sortzen dutela, beren arauak lehenetsitako estandar gisa aurkeztuz”.
Hizkuntzaren alorrean, hizkeraren estiloa eta konplexutasuna homogeneizatzen dituzte, norberaren berezko ezaugarriak moztuz, pertsona bakoitzak idazteko eta gauzak adierazteko erabiltzen duen estiloaren kalterako. Hala, egileen arteko aldeak lausotzen ditu AAk, eta testuek antz handiagoa dute konplexutasunaren zein lexikoaren ikuspegitik. Paradoxikoki, eta hau kriminologoei jakitea komeni zaien zerbait da, testuen anonimotasuna indartzen du AAk. Kasu honetan, pribatutasunaren aldeko ezusteko ondorioa da.
Perspektibari dagokionez, ikuspegi nagusiak saritzen dituzte, eta aniztasuna “azaleko modu batean simulatzen” dute. Ikuspegi desberdinak imitatzeko gai badira ere, ez dute islatzen benetako aniztasuna, eta erdibideko iritzi batera iritsi nahian, estereotipoak berresten dituzte. Gainera, erabiltzaileek joera dute ereduak eman dien iritziarekin bat egiteko, beren hasierako ikuspuntua bera moldatu eta aldatzera iritsita.
Ondorio logikoa da, AA erabili ez arren, pertsonek horren eragina jasango dutela ere, taldeko gainerako kideek AA erabili izanagatik, sormen kolektiboaren kalterako. Eta, puntu honetan, gainera, soziologia bera sartzen da tartean. Souratik dioenez, inguruko gehienek modu berean pentsatzen eta hitz egiten baldin badute, pertsonek adostasun sozial horrekin bat egiteko beharra sentituko dute, beren ideia propioak alde batera utzita. Funtsean, isiltasunaren espiralaren teoria ospetsuak esaten duena berresten da, hain zuzen ere.
Gainera, nolabaiteko paradoxa bat sortzen da. Batetik, orain arte gaiaren bueltan egin diren ikerketek ondorioztatu dute AA erabiltzean pertsonek ideia gehiago eta xehetasun gehiago sortzen dituztela. Baina, bueltan, AA erabiltzen denean, taldeek ideia eta sormen gutxiago ateratzen dituzte, talde horiek beren kabuz AA gabe beren indarrak batzen dituzten egoerekin alderatuz. Berrelikadura ez da pertsonetara mugatzen, etorkizuneko edukietara baizik. Horren arrazoia da sortu diren eduki horiek izango direla AA eredu berriak elikatzeko edo trebatzeko erabiliko diren testu eta pentsamenduak, sorgin gurpil bat abiatuz.
Pentsatzeko moduari dagokionez, ohartarazi dute LLM ereduek arrazoiketa linealak erabiltzen dituztela —kate arrazoiketa, kasurako— arrazoiketa abstraktu edo intuitiboa beharrean. Eta azken hauek “zenbaitetan”, lineala baino eraginkorragoak izan daitezke. Arrazoiketa linealak faboratzen dituztenez, aniztasun kognitiboaren eta sormenaren kaltetuta ateratzen dira. Harago joan dira, eta adierazi dute ereduek “modu finean” birdefinitzen dutela zer den “diskurtso sinesgarri bat, ikuspuntu egokia edota arrazoitzeko bide ona”.
Aintzat hartu beharreko beste faktore bat iradokizunena da. Hala, ohikoa da adimen artifizialean oinarritutako txatek lan batean jarraitzeko hainbat proposamen egitea, eta, erabiltzaileak, hari bururatu ahal zaizkion bideak urratu eta prozesua gidatu beharrean, AAren iradokizunei kasu egiten die, horiek soberan onak direlakoan. Hala, espektatibetan ere eragina du AAk, eta, denborarekin, ekimenaren kalterako doan kontua bilakatzen da.
Ikertzaileek diote AAk hizkuntza, ikuspegi eta arrazoitze aniztasuna sartu beharko lukeela bere ereduetan, eta, horretarako, mundu mailan dagoen giza aniztasunean oinarritu beharko litzatekeela, diskurtsoetan ausazko aldaerak sartu beharrean. Modu horretan, “adimen kolektiboa” eta arazoei aurre egiteko moduak sustatuko lituzkeelakoan daude.
Logikoa denez, arazoak berrikustera mugatu ez baizik eta irtenbide posibleak proposatu dituzte. Egoerari aurre egiteko bota dituzten proposamenen artean dago agente bat baino gehiagoko sistemak garatzea —AA ereduen arteko eztabaida sortu aldera— eta ereduak trebatzeko moduetan aldaketak sartzea. Horietan sakontzeko beharra aldarrikatu dute. Izan ere, ohartarazi dute orain arte martxan jarritako irtenbide askok azaleko modu batean baino ez dutela lortzen aniztasuna, baina ez omen dutela benetan aniztasun hori gauzatzen. Uste dute oraindik ikasi behar dela nola lortu aniztasun hori erreala eta esanguratsua izatea.
Proposatu dute garatzaileek AA ereduak trebatzeko erabiltzen dituzten ereduetan mundu errealean oinarritutako aniztasun gehiago sartu behar dutela. Argudiatu dutenez, horrela eginez gero, gizakien aniztasun kognitiboa babesteaz gain, AA ereduek hausnartzeko duten gaitasuna hobetuko litzateke.
Erreferentzia bibliografikoa:
The homogenizing effect of large language models on human expression and thought. Trends in Cognitive Sciences. DOI: 10.1016/j.tics.2026.01.003
Egileaz:
Juanma Gallego (@juanmagallego) zientzia kazetaria da.