Diàleg: L’imaginari simbòlic de la intel·ligència artificial

Quin és l’imaginari simbòlic de la intel·ligència artificial? Quins són els reptes ètics sobre l’ús de les noves tecnologies que plantegen la literatura i el cinema? Com condiciona la ciència-ficció la manera com la ciutadania percep els avenços tecnològics? Carme Torras, novel·lista i investigadora de l’Institut de Robòtica i Informàtica Industrial, i Ramon López de Mántaras, professor de recerca de l’Institut d’Investigació en Intel·ligència Artificial (IIIA-CSIC), van reflexionar dimecres sobre totes aquestes qüestions en un diàleg virtual impulsat per la revista IDEES. L’acte formava part de les activitats programades dins del dossier especial que la publicació ha dedicat a la intel·ligència artificial.

El director del Centre d’Estudis de Temes Contemporanis i de la revista IDEES, Pere Almeda, va ser l’encarregat d’obrir la sessió i va repassar les diferents perspectives que s’inclouen dins del monogràfic, on més d’una vintena d’experts i expertes que analitzen els reptes de la intel·ligència artificial des de l’economia, la governança, els reptes ètics, l’ús de les dades obertes, les polítiques estratègiques en el marc de la carrera geopolítica o els impactes socials i democràtics. Almeda va destacar especialment la importància de l’imaginari cultural. “La ciència-ficció sovint té una funció predictiva; és font d’inspiració per a científics i tecnòlegs i ajuda a la reflexió per a tots els que ens dediquem a les ciències socials”, va subratllar.

Referents cinematogràfics

El professor Ramon López de Mántaras va prendre el relleu fent referència a grans obres de la filmografia de ciència-ficció que han inspirat la recerca científica, entre les quals Metropolis, Forbidden Planet, Blade Runner, Artificial Intelligence, Jo Robot, EVA, Robot and Frank, HER, Transcendence, Interestellar o Ex-Machina. D’entre tots els títols que va citar, de Mántaras va posar èmfasi en dos clàssics: 2001: una odissea de l’espai i Matrix.

Del primer film, de Mántaras va subratllar l’anticipació del mecanisme del reconeixement facial, el diagnòstic predictiu d’averies o la capacitat de jugar escacs a un alt nivell. Segons l’expert, l’ordinador protagonista de 2001, HAL, té un alt grau de l’anomenada intel·ligència artificial forta, ja que no simula sinó que experimenta estats mentals i emocions i, per tant, té consciència; una realitat de la qual encara estem molt lluny, va assegurar. “Aquesta pel·lícula va predir l’agenda de la recerca en intel·ligència artificial dels següents 50 anys”. De Matrix, l’expert va destacar-ne les reflexions que suscita en l’àmbit de la filosofia transhumanista i posthumanista i també al voltant del concepte de llibertat, així com la dicotomia entre allò que és real i allò que és virtual. Pel que fa a les referències tecnològiques de la pel·lícula, López de Mántaras va subratllar l’aparició de la realitat virtual, atès que els humans protagonistes viuen en un món virtual gràcies als supercomputadors. Segons l’investigador, el que diferencia aquest film d’altres pel·lícules similars és el fet que la intel·ligència artificial emergeix en xarxa, una idea que mai havia estat plantejada per cap altra pel·lícula.

Problemes actuals

“Les pel·lícules de ciència-ficció són food for thought, ja que conviden a reflexionar sobre el futur de la humanitat, i són una font molt interessant per debatre qüestions ètiques”, va afirmar l’expert. “Una constant en aquest tipus de cinema és que es presenta la tecnologia de la intel·ligència artificial com quelcom molt negatiu en un futur distòpic. Però els problemes amb la intel·ligència artificial no els hem de situar només en el futur: actualment la IA ja està afectant negativament les nostres vides”. En aquest sentit, va parlar de la proliferació d’armes autònomes, la pèrdua de llocs de treball i els problemes amb la privacitat i la protecció de dades.

No obstant això, de Mántaras també va destacar algunes iniciatives que estan duent a terme diferents centres de recerca europeus i mundials, amb projectes que busquen millorar la vida dels humans, com la robòtica socialment responsable o l’aplicació de la IA en la medicina. “Afortunadament també hi ha molta intel·ligència artificial centrada en l’ésser humà i en el bé comú”, va assegurar.

Robòtica social i reptes ètics

La investigadora Carme Torras, autora de diverses publicacions i novel·les, entre les quals l’obra Enxarxats (Males Herbes, 2017), va començar la seva intervenció amb una reflexió al voltant dels reptes de la robòtica actual i la relació entre les màquines i les persones. A través d’un vídeo on es veien diversos robots en acció, l’experta va destacar que ara emergeixen qüestions que abans no es plantejaven fruit de la transició de la robòtica industrial a la robòtica social. Els assistents robòtics són fàcils d’instruir per a persones no expertes, i s’adapten a les capacitats i competències de l’usuari. El projecte Sòcrates, centrat en fer teràpia cognitiva amb persones amb discapacitat intel·lectual, n’és un bon exemple. Torras va subratllar que és molt important que els usuaris estiguin informats i sentin que són ells qui tenen el control en tot moment. “Els robots han d’augmentar l’autonomia de les persones però no han de ser mai un substitut de les relacions humanes”.

Pel que fa als reptes ètics de la intel·ligència artificial, l’autora va citar diversos referents literaris i cinematogràfics. “El món evoluciona tan de pressa que hi ha alguns problemes nous que els autors clàssics de ciència-ficció, com Asimov, Huxley, no van anticipar, i per això també és interessant la ciència-ficció actual”. Segons l’autora, la sèrie Black Mirror és “una obra mestra que en cada capítol porta la tecnologia a les seves màximes conseqüències, i amb uns girs de guió que li donen un valor afegit”. També va destacar altres títols, com Real Humans, EVA, Surrogates o la pel·lícula Her, que anticipa el gran mercat de robots com a companys sentimentals que ja s’albira. “Tenim davant nostre unes perspectives futures apassionants. Cap a on ens durà aquest pas de deux al que estem irremissiblement lligats? La tecnologia és aquí per quedar-se”, va assegurar l’autora.

La importància de la formació

A l’hora de fer front als riscos derivats de l’ús de la tecnologia, l’experta va reivindicar la importància de l’educació i la formació per generar consciència crítica. “La regulació és molt necessària, però em sembla molt més important l’educació i la formació de l’opinió pública”, va afirmar. “Cal combatre els riscos i el perill de la tecnologia amb formació a qui desenvolupa la tecnologia, i també a qui la fa servir. A les escoles és tan important ensenyar tecnologia com ètica a tots els nivells. Com més informació, menys por, menys mal ús i menys fractura digital”. En aquest sentit, la ciència-ficció és una bona manera d’ajudar a plantejar els reptes ètics a les aules, ja que permet anticipar, debatre i raonar diversos escenaris de futur.

Tant Carme Torras com Ramon López de Mántaras van coincidir que cal acostar les humanitats a l’àmbit de la recerca científica i tecnològica. “És molt contraproduent la divisió en àmbits de ciències i de lletres que veiem al món educatiu; necessitem una formació més interdisciplinar”, van assegurar. D’entre els projectes que busquen la transversalitat entre disciplines, Torras va destacar iniciatives com Tomorrow project, que fomenta la creació d’equips formats per metges, matemàtics i artistes.

Una altra de les qüestions que es van plantejar durant la conversa és si estem donant massa autonomia i poder de decisió a màquines amb una intel·ligència molt limitada. Malgrat alertar del perill que això suposa l’àmbit militar, Carme Torras va destacar que la simbiosi entre persones i robots és clau per disminuir errors i augmentar un potencial en el qual tots contribuïm, ja que, en definitiva, les màquines aprenen dels humans. “Jo crec molt en la intel·ligència col·lectiva”, va assegurar. Tot i això, de Mántaras va apuntar que cal anar en compte a l’hora d’acceptar acríticament i sense reflexió prèvia les decisions preses per algoritmes basats en la intel·ligència artificial.

Torn de preguntes

A la part final de la sessió, durant el torn de preguntes del públic, els dos ponents van reflexionar sobre diverses qüestions. Per exemple, sobre com podem confiar amb les decisions autònomes dels robots sense entendre’n el funcionament i sense saber com han estat programats, o sobre com pot afectar psicològicament, en el procés de dol i d’interiorització d’una pèrdua, la possibilitat de generar avatars que substitueixin les persones que han mort. També es va parlar dels dilemes ètics derivats de la connexió i desconnexió de robots, especialment en un escenari futur on les màquines puguin arribar a tenir una intel·ligència artificial tant desenvolupada que prenguin mesures per tal d’evitar ser desconnectades.

Una altra de les preguntes que es van formular va ser com fer front a les diferències culturals i polítiques davant els problemes ètics de l’evolució tecnològica. “Al Japó l’acceptació del robots és molt més alta perquè en la seva cultura els objectes tenen ànima; això també explica que històricament la robòtica hagi tingut molta embranzida”, va explicar de Mántaras. En aquest sentit, es va comentar que “el model xinès prioritza la seguretat per sobre de la privacitat, i la població accepta ser vigilada constantment”. En canvi, a l’altre extrem hi trobem els Estats Units, amb un model “purament capitalista” on només compta el mercat. “Des d’Europa, Canadà o Japó s’intenta una via intermèdia, en pro de la humanitat, que tingui en compte el tercer vèrtex del triangle: el ciutadà”, va concloure Carme Torras.

Per saber-ne més: les recomanacions dels ponents

Les referències cinematogràfiques i literàries van ser constants durant la conversa. A continuació, presentem algunes de les recomanacions que van citar els dos ponents:

Human Compatible, d’Stuart Russell. Penguin Random House, 2019

From Bacteria to Bach and Back, de Daniel Dennet. Penguin Random House, 2017

Màquines com jo, d’Ian McEwan. Anagrama, 2020

Star Trek, capítol 9 de la temporada 2. Seqüència en la qual jutgen el personatge Data per saber si és persona o objecte; si es pot desmuntar perquè pertany a la flota estel·lar com a propietat, o bé si s’hi pot negar, és a dir, té drets com a ésser “viu”