Ja no es pot negar que la intel·ligència artificial té cada vegada més impacte en moltes àrees de l’activitat humana. Ens ajuda a comunicar-nos entre nosaltres (fins i tot més enllà de les barreres lingüístiques), troba informació rellevant en els infinits recursos disponibles a Internet, resol problemes difícils que van més enllà de la competència d’una única persona experta, permet l’ús de sistemes autònoms, com ara cotxes autònoms o altres dispositius que gestionen interaccions complexes amb el món real, amb poca o cap intervenció humana i és utilitzada en moltes altres funcionalitats. Ara bé, malgrat que totes aquestes aplicacions pràctiques no són com els robots completament autònoms, conscients i intel·ligents que imaginava la ciència-ficció, els efectes de la intel·ligència artificial són cada vegada més rellevants i útils en la nostra vida quotidiana i sobretot són reals, ja són aquí i no en podem prescindir.

L’impacte de la IA és doncs, cada vegada més gran i ha desencadenat a arreu una mena de “febre d’or” vinculada a aquestes tecnologies. Es creen nous laboratoris de recerca, apareixen centenars d’empreses emergents centrades en IA i cada vegada són més significatives les inversions a nivell global, particularment per part de grans empreses de tecnologia digital. Així mateix, es constata com la IA és també cada vegada més aplicada en múltiples sectors com ara el transport, les cadenes de producció i logística, en el món financer o en moltes altres indústries. Les consultories de gestió estan competint en les seves prediccions sobre com serà de gran l’impacte econòmic de la IA i des de les institucions públiques i els governs s’estan definint, aprovant i executant plans estratègics per adaptar les nostres societats al salt de la IA i evitar quedar-se enrere. També a Catalunya amb la recent aprovada Estratègia d’Intel·ligència Artificial ‘Catalonia.AI’.

Encara que tot això són bones notícies, no podem negar els riscs derivats de l’aplicació de la IA. En aquest sentit, s’han pres diverses iniciatives en els últims anys per entendre millor què comporta el desplegament de la IA i s’han elaborat marcs legals, codis de conducta i metodologies de disseny basades en valors ètics. Alguns exemples d’això són els Principis d’Asilomar per a la IA, la Iniciativa Global IEEE sobre Ètica de Sistemes Autònoms i Intel·ligents, el consorci de la indústria tecnològica “Partnership on AI” per beneficiar les persones i la societat, o el Reglament General de Protecció de Dades que inclou el dret a una explicació. També està creixent ràpidament la literatura sobre els riscs de la IA i com gestionar-la. Per exemple, Luc Steels i Ramón López de Mántaras van organitzar un debat al CosmoCaixa (Barcelona) el març de l’any 2017. El resultat principal d’aquest esdeveniment va ser la “Declaració de Barcelona sobre el correcte desenvolupament i ús de la IA a Europa” [1]1 — Sota els auspicis del Biocat i de l’Obra Social La Caixa amb el suport d’ICREA, l’Institut de Biologia Evolutiva (UPF/CSIC) i l’Institut d’Investigació en Intel·ligència Artificial (IIIA-CSIC). .

El que és una certesa avui, és que la IA ja té impacte sobre la nostra vida i podria conduir potencialment a un dels canvis de paradigma del nostre temps. Tenint en compte que cada gran transformació estructural, té conseqüències en l’esfera econòmica, social i política, els debats al voltant de les tecnologies d’IA són més rellevants que mai. El Centre d’Estudis de Temes Contemporanis, com a think tank del Govern de la Generalitat de Catalunya, està compromès a analitzar els grans reptes globals a què s’enfronta la nostra societat. Amb aquest número especial de la revista IDEES, conscients de l’impacte de la IA, pretenem abordar diferents aspectes dels debats al voltant de la IA a través d’una àmplia selecció de mirades i perspectives. Conscients d’aquesta complexitat, aquest monogràfic obre la IA pretén entrar en el debat i plantejar algunes de les preguntes claus que suscita: quins principis haurien de governar-la? Quin impacte tindrà la IA sobre la ciutadania i entre les nostres societats? Quines estratègies o polítiques estan impulsant els països líders? Quines institucions hauran d’abordar els desafiaments principals de la IA? De quines maneres canviarà la IA la naturalesa de les nostres feines? Com afectarà la IA la geopolítica mundial? La IA reforçarà la democràcia o la posarà en perill? Aquestes són només algunes de les preguntes que ens esperen per obrir el debat.

Des de veus diverses de persones expertes, analitzem algunes algunes de les polítiques científiques i industrials relacionades amb la IA més rellevants com són el cas dels EEUU i la Xina. Explorem també quin és el seu impacte en l’economia i en el mercat laboral, o en àmbits concrets com en el de les ciutats “intel·ligents” o en la indústria militar i els seus efectes geopolítics. Així mateix ens endinsem en el paper de la matèria prima de la IA, com són les dades (i particularment la importància de les dades obertes), així com en la importància de l’ètica en la IA. També s’inclouen articles que reflexionen sobre el futur de la IA, com ara la visió d’un director de cinema de ciència-ficció que planteja algunes preguntes sobre el rol de les interaccions entre persones humanes i intel·ligències artificials. Alguns temes, com una “IA per al bon govern”, encara no s’han tractat, però s’inclouran en el futur pròxim a causa de la seva gran importància.

La totalitat dels articles que conformen el monogràfic #48 de la revista IDEES dedicat a la intel·ligència artificial s’aniran publicant esglaonadament en els propers mesos. Amb l’objectiu d’oferir al lector una visió completa de l’esperit que ha guiat aquest projecte, aquesta nota editorial es refereix al conjunt de textos que formen i formaran part del dossier.

Carrera pel control de la IA

La IA és un fenomen global que ha desencadenat iniciatives en molts països. En efecte, diferents regions del món han identificat la IA com un dels enfocaments estratègics per a la pròxima dècada. En aquest sentit, volíem incloure en aquest número una descripció de les estratègies principals de la IA, com ara les dels EUA i la Xina. El professor Stone, en el seu article, proporciona una anàlisi detallada amb moltes referències documentals als grans esdeveniments dels EUA relacionats amb la IA des de l’any 2016. Després d’una aparent manca d’activitat durant els anys 2017 i 2018, l’any 2019 ha estat testimoni d’un nou impuls per part del govern dels EUA. Així, es crearan sis instituts nacionals d’IA per donar suport a diverses línies estratègiques. La comunitat científica ha identificat aquestes línies en diferents trobades convocades des de l’any 2016. L’estratègia nord-americana va encaminada a orientar, impulsar i donar suport actiu als sectors capdavanters del país més dinàmic en el desenvolupament de la IA.

En aquesta carrera, també volíem fixar-nos en la Xina, un altre país extremadament dinàmic en IA, que recentment ha anunciat que es planeja esdevenir el país capdavanter i líder en IA. Els professors Yi Chang i Chengqi Zhang descriuen la Iniciativa d’Innovació en Ciència i Tecnologia 2030 del govern xinès. Se centra especialment en les tecnologies d’IA, així com en el Pla de desenvolupament d’intel·ligència artificial de nova generació, que té per objectius aprofitar les grans oportunitats estratègiques per desenvolupar la IA, aconseguir una posició d’avantatge per al país i accelerar la conversió de la Xina en un país innovador i una potència líder mundial en els camps de la ciència i la tecnologia. Cal destacar l’especial èmfasi que posen aquestes iniciatives per millorar l’educació en IA, en què demanen establir escoles d’IA en institucions pilot tan aviat com sigui possible, i per augmentar les inscripcions d’estudiants en màsters i doctorats en les disciplines relacionades amb la IA.

Ecosistemes

Quant a l’impacte de la IA sobre la indústria, moltes empreses emergents alimenten en part l’acceleració recent en el desenvolupament d’IA al món. Catalunya és molt activa quant a la creació d’empreses emergents i és per això que volíem analitzar l’estratègia nacional de la Generalitat de Catalunya per coordinar l’ecosistema català d’IA. Creiem que aquest ecosistema és fort, es pot dir que el més fort del sud d’Europa. En efecte, la professora Karina Gibert aborda l’extraordinari potencial que té Catalunya per convertir-se en una regió clau per a la IA. L’article comença assenyalant alguns fets històrics sobre com va començar la IA a Catalunya i la seva consolidació amb la creació de l’Associació Catalana d’Intel·ligència Artificial (ACIA). A continuació, l’article descriu algunes de les parts destacades de l’ecosistema català d’IA, en particular les activitats de recerca i educació, així com l’existència d’un sector privat amb empreses implicades en projectes d’IA. Finalment, les organitzacions professionals com el Col·legi Oficial d’Enginyeria Informàtica de Catalunya i la iniciativa de l’administració catalana per llançar un pla estratègic d’IA.

Certament, fins al gener de l’any 2019, hi havia gairebé 1.000 empreses emergents relacionades amb la indústria 4.0, entre les quals 160 d’IA, 38 de robòtica i més de 200 de dades massives. En termes de nombre d’empreses emergents, Barcelona és el cinquè nucli d’empreses emergents d’Europa i número u del sud d’Europa. A Daniel Villatoro li vam demanar que descrigués el paisatge actual quant a empreses emergents a Catalunya i a Espanya en el context de les estratègies d’IA espanyoles i europees. La varietat d’aplicacions i serveis proporcionats per les empreses emergents actuals mostra com és de transversal l’impacte de la IA en la nostra societat. Barcelona s’identifica clarament com la tercera ciutat europea més atractiva per crear-hi una empresa emergent avui dia.

De manera similar, Onn Shehory analitza la situació a Israel. Israel s’ha identificat com la nació més dinàmica del món per crear-hi empreses emergents (vegeu el llibre Start-up Nation de Dan Senor i Saul Singer). Miris el paràmetre que miris, Israel esdevé el primer en una classificació per capita. El professor Shehory descriu en detall la tecnologia que hi ha darrere de diverses empreses emergents disruptives, seleccionades d’entre més de 800 empreses emergents a Israel basades en tecnologia IA.

Reptes ètics

Com s’ha comentat anteriorment, la IA comporta riscs innegables. El desenvolupament de les tecnologies d’IA que intervenen en la nostra relació amb el món està generant un intens debat sobre com són d’ètiques les seves decisions. La IA pot arribar a ser nociva i per tant, pot ser pertinent establir certs límits a aquestes decisions. Pak-Hang Wong i Judith Simon aborden els conflictes ètics plantejats per la IA autònoma i argumenten que el raonament ètic d’una IA no pot estar separat de l’anàlisi dels valors que defensem. Hi estem completament d’acord. En particular, debaten la necessitat d’alinear les decisions d’aquests sistemes autònoms i el context social on es prenen les decisions. La consideració de múltiples dipositants en aquesta alineació és clau i defineix la seva noció d’ètica distribuïda d’IA.

Carme Torras sosté que la interacció cada vegada més abundant de les persones amb tota mena de dispositius basats en IA suposa importants reptes socials i ètics. Coincideix amb la tendència que defensa que els graus universitaris tècnics s’haurien d’obrir a les Humanitats per tal que els estudiants esdevinguin conscients de possibles qüestions delicades a què poden haver d’enfrontar-se en les seves carreres i aprenguin a reflexionar i debatre sobre aquests temes. En aquesta línia, proposa crear cursos d’ètica per a tecnòlegs basats en la ciència-ficció. Dona diversos exemples d’iniciatives existents que inclouen la seva novel·la La mutació sentimental (Pagès Editors), que inclou un apèndix amb 24 preguntes ètiques i pistes per a un debat sobre les situacions que apareixen al llibre. Aquest contingut és adequat per a un curs sobre ètica en robòtica social i intel·ligència artificial que tracti els temes següents: com dissenyar l’assistent “perfecte”, la importància de l’aparença de robots i la simulació d’emocions per a l’acceptació dels robots; el paper dels programes d’IA al lloc de treball i en ambients educatius; el dilema entre la presa de decisions automàtica i la llibertat i la dignitat humanes; i la responsabilitat civil relacionada amb programar una “moral” en els robots.

El futur de la IA és també l’eix fonamental de molts debats arreu del món. Des d’un punt de vista acadèmic, un tema important és la distinció entre la IA estreta, és a dir, sistemes d’IA capaços de fer una sola tasca o una petita sèrie de tasques altament relacionades, i la IA general de nivell humà. Tots els exemples d’IA que tenim avui dia són del tipus estret. La IA general és un objectiu molt difícil d’assolir perquè, entre altres coses, requereix proporcionar coneixement de sentit comú als sistemes d’IA i ningú no sap com abordar aquest problema tan extremadament difícil. En aquest article, Miquel Casas, citant un nombre d’opinions de figures molt conegudes en el món de la tecnologia i el comerç, proposa la possibilitat d’una futura intel·ligència artificial general. Basada en una sèrie d’hipòtesis improbables (en la nostra opinió, extremadament improbables) però no impossibles, aquesta intel·ligència podria esdevenir una súper intel·ligència que assoliria l’anomenada “singularitat” i per tant faria realitat el somni transhumanista. L’autor enumera els pros i contres potencials d’aquest assoliment i declara que, en qualsevol cas, tenim les regnes del futur a les nostres mans. També declara que, per evitar que cap empresa o país monopolitzi una súper intel·ligència hipotètica, la cerca d’una IA general futura hauria de ser l’objectiu d’un projecte de cooperació internacional per garantir que una possible súper intel·ligència beneficiï a tota la humanitat.

Ús militar de la IA

Les implicacions ètiques del concepte d’autonomia impulsen el debat plantejat per dos articles que proposen la prohibició de les armes letals autònomes des de dos angles: Toby Walsh, des de la perspectiva d’un investigador d’IA, i Roser Martínez i Joaquín Rodríguez, des de la perspectiva filosòfica. Gran part dels investigadors en IA i filòsofs consideren que deixar que una màquina prengui la decisió de qui viu i qui mor és moralment inacceptable. Una vegada més, estem completament d’acord amb aquesta opinió. Per donar suport a la prohibició, Toby Walsh mostra els inconvenients dels arguments principals utilitzats per defensar l’ús d’armes letals autònomes. Des d’una perspectiva legal i filosòfica, Martínez i Rodríguez descriuen inconvenients similars d’algunes expectatives exagerades sobre tecnologia d’IA fetes servir per donar suport al desenvolupament d’armes letals autònomes.

Societat i democràcia

L’impacte de la IA en la societat és certament un aspecte crucial que requereix una anàlisi extensa a tots els nivells. Lorena Jaume-Palasí, en el seu article, sosté que la intel·ligència artificial és una nova forma d’infraestructura, una forma immaterial. Automatitzar un procés amb IA implica construir una capa invisible de programari per intervenir permanentment en les interaccions amb i entre totes les parts implicades del procés. D’aquesta manera, s’estan construint infraestructures immaterials en sectors en què una dimensió infraestructural abans era impensable. La idea principal és que, com que la infraestructura és l’expressió arquitectònica de la política d’una societat, la IA és una tecnologia que impacta en les societats arquitectònicament, i per tant, ho fa col·lectivament més que individualment. Així que la implementació de la IA requereix pensament social. En efecte, un punt de vista molt interessant i imprescindible.

En la mateixa línia d’impacte social, però des del punt de vista legislatiu, Joana Barbany descriu en detall les característiques fonamentals de la Carta catalana per als drets i les responsabilitats digitals. Aquesta Carta és el resultat d’un procés de participació ciutadana que ha culminat amb la seva aprovació al Parlament de Catalunya. La intel·ligència artificial és part de la Carta. La Carta requereix desenvolupaments d’IA amb transparència algorítmica i respecte pels principis ètics de la nostra societat. La defensa d’una societat oberta, democràtica i que respecta les llibertats individuals que aquesta Carta representa s’oposa al poder que se li ha atorgat recentment al govern espanyol sobre la limitació dels drets digitals dels ciutadans. Aquest poder s’ha establert a través del “decret digital” aprovat el novembre de l’any 2019 al Congrés dels Diputats.

Pompeu Casanovas reflexiona sobre el canvi cultural que la tecnologia està provocant i el seu impacte sobre l’ètica i la llei. Planteja alguns exemples recents de control social no ètic que utilitzen dades per forjar noves formes de poder. El ràpid desenvolupament dels sistemes sociotècnics en què els humans i les màquines interactuen forçarà necessàriament l’adaptació dels nostres sistemes normatius i legals. Dona també unes quantes pistes sobre com la IA pot ser realment útil en el procés de definir aquests sistemes legislatius actualitzats.

En comptes de pensar en com l’aparició de la IA canviarà la societat, César Rendueles fa la volta a la pregunta i es planteja quins canvis socials s’han produït que ens hagin portat a creure que es produirà una explosió d’IA amb efectes tan impactants. El seu article se centra a diagnosticar una certa “bombolla” d’intel·ligència artificial, en particular per als enfocaments a la IA basada en dades massives. Assegura que els antics debats epistemològics sobre la IA forta han desaparegut, no perquè aquests debats s’hagin resolt, sinó per una decisió d’actuar com si la IA ja fos forta.

L’economia de la IA

L’article de Joan Torrent-Sellens analitza la dimensió econòmica de la IA des de diversos punts de vista. El primer considera la IA com una plataforma tecnològicament connectada i explica les seves relacions amb altres tecnologies. També estudia la IA des del punt de vista d’una tecnologia d’ús general. Tot seguit, aborda l’impacte de la IA en la productivitat i el treball, particularment com a font d’eficiència laboral. Finalment, presenta els desafiaments principals que l’aplicació d’IA genera en les teories i el modelatge de l’economia.

Educar amb IA

El paper que pot interpretar la IA en l’educació és un altre aspecte fonamental amb un impacte enorme sobre la societat. Richard Tong i Joleen Liang descriuen com es pot aplicar la IA per millorar l’educació. Concretament, en una àrea d’alt impacte: L’educació adaptativa i la seva solució clau, el sistema d’aprenentatge adaptatiu (AIS per les sigles en anglès). Expliquen la seva història, el disseny i els mecanismes bàsics. A continuació, l’article reflexiona sobre com la intel·ligència artificial es pot aplicar a l’AIS des de la perspectiva de l’arquitectura, l’aplicació i el model computacional.

Dades, IA i governança

Creiem que la IA ha d’interpretar un paper crucial en l’empoderament ciutadà i en la construcció d’una societat més democràtica i participativa. En aquest sentit, l’aplicació de la IA en ciutats és el tema d’un article de Batlle-Montserrat, Delannoy, Kerr i van Cleempur. Relaten la seva pròpia experiència en diferents municipis arreu d’Europa. Una sèrie d’àrees en la gestió de la ciutat, com ara el transport, l’educació, la seguretat i la participació ciutadana ja s’estan beneficiant de l’aplicació de la IA. Estem d’acord amb els autors que l’aplicació de la tecnologia d’IA és un gran repte per a moltes ciutats, no només des d’un punt de vista tecnològic, sinó també, i potser amb més importància, des d’una perspectiva cultural, legal i ètica. L’article analitza alguns d’aquests reptes en detall i proposa una sèrie de recomanacions a les autoritats municipals quant a la implementació de la tecnologia.

En relació amb l’impacte sobre el govern i l’administració, Lourdes Muñoz descriu en el seu article l’impacte cada vegada més gran de l’estratègia de dades obertes dels governs i les institucions. Quan les dades són obertes a l’ús i escrutini públics, els governs milloren la seva transparència i els ciutadans s’empoderen. Espanya es classifica segona en la llista d’obertura de dades a Europa i, d’acord amb aquest autor, Catalunya té una de les lleis més ambicioses en obertura de dades (Llei de transparència catalana 19/2014). L’article descriu uns quants projectes catalans interessants que fan servir dades obertes públiques i conclou amb una descripció dels reptes a què s’enfronten les institucions catalanes. En línia amb la mateixa idea d’obertura de dades, Núria Espuny descriu l’estratègia d’obertura de dades que estan seguint a la Direcció General de Transparència i Dades Obertes del govern de la Generalitat de Catalunya. Una estratègia amb l’objectiu de posar les dades públiques a disposició dels ciutadans, empreses o organitzacions per generar valor social i econòmic o per analitzar i interpretar patrons i tendències per resoldre problemes complexos.

En aquest article, Javier Creus qüestiona la superioritat de la intel·ligència racional humana basant-se en una sèrie d’observacions quant al comportament humà en aspectes com el clima i les emergències socials. Sosté que si, aparentment, no som superiors (en tot) a les plantes i no som diferents (en tot) de les màquines, llavors hem de pensar en la intel·ligència com un sistema de continuïtats i complementarietats en què totes les intel·ligències són necessàries i estan connectades. Llavors permetrà l’aparició de noves arquitectures tecnològiques i institucions socials que se centrin en el potencial de la IA per millorar les condicions de vida al planeta i les oportunitats de vida de les persones. Aquestes noves arquitectures haurien d’estar distribuïdes, és a dir, sense un control centralitzat i amb una separació entre les dades i les aplicacions que s’hi basen. L’article conclou amb una defensa de la importància de les dades per al bé comú i el seu control per part dels ciutadans.

L’imaginari simbòlic

Quan es tracta d’especular sobre el futur, els autors de ciència-ficció són possiblement els actors principals. Aquestes especulacions han estat sovint una font d’idees desafiadores. Per exemple, pensem que el guió de Kubrick i Clarke de 2001: una odissea de l’espai realment va anticipar força assoliments en IA, encara que Arthur Clarke clarament estava equivocat en representar un ordinador, HAL, amb intel·ligència semblant a la humana. De fet, s’han proporcionat una sèrie d’enquestes a experts en IA en diferents conferències que preguntaven quan s’assoliria la IA general. Les respostes reflecteixen una diversitat d’opinions molt àmplia, que va des de “en els pròxims deu anys” a “mai”. En altres paraules: no n’estem segurs. La nostra opinió personal és que estem molt i molt lluny de la intel·ligència artificial general (IAG). Estem d’acord amb la resposta que Oren Etzioni, director de l’Institut Allen per a la IA, va donar a la pregunta de quan tindrem IAG: “Agafa la teva estimació, duplica-la, triplica-la, quadruplica-la. És llavors quan en tindrem.” En el seu article, Kike Maíllo, director de la pel·lícula de ciència-ficció Eva, descriu la seva experiència personal quant a la seva pròpia relació amb la ciència-ficció així com les relacions de la IA i la ciència-ficció en general. Explica que el seu interès per la ciència-ficció va començar quan era estudiant d’institut. A ell li cridava l’atenció que els científics ficticis, quan intentaven dissenyar màquines similars als humans, havien de descobrir primer què ens fa humans, i conjectura que això també els passa avui dia als científics d’IA de la vida real. Vint anys més tard, totes aquestes reflexions el van portar a dirigir Eva. Aquesta pel·lícula ens parla d’un temps futur en què les màquines socials proliferen. Un futur amb robots de companyia per combatre la soledat. El personatge protagonista de la pel·lícula vol dissenyar màquines que no sempre es mostrin com esclaves de la nostra voluntat, cosa paradoxal perquè és precisament l’obediència el que defineix qualsevol mecanisme. Aquest fet planteja les qüestions principals que es tracten a la pel·lícula i en el seu article: Poden les màquines que només, i sempre, obeeixen les nostres ordres ser bones companyes i ser estimades? Podem establir relacions poderoses amb agents que no considerem “iguals”?

*

Tenint en compte l’interès públic en la IA i l’entusiasme de moltes organitzacions (tant d’empreses privades com d’institucions governamentals) a desenvolupar aplicacions que afectin les persones en el seu dia a dia, pensem que és molt important que la societat entri a fons en tots aquests debats oberts. En efecte, com a societat hem d’entendre les conseqüències i implicacions de l’ús de la intel·ligència artificial. També hem de debatre amb calma sobre com i de quina manera cal regular-la. Esperem que aquest número especial ajudi els lectors a tenir una opinió informada i crítica que els permeti entrar en aquests debats oberts.

• Referències

  1 —

  Sota els auspicis del Biocat i de l’Obra Social La Caixa amb el suport d’ICREA, l’Institut de Biologia Evolutiva (UPF/CSIC) i l’Institut d’Investigació en Intel·ligència Artificial (IIIA-CSIC).