“La intel·ligència artificial necessita perfils d’humanitats”

Cristina Aranda. Hola, soc la Cristina Aranda. Soc cofundadora de Mujeres Tech, de Big Onion i de Spain AI Aragón, i soc, de formació, lingüista, doctora en lingüística, filòloga i em dedico a la tecnologia. I direu: “I què fa una noia com tu, una lingüista com tu, treballant en un sector com aquest, com la tecnologia?”. Doncs ara ho veurem. Algú em vol formular alguna pregunta?

Héctor. Hola, Cristina. Tu, que ets referent en el món de la tecnologia, com explicaries a algú com la meva mare, per exemple, que no té absolutament ni idea, què és la intel·ligència artificial?

Cristina Aranda. Bé, doncs la intel·ligència artificial consisteix… Hi ha moltes definicions, però la majoria coincideixen que és dotar de funcions cognitives una màquina, funcions cognitives similars a les de les persones, com el còmput matemàtic, la lògica lingüística, etcètera. I, per això, necessitem dades. Les dades són la matèria primera. Això és com: per a una paella, què es necessita? L’arròs, oi? Doncs, per fer intel·ligència artificial, necessitem dades i, aleshores, amb aquestes dades, ja entrenem la màquina per a determinades funcions: o bé per robotitzar un procés… Imaginem la indústria dels automòbils, per fer tota la producció en cadena. O per predir, predir tant un trencament d’un component en una indústria o predir quan em consumiran un producte determinat. Automatitzar un procés, resumir coses, resumir informació i tot el que això comporta. O també, per fer prediccions o personalitzacions. En totes aquestes plataformes d’entreteniment que ens van dient… Per cert, si teniu temps i coneixement, determinades plataformes us donen un milió de dòlars si els milloreu l’algoritme de recomanació, ho deixo caure. Aleshores, ja tenim funcionalitats. Però quina mena d’intel·ligències artificials existeixen? N’hi ha dos. Segons Russell i Norvig, que són dos referents en la intel·ligència artificial, hi ha una intel·ligència artificial que és persona-màquina, que són sistemes que actuen i pensen com les persones, i màquina-màquina. Pensem en un cotxe autònom on set ordinadors a bord s’estan comunicant. Es comparteixen informació i prenen decisions. Aleshores, ja ho tenim. Ara bé, hem dit que fan funcions, fan tasques. Segons la tasca que faci la intel·ligència artificial, parlem de diferents tipus d’intel·ligència artificial. Hi ha la intel·ligència artificial estreta, que només fa una tasca concreta.

Només juga la intel·ligència artificial… L’entrenem per jugar als escacs. Sap jugar al guinyot? No, sap jugar només als escacs. Si l’hem entrenat per llegir o extreure la informació de la factura, sabrà després cantar-te una “chirigota”? No, perquè l’hem entrenat només per extreure la informació d’una factura. Això és la intel·ligència artificial estreta. La següent intel·ligència artificial és la que s’anomena “intel·ligència artificial general”. Es processa de forma multimodal. No sé si heu vist la pel·lícula ‘Her’, on un xaval es compra una intel·ligència artificial multidispositiu i s’acaba enamorant d’aquesta intel·ligència artificial. No en faré espòiler, però és molt similar. Aquesta conversa és natural, espontània, etcètera. És igual. I després hi ha el que s’anomena la “superintel·ligència”, que és amb el que juguen les sèries, els titulars de premsa… “Els robots assassins”. Però jo sempre dic que aquí ens hem de tranquil·litzar totes i tots perquè no superarà mai l’estupidesa humana. És a dir, això és il·limitat. Això és il·limitat. Aleshores, jo us pregunto: on creieu que és avui dia la intel·ligència artificial? Estreta, general o superintel·ligència? Ens trobem entre l’estreta i la general. Perquè, general, veiem aquestes solucions… Com diu Yejin Choi en una meravellosa xerrada TEDx, aquestes intel·ligències són increïblement intel·ligents, però sorprenentment ximples. Els falta moltíssim perquè no arriben al nostre nivell de cognició. Penseu en l’ésser humà, la capacitat associativa que tenim, la capacitat de les dislocacions semàntiques, de captar la ironia, la metàfora… Sé que hi ha persones que… Però la capacitat d’ironia, semàntica… Després, el coneixement del món.

Tot això, que tenim de forma tan brillant les persones i que ho hem adquirit a poc a poc, no ho tenen les màquines avui dia.

Icnelli. Hola, com estàs, Cristina? Soc la Igneli i m’agradaria preguntar-te: a l’inici has mencionat que ets lingüista, i ara que parles una mica més sobre la intel·ligència artificial, m’agradaria entendre aquesta relació i, sobretot, que ens en donessis un exemple.

Cristina Aranda. És clar, i te’n donaré molts exemples. Abans, jo preguntava a fòrums: “Qui d’aquí utilitza la intel·ligència artificial?”. I potser dues persones aixecaven la mà. Ara, amb determinades eines que la gent ha començat de forma directa a utilitzar, ja la gent n’és més conscient. La intel·ligència artificial, de forma silenciosa, es troba present als nostres dies: a les aplicacions amb què lliguem, a la nostra geolocalització, a les nostres xarxes socials, als mails… A múltiples aplicacions tenim intel·ligència artificial. I dins de la intel·ligència artificial hi ha diferents àrees. Hi ha l’àrea de “machine learning”, “deep learning”, que és com entrenem les màquines, que són tècniques molt de tecnologia. Després hi ha el que s’anomena “processament del llenguatge natural”, que és una àrea… Segur que tots hem utilitzat un traductor automàtic, l’àudio de veu… Des d’aquí, dono l’agraïment a la persona que va inventar el “2x”, l’acceleració de l’àudio, perquè incompleixen una màxima de conversa que es diu la “màxima de quantitat”. Aquestes persones que graven i graven i… Meravellós el “2x”. Des d’aquí, el meu agraïment. I moltes aplicacions. Tenim el processament del llenguatge natural i també hi ha el que s’anomena “computer vision”. Em direu: “I també està relacionat amb el llenguatge?”. Doncs sí, perquè, si estem treballant en l’automatització d’un procés… Pensem que jo em vull donar d’alta al compte d’un banc i em demanen el DNI, nota de poder si soc una empresa, una pime. Notes de poder, la meva constitució, etcètera. Aleshores, jo faig fotos i n’extreu la màquina la informació. Això seria “vision”. Després, també tenim “robotics”, la robotització, que em direu: “Bé, si són robots d’aquests…”. D’acord, però si són robots que assisteixen persones amb discapacitat o persones que… O els assistents virtuals.

I l’àrea del processament del llenguatge natural és on entrenem les màquines perquè entenguin el nostre increïble, complex, sorprenent sistema de comunicació que és el llenguatge natural. Ara bé, quin és el repte? Perquè les màquines parlen en “techià”, parlen en zeros i uns. Tu pots estimar en zeros i uns? Pots dir: “Jo t’estimo un zero coma…”? Aquí comencen moltes coses. Per què? Perquè les dades són dades no estructurades de natura lingüística. Aleshores, si nosaltres hem de treballar amb això… Hem dit que les màquines parlen en zeros i uns, i només parlen en un format que es diu “text”. Les màquines no… Encara que jo els parli, hi ha un software darrere, uns programes, que passen la veu a text. Abans hem dit la visió. Si treballo amb un JPG, amb imatges, utilitzaré unes eines que ho passen a text, per tant, la riquesa de la comunicació no verbal… Imagina’t que jo et faig… Això és text, això la màquina no ho interpreta, són zeros i uns. O la veu, el to de veu, que és molt rellevant en la comunicació humana. Inclús el silenci, no? Això ho passem a zeros i uns i ja estem traient una mica, una mica bastant, d’informació, però ho hem de passar a zeros i uns, que és estructurar la informació. Aleshores, s’utilitzen eines, xarxes neuronals, sistemes complexos, per vectoritzar la informació. Què fèieu vosaltres quan fèieu els exàmens de llengua, comentaris de text, quan us donaven un text? Què fèieu en primer lloc?

Vinga. Llegir-lo. I després, què fèieu? Un cop després de llegir-ho, què fèieu? Subratllar, extreure’n determinats elements. Doncs això és el que fem també. És el que es diuen “tokens”. Seguim un determinat procés d’entrenament a la màquina. L’entrenament del llenguatge ha de ser molt supervisat, molt supervisat. Que em podeu dir: “Doncs jo encara utilitzo una eina generativa a la qual poso paraules…”, un “prompt” que es diu, “…i és suficient”. Sí, però si hem de treballar en determinats entorns… Penseu en farma, salut o inclús videojocs on han de passar tota la informació del videojoc i adscriure-la a determinats països i no poden ficar la pota perquè és un impacte molt econòmic i reputacional, ho han de traduir molt bé i han de supervisar que això estigui molt bé. El llenguatge, no? Imagineu-vos en detecció del frau. Si estem treballant amb detecció de frau, no em puc equivocar perquè… Hi ha un terme que s’utilitza molt en intel·ligència artificial, que és “accuracy”, que és la ràtio, el percentatge, d’encert. Aleshores, el percentatge d’encert en el llenguatge s’ha d’entrenar de forma supervisada. Per què? Perquè el que ens diferencia… En el seu meravellós discurs, la Nuria Oliver, en el seu accés com a acadèmica de la Real Academia de la Ingeniería Española, que us recomano, que hauríeu de llegir, i és “Intel·ligència artificial: ficció, realitat i… somnis”, ella va exposar quines eren les diferències entre intel·ligència artificial i intel·ligència humana. Bé, doncs érem diverses lingüistes a la sala, ens vam mirar, ens vam agafar i vam dir: “Les lingüístiques i els lingüistes salvarem la humanitat!”.

Per què? Perquè el primer punt que ella assenyalava era la semàntica i els sistemes de processament del llenguatge natural. Després, també assenyalava… Recordeu les dubitatives, les desideratives, les causatives? La capacitat d’associació ràpida d’un concepte amb el coneixement del món. Això les màquines no ho tenen. Les màquines són molt ximples, són lloros. Extreuen patrons, però no tenen la capacitat, la genialitat que tenim els éssers humans, els parlants, per ràpidament crear xarxes lexicosemàntiques o adquirir, per exemple, les paraules noves. Aleshores, la branca de la intel·ligència artificial, o una de les branques, que més potencial té i que ja veiem venir les lingüistes és aquesta, la del processament del llenguatge natural. I els lingüistes què podem fer? Ajudar les màquines a entendre el nostre sistema complex. Perquè ja us he dit que, un cop estructurades aquestes dades, el que faríem és ja començar a utilitzar el que s’anomenen “sistemes experts”. Un sistema expert pot ser una ontologia. Una ontologia és… Sé que ho sabeu, però ho repassarem. Què són les ontologies? Bé, doncs nosaltres el món el classifiquem de forma conceptual a través de conceptes. I on tenim el glossari de les paraules? Al diccionari. Doncs, ep, allà hi ha les paraules allotjades, però no hi ha relació entre unes i altres. Després, hi hauria les “tags”, les etiquetes. No sé si heu treballat amb determinats formats… És una forma de categoritzar les coses. No hi ha cap relació entre les paraules, però sí que estan categoritzades. I el següent nivell ja serien els tesaurus, on ja tenen una relació lexicosemàntica aquestes paraules. D’acord, però aquestes relacions són de sinonímia, antonímia…

I el següent nivell ja serien aquests tesaurus intel·ligents que es diuen “ontologies”. I aleshores, en una ontologia hi hauria un usuari que té determinats atributs i té determinades funcions i que fa coses, per tant, la màquina és molt més ràpida en processament. Ja llegeix l’usuari, però està veient tota la xarxa de capacitats que pot fer aquest usuari. I aquí entrenem la màquina. El processament del llenguatge natural serveix per a això, per desambiguar, que és el gran repte que tenim. Perquè, imagineu-vos-ho, entre humans ens costa entendre’ns molts cops. Imagineu que la màquina entengui el nostre sistema tan complex que és el llenguatge.

Lola. Hola, Cristina. Soc la Lola, professora. En l’àmbit educatiu, instituts, escoles, ara que hi ha incertesa, angoixa, sobre l’ús de la intel·ligència artificial, quina és la teva opinió sobre els pros, contres, oportunitats, de la intel·ligència artificial en l’educació?

Cristina Aranda. Bé, doncs, en primer lloc, moltes gràcies i enhorabona. Se us valora poc al professorat i, a més, com deia María Moliner, l’educació és la clau del progrés. Aleshores, enhorabona en primer lloc. Jo sé que genera molta incertesa i molta… A veure què ens espera. Però a mi em sembla fascinant perquè implica un període de reflexió, com quan va aparèixer la impremta o quan va aparèixer internet. I aquesta tecnologia ho està canviant tot, i una de les àrees que més està impactant és l’educació. L’altre dia em deia un professor d’universitat: “M’han amargat la vida”. Doncs potser aquest sentiment l’hauries de corregir perquè és aquí, s’utilitzarà i s’està utilitzant. Aleshores, aquí la reflexió és que potser caldria canviar la nostra forma de transmetre el coneixement i també la forma d’adquirir el coneixement, perquè avui dia, sobretot a secundària, on adquirirà la gent el coneixement? A les xarxes socials, a una determinada xarxa social. Van allà i s’està adquirint ja el coneixement des d’allà. Per què no utilitzar aquestes eines per al propòsit final, que és que algú sàpiga, per exemple, d’un determinat moviment literari? Qualsevol cosa, una determinada fórmula matemàtica. L’origen de… Moltes coses. Canviar la forma de fer les coses. Primer, conèixer l’eina, perquè aquesta eina em permet moltes coses. Aquesta eina em permet primer que l’alumnat s’estimuli per conèixer, perquè pensem que el nostre sistema educatiu no ha canviat gairebé gens. Continuem… Ja Baltasar Gracián, el meu paisà, al segle XVII a Osca, a la universitat, impartia classes de la mateixa forma que s’imparteix ara a molts llocs: una persona vomita contingut, algú rep el contingut i després jo el vomito.

Potser no. Potser aquesta eina em permet ara… Potser el contingut, l’objecte d’estudi, cal adquirir-lo de formes diferents. Aleshores, el professorat haurà d’anar guiant, conduint l’alumnat en aquest descobriment i generar aquesta ànsia per conèixer, i l’alumnat haurà d’utilitzar les eines que haurà d’utilitzar el dia de demà a qualsevol feina. Aleshores, per mi cal… Sempre, en tot aquest moment, quan implica que he de canviar… Això és com el moment de les crisàlides, el moment en què les erugues passen a papallones. Exigeix un esforç, però aquí l’esforç és més per part de la comunitat educativa. Conèixer aquestes eines. Aquestes eines em poden donar un potencial meravellós i ho he de saber integrar al meu dia a dia. Per exemple, puc utilitzar aquestes eines generatives de producció lingüística per generar fakes, a veure si el meu alumnat detecta què està fet per una intel·ligència artificial i què no, perquè és molt enllaunat. L’estil és molt enllaunat. O, per exemple: “Genera’m això i destaca el que vulguis, determinat…”. “Introdueix un ‘prompt’, ordena una instrucció a la maquineta i ara, en el text que n’has extret, assenyala’m els substantius, els adjectius…”. I tenim milions d’aplicacions. Inclús per ajudar al mateix professorat a plantejar la classe des d’un altre punt de vista i agilitzar tot això.

Nuria. Hola, Cristina, com estàs? Em dic Nuria i m’encantaria conèixer la teva opinió sobre la creativitat. És a dir, l’aparició d’aquests programes d’intel·ligència artificial creus que la potencien o la poden, al contrari, frenar?

Crsitina Aranda. Moltíssimes gràcies, Nuria, per la pregunta. Fascinant qüestió perquè, a més, ara tot el món es pregunta: “Què passarà? Què passarà?”. Ens hem de tranquil·litzar de nou, respirem. Les màquines no són tan creatives com nosaltres, com els éssers humans. En primer lloc, aquestes tecnologies es nodreixen del que ja s’ha creat. És a dir, la creativitat… Jo sempre m’imagino si la intel·ligència artificial seria capaç de generar el que va fer la Cecilia a Borja amb l’eccehomo… Us en recordeu? Jo crec que una intel·ligència artificial seria incapaç de generar això perquè implica moltes coses. La creativitat. Primer, abordem què és la creativitat. Jo, a la meva tesi, la vaig abordar perquè vaig treballar la tesi doctoral sobre com generem nous noms. I hi ha… Doncs, com sempre: hi ha moltes formes, moltes definicions, de creativitat, però tots distingim qui és una persona creativa de qui no. I la creativitat, segons Gardner, és trobar solucions enginyoses i innovadores, alguna cosa no creada. Sí que et fonamentes en les coses anteriors. I pensem en el nostre dia a dia. En el nostre dia a dia, resolem problemes a través del coneixement del món, de la nostra pròpia experiència com a persones, amb la nostra interacció amb l’entorn, la nostra interacció social i el nostre propi coneixement. El coneixement del món, però el nostre propi coneixement adquirit. I molt important: la sensibilitat, l’emoció, que no la tenen les màquines. Hem parlat abans de zeros i uns. Com han de tenir emoció? L’empatia. Aquesta capacitat que, quan sentim una música, per exemple, se’t posen els pèls de punta i sentis… O quan llegeixes un poema o qualsevol cosa.

És molt complex que aquestes màquines, que sí que estan generant de forma audiovisual… Ho veiem de diferents formes generatives. O bé crea imatges, àudio, música, etcètera. I ens pot semblar creatiu, però és com això de les intel·ligències artificials, que ens poden sorprendre segons la capacitat de la intel·ligència de l’usuari. Si tu creus… És clar, fas així i dius: “Ostres…”. Com quan escrivim… Tu ho podries redactar perfectament. El que passa és que ets un ésser gandul o gandula i estàs utilitzant aquesta eina com el Rincón del Vago. Entre El Rincón del Vago i… Aquestes eines ens potencien. Qui treballa en l’àmbit de la inel·ligència artificial i la creativitat… Per exemple, Estado Latente, que treballen conjuntament amb Silicon Valley, ajudant a desenvolupar i millorar aquestes tècniques, sempre diuen que la creativitat és inherentment humana. Ara bé, aquestes són eines que em permetran treballar de forma més eficient. Una dupla, en diuen “duples creatives”, però no oblidem que amb totes aquestes eines generatives ha de treballar la persona i introduir-hi la instrucció. És a dir, que al meu cervell, a la meva creativitat, jo he ideat un món màgic de color, d’unicorns, com vulgueu, i he introduït aquest “input”, aquest “prompt” per fer que la màquina generi tota aquesta creativitat. Aleshores, qui té la creativitat? La màquina o les persones?

Nuria. Les persones, cent per cent, ajudades per les màquines.

Cristina Aranda. Gràcies, Nuria. Bé, un dels grans reptes que té la intel·ligència artificial és la desinformació. Ens pot informar, però també pot manipular el nostre propi sistema de creences. Perquè em direu: “Bé, Cristina, sempre ha existit la propaganda”. És clar, molt bé. Però ara s’afina molt. Ara la propaganda és tan subtil, permea tant que jo no me n’adono i es genera una notícia on saben… I van precisament a la Cristina Aranda, que té 46 anys, encara que no ho aparenta, que és d’Osca i que li agrada això, això i això, i opina això, això i això. Aleshores, ja es genera la informació cap a mi per permear-ho. Això ho hem vist… No sé si us sona Cambridge Analytica, com van comprar dades a Meta i van impactar en el que avui coneixem com a Brexit. Sabeu quina va ser la paraula més buscada, la “query” més buscada després del Brexit a Gran Bretanya després de sortir? “Què és la Unió Europea?”. És a dir, perfecte. Estem votant que no sense saber què és. I així estan. I això té molt d’impacte, la desinformació. Podem manipular les persones, podem manipular que un govern canviï, impactar en una democràcia. Aleshores, aquesta és una de les grans qüestions i grans preocupacions no només de la Comissió Europea, sinó de molts governs. Per què? Perquè no es controla tota la informació que es produeix i no tot el món té esperit crític. D’aquí que sigui tan important que a les aules i a tots els àmbits i nivells educatius es comenci a desenvolupar en profunditat l’esperit crític, la filosofia, la reflexió.

Que jo digui: “D’acord, jo he rebut aquesta informació. Però d’on ve la font? Per què m’ha arribat així, tan ràpidament i tan bé?”. Qüestionar-me que no tota la informació és vertadera i també contrastar aquestes fonts. I és una missió que ja és netament humana, que hem de supervisar amb aquesta eina, que és simplement la reflexió i qüestionar-se les coses.

Lidia. Hola, Cristina, soc la Lidia. Aquesta relació que ens estàs descrivint màquina-persona, que és apassionant, però encara fa una mica de vertigen, quines creus que serien les habilitats humanes més importants per aprofitar la intel·ligència artificial?

Cristina Aranda. Doncs m’encanta aquesta pregunta perquè és la cosa fascinant que té aquesta tecnologia, que no tenen altres, com per exemple el “blockchain”. Us deu sonar el “blockchain” o la quàntica, que és una cosa molt més tècnica. En canvi, com tu mateixa, a la pregunta, em deies: persona-màquina. Primer cal entendre molt bé la persona, però no només, com hem abordat, en el llenguatge, com és de complex el llenguatge i fer que la màquina ho entengui tot, sinó també abordar la privacitat de les dades amb què s’entrenen les màquines. Hem parlat de les fake news. La desinformació com impacta. Molt important: l’ètica. L’ètica, l’ús. Perquè la intel·ligència artificial no és dolenta. És bona o dolenta. Depèn de l’ús. Això és com una forquilla. Una forquilla és molt útil, però te la puc clavar a l’ull, oi? Doncs això de la intel·ligència artificial és el mateix, necessitem ètica. Però, és clar, l’ètica no et ve així… “Vinga, sigueu bons”. Si anem a l’equip de desenvolupament, no li dieu: “Vinga, sigueu bons, feu el bé”. No, necessitem un decàleg, però no existeixen decàlegs a l’hora d’entrenar la màquina. De fet, hi ha una eina del MIT, que es diu Moral Machine, on se’ns situa per entrenar un cotxe autònom i se’ns posen diversos escenaris en el cas que un cotxe es quedi sense frens. I hem d’entrenar la màquina en virtut del nostre sistema de creences. Aleshores, és molt complex. Necessitem ètica. És clar, qui atropelles? La nena, el nen o la persona embarassada? Després, hi ha empreses… Aquí, un incís. Hi ha empreses de cotxes autònims que, si tu t’has comprat el cotxe, tu ets qui se salva. Hauries pogut comprar un altre cotxe. No? Per algun motiu has comprat el cotxe.

Molt important incorporar aquesta ètica, aquesta regulació, a les primeres fases del disseny i el disseny. Segur que tots hem utilitzat alguna eina, no en diré el nom, que és tediós d’utilitzar, tornes enrere, al final has de deixar el procés de compra, que és agònic… I moltes més coses. El disseny. I us podria mencionar moltes més qüestions on… La psicologia. On prem el botó o com usarà…? O si usem… Fixeu-vos-hi, el to de veu en un assistent virtual: què utilitzaré, masculí o femení, una veu femenina? “No, és de cures”. Ja, però aquí hi ha els estereotips. I si atens una urgència a la carretera, un home? Les dones no sabem canviar les rodes? No? Aquí hi ha moltes… De fet, hi ha un llibre meravellós sobre la personalitat dels assistents virtuals. Moltes qüestions que aborda la intel·ligència artificial i que necessita perfils d’humanitats. Però, és clar, va molt ràpid tot això. I aquí necessitem que aquests perfils d’humanitats siguem autodidactes perquè sabem que en la formació reglada no tenim això. És molt complex que hi hagi aquestes formacions híbrides, tenim les formacions per sitges. “Jo soc de Matemàtiques. Jo, d’Enginyeria. Jo, de Filologia Clàssica”. I per què no comencem a generar aquesta convivència en els plans d’estudi? Però, com que no hi ha convivència, et tocarà, com vaig fer jo, descobrir pas a pas. Anar-me formant. I tots els perfils d’humanitats som necessaris. François Chollet, que és un expert de Google que va generar una llibreria que es diu Keras, que de fet això ha donat… La gent que sap d’aquesta tecnologia sap què és TensorFlow, que ha ajudat molt a ajudar les màquines a entrenar-se.

Bé, doncs ell deia, fixa-t’hi, en un tuit del 2017: “Abans em preocupava que la gent no sabés de matemàtiques. Ara, el que realment em preocupa és que la gent no sàpiga d’humanitats”. I a la inversa, necessitem aquesta convivència dels dos coneixements. I aquí es requereix humilitat. Es requereix humilitat perquè també cal hackejar estereotips quant al coneixement. José Antonio Marina, al seu meravellós llibre ‘La inteligencia fracasada’, en parla. Que, normalment, per estereotips, els més intel·ligents… Enginyeria. “Va fer Enginyeria a curs per any!”. I la gent fa… “Va fer Filologia a curs per any!”. “D’acord”. Per això és necessari no ser ningú més que ningú. La cooperació. De fet, és un principi de la intel·ligència artificial. La beneficència. Fer el bé. La no maleficència. Que aquest ús no sigui per coses i casos que estem veient. I el principi de la cooperació. Necessitem cooperar diferents perfils i fer equips diversos.

Begoña. Hola, Cristina, soc la Begoña. Un luxe escoltar-te, de debò. Jo tinc una pregunta. Quan pensem en persones famoses relacionades amb la tecnologia, sempre ens venen al cap homes. Steve Jobs, Bill Gates… Ens podries donar el nom de dones que hagin estat importants per a l’avenç de la tecnologia?

Cristina Aranda. Doncs la primera enginyera informàtica. La primera enginyeria informàtica va ser Ada Byron, Ada Lovelace. Ella, junt amb Babbage, va desenvolupar una màquina. I ella va dir: “’‘Tranqui’, que jo t’ajudaré a comunicar-nos amb la màquina, a desenvolupar el primer llenguatge de programació”. L’algoritme, ella el va crear. De fet, fixa-t’hi, aquesta senyora a finals del segle XIX ja va dir que les màquines generarien totes les coses que ens fascinen. Ella ja ho va dir: “Les màquines generaran música, generaran imatges…”. Perquè ella ja era una visionària. Això a través de la comunicació. Després, els anys 40 va ser una època prolixa i trobem Hedy Lamarr, amb el wifi. Qui d’aquí utilitza el wifi? Com diu un amic meu: “Mentre hi hagi wifi, hi ha esperança”. Als joves els traiem el wifi i hi ha un “digital drama”, com titulo jo. Doncs el wifi el va crear també una senyora, Hedy Lamarr, que era actriu i enginyera. I, en col·laboració amb Antheil, que era un músic, a través de les partitures, ella li va exposar el problema de compartir aquestes ones i va dir: “Ah, doncs mira”. I entre tots dos van generar aquest sistema de comunicació. Però, a més, el van generar i van regalar la patent al govern dels Estats Units, que no els va fer cas i no se’ls va reconèixer. I us recomano un meravellós documental, ‘Bombshell’, on ella acaba amb un meravellós monòleg que diu que la gent mediocre et dirà coses, t’ho qüestionarà, però tu fes-ho igualment. La gent et dirà: “Però ets capaç…?”. Fes-ho igualment. És meravellós. Després, també el GPS. El GPS l’utilitzeu? Què faríem avui sense els Maps? Doncs això també.

Gladys West, una senyora afroamericana. Ella genera el GPS. I moltes, moltes… L’eBook. Ángela Ruiz. De fet, els premis nacionals d’Espanya d’informàtica porten el seu nom. Ángela Ruiz, una mestra de Lleó que va crear una enciclopèdia automàtica i la va patentar gràcies al seu marit, perquè en aquella època el marit havia d’autoritzar que es fes aquesta patent. Però anem a res, a ahir. Oi que ens sona supergalàctic o supercomputacional el reconeixement de la còrnia? Doncs el va desenvolupar Celia Sánchez, una catedràtica d’oftalmologia, i el va desenvolupar, el va patentar, va guanyar una patent i va guanyar un premi internacional d’inventora. I l’any passat, la gran Elena García Armada, amb el seu exoesquelet, permet nens en cadira de rodes, nens i nenes, que puguin caminar i desenvolupar la seva musculatura. I podria seguir i seguir. El gran drama és que la història està feta per homes blancs, judeocristians, heterosexuals i sense discapacitat. Aleshores, què passa? Que ens trobem als llibres de text un 8 % de dones només. Fixa-t’hi, cap filòsofa apareix aquí, al pla d’estudis d’Espanya a secundària, a segon de batxillerat. A Viquipèdia. Hi ha un 11 % de dones. Qui hi treballa com a editora et dirà que és més difícil introduir les dades d’un perfil d’una dona que és referent que d’un jugador de tercera regional de futbol. És més dramàtic, et qüestionen més. Ja pot ser Nuria Oliver, Nerea Luis, Pilar Manchón, eminències de la intel·ligència artificial, que et qüestionaran.

I és dramàtic. Hem de hackejar aquests estereotips i també donar el reconeixement que mereixen aquestes dones.

Sara. Hola, Cris, em dic Sara. Encantada i un plaer escoltar-te. Tinc una pregunta per fer-te, que és: des de la teva experiència i com a fundadora de Mujeres Tech, quines són les principals barreres que es troba una dona i com les pot superar?

Cristina Aranda. Doncs comencem per l’educació. Per l’educació. De fet, hi ha molts estudis que diuen que a les nenes, abans de complir sis anys, els pregunten: “Qui vol ser presidenta del país?”. Aixequen la mà. I, a partir dels cinc o sis anys, ja fan així, com si diguessin: “No molestaré, no em faré veure”. I això també es veu amb moltes coses. Això està relacionat amb els estímuls que rebem. Hi ha un meravellós documental de Chus Gutiérrez que es diu ‘Rol & Rol”, on s’exposen els estímuls que rebem, però també com som educades. De fet, hi ha un estudi molt curiós que és un nadó al qual posen roba rosa i aleshores graven com les persones interactuen amb ell. I després, el mateix nadó, amb roba blava. Com creieu que interacciona la gent quan és amb el nadó vestit de rosa? Què fa la gent? Quin to de veu utilitzen? En canvi, quan entren i interactuen amb el nadó de blau: “Home, campió!”. Això està molt relacionat amb les coses que rebem amb els estímuls. Com diem a Mujeres Tech, hem de hackejar aquests estereotips. A mi, quan parlo… “Aquesta nena és una manaire”. Perdona, és una líder. És a dir, és una líder perquè a un noi no li diràs “manaire”. Igual que als nois quan ploren, quan expressen aquestes emocions, no cal menystenir-los. “Sembles una noia”. No, al revés. “Plora, expressa. Expulsa aquesta ira, gestiona la teva frustració”. Perquè després, en un futur, sàpiga gestionar tot això. Aleshores, comencem ja per l’educació, per aquests primers nivells. Jo, quan vaig a taules rodones i diuen: “Les dones…! És culpa nostra, que ens ho hem de creure més!”.

Perdona, tu no vas a un país on hi ha fam, agafes un nen o una nena i li dius: “Has de menjar més”. No, no, tot parteix de l’educació i dels estímuls i del que la societat espera de tu. Quines coses s’espera que fem les dones? Quines tasques? Cures, atenció… I com hem de ser? Calladetes, educadetes. I les dones que som assertives o que tenim lideratge sempre hem sentit: “Sembles un noi”. O inclús quan hem assumit llocs de responsabilitat: “Però tu en seràs capaç?”. Perdona, jo seré capaç de tot. No? I moltes més coses que sentim i que, és clar, van minvant. Com m’he de presentar a liderar un equip dins de la meva empresa si contínuament rebo estímuls? Aleshores, primer cal hackejar aquests estereotips, fer educació, sobretot en aquest sentit, tant a nois com a noies. I aquí hi ha una meravellosa cançó que van fer dues escoles de l’Alt Pirineu, d’Osca, que no sé si heu escoltat, que és: “Capaç, audaç, intel·ligent no tenen masculí, no tenen femení. És qüestió de dos. Feliç, alegre, independent. No tenen masculí, no tenen femení. És qüestió de dos”. Comença per la base, per l’educació, i també per casa, pels valors que veiem. Després, dins de les empreses. Hi ha alguns homes que pensen que els trauran aquest centre de poder. O quan parlem de quotes, per exemple: les dones que arriben molt alt a empreses han hagut de passar per una marató X-Trial o com en vulgueu dir, han hagut de passar per moltes coses i justificar contínuament què fan allà. Aleshores, cal treballar en aquest sentit i cal complir els plans de diversitat de forma real, de forma real, que no sigui un feminisme fake.

No, cal complir aquests plans i donar permisos de paternitat i la mateixa igualtat d’oportunitats. I començaria per, a l’empresa, donar formació, que tot el món en sigui conscient. Jo, quan faig formació, que impartim a Mujeres Tech formació a empreses, molts cops se m’apropen i en diuen: “Ostres, no ho havia vist així, m’has tocat”. És clar, inclús recordo a Woman Tech, que és un esdeveniment referent a Osca, al qual va venir Chus Gutiérrez a presentar ‘Rol & Rol’… Doncs va venir un periodista i em va dir: “Noia, m’he quedat en xoc, estic encara… Perquè, és clar, no havia vist d’una forma tan clara el que viviu les dones”. Però això és qüestió de dos, com diu la cançó. Necessitem, d’una banda, donar aquesta autoestima a les dones. El “creu en tu”. Jo, quan dic a la meva neboda: “Vinga, què ets?”. Em diu: “Guapa”. “No, tu ets llesta”. Llesta. D’acord. I a ell? “Plora”. Quan veus algú: “Plora, plora, no passa res”. Deia Rojas-Marcos que les dones vivim més perquè parlem més. Aleshores, és clar, en això cal treballar de forma igualitària i, com diu la gran Rosa Luxemburg, hem de construir entre totes i tots una societat on siguem socialment iguals, humanament diferents i totalment lliures.

Patricia. Hola, Cristina. Com a usuària d’intel·ligència artificial diàriament, hi ha una cosa que em preocupa, i és que has comentat que la intel·ligència artificial s’alimenta de dades, i el que em preocupa és que aquestes dades puguin estar esbiaixades. Aleshores, ens podries comentar una mica què són els biaixos i quins creus que són els més comuns?

Cristina Aranda. Moltíssimes gràcies per la pregunta perquè és una qüestió que cal abordar. Un cop es parla d’intel·ligència artificial, és una de les qüestions clau. Hem dit que les dades, com deies… A la màquina cal entrenar-la. I què passa? Que molts cops agafem tot el que hi ha a internet, que molts cops és masclista, homòfob, racista, etcètera, i tot el pitjor, i agafem aquesta informació i la inserim com a input, que se’n diu, a la màquina, i la màquina processa aquesta informació i en fa un output i em dona un resultat d’aquesta informació. Per tant, per exemple, posem noms de feines en anglès que no tenen marca flexiva, de gènere, masculí o femení, les posem al traductor espanyol… Oh, sorpresa! Les dones no podem ser jutgesses ni enginyeres. Netejadores sí i infermeres sí. Aleshores, dius: “Uh…”. Però, si anem, per exemple, a eines com una senyora va demostrar fa poc, fa dos anys, que va pujar el seu propi currículum en masculí i en femení a un portal de cerca de feina. Juana i Juan, imagineu-vos-ho. El mateix, eh? La informació més rellevant del currículum quina és? El que s’ha fet, on s’ha estudiat i el potencial que tens, no qui ets. Aquestes variables d’identitat. Oh, sorpresa! Quin resultat li va donar? Doncs, si ets dona, et proposava i et proposa llocs de feina menys remunerats i menys qualificats. És clar, dius tu: “Bé, tenim biaixos en les dades”. La màquina no té ètica. La màquina, si tu hi introdueixes porqueria, en treu porqueria. Si la dada ve neta, ben analitzada i amb claredat de la dada, et generarà coses netes, de qualitat. D’acord, les dades ja tenen biaixos, però pensem en l’ètica, la regulació… No n’hi ha.

És més fàcil llançar una intel·ligència artificial al mercat que una joguina, per exemple. Segons Daniel Kahneman, un dels grans Premis Nobel d’Economia, quan has de prendre decisions a l’hora, en aquest cas, d’entrenar la màquina, prendràs decisions en virtut del teu sistema de creences, de la teva intuïció. És clar, pensem que, si en aquests equips no hi ha persones de color, no hi ha persones negres, no hi ha persones asiàtiques, no hi ha persones musulmanes, doncs passa el que passa. Van denunciar GPT-3 perquè hi introduïes un input, un “prompt” que deia: “Dos musulmans entren…”, “…en una església i fan de tot menys el bé”. Passaria el mateix si hi poséssim: “Dues cristianes, dues persones cristianes…”? I moltes solucions. Joy Buolamwini, que és una activista d’intel·ligència artificial que denuncia… A ella li van donar una beca per fer el doctorat al MIT. Quina va ser la seva sorpresa? Que va arribar al reconeixement facial i, com que era negra, no la reconeixia. Es va posar una màscara blanca i ja la reconeixia. Això ho podeu veure en un documental meravellós que es diu ‘Coded Bias’, biaixos codificats. I us podria explicar un munt de coses. És clar, els equips que desenvolupen aquesta intel·ligència artificial no són diversos, tots pensen el mateix. Aleshores, a l’hora de programar, no tenen consciència de la diversitat que hi ha a la societat. Aleshores, com es hackegen aquests biaixos? A l’hora de desenvolupar, al moment inicial de desenvolupament del producte, qüestionant-te coses: “Ep, quines dades estic utilitzant? Estan ben hackejades?”. De fet, hi ha solucions d’“open source”, de codi obert, on tu puges les dades i et diu si estan esbiaixades.

O “per què utilitzes una variable i no una altra?”. I aquí arribem a una qüestió molt important que hauran de treballar les empreses, institucions públiques, que utilitzen algoritmes per prendre decisions, que es diu XAI, “explanaible artificial intelligence”. És a dir, has d’explicar per què, si estàs utilitzant un algoritme per prendre decisions que impacten en persones, quines variables estàs agafant? Perquè seria suficient, en aquest cas, per exemple, amb els currículums, anonimitzar les variables d’identitat. “Algoritme, no tinguis en compte ‘dona’… No ho tinguis en compte”. I moltes solucions que es podrien tenir en aquesta etapa inicial de desenvolupament de producte. I aquí és necessària un altre cop la diversitat. Hi ha una eina que jo acostumo a recomanar, que és l’Ethic Model Canvas, desenvolupada per Tim Berners-Lee d’Open Data Institute. Model Canvas és una tela on hi ha diferents requadres, on diferents perfils intervenen en la creació del producte. Un quadre, un petit quadre, seria “fonts de dades”, on jo recullo les dades. Quina mena de dades? Dades relacionades amb la identitat, dades de la geolocalització de les persones. On tens allotjades les dades? Privacitat. Aquí ja hi hauria les persones de Legal i començaria a treballar amb persones de Regulació, amb persones de Disseny, amb persones de Màrqueting. Què passa si la intel·ligència artificial que jo he llançat està esbiaixada? Després puc tenir una crisi de reputació. Doncs ja hi hauria aquestes persones. De forma cooperativa, estem produint o intentant minimitzar aquests biaixos de la intel·ligència artificial.

Jacobo. Hola, Cristina, com estàs? Soc en Jacobo. Es parla molt de com les eines basades en intel·ligència artificial ens poden ajudar a solucionar alguns dels grans reptes actuals de la humanitat, com són el canvi climàtic o l’eradicació de la pobresa. En quina mesura creus que això és així, que això és possible? I ens pots donar exemples de com això es pot aconseguir?

Cristina Aranda. Moltíssimes gràcies, Jacobo, per la teva pregunta. Això és una mica complex, perquè què ocorre? Aquests sistemes d’intel·ligència artificial necessiten una computació, una sèrie de màquines que processin tot això. Quan pensem en el núvol, en el nostre mòbil, pensem que això ve del no-res. I això són una sèrie de màquines, granges de màquines, que consumeixen molta energia. Això per començar. Per tant, estem parlant de com aplicar la intel·ligència artificial. I, de fet, hi ha propis models d’intel·ligència artificial que consumeixen més energia que d’altres. Aleshores, a l’hora del disseny d’aquestes intel·ligències artificials… Però sí l’aplicació al clima i a moltes solucions. Per exemple, en els Objectius de Desenvolupament Sostenible té un alt impacte. Pensem que tots aquests objectius de l’ONU, per exemple, el canvi climàtic, l’abolició de la pobresa o ajudar a minimitzar la pobresa… Tot això molts cops és gestionat amb dades o les dades ens poden ajudar a gestionar tasques. Per exemple, s’utilitza la intel·ligència artificial en camps de refugiats per repartir de forma equànime els diferents aliments, que molts cops aquí hi ha tretes, hi ha màfies internes. Aquí ajuda, per “computer vision”, a veure on hi ha el repartiment equitatiu. O en el canvi climàtic, per exemple. Hi ha una plataforma de l’ONU que es diu AI for Good, perquè a totes aquestes eines d’intel·ligència artificial que tenen un impacte positiu en la societat se’ls coneix com a AI for Good, on llancen reptes. L’ONU llança reptes. Hi ha un repte meravellós que m’encanta d’unes abelles, que són les responsables del 80 % de la pol·linització. Però també la intel·ligència artificial pot predir, ajudar a predir, una plaga en determinades collites, que se’n diu SAP, sistema d’alerta primerenca.

Poden detectar, a través de la humitat, els dispositius, els sensors, que és l’internet de les coses. Em pot dir: “Ep, mira, compte, que pot aparèixer aquesta plaga”. I, pel que fa al canvi climàtic, he preguntat al meu soci, Paul Van Branteghem, que és físic i que en sap molt. Perquè el clima és el sistema més caòtic i el generador, font de dades…, és a dir, el volum de dates més gran… La gent pensa que són les xarxes socials. No, és el clima. “Les xarxes socials”. No, és el clima, és molt caòtic. És clar, per això molts cops consultem… “M’ha dit que faria sol, però havia de ploure i després plou. I ara no”. És molt complex gestionar tot això, però aquesta eina és d’uns canadencs, d’un equip canadenc, que és: tu fas una foto a la teva casa… Imagina-t’ho, idíl·lic, amb el teu cotxe guapo i, a través d’una intel·ligència artificial, et fa un escenari caòtic amb l’impacte del clima: inundat… Tot perquè prenguem consciència de l’impacte de no cuidar el nostre clima.

Andrés. Hola, Cristina. Hi ha prou gent que té por de tot el que ens ha de venir. Com es podria regular tot el potencial positiu de la intel·ligència artificial perquè absolutament tota la gent se’n pugui aprofitar?

Cristina Aranda. Doncs gràcies perquè és el gran… El que sents. Molts cops que vaig a fòrums, dic: “Ja tornen a dir que morirem, que eliminaran els nostres llocs de treball”. Aquests estímuls que sentim. A veure, el progrés és el que té. És a dir, quan va aparèixer la locomotora, la gent pensava que es desintegraria perquè anava a 30 quilòmetres per hora. Ara ens sembla… I ara estem tot el món somiant agafar l’Hyper Loop i plantar-te d’Osca a Màlaga en un moment. I què passa? La intel·ligència artificial és una eina. I què passa? La intel·ligència artificial és una eina. És una eina. La intel·ligència artificial no et traurà el lloc de treball, te’l traurà algú que sàpiga utilitzar aquesta intel·ligència artificial. Això sí, hi haurà llocs de treball que desapareguin. Per exemple, com va passar amb l’aparició de l’electricitat. En la indústria, hi va haver una reestructuració economicosocial… Doncs hi ha determinats llocs de treball que ja no treballen en cadena, que ja és un robot qui ho fa. D’acord, doncs molt bé. A l’època dels meus pares hi havia serenos aquí al carrer i ara són intèrfons. I aquest intèrfon el dissenya algú, l’instal·la algú, el manteniment el fa algú… I moltes coses. I té després un gran impacte. El Fons Monetari Internacional calcula que es destruiran 87 milions de llocs de treball, però se’n generaran 193. I molts d’aquests llocs de treball no se sap quins són. El “prompt engineer”, això que ara es parla de les persones que saben donar instruccions a la màquina, això fa cinc anys no se sabia. I, a més, aquí, les persones que en sàpiguen, que siguin molt bones en la descripció lingüística, en el fet de donar la instrucció a la màquina, guanyaran bastants diners. Aleshores, això és un exemple de la quantitat d’oportunitats que tenim. És necessari saber què és aquesta tecnologia i el potencial que té.

I pensem també… Us he parlat molt de les limitacions que tenen avui dia aquestes eines, aquestes tecnologies. Atenen només una cosa específica, no tenen aquesta capacitat de l’emoció, l’empatia. Jo a un robot el puc entrenar perquè em digui… Que li digui jo amb unes FAQ, amb unes preguntes de respostes fàcils. Però no implica que tingui empatia, simplement, que ha estat entrenat i per aquests patrons em dirà… Si jo li dic: “Estic trist”. “Vinga, Cristina, anima’t, et poso aquesta música que és la que a tu et flipa”. Ai, que simpàtic, que empàtic que és el sistema. No, me l’he programat jo. És a dir, no és empàtic. És clar, abordem temes… La intel·ligència artificial… De fet, un professor de Standford, Thorne, diu que s’hauria d’incloure en l’àmbit de les humanitats perquè implica reflexió, implica qüestionar-nos a nosaltres com a persones i implica també parlar d’aquesta reflexió de la consciència, que és percebre’s a un mateix i percebre l’entorn i qüestionar-se coses. Les màquines no tenen això. Les màquines hem dit que tenen zeros i uns, i fan zero coma zero, zero, zero, i no tenen aquesta part cognitiva de l’emoció, de la sensibilitat, de la pell. No tenen això. Jo sempre poso l’exemple del meu nebot: vam anar un dia a una gran cadena de productes ràpids d’hamburgueses i dic: “Ah, segurament vol anar al tòtem, automàtic”. I va dir: “No, no, no, vaig amb en Sebas, que m’atén superbé”. És clar, aquí és on ens representarà el gran valor. On aportarem valor els humans, en aquesta relació personal, en l’empatia, en les emocions, en moltes coses que les màquines no tenen.

Aleshores, pensem que… No ens deixem angoixar per la por. Més por ens han de fer altres coses. És una eina. Jo en poso exemples. Per exemple, Ana Freire. Coneixeu el gran problema que hi ha amb la salut mental. De fet, els nostres joves se suïciden. És la principal causa de mort en els adolescents. Ana Freire, junt amb un equip divers de persones especialitzades en psiquiatria, lingüística, psicologia i enginyeria, han entrenat una màquina per detectar conductes suïcides a Twitter i els envien un missatge de manera que han aconseguit… Els envien un missatge com si fos un anunci. “Necessites ser compresa o comprés?”. Aquí juguen amb el vincle a través del llenguatge i han aconseguit incrementar un 60 % de trucades al Telèfon de l’Esperança. I us podria enumerar un munt d’intel·ligències artificials que resulten en un impacte positiu, però això neix de les persones, i som les persones qui tenim la capacitat de generar aquest canvi i d’utilitzar aquesta tecnologia de forma meravellosa. Bé, doncs espero que, a través d’aquesta conversa, aquest debat, aquestes preguntes, hàgim tot el món perdut la por de la intel·ligència artificial i en sortiu amb ganes d’utilitzar aquesta increïble tecnologia. I també tenint en compte la diversitat. La diversitat com una cosa enriquidora per fer coses d’alt impacte. I penseu que aquesta tecnologia continua sent molt ximple i nosaltres, les persones, som molt llestes. Així que, com deia la gran Gloria Fuertes al seu meravellós poema ‘No tinc memòria’: “Estem les persones condemnades a ser intel·ligents a seques”.