La intel·ligència artificial pot expressar emocions?

Nerea Luis. Em dic Nerea Luis Mingueza i soc doctora en Ciències de la Computació o, més concretament, en Intel·ligència Artificial. I el primer que volia fer abans de començar a parlar amb vosaltres era explicar-vos una mica la meva història, d’on vinc i com em vaig acabar dedicant a aquesta àrea que sembla tan nova i tan futurista alhora, però que està molt relacionada amb el present. Quan era petita, m’encantava dibuixar, m’encantava dibuixar manga, anime. L’animació japonesa era una cosa que em tornava molt boja i, en concret, m’agradava una sèrie que es deia ‘Sailor Moon’. Potser els més joves ja no la coneixeu, però era una sèrie que anava sobre l’empoderament femení. Eren guerreres que el que intentaven era ajudar perquè el món fos un lloc millor. I una d’elles es deia Sailor Mercury, que, per cert, és també el meu nom a les xarxes, i aleshores, es dedicava a aportar el seu coneixement, però utilitzant un petit ordinador. I, mirant enrere, és el primer moment que recordo tenir la sensació de dir: “Ui, potser vull ser com ella”. Però era un dibuix animat.

Aleshores, com que m’agradava molt dibuixar i, cada vegada, aprendre millor a fer tot aquest tema, dibuixar manga, va arribar internet. I això, no ho sé, tenia uns 11 o 12 anys. Recordo obrir l’internet, veure el cercador de Google, ara és una cosa molt comuna, i tu, allà, podies ficar paraules. Aleshores, imagineu-vos-ho, la Nerea d’aquell moment el primer que va fer va ser posar ‘Sailor Moon’ al buscador, i van començar a sortir moltes coses. I aquestes coses eren informació que, en aquell moment, jo no havia aconseguit trobar d’una altra forma. El que passa és que moltes també venien en anglès. Potser ara ens hem acostumat a interactuar amb els sistemes en el nostre propi llenguatge, però és cert que, en aquell moment, hi havia molta informació en anglès. Aleshores això és el que em va fer començar una mica a indagar per què la gent compartia informació per internet, per què, de sobte, veies pàgines web i estava tot el contingut allà gratuït. Jo, així, no havia d’anar al quiosc, comprar una revista… Aleshores, vaig començar a indagar i, per a mi, va ser gairebé com un joc. Vaig començar a fer la meva primera pàgina web, la meva primera pàgina web sobre ‘Sailor Moon’, com no podia ser d’una altra manera, i vaig començar a compartir, bé, les poques coses, realment, que sabia. El que passa és que vaig aprendre una cosa molt més interessant, que va ser aprendre a programar, sense adonar-me’n, a través del que ara coneixem com a tutorials. Aleshores eren blogs a internet. Doncs vaig aconseguir, d’alguna forma, estudiar: “Què és això de l’HTML? Què és això de les capes que posa sobre les webs, etcètera?”.

I, aleshores, ser capaç de publicar-ho i que la gent ho llegís. D’aquí arriba una altra fase molt important, que és quan poses noms a les coses, i per a això hi ha l’institut. I a l’institut, ja als últims anys, es notava que tenia facilitat per a la informàtica i, òbviament, allà ja em van dir: “Això és una carrera, ho pots estudiar, t’hi pots dedicar. Es diu Enginyeria Informàtica, més enllà dels altres exemples que puguis conèixer”. I, aleshores, allà va ser quan ja vaig decidir fer-ho. Tenia bastant clar que em volia dedicar a la informàtica. El que no sabia era a quina part de la informàtica, perquè, potser, la informàtica l’associem als ordinadors, però, de sobte, hi ha assignatures de tota mena, del hardware, que és la part que toquem, del software, d’internet, ara mateix, també, aplicacions mòbils. Jo vaig entrar a la universitat el 2009 i recordo que en aquell moment era una mica esponja de tot el que passava per allà, fins que, un dia, va arribar a la meva oïda això de la intel·ligència artificial. Teníem una assignatura que es deia Intel·ligència Artificial i, en aquell moment, el professor ens explicava que estava relacionada amb una part de la computació de la informàtica, tal com la coneixem, que ens intentava barrejar dades, intentava barrejar també la capacitat de les màquines per tractar de fer-les intel·ligents. I, és clar, això, òbviament, sona molt futurista, sona també molt atractiu per a algú a qui li agradava la robòtica, per exemple, o li cridaven l’atenció aquests animes tan futuristes, aquesta animació japonesa.

I aleshores, vaig decidir que potser havia de donar una oportunitat a aquest camp. Òbviament, n’existien molts d’altres: videojocs, desenvolupament pur de webs, etcètera. Però, en aquell moment, alguna cosa va fer clic en mi amb la intel·ligència artificial. Què passa? Que, en aquell moment, realment, si pensem que era 2010, 2011, existia la intel·ligència artificial, perquè és una àrea que fa molts anys que està en desenvolupament, però potser no se la coneixia tan popularment com ara, amb exemples tan visuals. En aquell moment, quan jo estic aprenent tot el que té a veure amb la intel·ligència artificial i a formar-me, el que vaig decidir va ser fer un doctorat que m’ajudés a especialitzar-me. Quan vaig acabar la carrera, vaig decidir dedicar-me al món de la investigació, i ho vaig fer, més o menys, durant uns cinc anys, on vaig intentar connectar, diguem-ne, la part més teòrica de la intel·ligència artificial, que, per cert, té molt a veure amb el raonament, té molt a veure amb la planificació, amb com pensem, després hi aprofundirem més, però també tenia a veure amb l’aplicació. I, aleshores, vaig començar una mica a unir aquests dos mons de la part teòrica menys visual amb la part, diguem-ne, de robòtica, la més física. I sí que és cert que, en tota l’etapa del doctorat, vaig poder conèixer moltíssima gent, moltíssims investigadors que t’ajuden una mica a assentar aquestes bases, però a mi em faltava una part que tenia a veure amb la comunicació, i també crec que és una de les coses per les quals avui també se’m coneix a internet, i té a veure amb com apropes la intel·ligència artificial, aquest concepte tan eteri, a persones, a persones com vosaltres. Jo també m’he dedicat, sobretot en aquests últims set, vuit anys, a la divulgació del camp de la intel·ligència artificial. Vaig cofundar un esdeveniment que es diu Tech Fest, també, a la Universitat Carlos III, i després, ja vaig anar al món de l’empresa, i aquí sí que tens ja aquesta capacitat de treballar amb una intel·ligència artificial una mica més aplicada.

Aleshores, reprenent una mica el concepte d’intel·ligènci artificial, si pensem què significa, que, més o menys, ja ho he avançat, i si pensem també en el moment en què vivim, ha passat alguna cosa. Sabem que la intel·ligència artificial és amb nosaltres. Però, és clar, si pensem en la mateixa definició, la intel·ligència artificial, quan la definim, té a veure amb aquests processos, us deia, com pensem, com raonem. Al final, són coses que ens fan molt humans. Si penseu en què ens diferencia dels animals, de seguida, segurament, penseu en la intel·ligència, en la forma de pensar. No és casual, no? No és casual tampoc que ho vulguem intentar fer amb màquines. I, realment, així neix el camp de la intel·ligència artificial, i neix amb aquesta ànsia d’aconseguir el que anomenem la intel·ligència artificial general, aquest superrobot o aquest supercervell que és capaç d’adaptar-se a qualsevol situació, inclús aprendre de situacions que no coneix, que és una cosa semblant també al que fem nosaltres quan anem agafant experiència. Però què passa? Que, avui dia, encara, quan treballem en intel·ligència artificial, tant en investigació com en el món de l’aplicació, en el món de l’empresa, de les organitzacions, al final, el que busquem és una intel·ligència artificial específica, és a dir, aquella que, utilitzant dades que, per si soles, realment no valen res, si les començo a connectar, es converteixen en informació. I si les mantinc al llarg del temps, començo a estudiar patrons i faig que es converteixin en coneixement. Començo a veure com la gent es comporta de forma similar davant de certes situacions o com, de sobte, una analítica comparada amb milers de persones comença a tenir alguna mena de patró. Això és la intel·ligència artificial del dia a dia, i tot això ho anomenem intel·ligència artificial específica. Finalment, és clar, què ha passat en aquests darrers anys? Que, de sobte, hem dit: “Ostres, si ja sabem convertir les dades en coneixement, per què no aprenem a generar-ne de nous?”. Si ja comencem a treballar també amb imatges, si comencem a treballar amb text, intentarem, d’alguna forma, generar dades noves, amb els mateixos algoritmes o similars. I, aleshores, ara estem vivint una nova etapa, potser, dins de la intel·ligència artificial, que anomenem intel·ligència artificial generativa, i és la que ens ha portat al fet que avui estem vivint tot aquest “hype” descontrolat, i tan bonic alhora, que tot el món vulgui parlar i vulgui escoltar sobre intel·ligència artificial.

Leo. Hola. Soc en Leo i em preguntava… En moltes pel·lis de ciència-ficció hem vist màquines i robots amb intel·ligència artificial que ens intentaven destruir, com a ‘Terminator’. I jo em preguntava si creus que això és un problema que ens hauria de preocupar o no. Com ho veus?

Nerea Luis. És una pregunta molt bona, la veritat, és un bon punt de partida. Com ens pot exposar la intel·ligència artificial o els avanços de la intel·ligència artificial a trobar-nos en una situació en què, de sobte, un robot o directament un ordinador ens vol matar, no? O, de sobte, és més intel·ligent que nosaltres. Te la contestaré, però pensant també en els orígens, d’on ve la intel·ligència artificial, perquè jo crec que s’entendrà molt millor. En els inicis, gairebé abans que s’encunyés el terme d’“intel·ligència artificial”, que, per si no ho sabeu, va ser el 1965, és a dir, realment és una àrea que no fa tant de temps que està en desenvolupament si la comparem amb altres àmbits científics… Hi va haver un matemàtic una mica abans, considerat el pare de la computació, que es diu Alan Turning, i Alan Turing ja va formular al seu dia, més o menys, pel 1950, el famós test de Turing, o el joc de la imitació que, si no el coneixeu, hi ha una pel·lícula que van fer fa uns anys, i aquí ja es formulava aquest dilema: “Podrem aconseguir en una habitació fosca, on hi hagi dues pantalles, que en una banda hi hagi un humà i a l’altra banda hi pugui haver una màquina o un altre humà?”. I que l’humà que està al primer ordinador hagi de decidir mitjançant una interacció per teclat, sense parlar, si qui està parlant a través d’una conversa és una màquina o és un altre humà. Això es coneix com el test de Turing o el joc de la imitació.

Es considerava que, en el moment en què una màquina fos capaç de confondre l’humà que és a l’altra banda fent-se passar per un humà de debò, es considerava que, aleshores, la màquina era superintel·ligent. Què passa amb això actualment? Que la forma en què ens comuniquem, el mateix llenguatge, les mateixes sensacions que tenim, a vegades, d’incertesa, del moment d’allò desconegut, ens fan pensar que encara estem molt lluny d’aquest escenari, diguem-ne, ‘Terminator’, en direm, d’aquesta superintel·ligència. Per què? Per coses que són molt òbvies, però que, a vegades, ni tan sols ens n’adonem. A la màquina li hem d’ensenyar a parlar, li hem d’ensenyar, com deia, a planificar. Però, per exemple, li hem d’ensenyar també a agafar coses. Si tinguessis un Terminator davant de tu, voldries que caminés bé, que caminés de forma natural, que es mogués de forma àgil i, si penses, per exemple, en la quantitat de decisions que pren el teu cervell, si jo, per exemple, et llancés… Imagina’t que et llanço una pilota. El simple fet de com agafes la pilota, de com estimes quant pesarà, de si et farà mal o no et farà mal, de si et caurà, és una cosa que els humans fem tan ràpidament que això, per exemple, per a una màquina, si pensem en la quantitat d’objectes als quals et pots exposar, la quantitat de persones amb què pots xocar i generar alguna mena de conflicte, són situacions que costa molt exposar a la mateixa gestió de la dada. Aleshores, fins que no treballem totes aquestes capes, per això parlem molt de raonament, de planificació, fins que no treballem tot aquest intermedi que és allà, des de la IA específica fins a arribar a aquesta intel·ligència artificial general, serà molt difícil veure’ns exposats a una situació així. El que sí que estem aprenent últimament és a treballar, sobretot, amb diferents tipus de dades que facin els sistemes una mica més flexibles, i en diem multimodalitat. Però, per resumir, podem estar tranquils. Encara estem lluny d’aquest escenari ‘Terminator’.

Ana. Hola, Nerea. Em dic Ana. Pel que fa al que estem parlant, dius que hi ha formes de mesurar la intel·ligència, el pla cognitiu, però, moltes vegades, jo crec que la por que ens fa o la incertesa és pel pla emocional. Aleshores, no sé si es pot ja o es podrà en un futur educar una intel·ligència respecte a tot allò emocional: això de les emocions, si es pot sentir, si se li poden programar records, com a “Blade Runner”… No ho sé. Com ho veus?

Nerea Luis. Doncs la veritat és que la gestió de les emocions amb les màquines no s’avenen, de base. Però a veure si hi aprofundim una mica més. Quan, per exemple, esteu sentint coses, quan alguna cosa t’agrada molt o quan alguna cosa t’agrada poc, hi ha una part de nosaltres que, òbviament, és la cara, les expressions visuals. I hi ha hagut molt de debat sobre això, de dir: som capaços de detectar l’emoció d’una persona a qualsevol part del món? I resulta que, després de molts anys d’estudis, sembla que no hi ha una conclusió clara que no tots expressem… O la quantitat, diguem-ne, de somriure que posem, l’aixecament de celles, etcètera, que són mecanismes que s’utilitzen per a aquest reconeixement d’emocions, resulta que no en totes les persones són iguals. Per exemple, té molt a veure també amb la cultura, amb la teva herència, també, d’on vinguis, de com t’expresses. Aleshores, què passa amb les emocions? Jo crec que cal preguntar-se una altra cosa, que és si realment les màquines necessiten expressar-les. Jo crec que sí que hi ha una part molt interessant en el fet que les comprenguin, que entenguin aquests moments en què nosaltres sentim frustració, en què sentim un cert temor, perquè sí que hi ha certes coses que, a través del llenguatge, a través d’aquestes microexpressions, podem arribar a detectar, amb esforç, però es podria fer en l’àmbit tecnològic. Però, no obstant això, si pensem d’utilitzar-les dins d’una interacció al llarg del temps, és a dir, que la màquina estigui en tot moment no només processant emocions, sinó també responent en conseqüència, que és una cosa que, potser, podem esperar d’un ésser humà que, si jo em sento malament, la persona em digui: “Ho sento”, i així… Això crec que seria inclús nociu per a nosaltres. Aleshores, hi ha un corrent bastant ferm de no donar gaire recorregut a tot aquest tema del… tant el reconeixement com l’expressió de les emocions de la màquina. I no acaba d’haver-hi un acord, sobretot, en la part més acadèmica, de si, de debò, té sentit llançar un producte, per exemple, al voltant del reconeixement d’emocions. Generalment, no funcionen bé en molts aspectes. Aleshores, jo diria que és una cosa que, potser en el futur, se li torni a donar una oportunitat, però, actualment, encara que la tecnologia podria estar llesta, és una cosa que, socialment, no acaba d’estar gaire acceptada. Hem vist exemples, també, en ciència-ficció, però es queden, diguem-ne, en la ciència-ficció.

Laura. Hola, Nerea. Soc la Laura. Et volia preguntar, per què, en els últims anys, hi ha estudis que parlen sobre com els robots ajuden a la recuperació de pacients, cuiden persones grans… Aleshores, volia saber si ens podries donar algun altre exemple de com els robots ens poden ajudar en el dia a dia.

Nerea Luis. Els robots la veritat és que són elements molt útils si pensem com ens poden ajudar, sobretot a complementar espais on, potser, no pots tenir tants humans com t’agradaria per un tema de capacitat, sobretot, i d’atenció. On hem vist, sobretot, molts avanços al voltant d’aquesta mena de robòtica que menciones, que és la robòtica social? Doncs, efectivament, en salut, en entorns tant d’infància, diguem-ne, de nens petits, com de persones grans, i té a veure també amb el moment de la vida en què trobem aquesta mena de col·lectius. Si pensem en la infància, hi ha un moment, que és el que et toqui anar a hospitals, per exemple, que et toqui fer alguna mena de rehabilitació de petit, que són situacions molt hostils, que són entorns que, per al nen o la nena, es fan molt complicats. Aleshores, sí que s’ha vist com aquesta robòtica social, que moltes vegades consisteix a posar un robot que sigui petit i que el nen el veu com el seu amic, doncs sí que és cert que sembla que, en veure’l d’igual a igual, pot ajudar que aquesta teràpia o aquest acompanyament es faci d’una forma una mica més natural, més enllà que estiguin prop d’ell els familiars, o d’ella. Si pensem, diguem-ne, en les persones grans, en la tercera edat, sí que hi ha una part… També et diré que, sobretot, s’ha desenvolupat molt en la cultura asiàtica, que té a veure amb robots socials, però que s’assemblen més a peluixos. De fet, hi ha un exemple, fa molts anys ja, deu anys o més, es va llançar Paro, que era una foca així, de peluix, i es va popularitzar molt a les residències de la tercera edat al Japó.

I, realment, l’únic que feia aquesta foca, perquè, en aquell moment, òbviament, els sistemes conversacionals no estaven tan desenvolupats com ara, doncs era expressar una certa estima a través de gesticular, però gesticular molt poc. És a dir, us podeu imaginar com és un… Imagineu-vos una foca animada. Doncs això, si li posem un format de peluix, us en podeu fer una idea, més o menys, tenia aquesta mida, i el vincle que es va estrènyer amb aquestes persones va ser exagerat, perquè, de sobte, tenien una mena de mascota. És a dir, no era un vincle com el del nen, que era d’igual a igual, sinó que era com tenir una mascota, i moltes vegades tenia a veure que aquesta mena d’animals no es poden tenir a residències per tot el tema higiènic, d’acompanyament, etcètera. Aleshores, aquí, per exemple, la robòtica social sí que s’ha anat desenvolupant d’una manera molt positiva. I hi ha un altre exemple que m’agradaria compartir perquè, a més, té a veure amb nosaltres, amb el nostre país, que és un… Marsi Bionics, no sé si ho coneixeu, és una empresa que neix també de la universitat, i la seva CEO, la seva presidenta, és l’Elena García Armada, i va ser una de les pioneres que van utilitzar una cosa que anomenem exosquelets. No sé si us imagineu l’Iron Man, però una cosa semblant. Aleshores, per exemple, aquests exosquelets serveixen per afegir-los al nen i, aleshores, que aquesta persona que té, en aquest cas és un nen, problemes de mobilitat, de sobte, pugui fer una rehabilitació una mica més forta, es pugui arribar a aixecar i, en aquest sentit, li canviï la vida.

Aleshores, sí que veiem una tendència bastant forta de com la intel·ligència artificial també està complementant aquesta fase, diguem-ne, de la robòtica. Quina altra cosa també molt bona s’ha vist en la intel·ligència artificial? Que podem utilitzar la capacitat de treballar amb veus sintètiques per a persones que tenen dificultats a l’hora de parlar. O, per exemple, si pensem en internet, tota la capa d’accessibilitat, diguem-ne, la podem treballar també amb intel·ligència artificial i generar descripcions automàtiques, generar, sobretot,contingut accessible per a persones amb discapacitat. Aleshores, es comença a obrir una amalgama d’oportunitats que va des d’allò més aplicat fins a la part més d’investigació, com pot ser l’última referència, que volia compartir, que seria AlphaFold, que va ser un descobriment que va fer l’empresa DeepMind, on el que pretenien era estudiar amb intel·ligència artificial quantitats ingents d’informació sobre proteïnes del nostre cos per intentar predir com es desenvolupen certes patologies. En estudiar com es desenvolupen aquestes patologies al nostre cos, també podem ajudar a predir en quin moment succeeixen. I això es fa mitjançant aquest estudi, el que anomenen el plegament proteic. Aquest treball, per exemple, ha fet que s’obri la base de dades més extensa de proteïnes, tant reals com generades de forma artificial, diguem-ne, i que s’estigui treballant ara mateix en “deep learning” i biomedicina, bioquímica, en molts llocs, en grups d’investigació.

Hi ha una altra àrea, també en la salut, que té a veure amb la salut mental, i aquí, la intel·ligència artificial també veiem com ens comença a ajudar, sobretot a detectar alguns comportaments que podem observar, tant a través de converses, per exemple, que tenim en xarxes socials, com, per exemple, amb pacients, en el cas que estem interactuant amb ells. Pot ser també en consulta, però, generalment, la intel·ligència artificial sí que tracta de cobrir aquest espectre d’atenció, sobretot a través d’internet. I hi ha un projecte molt interessant, que va fer també una investigadora espanyola, per exemple, al voltant de la prevenció del suïcidi, de com estudiant grups de comportament en xarxes socials, grups que tenien tendències a parlar d’aquests temes, de suïcidis, d’anorèxia, de diferents malalties mentals o temes de salut mental, com, mitjançant aquesta mena d’algoritmes, com, mitjançant l’estudi dels textos, de les expressions que utilitzaven, dels hashtags, es pot ajudar, per exemple, a prevenir alguna mena de conseqüència que es pugui arribar a donar. Aleshores, és una àrea, potser, menys explorada, però on també, segurament, veiem grans avanços utilitzant la intel·ligència artificial, això sí, sempre, en aquest cas, protegint i anonimitzant la font d’origen. Tots aquests sistemes i tots aquests treballs que es tracten tenen també un component, diguem-ne, de certificació, de posar en marxa, que no són tan ràpids, diguem-ne, de funcionar com podria ser l’algoritme de pel·lícules de Netflix. Al final, té un procés regulador molt més extens.

Chica 1. Hola, Nerea. Jo et volia preguntar sobre una cosa que està molt a l’ordre del dia, que són les notícies falses, o fake news, i, concretament, com de difícil és detectar-les. Volia saber si penses que les noves tecnologies poden comportar algun risc que ens acabin manipulant.

Nerea Luis. Les fake news són un tema que, sobretot arran de la pandèmia i de les últimes eleccions que es van fer als Estats Units, no ha parat d’emergir, en les xarxes socials, en molts racons se n’ha començat a parlar, inclús, dins de la intel·ligència artificial, tant si s’està fomentant aquesta generació de contingut fals com si es pot utilitzar la intel·ligència artificial per detectar-la. Sí que m’agradaria començar parlant de la manipulació. A les xarxes socials, veiem, òbviament, el contingut al qual ens sentim més afins, donem “likes”, tenim formes de mesurar com la gent es comporta a internet, sobretot, en aquests espais de conversa. No sé si heu vist el documental ‘El dilema de les xarxes’, on es parla de totes aquestes coses. Però sí que un dels temes en què incideixen és com pots arribar a conèixer la persona simplement amb la informació que hi ha a internet, tant per a bé com per a mal. I després, també, com les persones rebem la informació. Aleshores, a l’hora de treballar, per exemple, amb temes de fake news, hi ha una part molt complicada, que és intentar predir la forma que tenen, perquè els temes generalment són d’actualitat, i les màquines no tenen una bona relació amb l’actualitat. És a dir, com us deia, són capaces de predir situacions que ja han conegut abans. Sí que podem estudiar certs comportaments. El famós “clickbait”, aquesta forma de cridar l’atenció perquè cliquis. Sí que es pot estudiar com una notícia pot semblar o pot tenir un cert component tendenciós abans, inclús, de llegir-la.

I aquí sí que la intel·ligència artificial està fent els seus primers passos. Però tot el que té a veure amb la validació de la informació és una cosa que, actualment, s’escapa inclús de la mateixa intel·ligència artificial. Ens pot ajudar, això sí, a traçar com s’han difós “fake news” per internet. Això s’ha fet, sobretot, amb la xarxa social Twitter, ara anomenada X, on s’ha vist com es poden utilitzar inclús per estudiar la intel·ligència artificial grups que disseminen, en aquest cas, “fake news” al llarg d’internet, com es mouen, com es comporten. Aquí sí que és cert que la intel·ligència artificial ens aporta poder extreure patrons davant una volumetria que no deixa de créixer. Però, a l’hora d’aturar-les, és, al final, una cosa de cadascú, de com reaccionem davant la informació, com la verifiquem. Sí que veiem també nous mecanismes a internet que tracten de validar la font, l’autoria. Potser algun dia s’encreua, inclús, amb tecnologia “blockchain” o amb alguna mena de signatura electrònica on puguis, d’alguna manera, dir qui ets. Això s’ha plantejat inclús en la generació de vídeo, però continuen sent tecnologies molt emergents. I, d’altra banda, tenim també poca regulació al respecte. Aleshores, veurem com evoluciona, però, avui dia, excepte que sabem que ens veuen i ens personalitzen aquestes temàtiques i les coses que volem llegir, encara no podem aportar més enllà.

Chica 1. Arran del que comentes, em ve al cap un vídeo de Morgan Freeman, l’actor, en què diu: “Jo no soc Morgan Freeman i aquest vídeo no és real”. Quines tecnologies creus que s’utilitzen per fer això?

Nerea Luis. Doncs aquesta mena de vídeos que han anat emergint a internet, el de Morgan Freeman, n’hem vist també molts altres, sobretot amb rostres famosos que, al final, són el perfil idoni perquè els coneix molta gent. Són, en aquest cas, “deepfakes”, que anomenem, que és fàcil empassar-t’ho, sembla que són molt reals. Aquí és cert que utilitzem intel·ligència artificial, per exemple, per fer “match”, connexió, entre qui està gravant el vídeo, que realment és una persona com qualsevol de vosaltres, i després, tota la recopilació de vídeos i de dades que s’ha fet al voltant de Morgan Freeman. La intel·ligència artificial el que fa és encreuar-les, la forma té d’expressar l’actor i la capa visual, diguem-ne, seria la de Morgan Freeman. El que passa és que encara, actualment, és difícil veure aquesta tecnologia funcionar en temps real. És a dir, aquí, per exemple, en aquest plató, seria molt difícil generar un “deepfake” de tots… d’algun de vosaltres, en qüestió de segons. Al final, són tècniques que encara requereixen temps d’anàlisi, de, després, producció del mateix algoritme que va fent tota aquesta relació entre una figura i una altra, i després, en la majoria dels casos, sobretot en vídeos que es viralitzen a internet, que tenen una alta definició, el que hi ha hagut també és una mica de postproducció. D’acord? Què és el que sí que està fent la intel·ligència artificial? Cada vegada digerir molt més ràpidament aquesta mena de dades i, cada vegada, és cert que cal menys postproducció. Però si m’estiguessin, per exemple, enfocant a mi, la forma que tinc de gesticular, la forma que tinc de moure els ulls, de fer certs gestos que són molt meus, com que seria una altra persona, diguem-ne, la que està gravant aquest missatge, seria una forma, d’alguna manera, senzilla, o almenys senzilla actualment, de detectar que podria estar exposada al fet que m’hagin impersonat, que és com anomenem aquesta menada d’atacs.

D’altra banda, també hi ha moltes vegades que si no s’ha fet bé aquesta postproducció, que això es fa amb eines d’edició digital, no es fa amb intel·ligència artificial, el que podem veure són petites imperfeccions o canvis que hi pot haver en el fons, junt amb la persona, sobretot si ens movem de perfil, es pot perdre una mica de definició també, i inclús en els reflexos de les ulleres, que això ha estat molt sonat, els reflexos de les ulleres, la forma en què entrellacem els dits, de sobte, potser tens algun pla en què perdis algun dit o surti algun dit de més. Aleshores, això són avantatges, vull dir, també a l’hora de diagnosticar-ho i saber si ens trobem amb un “deepfake”. Però veurem en un futur també com evoluciona aquest tema, perquè és cert que, sobretot en l’aspecte regulador, farà parlar, sens dubte.

Sofía. Hola, Nerea, soc la Sofía. A mi m’interessa molt la capacitat de poder fer fotografies a partir de paraules, frases. Per exemple, m’agradaria fer una fotografia d’una nena amb una caperutxa vermella, en un bosc, i que la persegueixi un llop. Tu creus que la intel·ligència artificial té la capacitat de tenir aquesta creativitat per si mateixa? O serà la creativitat la que ens diferenciï als humans de les màquines?

Nerea Luis. És una pregunta molt bona perquè just l’exemple que has posat sobre una caperutxa vermella, un lloc al bosc… Segur que tots heu pensat en el conte de ‘La Caputxeta Vermella’. Què passa? Que és una de les coses que, a vegades, la màquina no entén. Però ara, gràcies a poder expressar-nos amb el nostre propi llenguatge natural i a tota la quantitat de dades, diguem-ne, que anem donant a la màquina, resulta que si apareixen les paraules “caputxeta” o “caperutxa”, “vermella”, “llop”, “bosc”, segurament hi ha per darrere, en la intel·ligència artificial, alguna associació també amb la paraula “conte”. Aquesta mena d’associacions les fa la intel·ligència artificial. Amb això què vull dir? Que cada vegada més aquesta forma de relacionar els diferents contextos, la informació, les nostres referències, fa que també s’assembli aquest procés una mica al nostre procés creatiu, en què ens inspirem, agafem referències, diem: “Aquest estil m’agrada”, “Aquest potser no tant”, “Les ombres aquí estan bé”. I aportem una coherència dins de la fotografia, dins del quadre que volem fer, que ens comença a recordar molt al collage que munta la intel·ligència artificial i que ara sembla que, a cop de clics, ja tenim moltes opcions que inclús ens atrevim a seguir editant amb més llenguatge, com veiem amb les últimes eines. Aleshores, sí que és cert que jo era de les que pensaven fa uns anys que la creativitat i les màquines era una cosa que estava molt llunyana. Hi ha vídeos, de fet, de mi el 2017 dient: “No, és una cosa que trigarem molt a aconseguir”.

Però sí que és cert que crec que hi ha una diferència quant a com nosaltres percebem aquesta creativitat, aquest procés, potser, com el considerem més artesà, més nostre, més de cadascú, i com percebem la de la intel·ligència artificial. Aleshores, crec que són dues formes de fer creativitat diferents. Hi ha una part que està més centrada, òbviament, en dades, que és la de la IA, i hi ha una part més d’inspiració nostra, que és la que anomenem art. Què passa? Que crec que, aviat, deixarem de parlar d’art fet per humans o per intel·ligència artificial. Crec que tendirem més al fet que el mateix humà s’aprofiti de les característiques i de les plataformes que ofereix la intel·ligència artificial per accelerar la part de l’esbós, per exemple, i que després puguem aportar aquest toc nostre en una fase d’edició posterior i que, realment, sigui una obra que has fet de forma col·laborativa. Serà una cosa, crec, que veurem aviat.

Chica 2. Hola, Nerea. És possible que, si en algun futur, ens implanten xips al cervell als humans, puguem ser més intel·ligents? És més, creus que aquesta tecnologia pot tenir cap risc per a nosaltres?

Nerea Luis. Xips intel·ligents. No n’hem tingut prou encara amb la intel·ligència artificial, que pensem en xips intel·ligents. Fixa-t’hi, crec que és un tema que, òbviament, beu molt de la ciència-ficció, com passava fa molts anys amb la intel·ligència artificial i la robòtica. Us implantaríeu alguna mena de xip sense que estigués certificat, per exemple, per un organisme mèdic, o sense que estigués, d’alguna forma, testat en humans com vosaltres? Jo crec que ningú. És un món, potser, una mica llunyà. Sí que és cert que es comencen a veure els primers prototips, però encara tenim poca informació sobre l’èxit de tots ells. Veurem que és una cosa que s’estudia, però no necessàriament dins del camp de la intel·ligència artificial. Al final, és una àrea en què combinem la computació, en aquest cas, per la part del xip, amb l’àrea, diguem-ne, més bio, la que estudia com tota aquesta tecnologia es podria inserir dins de la nostra pròpia pell, del nostre propi sistema nerviós, i veure com hi reaccionem. Aleshores, no crec que sigui una àrea on la intel·ligència artificial tingui molt de protagonisme. Sí que és cert que crec que hi haurà un moment en què veurem alguna mena de proliferació d’aquesta mena de sistemes, com el famós Neuralink d’Elon Musk. Veurem el seu desenvolupament. No sé si s’arribaran a certificar com a tal. Sí que s’ha vist que hi ha, per exemple, algun mecanisme de pagament que s’estava veient, aquest contactless amb què paguem amb targeta o amb el mòbil.

Que sí que hi havia gent que deia que es podia posar un xip així a la pell i pagar amb el canell. Però, per a mi, continua sent una àrea que miro amb molt de respecte. I, de nou, una mica referint-me al moment en què hem parlat sobre les emocions, també em pregunto si és necessari, si realment volem arribar a aquest moment. La intel·ligència artificial potser podria ajudar en com dotem d’informació aquesta mena de xip. Sí que és cert que, en l’àrea de la salut, per exemple, s’han fet alguns estudis i s’han arribat a treballar amb algunes freqüències que, per exemple, per a pacients de Parkinson, que, al final, tenen problemes, sobretot de vibració amb… És un problema de sistema nerviós. El que intenten fer és implantar-li un petit xip on emetem el senyal contrari a la vibració que fan, o a aquesta emissió, a aquest senyal que emet el seu cos de forma constant. Per tant, passem… Si estudieu com són les ones, passem d’estar fent així a fer el senyal contrari i ens quedem en una cosa plana. I, de sobte, un pacient que no és capaç, igual, d’agafar una cullera, els veiem emocionats perquè, realment, els estàs canviant la seva forma de viure i, sobretot, de desenvolupar-se de forma comuna. De nou, aquesta mena de sistemes potser necessiten més temps per veure el seu funcionament i perquè es popularitzin, precisament, per aquest sistema regulador. Perquè també ens preguntem: “Ep, com de segurs són aquests estudis i les primeres anàlisis que es fan amb pacients reals?”.

I aquí també entra un tema, sobretot, regulador i, potser, també d’inspiració, en què es comença a parlar de neurodrets, de si arribem més enllà de l’era d’internet, de la privacitat i de qui som, i si pensem que necessitarem tenir alguna mena de protecció, per exemple. Si pensem en l’àmbit biomètric, si pensem en nosaltres, com som cadascú, de la nostra empremta, diguem-ne única, que som com humans, aquí sí que es parla molt de si, d’alguna manera, hem de protegir l’individu. I, sens dubte, crec que és un tema que interessarà a molts neurocientífics que, actualment, estan estudiant el cervell, les emocions, etcètera i, segurament, comencin a convergir aquests temes de dades, intel·ligència artificial, neurodrets.

Chica 3. Hola, Nerea. M’agradaria preguntar-te sobre el reconeixement facial que, per exemple, usem per desblocar el mòbil, si té alguna mena de risc.

Nerea Luis. El reconeixement facial és una altra de les àrees d’estudi de la intel·ligència artificial, dels algoritmes, en general, que ha generat bastant debat, la veritat. Perquè, és clar, d’una banda, dius: “Posaré mecanisme d’identificació”. Associem el reconeixement facial a una forma de reconèixer-nos de forma unívoca, de forma única. Tots tenim una cara bastant diferenciada. Aleshores, això, pel que fa a la tecnologia, està molt bé, és una passada, però, pel que fa a la protecció de l’individu, com ens desenvolupem al llarg del temps, potser és una cosa que no ens agrada tant, i n’intentaré posar alguns exemples. Quan ens estem identificant, per exemple, amb el mòbil, ara que s’han posat molt de moda els “face ID” o el reconeixement amb empremta, és un reconeixement que fem biomètric, però, generalment, aquesta informació sobre la nostra cara, la que utilitzen per escanejar-nos abans d’implementar aquest sistema, que el puguem utilitzar en el nostre dispositiu, s’emmagatzema tot en local, és a dir, la informació teva biomètrica està al teu mòbil. El teu mòbil fa aquesta validació i el que envia és un senyal al servei de tercers que esteu utilitzant, a l’app del banc o a WhatsApp, on sigui que teniu posat aquest “face ID”, per dir-li que us ha validat, que ha vist que sou vosaltres els que esteu davant del telèfon. Aleshores, per això, aquesta mena de sistemes sí que veiem que prolifera com a dispositiu que guardem a la butxaca, com dic jo. No obstant això, no ho veiem tant en sistemes d’espais públics, si pensem en càmeres. Per què? Perquè la informació, aquest reconeixement facial que jo estaria fent de persones en un espai públic, hauria d’anar a un servidor que jo no sé on és, no sé qui l’opera ni sé qui guarda aquestes dades.

Es parla molt de com el reconeixement biomètric també, amb la nova llei d’intel·ligència artificial, estarà prohibit en espais públics, excepte si és realment necessari, si podem pensar en entorns de cerca de menors, alguna investigació policial i, inclús, es parla també d’entorns de guerra. Aleshores, no és una cosa que veurem d’una forma molt popularitzada a Europa, però sí que, com us dic, és una tecnologia que existeix avui dia i que es pot utilitzar i és segura, sempre que es faci en el dispositiu. Hi ha un altre exemple que genera també molta controvèrsia i que s’ha escoltat en els mitjans, que és una iniciativa, un projecte, que el que vol és escanejar el teu iris. Aleshores, imagineu-vos-ho. Si ja us dic que les vostres cares són úniques, si jo em quedo amb la informació del vostre iris, que, per cert, és una de les coses que menys canvien en el vostre cos, perquè la vostra cara, més o menys, amb els anys, excepte ja quan som més adults, ja deixa de canviar. Però l’iris, per exemple, és una de les coses que menys canvien i que més informació contenen, també, d’una persona, pel que sembla, també, en l’àmbit genètic, etcètera. Aleshores, l’escaneig de l’iris, per exemple, podria ser un mecanisme tal com s’està fent ara mateix, que és segura la forma de fer-ho, però no la forma d’emmagatzemar-ho. Hi ha molts dubtes i molts debats respecte a què… on s’utilitzarà aquesta informació, o, més aviat, què passaria si, de sobte, algú ataca aquest sistema que té emmagatzemada tota aquesta informació biomètirca del teu iris.

Per què? Perquè el teu iris no el pots canviar. No és com una contrasenya. No és com, potser, la teva cara o la teva empremta, on es podria estudiar, potser, fer-ne alguna mena de modificació. Però fer-te una operació d’iris no crec que sigui el més fàcil, una cosa que vulguem fer. Aleshores, compte amb això. No és un tema d’ara, és a dir, el meu missatge és que no és un problema d’ara. El risc és en el futur, perquè, igual, el teu iris, d’aquí a deu anys, continua sent molt semblant i, aleshores, et podrien impersonar, et podrien fer alguna mena d’atac maliciós. Hi ha un documental molt interessant a…, crec que a Netflix, que es diu ‘Sesgo codificado’. I, aleshores, aquí el que es planteja és una altra mena de dilema que també té a veure amb aquest reconeixement facial, que és quan jo faig un reconeixement facial tècnic, he de ser capaç d’identificar qualsevol mena de cara. D’acord? Això significa que soc capaç de reconèixer un nen, soc capaç de reconèixer un adult, però també soc capaç de reconèixer diferents ètnies, per exemple. Si reconec la pell blanca, que és el que fan la majoria dels sistemes productius actualment, doncs, de sobte, tots formeu part del sistema. Però fa poc, sobretot pel 2016, 2017, es va començar a veure, gràcies a estudis fets per diverses, sobretot, investigadores en intel·ligència artificial, una d’elles és Buolamwini, Joy Buolamwini… Va estudiar com ella mateixa, que era negra, se sentia molt fora d’aquesta mena de sistemes de reconeixement biomètric facial perquè, directament, la seva cara no la detectaven els sistemes.

Per tant, també tenim aquí una àrea d’estudi on ens hem de posar, mai més ben dit, en la pell de l’altre. Hem d’intentar entendre la diversitat d’exemples a la qual ens exposem, sobretot, si ens dediquem a aquesta part més tècnica, com a la que em dedico jo, de construcció i disseny d’algoritmes, però també com se sentiran aquestes persones, perquè, encara que estem ara debatent si és segur o no és segur, no sentir-te identificat, no sentir-te part d’un sistema, significa que estàs obviant part de la població, que té el mateix dret a desenvolupar-se dins d’un sistema d’intel·ligència artificial o fora d’ell. El que es va veure, sobretot, en aquesta mena de sistemes, era que, a mesura que anàvem treballant amb diferents ètnies i també quan canviava el gènere, per exemple, d’home a dona, també es percebia com el sistema anava disminuint aquesta precisió en el reconeixement. I, de fet, hi ha una imatge, un vídeo al documental, on ella mateixa, en la seva tesi doctoral, es construeix una màscara blanca que encaixa amb la seva cara, i en el moment en què se la posa, hi ha moltíssims algoritmes d’intel·ligència artificial que, de sobte, la identifiquen, a pesar que veuen una màscara, però és una màscara amb forma humana. Perquè vegeu fins on arriba. Un altre exemple també molt semblant, similar, no necessàriament és un tema d’intel·ligència artificial, té a veure també amb la sensòrica, és com reconeixem el palmell de la mà.

I aquí també hem vist casos on, en dispensadors de sabó, per exemple, a una persona negra, de sobte, no li detecta la mà el sensor. És a dir, que també hi ha una àrea d’estudi, dins de la intel·ligència artificial i, sobretot, que toca la perspectiva més social, i aquí s’estan ficant també molts perfils humanistes i de ciències socials a estudiar-ho, que és la inclusió, com mesurar la inclusió d’aquesta mena de sistemes i, sens dubte, crec que serà un dels grans avanços, sobretot, perquè la intel·ligència artificial sigui socialment acceptada.

Chica 4. Hola, Nerea. Alguns experts diuen que la intel·ligència artificial i els robots eliminaran molts treballs. En canvi, n’hi ha d’altres que diuen que en crearan de nous. Tu què n’opines?

Nerea Luis. El futur del treball és un altre dels grans dilemes de la intel·ligència artificial. Encara que jo crec que, al final, ho ha estat sempre. Si pensem en les diferents revolucions que hi ha anat havent al llarg de la història, sí que vivim com existeixen grans canvis, grans disrupcions. Si pensem en les últimes, internet seria una d’elles. Els mòbils podríem pensar que en són una altra a l’hora de com ens relacionem i com ens comuniquem. Però, si pensem en la nostra feina, és clar, la intel·ligència artificial porta una cosa nova que no havia passat abans, que és la capacitat ara de parlar com nosaltres, perquè, de sobte, hem passat d’utilitzar intel·ligència artificial només amb codi, que era el que fèiem els enginyers i enginyeres fins no fa gaire, a, de sobte, obrir-ho a tota la població i interactuar amb el llenguatge natural. Aleshores, què passa amb això? Que ens aixeca aquesta alerta de dir: “Ostres, començo a veure una màquina que fa coses semblants a les que jo faig si sé com demanar-les-hi”, no? He d’aprendre a saber com demanar-les-hi. Li he de donar, segurament, un context també de la tasca que vull arribar a fer, però, de sobte, la fa. Potser no la fa tan perfecta, potser no està tan exposada a situacions, com hem comentat anteriorment, que tenen a veure amb la incertesa, amb els escenaris més desconeguts o amb aquesta experiència, però si penséssim en una persona que acaba d’arribar a una feina, que no té aquest coneixement, aquesta experiència de l’organització, o si pensem en algú com vosaltres, els més joves, que encara us queda molt per aprendre i per descobrir, doncs, ostres, potser la tecnologia artificial, de sobte, us pot ajudar a treballar molt més de pressa, però també fa que obrim l’altre debat, que és: “I, aleshores, quant valdrà la meva feina?”.

Al voltant d’això, jo sí que soc de les que defensen que em resulta molt difícil pensar en una suplència total, diguem-ne, en un reemplaçament total de la intel·ligència artificial respecte a llocs de treball. Potser, també, perquè veig la part en què la intel·ligència artificial no funciona bé, i hi estic molt exposada en el meu dia a dia. Veig com la intel·ligència artificial es confon, com, a vegades, no entén bé la terminologia de certes paraules, un cert context. Aleshores, em resulta molt difícil que sigui capaç de fer-ho bé en qualsevol mena de professió. Si pensem, per exemple, a resumir, fer actes, traduir, s’han vist exemples d’aquest estil en què sí que sembla que aquests sistemes generatius comencen a despuntar. Però, de nou, crec que no tindríem la qualitat que necessitem si només utilitzéssim la intel·ligència artificial. I després hi ha el tracte humà. Al final, tot el món espera que, davant una situació, tinguis alguna mena d’atenció humana que t’ajudi a sortir-te’n, sobretot, en situacions que no coneixes o d’atenció al públic. Per tant, crec que serà més segur i més realista parlar de col·laboració. I una cosa que ara distingim molt, si ho ha fet un humà o una màquina, no serà tan estrany, en uns anys, dir: “Ho he fet”, i prou. No importarà si ho has fet parcialment amb intel·ligència artificial o amb una eina que tingui un parell de funcionalitats que utilitzen intel·ligència artificial. M’agrada pensar més en això.

I hi ha una frase, per exemple, de Sam Altman, del CEO d’OpenAI, que és una de les empreses ara mateix punteres en intel·ligència artificial, que diu que “la intel·ligència artificial és bona automatitzant tasques, no treballs”. Hi ha escenaris, de tota manera, on ens hem de preguntar també si no estem exposant massa els humans per perillositat que pugui tenir aquesta tasca o aquest tipus de feina. I aquí sí que veiem grans avanços en intel·ligència artificial, sobretot, si pensem, per exemple, en la revisió de torres elèctriques. Hi ha una tasca que és: “He de revisar l’estat d’una instal·lació, potser he de pujar a una torre d’alta tensió”. Aleshores, aquesta mena de tasques, ara, mitjançant la combinació de drons i d’intel·ligència artificial per analitzar les imatges que grava el dron, de sobte, són molt més segures de fer i no exposes aquesta persona a fer aquesta mena de tasques on pot patir un accident. S’està anomenant, hi ha una àrea que s’està denominant seguretat activa, que té molt a veure també amb com, en llocs de difícil accés, com pot ser en catàstrofes, en incendis, podem utilitzar, de nou, aquesta combinació de drons, per imatges aèries, o vehicles, inclús autònoms, que poden tenir un accés una mica més senzill en determinats terrenys, sense involucrar que un humà estigui conduint aquest vehicle, ens ajudin a entendre què passa i, de nou, entre la màquina i l’humà, intentar veure quina és la forma més senzilla d’actuar, però sempre protegint les nostres vides.

Jo crec que aquesta part és un… Bé, una bona notícia, una part molt positiva del desenvolupament de la intel·ligència artificial. I n’hi ha un altre que s’està veient també, que és, en instal·lacions, si pensem en indústria, per exemple, on hi ha molta cadena de producció, on hi ha molta maquinària, aquí s’ha incorporat molta sensòrica, on ja, per exemple, si hi ha un humà, la màquina no s’activa, per exemple, una màquina de tall o màquines així. Però també s’està intentant encreuar informació que barreja la imatge, o el que està succeint en aquest moment a la fàbrica, a la refineria, a qualsevol indústria, amb els processos de revisió. Si som capaços de combinar imatge amb text, si jo sé quan s’han revisat aquestes màquines, quina mena d’incidents hi ha hagut, en quins moments de l’any, si hi havia personal intern o extern. Són situacions que ens poden ajudar a reduir el nombre d’incidents humans que hi pugui haver, sobretot, com us dic, en entorns on hi ha persones més exposades a maquinària i poden patir un accident físic.

Amelia. Hola, Nerea. Soc l’Amelia. Soc estudiant de batxillerat tecnològic. Quan estaves a la carrera, éreu tres o quatre noies a la teva promoció. M’agradaria saber si creus que es necessiten més representants femenines en aquest sector.

Nerea Luis. Fixa-t’hi, jo crec que és una cosa que va canviant a poc a poc, no a la velocitat que ens agradaria i, per això, també he fet molta divulgació i molt d’activisme al voltant de la figura de la dona. Desafortunadament, en tecnologia, n’hem estat poques, però, a més que n’hem estat poques, s’han reconegut molt poques figures públicament. I té a veure també amb l’evolució del camp, amb el moment en què, per exemple, arriben els ordinadors, les computadores, els ordinadors personals, sobretot, i, de sobte, comencem a veure publicitat en què a nosaltres se’ns posa gairebé d’accessori, gairebé com quan veiem els anuncis, o aquells anuncis antics de cotxes, on apareixia una model. Doncs amb els ordinadors succeïa igual. Els missatges que hi havia tenien a veure amb: “La informàtica està dedicada a ser una cosa més productiva, que estiguis més temps amb la teva família”. Però la foto que sortia era d’un home amb vestit, no? Aleshores, sí que hi ha una part aquí que és com parlem i com elaborem altres discursos al voltant de la tecnologia. A mi m’hauria agradat, potser, sentir més exemples d’aplicació d’impacte social que després pots fer des de l’enginyeria, informàtica o qualsevol altra, però també m’hauria agradat sentir exemples com el de l’Elena García Armada construint l’exosquelet. O d’altres dones que han estat partícips en tot aquest desenvolupament de la tecnologia. Aleshores, sí, n’érem poques.

És cert que les que hi havia érem molt bones, això també ho he de dir, perquè també, quan t’hi vas quedant i t’intentes posar al nivell del que veus al voltant, de nou, hi ha una part de tu que es posa en alerta i el que intenta és encaixar i posar-se una mica a parlar com parla la resta. I moltes vegades no són converses a les quals estàs habituada com a dona. Aleshores, t’exposes més, treballes més, estudies més. I el que sí que m’agradaria també és llançar un missatge d’ànim. Vull dir, jo soc aquí. Potser soc un exemple de, bé, moltes altres que potser no tenen aquest altaveu que jo tinc avui, però sí que crec que és important que, cada vegada més, entenguem que és igual realment que siguem dones en el que sigui. Som professionals. Aleshores, que també crec que és molt important que es parli, encara que sigui de si falten referents femenins, que es parli també de la feina que fem, perquè, realment, és el que canviarà i el que farà que, per exemple, persones com tu o altres noies i dones que veig en l’audiència es decideixin a estudiar aquesta mena de carreres o li donin una oportunitat laboral perquè volen fer un gir en l’àmbit professional, que també es pot, i, sobretot, que normalitzem que no hi ha professions d’homes ni de dones. Si pensem, per exemple, a l’hora de treballar amb intel·ligència artificial i amb aquesta mena d’equips que trobes, on tu, potser, ets l’única dona i estàs envoltada d’homes, el que passa és una cosa molt particular, que és la manca de diversitat, no?

Quan abordes un projecte, la forma de pensar que tenim cadascú ve influïda per qui som, com parlem, com ens hem relacionat, el nostre bagatge cultural, estudis, etcètera. Aleshores, s’han donat casos, en tecnologia, precisament per aquesta alta tassa masculina, on s’ha arribat a dissenyar… Recordo l’exemple d’un smartwatch, fa anys, en què la corretja era molt ampla i, aleshores, resulta que no la comprava el públic femení i no sabien per què, i hi donaven voltes i deien: “Hi ha un problema de disseny”. I quan el van ensenyar a la primera dona que hi havia a l’empresa, els va dir: “La corretja és molt ampla. Una dona no comprarà un rellotge així”. Des d’aquest cas més obvi, que té a veure amb la interfície dels productes, a d’altres més greus, com que no estem igual de ben reconegudes en un reconeixement facial, en un algoritme, que se’ns associï segons quines paraules per biaixos que hi hagi en les dades històriques, on potser la dona ha estat menys exposada a la feina, ha estat també menys estudiada en medicina. Tot això fa que tinguem uns conjunts de dades que, si ara, de sobte, els fiquéssim en intel·ligència artificial, els patrons que en traiem… Potser la simptomatologia que jo tingui d’una malaltia sigui, en realitat, la d’un home, i jo tinc una simptomatologia diferent.

O, per exemple, en el cas de tots els sistemes de dispositius, etcètera, doncs potser no se’m reconeix igual, que no se’m reconegui bé la meva veu per ser una veu femenina, perquè és més aguda. I aleshores, en un sistema, si pensem en un cotxe autònom, resulta que potser no se’m reconeix igual de bé que la veu d’un home i m’estic posant en perill. Aleshores, observem situacions on això ja sí que arriba un moment que s’ha d’estudiar des de dins. No podem esperar a llançar aquest producte sense haver fet un estudi, una avaluació de biaixos i una avaluació de diversitat de les dades i, després, de les conclusions que tregui la intel·ligència artificial per, sobretot, en aquells entorns on els exposem a persones.

Carlota. Hola, Nerea. Soc la Carlota. Soc estudiant d’un grau que es diu Ciència, Tecnologia i Humanitats, i a la universitat podem trobar professors que estan… de dues postures pel que fa a la intel·ligència artificial. En primer lloc, que t’animen a usar aquesta mena d’eines i, d’altra banda, que no volen que usis aquesta mena de tecnologies i ho veuen com una mena d’amenaça en l’educació. Quina és la teva perspectiva sobre això?

Nerea Luis. A veure, jo sempre crec que, en gairebé tots els casos, estaré a favor de l’ús de la intel·ligència artificial. És cert que quan et dediques a la intel·ligència artificial i has vist les seves virtuts i els seus defectes, pots també relativitzar l’impacte al qual aquestes eines ens poden exposar, sobretot, perquè les has vist fallar, has vist on no funcionen bé. Jo crec que és bo que, en l’educació, es comencin a utilitzar aquesta mena d’eines, ja no per estar més a favor o en contra, sinó perquè serà una cosa que us trobareu en el vostre entorn laboral. Ningú pensaria actualment de fer una comptabilitat a mà o ningú pensaria avui d’anar a la biblioteca a cercar alguna mena de referència, quan tens internet. Aleshores, per a mi, la intel·ligència artificial és, de nou, un altre moviment, una altra disrupció en aquest sentit, en què ens ajudarà, sobretot, no tant a trobar informació, sinó a, directament, digerir-la i preparar-nos una mena d’esborranys que és cert que podríem, així, també, fer els deures de classe, no? Aleshores, crec que l’educació sí que anirà, a poc a poc, integrant aquesta mena de sistemes. És possible que no tingui sentit integrar-ho en tot l’espai educatiu, però crec que sí que és interessant que, d’alguna manera, s’utilitzi aquesta eina per dir: “Aquí tens un punt de partida. Et deixo utilitzar aquesta mena d’eines generatives”, parlo de les eines generatives, “perquè me’n facis un resum, diguem-ne, d’un tema ics”, pot ser un llibre, pot ser un tema que vols debatre, el que sigui, i la intel·ligència artificial te’n donarà un esborrany.

Poden ser tres paràgrafs, en poden ser quatre, li has pogut demanar que ho faci en anglès, el que sigui. Què passa? Que, a partir d’aquí, és on comença la teva tasca perquè potser no t’han agradat les referències que t’ha donat, potser has notat que s’ha equivocat en una cosa o potser a tu, com a estudiant, et toca contrastar-ho amb què posa a internet. Aleshores, aquesta feina s’assemblarà molt més a la que faràs en un futur, en el teu lloc de treball en uns anys. Arribarà un moment en què, com deia anteriorment, la col·laboració entre màquines i humans serà una cosa superhabitual, es convertirà en clics, clics, clics, i tractar d’iterar, iterar, iterar aquesta conversa. Per tant, com abans, també, us exposeu a aquestes eines i vegeu quins són els seus punts forts i febles, millor, no? I després crec que també té una part molt bona a l’hora de fer una mica d’aquest tutor personalitzat. I si no ho heu utilitzat d’aquesta forma, us ho recomano, perquè igual que, per exemple, jo estic contestant a les vostres preguntes, jo també puc utilitzar la intel·ligència artificial perquè em doni suggeriments sobre com contestar a aquestes preguntes. “Com utilitzaries aquest concepte, que és molt tècnic, i el portaries a una audiència que no sap d’aquest tema?”. “Quines preguntes em podrien fer en un examen que versa sobre aquesta tasca?”. “Em prepararies un test i em dius quines són les respostes correctes?”. És a dir, que aquí hi ha també una forma d’interactuar com a tutor on crec que la intel·ligència artificial sí que tindrà un paper bastant protagonista, sobretot en el moment en què ja l’estudiant potser no és a classe, ja és més a casa i ja té la seva forma de treballar, estudiar, el que sigui.

Charo. Hola, Nerea, soc la Charo. Moltes gràcies per la conversa perquè ha estat superinteressant i no volia deixar passar el moment per agrair-t’ho. La meva pregunta és la següent. Tu has parlat del “hype” que hi ha descontrolat amb tot el boom de la intel·ligència artificial generativa, però és cert que la gent es divideix entre dos models, entre els que estan fascinats amb les respostes que et dona el ChatGPT i els que estan horripilats i morts de por. Quina seria la postura que hauríem de tenir ara mateix davant aquests sistemes? Què en podem esperar?

Nerea Luis. De la intel·ligència artificial generativa podem esperar grans coses i grans avanços. És cert que jo defenso molt el punt mitjà, que és on diuen que hi ha la virtut. Aleshores, hem de ser optimistes respecte a aquests avanços i a com s’han popularitzat. Jo crec que això és molt bonic, sobretot per a mi, que m’he dedicat a això… Ara fa, més o menys, deu anys que em dedico a la intel·ligència artificial. És clar, haver pogut obrir tanta conversa amb persones de tantes indústries… No us ho imagineu. És a dir, ha estat un any de parlar amb periodistes, però parlar amb educadors, parlar amb persones d’indústria farmacèutica, salut, logística… No ho sé, inclús humanistes, si pensem en estudis de llengües mortes… Bé, moltes coses. Aleshores, hi ha un punt aquí amb la intel·ligència artificial, que és: què passarà en el futur, en el present gairebé, si pensem en els pròxims cinc anys? Sí que és cert que jo crec que baixarà una mica el “hype”. Vull dir, hi ha un moment, que és aquesta fascinació per totes les eines noves, després, ja, les anem integrant i ja, de sobte, ens n’oblidem gairebé en el moment en què van sorgir. Si pensem… Això ha passat molt amb el telèfon mòbil, per exemple. No ens hauríem imaginat mai que l’“smartphone” seria també la nostra forma de guardar la nostra informació més privada, com pot ser el compte del banc o com pot ser comunicar-nos amb la gent més propera a través del xat o, directament, buscar informació a través d’internet, que gairebé no utilitzem el telèfon ni tan sols per trucar, per fer trucades.

Amb la intel·ligència artificial crec que passarà una mica igual, en el sentit que començarem a trobar veritablement aquells sectors on tenen una aplicació molt forta, i sí que veurem, per exemple, tendències al voltant de com interactuem amb els nostres dispositius, i jo crec que aquest sí que és un tema que a mi em fascina bastant, pensar que, igual en uns anys, els teclats, tal com els coneixem, igual que s’han integrat a les pantalles dels nostres mòbils, que ja no tenim teclats físics, igual, ni tan sols necessitem per a moltes coses el teclat de l’ordinador, no? I tot ve perquè, de sobte, hem estat capaços de trencar la forma en què interactuem amb els sistemes digitals, per tant, la veu potser sigui el nostre següent instrument de cara a parlar amb aquests sistemes, entendre’ns i que vagin iterant de nou en aquestes tasques que volem portar a terme. Crec que aquest serà un punt molt interessant i que farà també que moltes persones comencin a treballar també dins de la intel·ligència artificial amb altres “backgrounds”, diguem-ne, amb un altre nivell, també professional. I després, crec que la bombolla també baixi una mica per la perspectiva regulatòria, perquè estem vivint un moment en què la intel·ligència artificial… Treure un producte a internet, treure nous avanços, sembla que arriben superràpid, però també, en l’aplicació, en el que és l’adopció d’aquests sistemes a les empreses, als entorns de salut, entorns com la justícia, per exemple, veurem com es regularan encara més tots aquests mecanismes d’auditoria, d’avaluació, de biaixos, per exemple, control de biaixos, control de dades…

Per tant, també farà que, diguem-ne, comencem a posar una mica aquest cinturó de seguretat o aquest airbag a la intel·ligència artificial, i també reposarà, segurament, aquesta mena d’avanços. El que sí que és cert que no sabem és la velocitat en què passarà tot això. I aquí sí que hi ha un gran interrogant perquè venim de dos, tres anys, d’avanços molt bojos i molt continuats d’intel·ligència artificial. Estàvem parlant el 2020, jo recordo el llançament del GPT-3, que va ser el pare de ChatGPT i, actualment, parlem de generació de vídeo amb Sora, que és un dels últims algoritmes que ha sortit. Aleshores, és clar, arriba un moment en què dius: “Quin ús donaré a això, més enllà del nivell regulador?”. No ho sé. Crec que la velocitat en què anem incorporant aquests sistemes al nostre dia a dia també ens donarà la direcció. Però cap expert, crec, ara mateix, en intel·ligència artificial o proper a aquesta serà capaç de dir-te el moment temporal perquè ens han passat tan per sobre, ara mateix, aquests tres anys d’avanços, avanços i avanços que necessitem una mica assimilar-ho tot, deixar també enlluernar-los per l’ús que li dona el públic i, aquí, doncs potser trobem noves col·laboracions o noves formes de pensar al voltant de la intel·ligència artificial. I, finalment, sí que m’agradaria també incidir en el fet que, tot i així, estem lluny de ser capaços de raonar amb aquestes màquines al nivell que ho fem nosaltres.

Hem parlat ja, a través de les diferents preguntes, d’això, però sí que és cert que la intel·ligència artificial, la generativa, que és la que veiem també que ha tingut més èxit o més acceptació per part del públic, encara són sistemes que no funcionen bé quan han de fer un raonament a llarg termini, quan han de prendre decisions, diguem-ne, tenint en compte uns paràmetres molt concrets d’una situació que es pugui donar, si pensem en una interlocutòria, per exemple, si pensem com funciona una empresa. Per tant, aquí encara falta molt de recorregut al voltant de nous avanços que s’aniran publicant, sens dubte, que aportin més capes, en aquest cas lògiques, a aquesta intel·ligència artificial que, realment, va néixer per generar contingut, per generar dades artificials. I aquí sí, en el moment en què ja es comenci a aconseguir això, potser comencem a albirar alguna mena de camí cap a aquesta intel·ligència artificial general, si volem realment arribar a ella, que aquesta és una altra de les preguntes obertes amb què m’agrada tancar. Si, de sobte, ens plantejarem en algun moment, com ja hi ha molts moviments científics que diuen: “Realment, necessitem arribar a aquest supercervell o és suficient amb el coneixement que tenim actualment o en un futur pròxim de la intel·ligència artificial? I això és tot. Espero que us hagi agradat tota aquesta explicació. Espero que continueu, sobretot, molt fascinats per la intel·ligència artificial i al dia de tots els avanços, que no en són pocs. Gràcies.