Tertúlia amb la Dra. Carme Torras i Genís, matemàtica, escriptora i cap del grup de recerca en Percepció i Manipulació de l’Institut de Robòtica i Informàtica Industrial, dijous 5 d’octubre de 2023

Podríem dir que el nou horari d’inici (les 20h), molt més europeu, comença a quallar. Aquest cop gairebé vàrem poder començar la vetllada, tots asseguts a taula, pràcticament a l’hora. I encara més lloable en trobar-nos en els primers dies de tardor, que per temperatura per l’anticicló que ens “okupa”, més aviat semblen de principis d’agost, almenys a la capital del país. Ni així, als gironins els agrada el nou horari i els convidats ho agraeixen.

Ja a la introducció, l’Enric explicà que mentre revisava la biografia de la convidada, s’havia adonat que a Twitter, enguany li haurem de dir a X, la convidada, es definia així:  Robòtica i IA: ciència, ficció, ètica, i utopies. Coincidirem, afegí, que es tracta d’una transversalitat prou atractiva. I llavors, postil·là per reblar el clau, em vaig trobar a la Viquipèdia que un bon amic, en va ser el director de la seva tesi doctoral. Però com alguns cops de la Viquipèdia no podem assegurar-ne una certesa absoluta, li va enviar un missatge de confirmació. Es tractava del convidat del grup de juliol del 22, en Luís Basáñez, amb qui, poc o molt, mensualment acostumen a caminar plegats pel país en l’altre grup, aquest cop dels caminaires, que alguns d’aquest grup també compartien. “Molt brillant i molt bona comunicadora”, li respongué en Luis. Plena coincidència amb en Carles Casacuberta, a qui havia demanat la mediació per convidar la matemàtica. Aprofità per agrair la seva rellevant mediació.

Serveixen l’aperitiu, una terrina de bolets i castanyes, coca de blat de moro amb brandada de bacallà i piparra i una figa tèbia amb ànec marinat i vinagreta de rostit. El celler de l’àpat consta d’ un vi blanc Masia Hill D.O. Penedès i el negre Sindicat la Figuera D.O. Montsant.

I ja amb la paraula, l’amic Carles, amplià la presentació de la Carme, confirmant la mateixa definició i afegint que a més de les dues vessants destacables a la seva biografia, una vessant de científica i l’altre d’escriptora, en destacaria la intermèdia de filòsofa, particularment pel que fa a l’ètica.   
«Estudis de filosofia, que vaig fer a la UNED» ens recordà llavors la convidada. 
Ara bé, prosseguí, allò que l’ha fet mundialment reconeguda ha estat la seva tasca científica, en l’àrea de la robòtica, tot emprant mètodes d’IA, per la que va rebre el premi nacional de recerca, com podeu veure al seu resum biogràfic.       
Destacaria que la seva robòtica, és una robòtica assistencial, és a dir, per ajudar persones amb alguna dependència. La moda actual, fa que hom li pregunti per la IA. De fet al programa de TV3 “30 minuts” de la setmana passada, en parlava. I voldria precisament fer-ne esment ja que m’interessa particularment el seu doble vessant al respecte: com a informàtica i com a pensadora.    
No endebades al programa hi reflexionà: «cal tenir informació tècnica i ètica per treballar amb IA».     
I la seva faceta de pensadora, probablement és la força que la mou a escriure. I no em refereixo als llibres d’àmbit científic o acadèmic, parlo de les seves novel·les o contes en l’àmbit divulgatiu. De fet. En algun cas es veu clarament, es tracta de llibres filosòfics amb un enfocament científic. Això els fa especialment engrescadors i, en algun cas, únics, com seria el cas de “La mutació sentimental”, que te múltiples traduccions, fins i tot al xinès. I del que puc afirmar que ha deixat petjada.        
I per acabar, deixo una pregunta pel debat, sobre si aquesta mutació sentimental del llibre, creus ja ha començat a passar. Començà la convidada, tot agraint la presentació i, afegint que, tot i ser cert el que s’ha expressat, cal reduir-ne la gran amplificació que se li ha fet.    
«Porto 42 anys al que ara s’anomena com a Institut de Robòtica i Informàtica Industrial, que es deia de Cibernètica quan vaig començar en la recerca. Sempre però, a la UPC. I gran part de tots els èxits aconseguits que heu comentat, venen de les 65 persones que enguany formem aquest equip tan competent i cohesionat de l’Institut.» 

I quina és la seva feina?     
«Doncs tractar de completar el millor puzle posant cada investigador i investigació al lloc que més li escau. A l’equip tenim una gran varietat de perfils diferents, matemàtics, informàtics, enginyers mecànics i industrials, físics,.. fins una filòsofa. Tots aporten i ens fan créixer. Crec molt en el treball en grup i en compartir.   
Nosaltres ja fa anys que ens dediquem a la robòtica assistencial o robòtica per aquelles persones que tenen dificultats físiques o cognitives. Hem generat robots per exemple per ajudar a vestir, a posar les sabates o a menjar. Els prototips acostumem a desenvolupar-los amb alguna institució o amb algú que te unes necessitats molt concretes, per tant fem una recerca molt orientada.      
Un exemple podria ser la col·laboració amb la Fundació ACE, una entitat privada, sense ànim de lucre, dedicada al diagnòstic, tractament, recerca i ajuda a les persones amb la malaltia d’Alzheimer o altres demències.       
En podeu veure alguns exemples als vídeos de la web de l’Institut. 

Arriba l’entrant, un milfulls amb salsa de porros i oliva negra.

També haig de citar aquí la col·laboració amb el Parc Sanitari Pere Virgili. És un gran centre amb molta activitat sanitària i quines necessitats manifestades es resumien en ajudes per donar de menjar. Ens va sorprendre que el 50% dels ingressats allà, requereixen ajuda per a poder menjar. I hi hem treballat i aconseguit alguns prototipus que funcionen i resolen aquests problemes.   
Penseu però que nosaltres, som un centre de recerca i per tant, acabem aquí i amb les patents. Tota la resta, com el compliment de les normes ISO, … tota la feina administrativa i operativa, fins la posada a disposició comercial dels prototips, ja no és cosa nostra.»

La convidada ha dirigit 17 projectes europeus. Actualment està implicada en el projecte CLOTHILDE (CLOTH manIpulation Learning from DEmonstrations (2018-2023)) i lidera al CSIC el projecte Horizon Europe SoftEnable (2022-2026) sobre la manipulació robòtica segura d’objectes deformables en els contextos sociosanitari i alimentari.
«Al nostre grup de recerca hem establert diverses col·laboracions. Una és el Laboratori Obert de Robòtica Assistencial, amb 14 socis per a promoure el desplegament de la robòtica assistencial (inclou l’administració,  tot i que la Generalitat no te gaires fons…, universitats i empreses d’atenció domiciliària i hospitalària). També treballem amb l’Hospital Clínic i amb la Fundació Episteme, que té com a objectiu la promoció del debat i recerca sobre el sistema educatiu.»   

I qui paga?
«Bàsicament ens financem dels projectes europeus. Així, el programa del Consell Europeu d’Investigació (ERC), proporciona un finançament, prou atractiu a llarg termini, per tal de donar suport a investigadors  i investigadores ben establerts amb els seus respectius equips. Tot plegat amb l’objectiu de perseguir innovacions d’alt risc i d’alt benefici en qualsevol camp d’investigació; l’únic criteri d’avaluació essent la seva excel·lència científica. Òbviament s’espera que aquesta investigació, finançada per l’ERC, ens porti a avenços consistents i significatius en les fronteres del coneixement. La nostra sort és que, en pertànyer al CSIC, no hem de fer docència i ens podem concentrar plenament en la recerca. De tots formes, ens calen captadors de fons europeus.»  

La seva, és una visió transversal del futur. Així que ens parla de la necessitat de personalització a l’hora d’emprar robots.       
«La relació amb robots és diferent segons els països. Podríem resumir que al Japó, amb una cultura de relació amb les coses i els objectes artificials molt diferent, és gairebé una relació afectivo-sentimental, i no perquè ho confonguin amb cap humà, ni tant sols els de formes humanoides; als EUA en canvi bàsicament els veuen com  una simple màquina, un electrodomèstic més per vendre (l’ètica en queda lluny); i a Europa, tot ho tenim molt regulat (probablement massa). A Europa te molta rellevància el desenvolupament ètic i la utilitat. I precisament aquest és el perill d’Europa: com tot costa tant d’aprovar, podríem acabar comprant el que desenvolupen els altres. 
A més dels EUA, cal comptar la Xina que també n’està desenvolupant i a tota màquina. A Europa, els alemanys han creat un laboratori de Geriatrònics (tot tipus de mecatrònica aplicada a l’envelliment); la regió de Bavaria és líder en aquest àmbit, en aquest cas però, posant-hi molts diners. Altres llocs on s’hi treballa a Europa seria a Holanda i Anglaterra, però enguany encara és força limitat.  
Actualment el nostre Institut és pioner, recordeu que tenim projectes perquè els robots pleguin roba, ajudin a posar-se les sabates o a fer llits, i d’ençà la pandèmia, el projecte SoftEnable té per objectiu ajudar al personal sanitari a posar-se els vestits EPI (Equips de Protecció Individual).     
Nosaltres, però, sobretot treballem amb software. I com que hem de fer prototips que funcionin, també tenim un taller de mecatrònica.  Així que quan arribem al nivell de prototips, com deia, ja és qüestió de patents i d’empreses d’enginyeria.»

Com a plat principal, lluç amb salsa de porros i oliva negra.

Hem quedat que aquests robots van aprenen conforme interactuen. «L’aprenentatge, moltes vegades és optimització.» 
La convidada està convençuda que el perill no és que la intel·ligència artificial (IA) millori tant, sinó que la intel·ligència humana pugui anar de reculada. No li preocupa que els robots substitueixen llocs de treball amb poc valor humà afegit; sortiran d’altres feines més qualificades. Per exemple, els robots assistencials no substitueixen els cuidadors, sinó que els alliberen de tasques poc gratificants perquè puguin disposar de temps de qualitat amb els pacients.   
Tot plegat ens portà a parlar d’una nova professió: la dels “AI Prompters”. Els futurs AI Prompters, sabran fer les preguntes adequades a la IA. Podeu llegir aquí o darrerament aquí, per exemple, quines altres noves professions sembla que es parla que es troben a faltar. Ara, per a ella «falta molta educació, que finalment és la clau de volta de tot plegat».

La tertúlia es fa més interessant. Eines que darrerament estan disponibles gratuïtament, sabem que responen diferent segons com els hi preguntem (algunes d’aquestes ja les trobem incloses al  cercador Bing i, molt probablement, acabaran incorporades en tots ells. També s’inclourà directament als programes amb què acostumem a escriure. Alguns varen assentir, tot palesant que els estarien provant… Ens estàvem referint  a eines com poden ser els programes o Apps com   ChatGPT o DALL-E 3 o Midjourney, …).
Feu servir alguna d’aquestes eines pels vostres robots?  
«Bé, nosaltres, ara mateix, no. Però hi ha grups que ja les estan incorporant als seus robots. Nosaltres, com d’altres del mon científic,  acostumem a accedir a llibreries i programes de codi obert, com el sistema operatiu que fem servir (ROS – Robot Operating System). Particularment però, ChatGPT tot i que és obert, em fa molta por; el cas és que menteix molt. Hi ha moltes errades, en haver-se introduït a internet molta informació falsa. En realitat sabem que no té cap coneixement, tot és purament estadístic. No té semàntica.»

Es comenta que enguany, al mon informàtic, parlar d’algorismes que resolen problemes no ven. Probablement és l’explicació per la qual tothom ven solucions amb IA, però hi ha molts dubtes que la majoria realment incorporin aquest nou element. «Hi estic d’acord.»  

Per postres, préssec de textures i aroma d’ametlla.

I mentre fèiem futurisme sobre com podríem veure la relació robots i humans, la convidada va fer referència a algunes de les reunions que assistia a la Unió Europea, fa gairebé dues dècades, on es parlava que es volia uns robots amb una intel·ligència real i per tant autònoma, així que havien de fer robots que fossin completament autònoms. Que anessin per tot arreu, sense dependre dels humans.
«Estava horroritzada. Això em va motivar a escriure sobre els robots en el futur, de forma que les meves novel·les sempre he volgut que eduquessin.»  
Certament la convidada posa molt l’accent i l’emfatitza en el fet educatiu, també clau en aquest mon i ens explica una de les seves motivacions que la varen dur a escriure la seva novel·la La mutació sentimental.
«Em vaig plantejar com voldria que fossin els robots en una societat futura. Ens havien d’ajudar. Vaig posar en escena assistents robòtics de tota mena. Volia fer reflexionar sobre quins robots volíem com a societat i, especialment, per a les generacions futures. Aquest va ser un dels motius que em va portar a escriure aquesta novel·la.»

També molt relacionat amb l’ètica, segons ella «hi ha robots malcriadors que fan persones dèspotes, robots entretenidors que buiden el cervell de la gent i robots educadors. Dit això, la IA del darrere, però, no té sentiments».               
On trobaríem els seus robots, és a dir els de l’Institut?    
«Doncs clarament en la tercera opció».   

Tot parlant de com eduquem, particularment a la gent jove, per tal que no es dediquin exclusivament a prémer un botó i que li facin la feina o li responguin amb el que els cal, algú afegeix encertadament “…i sobretot aconseguir que pensin”. Tots assentim… i llavors es pregunta com veu l’educació dintre de 10 anys.     
«Vaig començar a treballar-hi tot preparant material per a la universitat, incloent-hi una visió ètica (min.40 del vídeo). Als EUA usualment a la universitat, en els estudis d’enginyeria i d’informàtica, tenen una assignatura obligatòria de “Ètica en tecnologia”. Una editora de MIT Press va assistir a una presentació meva on vaig apuntar l’interès d’utilitzar relats de ciència-ficció per exemplificar els problemes ètics que les tecnologies digitals podien suscitar i així atraure l’atenció i generar debat entre els estudiants. Usualment ho deixava caure al final de les meves ponències als congressos de robòtica. Em va demanar si podria preparar uns continguts per a la docència per a enginyers i en anglès, aprofitant les idees que havia escrit a la novel·la La mutació sentimental. Hi vaig assentir. Entre els materials preparats, vaig fer una presentació en PowerPoint per facilitar la classes i també una guia per al professor. Em consta que s’ha fet servir als EUA, al Canadà i a Austràlia. També a Europa, però menys. A Catalunya es fan servir en cursos o sessions de debat en la majoria d’universitats. També s’han adequat els materials per a secundària i batxillerat, però en aquest àmbit no han fet tanta fortuna i és una llàstima; m’agradaria que s’utilitzessin molt més a les escoles, ja que aquesta reflexió és molt necessària i els pares i professors la demanen.

Podeu veure el treball en format audiovisual que hi ha fet la Fundació Episteme, amb l’ajut de la convidada i a partir de continguts de les seves novel·les, oferint en obert el projecte SPiDeR, tot un ventall de material didàctic derivat, per alumnes de secundària d’instituts públics i escoles concertades de Catalunya.  Aquest innovador projecte, fet juntament amb la UPC Barcelona Tech, de caràcter científic-social pretén motivar els estudiants a cursar carreres STEM (Ciència, Tecnologia, Enginyeria i Matemàtiques), fomentant l’ètica social i els referents femenins en el coneixement.  
Podeu veure el document reduït, en un arxiu PowerPoint, aquí:       
http://www.iri.upc.edu/people/torras/raco_literari/Materials_didactics_roboetica.pptx   
El document sencer, en anglès aquí:    
http://www-iri.upc.es/people/torras/Torras_slides_PowerPoint.pptx

I la guia per al professor aquí:

http://www-iri.upc.es/people/torras/Torras_teachers_guide.pdf

També hi ha una guia didàctica de Pagès Editors, sense cost però per accedir-hi, cal demanar la contrasenya per correu:     https://www.pageseditors.cat/ca/guia-didactica-la-mutacio-sentimental.html

Algunes de les idees bàsiques que voldries subratllar?     
«En primer lloc hi posaria el capítol sobre els robots en l’ensenyament, en l’educació. També el capítol sobre la incidència en el mon laboral. I nogensmenys la influència sobre les persones d’interaccionar amb robots.      
Ara bé, trobo molt important aprofundir en l’esperit crític. Cal sempre qüestionar-s’ho tot. Estimular la curiositat, tot alliberant la creativitat. Si llegiu o heu llegit la novel·la “La mutació sentimental”, un dels trets que hi subratllo en la protagonista és l’autonomia i independència, relacionant-la amb la sorpresa que provoca en el segle XXII, un cop descrionitzada, quan els companys descobreixen que pensa. Una capacitat imprescindible d’exercir, particularment quan més màquines ens ajuden i ens ajudin en tasques que fins ara fèiem de manera autònoma i ens obligaven a pensar i decidir.»

Quin seria el marc on enguany us moveu a l’hora de concretar la programació dels vostres robots, enllà de les lleis de la robòtica d’Isaac Asimov de l’any 1942 o…?              
«S’ha fet i hem fet molta feina des de llavors. Tenim l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC) de la Universitat de Girona (UdG) que han fet un qüestionari immens, amb 7 àmbits, de forma que els propis empresaris avaluïn si el seu producte és o no ètic. Altrament les respostes ens ajuden a detectar-ne les mancances.

Si teniu interès en aprofundir en el tema educatiu i ètic, aquest document en anglès te molt d’interès:   
https://www.iri.upc.edu/files/scidoc/2244-Robotics-and-Artificial-Intelligence-Meet-the-Humanities:-Some-Initiatives-for-Ethics-Education-and-Dissemination.pdf

Finalment resulta molt il·lustratiu i interessant veure algunes de les idees i robots operatius, als vídeos següents de la seva web:      
https://www.iri.upc.edu/people/torras/videos.html

I ja propers a l’hora acordada de finalització, lliurem a la convidada, com a record de la vetllada, una litografia de l’artista olotí Josep M. Vayreda Canadell, net de Marià Vayreda Vila, quin oncle Joaquim va ser el fundador de l’Escola Paisatgista d’Olot. Format artísticament a l’Escola de Belles Arts d’Olot, en una etapa acadèmica en la que va iniciar un procés de simplificació dels elements figuratius. Més tard entrà en el món de l’abstracció i l’informalisme, per tornar a la figuració, com a síntesi: la seva és una figuració estructurada basada en una comanda de formes geomètriques d’interpretació lliure.   Precisament enguany a Olot al Museu de la Garrotxa (del 2/9/23 al 14/1/24), s’hi fa una exposició col·lectiva, on s’hi pot veure obra seva juntament amb d’altres artistes locals, i que es titula:  Fora del marc. Art a Olot durant la represa (1943 – 1968).

Sortim a la escalinata per acomiadar-nos i fer la darrera foto de grup.

Podeu consultar la seva biografia aquí.