“La intel·ligència artificial està programada perquè t’agradi”

El concepte d’intel·ligència està associat als éssers vius, amb un sistema neurològic una mica desenvolupat. La intel·ligència artificial és la capacitat d’alguns algoritmes, d’algunes màquines, de resoldre algunes tasques. Hem reduït el concepte d’intel·ligència a resolució de tasques, en un primer moment repetitives, mecàniques. Cada vegada més el concepte d’intel·ligència artificial s’amplia amb l’acumulació de dades que un ordinador gran pot aparellar.

Exacte. La gent pensa en robots. La majoria d’intel·ligències artificials, però, no són robots. És intel·ligència artificial quan comencem a delegar moltes tasques que abans prenien els humans i les deixem a mans d’algoritmes dissenyats per humans. Són algoritmes cada cop més sofisticats que inclouen els valors del programador. Per tant, l’ètica de la intel·ligència artificial és la del programador.

Per exemple, en la indústria automobilística, una marca que decideix que, en cas de dubtes, s’opti per salvar el conductor, que és el nostre client i és el que paga el cotxe. Això ho ha decidit el programador perquè ho ha decidit l’empresa. Un altre pot optar pel que menys mal pugui fer. I es fa dissenyant uns sensors que detectin si hi ha una criatura, per protegir el nen encara que mati el conductor. L’algoritme inclou valors del programador, de l’empresa. Els algoritmes tenen una capacitat de controlar moltes dades que el cervell humà, no per la complexitat sinó per la quantitat, no pot processar tan ràpidament. Per tant, pots donar uns criteris a l’ordinador perquè pugui prendre decisions amb tanta quantitat de dades. Un exemple. S’han fet un parell de programes per ajudar els radiòlegs a detectar malalties amb els escàners. Tant la màquina com l’humà tenien el mateix percentatge d’error del 5%, però si treballen junts l’error és de l’1%.

La intel·ligència artificial és un producte de la intel·ligència humana i la llàstima seria que se’ns n’anés de les mans, sobretot el risc al qual ens estem exposant quan no hi ha col·laboració. Els algoritmes estan molt estesos, com quan et demanen que demostris que no ets un robot. La gent confia massa ingènuament a l’hora de facilitar dades. Els nord-americans estan molt encuriosits en el seu arbre genealògic i es fan tests genètics que pengen en webs. Què passa quan fas públic, penges en obert, el teu ADN codificat? Es poden saber prevalences de malalties i, per tant, estàs donant gratis una informació molt valuosa per a les mútues privades. La gent ha de reflexionar què fa públic a les xarxes. I quines relacions vol establir amb les intel·ligències artificials.

La moral són els hàbits i costums d’una determinada societat i l’ètica, la reflexió sobre aquestes morals, quan queden obsoletes, i per tant hi ha bons motius per abandonar-les i hauríem de pensar de crear-ne de noves. La moral és viscuda i l’ètica és pensada. I en un món accelerat com és el de la tècnica, s’assumeixen simplement perquè es poden fer. Tot el que tècnicament es pot fer, és èticament correcte fer-ho? Per tant, l’ètica té a veure amb la justícia més que amb la felicitat. Fem les coses o bé perquè ens fan feliços o per ètica. I en el món de la intel·ligència artificial es treballa molt amb la felicitat. Se suposa que són estris que ens alliberen de tasques feixugues. Després ens preguntem si poden deixar sense feina molta gent o suposarà una escletxa de poder entre els que poden accedir a la tecnologia i els que no. I s’actua sovint en funció de la legalitat; és a dir, mentre no estigui prohibit, anem fent.

La literatura i la ciència-ficció ajuden a tenir una experiència sense haver-la tinguda del tot. I a l’ètica ens ajuda molt perquè quan arriba l’experiència, ja l’has reconeguda. A Her, el protagonista s’enamora d’un sistema operatiu i és un amor romàntic i platònic; no hi ha cos. I en una relació real, la importància és en el cos, no en la quotidianitat. La màquina podrà simular i dissimular però mai podrà ser una consciència, un misteri i unes emocions. Les màquines s’haurien de mantenir com a servidors. I començarem a tenir problemes el dia que vulguem antropomorfitzar-les. Fixa’t, Siri, Alèxia, Sofia... són tot nom de dones.

I quan les antropomorfitzem són molt dòcils, joves... La gran indústria està veient el potencial de l’afectivitat de les màquines. No hem de generar la confusió que és una persona. Has desenvolupat un sistema operatiu que quan arribis a casa et pregunti com estàs, com ha anat el dia, i té sensors que detecten si estàs tens. I hi pots desenvolupar una relació perquè els humans tenim afeccions. És important no confondre’s; no és real. I què vol dir que no és real? Que està programat perquè t’agradi. I poden passar dues coses. Pot ser que valorem molt més les relacions humanes, o al contrari, que no estiguem disposats a treballar la complexitat de les relacions humanes.

La intel·ligència artificial és una duplicitat i s’hi ha de mantenir una relació de servitud. A l’Aràbia Saudita han declarat ciutadana un robot que es diu Sofia; té dret a ciutadania. Les dones saudites no tenen la meitat dels drets. Des del punt de vista ètic hauríem d’autoregular les normes que haurien de guiar la robòtica. El robot està al servei de l’ésser humà.

La meva posició és que es legisli i es posin les condicions de tot tipus per evitar el que ningú vol: la compravenda de nens i l’explotació de les gestants. És cabdal que no sigui un negoci d’intermediaris, d’empreses amb afany de lucre. El model és com el dels trasplantaments; una organització pública amb molts criteris pautats perquè no hi hagi la pressió a la gestant i a la criatura.

No només el cas Catalunya-Espanya, Anglaterra, EUA, el Brasil..., el panorama és desolador. Durant anys hem viscut d’unes idees polítiques i ètiques que venen de fa dos segles. Hi ha una obsolescència de la manera com hem concebut els governs i les problemàtiques que hem prioritzat. Vam confiar massa en unes institucions i hem vist decepcions molt grans. Per mi l’estructura de partits és excessivament jeràrquica i no hi ha democràcia sense premsa lliure, i no hi ha premsa lliure. Són bones notícies la repolitització de la ciutadania, són males notícies les noves formes de propaganda. Hem de regenerar la democràcia amb els valors fundacionals. Són prioritaris el canvi climàtic, la intel·ligència artificial i les fronteres. I cap d’aquestes tres qüestions forma part de l’agenda política.

Aquesta presa de consciència és magnífica. Però les revolucions solen fracassar si no hi ha consciència de la complexitat i del pluralisme. No hi ha un feminisme. N’hi ha molts. El binarisme és una altra qüestió. El problema potser és el gènere. No canviem el cos, canviem el sistema en el qual no encaixa aquest cos.