Límits a les màquines

L’angoixa ve de lluny, però el britànic Geoffrey Hinton, considerat un dels pares de la intel·ligència artificial (IA), la va fer escalar al nivell d’alarma. A principis de maig, aquest investigador informàtic de 75 anys va abandonar la feina a Google per poder denunciar amb més llibertat els perills d’una tecnologia avançada que va contribuir a desenvolupar i que permet generar continguts com ara melodies, imatges o treballs acadèmics a partir de l’escaneig previ de grans quantitats d’informació digital.

Analitzant el seu potencial, Hinton descriu un panorama aterridor, la possibilitat que la IA superi la intel·ligència humana més ràpid del previst, que aquests sistemes inundin internet d’informació falsa, que substitueixin cada cop més llocs de treball i que puguin acabar desenvolupant armes autònomes, autèntics “robots assassins”. “Les persones i les empreses permeten als sistemes d’IA no només generar el seu propi codi, sinó també executar-lo pel seu compte”, va explicar.

Plana el malson d’una distopia en què les màquines tracen els propis objectius, diferents dels fixats pels seus creadors humans. “Aquests sistemes no tenen una comprensió ètica del món, no tenen un sentit de la veritat i no són fiables”, denuncia, per la seva banda, l’expert en IA Gary Marcus.

La de Hinton és l’última veu autoritzada d’alerta que s’ha fet sentir arran de la irrupció del ChatGPT, un programa informàtic basat en la intel·ligència artificial, capaç de mantenir una conversa amb un internauta sobre un tema determinat. Després d’aquest programa, creat per la companyia OpenAI el novembre passat, Google va treure la seva pròpia versió de chatbot, Bard, quatre mesos més tard.

L’informàtic britànic adverteix que la cursa entre els gegants digitals per llançar al mercat productes basats en aquesta tecnologia punta portarà a un desenvolupament de la IA sense la protecció i la regulació adequades.

El problema que es planteja és com es poden aprofitar els avantatges que proporciona aquesta tecnologia revolucionària –en el camp de la diagnosi mèdica, per exemple, la investigació científica, la productivitat econòmica o la lluita contra el canvi climàtic– sense caure en abusos i perjudicis per a la societat.

Un dels actors més avançats a l’hora de posar límits a la nova tecnologia és la Unió Europea (UE), que ultima una llei per regular la IA amb l’ambició que orienti el debat polític sobre aquest sector a escala global. Per la seva banda, la Casa Blanca va reunir fa poc els caps de les grans empreses que treballen en la IA, mentre que la Xina ha aprovat un projecte de reglament que exigeix avaluacions de seguretat per a tots els productes que utilitzin sistemes d’IA generativa –com el ChatGPT– abans de ser llançats al mercat.

En el cas de la UE, les comissions per al Mercat Interior i la de les Llibertats Civils de l’Eurocambra van aprovar l’11 de maig passat la seva versió de la proposta de llei sobre la intel·ligència artificial presentada per la Comissió Europea. Els eurodiputats volen garantir que aquests sistemes autònoms de generació de contingut siguin supervisats per humans, siguin segurs, transparents, traçables, no discriminatoris i respectuosos amb el medi ambient.

El text prohibeix els sistemes de vigilància massiva en temps real en espais públics –excepte per prevenir delictes i localitzar possibles víctimes– i veta els models que utilitzin tècniques subliminars per alterar de manera “substancial” el comportament d’una persona, sense que en sigui conscient. A més, cataloga com d’alt risc un seguit de sistemes d’IA amb usos molt específics que només es podran introduir en el mercat si respecten els drets fonamentals i valors de la UE. Per exemple, els que es puguin fer servir per influir en unes eleccions, o que apliquin les entitats financeres per avaluar la solvència i fixar la qualificació creditícia d’una persona, o els que desplegui la policia de fronteres per controlar, vigilar o processar dades per a la predicció de moviments migratoris.

El text també preveu multes a les empreses de fins al 7% de la seva facturació anual mundial si incompleixen la normativa. El ple del Parlament Europeu haurà d’aprovar la proposta a mitjans d’aquest mes i negociar-ne la versió definitiva amb la Comissió i el Consell de la UE (els estats membres).

Tampoc els britànics, que al març van aprovar un llibre blanc sobre la IA, es volen quedar enrere. Londres busca una regulació més flexible i menys estricta que la que ultima la UE amb l’objectiu que la nova tecnologia generi confiança en el públic i, alhora, ajudi les empreses a créixer i crear llocs de treball. L’aspiració del Regne Unit és crear un marc regulador de la IA que sigui més atractiu també per a les empreses nord-americanes que el comunitari i que serveixi d’exemple per a un enfocament global.

Aquesta és una qüestió sensible per al primer ministre britànic, Rishi Sunak, i l’abordarà avui als EUA, on és de visita oficial, amb el president Biden, empresaris i destacats membres del Congrés nord-americà.