Helen Toner, artífex de la pugna a OpenAI
Exmembre de la junta d’OpenAI, és clau en els debats regulatoris de la IA, tot i perdre contra Sam Altman
Helen Toner, experta en governança de la intel·ligència artificial (IA), va protagonitzar un dels capítols més destacats de la tecnologia el novembre del 2023, quan va decidir, juntament amb tres membres més de la junta directiva d’OpenAI, destituir el CEO Sam Altman. Aquesta decisió, motivada per la falta de transparència d’Altman, va desencadenar una crisi a la companyia que va comportar el retorn d’Altman al càrrec al cap de pocs dies i la dimissió de Toner i els altres membres dissidents.
Segons va explicar Toner mesos després, la destitució es va basar en múltiples accions d’Altman, incloent-hi la falta de comunicació sobre conflictes d’interessos relacionats amb fons d’inversió d’OpenAI i informació inexacta sobre els processos de seguretat de la IA. Tot i que el consell posterior d’OpenAI va rebutjar les acusacions, la crisi va posar de manifest la tensió creixent entre la innovació tecnològica i la necessitat de garantir una governança ètica i transparent.
Toner, que recentment ha estat inclosa en la llista dels 100 personatges més influents en el món de la IA segons la revista Time, ha aconseguit un paper central en els debats globals sobre la regulació. Col·labora amb legisladors d’arreu del món per crear polítiques sòlides que equilibrin el desenvolupament amb la seguretat.
Després de la seva renúncia a OpenAI, Toner s’ha centrat a alertar sobre els riscos de la IA quan és controlada únicament per les empreses privades. Segons ha expressat en diversos fòrums, incloent-hi una entrevista recent amb el Financial Times, confia que la regulació externa és indispensable per garantir que la IA es desenvolupi de manera segura per a la societat. “És inviable esperar que l’autoregulació funcioni a llarg termini”, va afirmar.
L’episodi de la destitució d’Altman, tot i la seva aparent derrota, va elevar el perfil de Toner, que s’ha convertit en una figura clau per als legisladors que volen regular la IA. Segons ella, “les empreses necessiten un sistema de governança amb supervisió externa per evitar que la competència i els incentius comercials portin a un ús irresponsable”.
Avui, Toner continua oferint les seves recomanacions sobre la governança de la IA, amb l’objectiu d’evitar que un grup reduït de persones prengui decisions amb un impacte global.