Yoshua Bengio, la veu crítica de la IA

Yoshua Bengio, un dels pares fundadors de l’aprenentatge profund, ha emergit com una veu influent en el debat sobre els riscos i la seguretat de la intel·ligència artificial (IA). Aquest científic canadenc, reconegut amb el premi Turing el 2018, ha fet un gir significatiu en la seva trajectòria, passant de ser un dels principals impulsors de la IA a convertir-se en un dels seus crítics més destacats.

Bengio va començar la seva carrera als anys vuitanta, centrant-se en les xarxes neuronals i l’aprenentatge automàtic. Les seves contribucions pioneres, juntament amb les de Geoffrey Hinton i Yann LeCun, van establir les bases de l’aprenentatge profund, una tècnica que ha revolucionat camps com la visió per computador, el processament del llenguatge natural i la robòtica.

En els darrers anys, Bengio ha expressat preocupacions creixents sobre els riscos potencials de la IA avançada. En un article publicat el 9 de juliol de 2024, titulat Reasoning through arguments against taking AI safety seriously, Bengio aborda directament els arguments que minimitzen la importància de la seguretat.

El científic destaca que, malgrat els avenços ràpids en les capacitats de la IA, “ningú no sap actualment com es podria aconseguir que una IA general avançada (AGI) o una superintel·ligència artificial (ASI) es comporti de manera moral o almenys com pretenen els seus desenvolupadors”. Aquesta incertesa, segons Bengio, representa un risc potencialment catastròfic per a la humanitat.

Bengio argumenta que la velocitat dels avenços en IA fa que sigui vital abordar aquestes qüestions de seguretat ara mateix, abans que sigui massa tard. Proposa una sèrie de mesures, incloent-hi una major regulació, la creació de tractats internacionals i un enfocament més prudent en el desenvolupament de la IA.

El canvi de posició de Bengio reflecteix una tendència creixent entre els experts, que cada cop són més conscients dels reptes ètics i de seguretat que presenta aquesta tecnologia. La seva veu s’uneix a la d’altres figures destacades com Stuart Russell i Nick Bostrom, que expressen preocupacions similars. D’altres argumenten que les preocupacions de Bengio són exagerades i podrien frenar el progrés en un camp amb gran potencial per beneficiar la humanitat.