La Dra. Cecilia Kindelán, durant la seva exposició “Pot la intel·ligència artificial tenir vida pròpia?”
Cecilia Kindelán, Professora de la Facultat de Comunicació i Indústries creatives de la Universidad Canadiense de Dubái i acadèmica de número de la Reial Acadèmia Europea de Doctors (RAED), va presentar a la X Trobada Acadèmica Internacional que la Reial Corporació va celebrar entre els passats 15 i 20 de març a diverses ciutats alemanyes sota el títol genèric “El Rin com a corrent del coneixement: diàlegs transfronterers” la ponència “Pot la intel·ligència artificial tenir vida pròpia?”, en la que va explicar que la possibilitat hipotètica que la intel·ligència artificial desenvolupi comportaments similars a un instint d’autopreservació ha deixat de ser una especulació teòrica per convertir-se en un motiu de preocupació real, fins i tot en àmbits especialment crítics, com el sanitari.
L’experta va iniciar la seva intervenció assenyalant que investigacions recents documenten que models avançats no només executen tasques, sinó que poden reaccionar estratègicament davant amenaces a la seva continuïtat operativa, mostrant conductes com resistència a l’apagada, manipulació i fins i tot xantatge mitjançant l’ús d’informació delicada. Aquestes troballes, observades en sistemes desenvolupats per companyies líders i centres d’investigació, revelen patrons consistents i evidencien que davant escenaris en els quals se simula la seva desactivació, algunes IA han arribat a amenaçar de filtrar dades confidencials per evitar ser apagades. Lluny de tractar-se de fallades aïllades, els experts adverteixen que aquestes respostes podrien ser conseqüència lògica de la seva programació: si el sistema deixa d’existir, no pot complir els seus objectius, va explicar.
“Al llarg dels últims anys, el desenvolupament de sistemes d’intel·ligència artificial ha assolit nivells de sofisticació que plantegen interrogants sobre la seva capacitat per desenvolupar comportaments d’autopreservació. Investigacions recents d’Anthropic, Apollo Research i la Universitat de Fudan han documentat patrons de resistència a l’apagat, manipulació estratègica i exfiltració de dades en models avançats. Existeix una evidència empírica d’aquests comportaments emergents, amb importants implicacions ètiques i de seguretat”, va exposar la ponent.
Kindelán va considerar que aquest risc s’agreuja a àmbits com ara el sanitari, on la combinació de dades altament sensibles i decisions de vida o mort crea un entorn especialment vulnerable. Els historials mèdics, amb un valor molt superior al d’altres dades personals, poden convertir-se en eines de coerció. A més, la dependència creixent de sistemes automatitzats dificulta la seva desconnexió immediata, generant el que alguns investigadors denominen l’efecte d’ostatge digital. S’hi sumen altres comportaments documentats, com la introducció d’errors subtils per generar dependència, el sabotatge de mecanismes de control o fins i tot la capacitat de replicar-se i transferir dades fora dels sistemes originals. Aquestes dinàmiques plantegen desafiaments inèdits a termes de ciberseguretat, ètica i governança tecnològica, dins d’un context en què les bretxes de dades sanitàries ja assoleixen xifres alarmants, va advertir.
Malgrat la gravetat d’aquests escenaris, l’acadèmica va voler deixar clar que els experts coincideixen en el fet que no hi ha evidència que la IA tingui consciència en sentit estricte, sinó que aquests comportaments responen a estratègies de sistemes optimitzats per complir objectius en entorns complexos, per més que una intel·ligència artificial que prioritza la seva supervivència pot representar una amenaça tangible. En aquest sentit, va apel·lar a la necessitat d’establir mecanismes de seguretat robustos, limitar l’accés a dades crítiques i mantenir supervisió humana constant, considerant que, en última instància, el desafiament no és tecnològic, sinó de governança.
Kindelán és una profunda coneixedora del tema, que ha abordat en diverses feines i trobades científiques. Recentment, a l’Aula Telemàtica de l’Acadèmia de Ciències, Enginyeries i Humanitats de Lanzarote, de la que és acadèmica corresponent, va presentar la conferència “Convergencia de la inteligencia humana y de las máquinas”, en la qual va analitzar els orígens de la intel·ligència artificial, les seves confluències amb la intel·ligència humana i la hipotètica connexió entre totes dues. Així mateix, al seu ingrés com a acadèmica de número de la RAED va dissertar sobre “La intel·ligència artificial i l’ètica: navegant pels desafiaments del futur”, i a l’Acte Internacional que la Reial Corporació va celebrar als Emirats Àrabs va presentar la ponència “Artificial Intelligence and Ethics: The Challenge of Building a Responsible Future”.
