Dr. José María Simón Castellví
José María Simón Castellví, membre de la Societat Espanyola d’Oftalmologia, acadèmic corresponent per premi de la Reial Acadèmia de Medicina de Catalunya, president d’honor de la Federació Mundial de Societats Mèdiques Catòliques (FIAMC) i acadèmic de número de l’Institut Mèdic Farmacèutic de Catalunya i de la Reial Acadèmia Europea de Doctors (RAED), aborda els desafiaments epistemològics fonamentals de les eines basades en la intel·ligència artificial generativa, especialment en la seva aplicació a àmbits sensibles com la medicina i la religió, a l’article “Un punto no resuelto en inteligencia artificial”, publicat als mitjans de la FIAMC.
Per a l’acadèmic, un dels problemes centrals d’aquesta tecnologia disruptiva és la seva incapacitat per distingir de manera inherent entre fets verificables i opinions o creences, ja que els sistemes s’entrenen a partir de grans conjunts de dades que barregen informació empírica amb interpretacions subjectives. A l’àmbit mèdic, explica l’autor, aquesta limitació pot conduir a biaixos o errors si un model processa indistintament dades clíniques objectives, com a resultats de proves, i notes subjectives de professionals, el que pot afectar diagnòstics o recomanacions de tractament quan es confon una inferència clínica amb un fet biològic.
D’altra banda, en qualsevol referència religiosa, on la intel·ligència artificial ha de confrontar nocions que no s’ajusten a criteris científics, com revelacions o doctrines de fe, no pot distingir entre textos considerats canònics i anàlisis teològiques secundàries. Això implica que aquestes eines generin respostes que fusionen doctrines amb interpretacions especulatives sense respectar la jerarquia conceptual pròpia d’aquests àmbits, ja que la intel·ligència artificial opera com un sistema de correlació estadística de patrons, no com una intel·ligència que comprengui contextos complexos o valors jeràrquics de coneixement.
Per a Simón Castellví, ara com ara només la intel·ligència humana integra comprensió conscient, emocional i judici normatiu, capacitats que la intel·ligència artificial generativa actual no té la capacitat de desenvolupar. L’expert conclou que, malgrat els evidents i constants avenços tècnics, la confiança en aquestes eines, especialment en dominis que impliquen judicis ètics, mèdics o religiosos, ha d’anar acompanyada de supervisió humana. “Com a conclusió, podem afirmar que la confiança en la IA en els dominis dels quals parlem exigeix una contínua supervisió humana que aporti el context, la saviesa i el discerniment moral i empíric per separar el que és irrefutablement cert o altament probable del que és merament una perspectiva o una creença. Aquest és el límit de la raó algorítmica davant la complexitat de l’apassionant experiència humana”, finalitza l’acadèmic.
