Hace unas semanas atrás terminé el libro Inteligencia Artificial: Una exploración filosófica sobre el futuro de lamente en la conciencia, de Susan Schneider.
La autora ocupa la cátedra de la NASA en el congreso de
los Estados Unidos, es fundadora del Centro para el futuro de la mente, y ha
estudiado en la Universidad de Princeton el tema de la inteligencia artificial,
lo cual la ha llevado a ser una protagonista de estos temas en The New York
Times y el Financial Times entre otros. Quiero sintetizar que fué lo que más me
impresionó de esta obra. Y empiezo por remarcar lo que el título de esta Entrada
supone: la IA construirá una humanidad más artificial.. Vamos a los
cinco puntos en los que me quiero detener:
1. Conciencia y la IA avanzada:
Schneider aborda la cuestión fundamental de si las inteligencias artificiales
avanzadas pueden desarrollar conciencia. Diferencia entre inteligencia y
conciencia, argumentando que una máquina puede ser extremadamente inteligente
sin experimentar sensaciones subjetivas ni autoconciencia aunque deja abierto el
tema de que la evolución propia y autónoma de la inteligencia artificial puede
llegar en algún momento a conformar su autoconciencia, independientemente del
ser humano que la creó. ¿Qué significa esto? Pues que la IA es una etapa más de la evolución "humana" y por tanto auto evolucionará hasta conformar conciencia propia, es decir la capacidad de conocer el bien y el mal para enjuiciar moralmente sus actos y los de los demás. ¿Entendemos lo que esto supone?
2. El problema de la “IA zombificada”: Sin perjuicio de lo antes expuesto, el libro explora
el concepto de “IA zombi”, refiriéndose a sistemas que realizan tareas humanas
sin tener experiencias conscientes, es decir, sin tener una capacidad ética,
como explican los filósofos que juzgue tome decisiones sobre una moral
autoconstruida, Schneider plantea que incluso si una IA simula perfectamente el
comportamiento humano, no necesariamente tiene una mente consciente detrás de
sus acciones, es decir que podríamos vernos sujetos al riesgo de una IA consciente que no aplica su conciencia.
3. El riesgo de la superinteligencia: Analiza los riesgos éticos y
existenciales de la creación de una superinteligencia artificial. Según
Schneider, la humanidad podría enfrentar problemas significativos si no entiende
completamente la naturaleza de la conciencia en estas máquinas antes de darles
demasiado poder. Ella describe Centros de Atención de Salud Mental del futuro que podrían ser absolutamente gestionados por IA, y sería ella quien atienda a un ser humano y le recomiendo un "cheap" determinado para la dolencia que el paciente pueda describir. ¿No será eso articialidad humana?
4. La mente humana en un futuro tecnológico: Schneider discute
la posibilidad de integrar tecnología avanzada con el cerebro humano (a través
de interfaces cerebro-máquina o mejoras biotecnológicas). Esto significa un
avance para la salud mental, y los Centros que antes describimos, pero la apertura de un riesgo enorme de cambios de
identidad de la persona que lo convierten en otro ser humano que no es el ser humano que era previo a la IA (si es que se puede
decir que es humano). La autora reflexiona como antes, dijimos, sobre cómo estas
modificaciones pueden transformar la mente humana y plantea preguntas
filosóficas muy profundas sobre la identidad personal y la continuidad de la
conciencia propia de cada personalidad.
5. La IA y el “Test de Conciencia”: El libro introduce la idea de
desarrollar un “Test de Conciencia” para determinar si las máquinas avanzadas
son conscientes. Schneider argumenta que necesitamos estándares claros para
identificar la conciencia en sistemas no biológicos, tanto para proteger a las
máquinas conscientes como para evitar falsas atribuciones. A medida que la
inteligencia artificial, por ejemplo, pueda ir mejorando el ChatGPT, deberíamos
hacerle estas preguntas porque nos puede sorprender.
En síntesis, Schneider
plantea un enfoque filosófico y ético para reflexionar sobre los desafíos y
posibilidades de la IA, con énfasis en el entendimiento y la preservación de la
conciencia en un futuro dominado por la tecnología. Lo impresionante es que una
especialista de su nivel, deja abierto enormes dudas y desafíos, de los cuales hoy no
somos conscientes, pero que si siembran la realidad del transhumanismo y del fin
de la muerte cerebral, como la hemos entendido hasta hoy.
Comentarios
Publicar un comentario