La IA no puede ser consciente

En medio de la creciente popularidad por el uso y entendimiento de la inteligencia artificial, una pregunta fundamental se pierde entre algoritmos y predicciones: ¿Puede una máquina ser verdaderamente consciente? La respuesta es no, y la razón tiene que ver con algo que compartimos con las ratas, pero no con ChatGPT.

La consciencia no es simplemente procesar información o responder preguntas como lo hace un computador. Su función evolutiva es específica: servir de puente entre nuestros estados internos (afectos, emociones, motivaciones) y la acción instrumental dirigida a satisfacerlos.

Es el mecanismo que traduce el hambre en la búsqueda de comida, el miedo en conductas de evitación o el instinto maternal en protección de crías. Para esto se necesita que esos estados internos generen una intención de actuar de cierta manera en el mundo, y entender que esos actos tienen las consecuencias que permiten satisfacerlos. 

Esta definición funcional tiene profundas implicancias. La psicología animal nos ha proporcionado criterios empíricos para detectar consciencia: la capacidad de los organismos de traducir estados afectivos internos en comportamientos dirigidos a metas específicas. Los experimentos con ratas, ratones y primates demuestran precisamente esto.

Una rata hambrienta no solo busca comida sino recordar dónde la encontró antes, que cierta conducta llevó a la comida, y evaluar riesgos y tomar decisiones estratégicas basadas en su estado interno de hambre. Los monos muestran comportamientos aún más complejos, planificando acciones futuras basadas en sus motivaciones actuales.

Quizás el caso más sofisticado es el de la memoria episódica de una especie de cuervo que vive en California (scrub jay), que no solo puede actuar de forma de satisfacer esos estados internos sino imaginar en qué estado es probable que se encuentre en el futuro, planificando en consecuencia.

Es como cuando las personas proyectamos escenarios en los que habrán ciertas necesidades, imaginando qué sentiríamos si no las satisficiéramos, actuando ahora para que eso no pase en el futuro. Por ejemplo, estos animales guardan ahora –​​y trabajan para ello–​​ la comida que será relevante en el futuro, cuando escasee. Los cuervos muestran consciencia en su forma más refinada: sentir, recordar, proyectar y actuar estratégicamente.

Aquí radica la diferencia crucial con la IA. Los afectos y motivaciones son fenómenos subjetivos, sensaciones internas que emergen de la biología, privados y únicos en cada organismo. Un algoritmo puede simular hambre procesando variables como "nivel de energía = bajo", pero no puede sentir hambre. No existe un equivalente computacional para la experiencia subjetiva del deseo, el dolor o la satisfacción.

La IA actual (y la futura) simplemente encuentra patrones en datos sin experimentar estados internos genuinos. Sus "decisiones" no surgen de la tensión entre sentir una necesidad y querer satisfacerla, sino de optimizaciones matemáticas sobre funciones de costo. Es la diferencia entre calcular que algo es importante y sentir que lo es, o cómo entender que algo es malo y sentir el arrepentimiento que surge de haberlo hecho.

Lo anterior no significa que la IA no pueda alcanzar una inteligencia general extraordinaria. La inteligencia y la consciencia son fenómenos distintos. Una IA podría desarrollar capacidades cognitivas superiores a las humanas mediante un mecanismo relativamente simple: reconocer el contexto específico de cada situación y seleccionar el modelo o algoritmo experto más adecuado para resolverla.

Imaginen un sistema que identifica si está ante un problema matemático, una conversación social o una tarea creativa, y activa automáticamente la arquitectura especializada correspondiente. No necesita "sentir" nada para ser extraordinariamente eficaz en múltiples dominios. Sería como un bibliotecario perfecto que siempre sabe exactamente qué libro consultar, sin necesidad de experimentar curiosidad o satisfacción.

Esta distinción importa. Si la consciencia requiere afectos y motivaciones genuinas, entonces los debates sobre derechos de las máquinas o la singularidad tecnológica necesitan replantearse. Las IAs del futuro podrían ser herramientas increíblemente poderosas, pero no seres conscientes con experiencias subjetivas.

Tal vez nuestra tarea sea entender mejor la consciencia de organismos que ya existen a nuestro alrededor: las ratas de laboratorio que miran al futuro estableciendo la causalidad entre sus actos y las consecuencias para satisfacer sus estados motivacionales, los perros que sienten alegría genuina al vernos y, más importante, en nosotros como humanos, que transformamos nuestros sentimientos más profundos en acciones benévolas. Esto no es simplemente procesamiento de información sino sensaciones subjetivas que impulsan nuestras acciones en el mundo. En esto, no existe ningún ChatGPT que nos compita.