Mientras los gobiernos debaten cómo regular la inteligencia artificial y las neurotecnologías, una transformación más silenciosa lleva años operando en el cerebro de niños y adolescentes. Los algoritmos de las redes sociales —diseñados para maximizar el tiempo de atención— están alterando el sistema de recompensa en los períodos críticos en que ese sistema todavía se forma, con consecuencias sobre la capacidad de planificar, tomar decisiones y sostener la concentración. No es una hipótesis de futuro: es el presente.
Embed - Filósofo en Neuroética: la IA y las redes sociales ESTÁN CAMBIANDO cómo piensan tus hijos
Así lo advierte Abel Wajnerman Paz, filósofo argentino radicado en Chile, profesor del Instituto de Éticas Aplicadas de la Pontificia Universidad Católica y autor de Pensamiento a la intemperie: ¿Qué entendemos por neuroética y de qué manera incide en nuestras vidas? (La Pollera Ediciones), libro que traza un mapa de los riesgos éticos que plantean las tecnologías que intervienen en la mente humana. "Ya estamos retrasados", dice sin rodeos.
La neuroética es un campo muy interdisciplinario. Tiene la palabra "ética", entonces quien viene de las ciencias puede preguntar si esto es filosofía. Y tiene la palabra "neuro", entonces quien viene de la filosofía puede decir que no es filosofía. Es las dos y ninguna de las dos: es un intercambio entre la ética y la neurociencia.
Los desarrollos de la neurociencia tienen insumos muy interesantes para la ética, y la ética también tiene algo que decir sobre qué direcciones puede tomar la investigación neurocientífica. En términos de riesgos tecnológicos, hay un fuerte énfasis en las neurotecnologías —todavía no tan comunes fuera del ámbito médico como la inteligencia artificial—, pero con un potencial impacto muy potente una vez que se instalen de manera más masiva en la sociedad. La idea es anticiparse a esos riesgos.
El dilema de Collingridge: cuándo y cómo regular
— Chile tiene una historia de llegar tarde a regular nuevas tecnologías. ¿Cómo se enfrenta ese problema?
Hay un problema que está muy bien explicado en lo que se llama el dilema de Collingridge: si esperas a que la tecnología esté plenamente desarrollada para regularla, probablemente ya no puedas hacer mucho, porque ya está instalada en todo tipo de prácticas e instituciones sociales. Pero si te anticipas, como no sabes bien cómo va a funcionar ni cuáles van a ser los problemas, tienes el riesgo de sobreregular o regular inadecuadamente. Hay que encontrar el punto medio, el sweet spot de la intervención.
— En 2021 Chile aprobó una reforma constitucional sobre neuroderechos. ¿Qué hay de concreto en materia legal?
Hubo una reforma constitucional que ya es ley, es parte de la Constitución actual. Menciona la protección de los datos neuronales, los datos cerebrales y la integridad mental. Esa norma se utilizó en un fallo muy interesante de la Corte Suprema en contra de la empresa Emotiv, que tenía algunas políticas de privacidad cuestionables dado el grado de sensibilidad de los datos que manejaba. Y hay un proyecto de ley más completo —que dice mucho más sobre cómo se pueden regular estas tecnologías en el ámbito del derecho civil y el derecho penal, entre otras áreas— pero eso todavía no está aprobado.
Neuralink y el hype tecnológico
— Neuralink, la empresa de Elon Musk, ya tiene personas implantadas con dispositivos cerebrales. ¿Cómo lo evalúas?
La promesa inmediata de Neuralink tiene que ver con aplicaciones médicas: recuperar funcionalidades en personas con problemas de salud, como la visión o la motricidad en casos de parálisis. Pero a largo plazo, la apuesta de Musk es que estos chips evitarán que quedemos obsoletos frente a la inteligencia artificial: si estamos integrados neuronalmente con la IA, podríamos mantenernos a su altura. Eso es un poco de ciencia ficción, y hay que ver si además es lo que queremos.
Hay muchas noticias que son más hype que realidad. Hace poco salió la información de que "metieron a una hormiga en la matrix": muchos medios reportaron que reprodujeron el cerebro de una hormiga en formato digital y le dieron un cuerpo en el mundo virtual. Lo que en realidad ocurrió fue la simulación de una estructura neuronal. Nadie subió la mente de nadie al mundo digital. Los empresarios a veces se alimentan del hype para atraer atención. Lo que sí puede ser un game changer real son las interfaces que permiten interactuar con la tecnología directamente a través del pensamiento o la actividad cerebral, sin usar teclados. Eso cambiaría de manera significativa nuestra relación con la tecnología, que hoy es fuertemente física.
Algoritmos, niños y el daño a la atención
— ¿Qué daño concreto están haciendo los algoritmos de redes sociales en el desarrollo cognitivo de niños y adolescentes?
Hay que hacerse cargo de esto inmediatamente. No hay más tiempo, ya estamos retrasados. Veo dos problemas principales.
El primero tiene que ver con la economía de la atención: estos sistemas funcionan sobre la base de alterar el desarrollo y la formación del sistema de recompensa, que es fundamental para la toma de decisiones y la planificación. Eso es peligroso para los adultos, pero para los niños y adolescentes es especialmente grave, porque son períodos críticos en que esas capacidades se están desarrollando. Las iniciativas para prohibir o reducir el uso de redes sociales por parte de menores no son suficientes, pero son un primer paso importante.
El segundo problema tiene que ver con la inteligencia artificial y la descarga cognitiva. Usar tecnología para que haga tareas cognitivas por ti puede ser útil. Pero en un contexto educativo, donde niños y jóvenes todavía no han desarrollado plenamente su capacidad de escribir —que está muy conectada con la capacidad de pensar y razonar—, el uso de IA puede ser problemático. Yo tengo como mantra que si no sabes explicarlo, no lo entendiste: si no puedes comunicarle algo a otra persona, es porque no lo entendiste bien. Hay que tener cuidado de que capacidades como la argumentación y el desarrollo del discurso no queden relegadas por las herramientas tecnológicas.
— ¿Cómo está Chile en materia de regulación de estas tecnologías?
Veo a la comunidad académica, política y a la sociedad en general muy atentas y activas: hay muchas iniciativas en distintas universidades, políticas sobre el uso de la IA, investigadores trabajando sobre el impacto de estas tecnologías en las salas de clase. Chile está a la cabeza de Latinoamérica en lo que tiene que ver con el desarrollo de la inteligencia artificial, y creo que no es casual que se preste tanta atención a estos temas.
— Cada vez más personas se autodiagnostican con TDAH a partir de lo que ven en redes sociales. ¿Cómo lo analizas?
Es un tema muy sensible, y es importante que sea algo que podamos discutir de forma abierta y sin estigmatización. Me parece muy problemático que un tema tan importante esté tan atravesado por una cuestión moral, y que no podamos sentarnos a conversar con gente que opina diferente, incluso con quienes piensan que "esto es una moda", porque pueden tener razones atendibles.
Hay estudios que vinculan la proliferación de diagnósticos de déficit atencional con factores socioeconómicos, con las mayores exigencias sociales, y con el daño que los algoritmos hacen al sistema de recompensa y a la capacidad atencional. El primer paso es limpiar la cancha: hablemos todos, las personas que tenemos opiniones diferentes. Hay muchas cosas legítimas en el movimiento de la neurodivergencia, pero tienen implicaciones prácticas concretas —como el consumo de fármacos— y de eso hay que poder conversar más abiertamente.
— ¿Y en el caso del autismo específicamente?
En el autismo creo que hay algo más parecido a lo que yo llamaría neurodivergencia propiamente tal. Hay factores biológicos que hablan al paradigma de la neurodiversidad: ser humano se dice de muchas maneras, y hay mucha variabilidad en cómo una persona puede desarrollarse plenamente. Los principales problemas que tienen algunas personas autistas tienen que ver con la no aceptación de su forma diferente de ser, y la mayor fuente de sufrimiento a menudo proviene de eso. Hay algo valioso en este paradigma: ser más abiertos con la diversidad cognitiva, con diferentes maneras de relacionarnos.
Productividad, descanso y el riesgo de medicalizar lo social
— ¿Cuándo la presión de productividad se convierte en un problema médico mal diagnosticado?
Hay que tener cuidado con no medicalizar problemas que podrían ser parcialmente sociales. El tema de la productividad es clave. De hecho, empiezo el libro hablando sobre el descanso y lo que significa como parte de una vida plena: desarrollar los propios proyectos, encontrarle sentido a la vida. Lo digo como trabajólico en recuperación. Hay que poder, incluso, no hacer nada: mirar el cielo, mirar los cerros.
La apuesta del libro es también esa: crear una mesa diversa y abierta, con personas de distintos trasfondos —el derecho, las ciencias, las humanidades, o simplemente con curiosidad— para conversar sobre estas tecnologías, saber qué queremos proteger como sociedad frente a los nuevos avances y estar preparados.
