La inteligencia artificial (IA) ha dejado de ser un tema exclusivo de los laboratorios de computación para convertirse en el epicentro de debates cotidianos, éticos y filosóficos. Desde el auge de la IA generativa hasta los dilemas sobre el futuro de la automatización, nos enfrentamos a una pregunta que parece extraída de la ciencia ficción: ¿Es posible que las máquinas lleguen a desarrollar conciencia?
Para responder a esto, debemos desmitificar el relato popular, definir con precisión de qué hablamos cuando decimos «conciencia» y analizar el verdadero impacto de los sesgos humanos en el desarrollo tecnológico.
1. El mito de la máquina sintiente: Cine vs. Realidad
El séptimo arte —a través de clásicos como Matrix, Terminator o películas más recientes como Avengers y Her— nos ha vendido la idea de inteligencias artificiales que adquieren corporalidad, desarrollan sentimientos y toman decisiones completamente autónomas, a menudo en contra de la humanidad. Esta narrativa ha sembrado un temor generalizado en la sociedad.
Sin embargo, la realidad técnica actual es muy diferente:
- La limitación física y sensorial: Estamos extremadamente lejos de lograr que un robot imite la complejidad del sensoramiento humano. La densidad y variedad de receptores en una sola mano humana (presión, temperatura, textura) es, por lo pronto, técnicamente inalcanzable para la robótica contemporánea.
- Simulación no es biología: Una cosa es que un software esté programado para parecer consciente y otra muy distinta es que sea consciente. Un ejemplo claro ocurrió en 2021 con un ingeniero de Google y el modelo LaMDA. El sistema generó respuestas donde afirmaba tener miedo a ser desconectado, lo que llevó al ingeniero a creer que la máquina había cobrado vida. En realidad, el modelo solo cumplía de forma brillante su función: predecir y generar texto convincente basado en datos previos.
2. ¿Qué entendemos por «Conciencia»? Un dilema de definiciones
Para evaluar si una IA puede ser consciente, la Real Academia Española (RAE) nos ofrece dos acepciones clave que cambian por completo el rumbo del debate:
A. La conciencia como autoconocimiento y percepción (Conciencia del «Yo»)
Se refiere a la capacidad de reconocerse a uno mismo y al entorno. Bajo esta definición, algunos pioneros de la IA, como Jürgen Schmidhuber, argumentan que existen máquinas «conscientes» desde los años 90. Schmidhuber diseñó sistemas de doble red neuronal: la primera interactuaba con el entorno buscando maximizar recompensas y evitar el «dolor» programado; la segunda red evaluaba el comportamiento de la primera y predecía las consecuencias de sus actos. Para este enfoque, el autoexamen algorítmico equivale a una forma primitiva de conciencia.
B. La conciencia moral (El discernimiento del bien y del mal)
Implica la capacidad de un individuo para actuar como un agente moral, evaluando la ética de sus propias acciones. En este terreno, ninguna IA actual posee la facultad autónoma de juzgar la moralidad de sus actos; los límites éticos que respetan (como negarse a responder ciertas preguntas peligrosas) son restricciones preestablecidas por sus programadores, no fruto de una autorreflexión moral.
El veredicto de los expertos: En 2023, la Asociación para la Ciencia de la Conciencia Matemática instó a incluir formalmente la investigación de la conciencia en la agenda de la IA. Filósofos y científicos como David Chalmers han propuesto criterios estrictos para declarar consciente a un sistema (sentidos, corporalización, un modelo del «yo» y del entorno). Modelos actuales como ChatGPT fallan en la mayoría de estos requisitos : pueden mantener una conversación fluida, pero carecen de sentido de existencia y de un «yo» real.
3. La Inteligencia Artificial General (IAG): Un horizonte teórico
Lo que realmente despierta temor en el imaginario colectivo es la Inteligencia Artificial General (IAG): un sistema con autocontrol autónomo, capacidad de autocomprensión y resiliencia, capaz de resolver problemas complejos en entornos que jamás se le enseñaron.
Hoy en día, la IAG es un campo de investigación puramente teórico. Las máquinas son extraordinarias en procesos lógicos racionales (como vencer a maestros de ajedrez), pero la mente humana es cualitativamente distinta. Nosotros no aprendemos solo de la lógica; aprendemos de las emociones, del contexto abstracto y de intangibles como el amor. Simular la empatía o el afecto mediante un bot sociable es relativamente sencillo, pero eso no equivale a experimentar el sentimiento.
4. El verdadero desafío actual: Los sesgos humanos en el código
Dado que la IA es una herramienta diseñada por seres humanos, arrastra inevitablemente nuestras propias limitaciones, visiones del mundo y sesgos (éticos, emocionales e intelectuales). Estos sesgos se manifiestan principalmente de dos formas:
La elección de variables en los modelos
Al construir un modelo predictivo, el investigador decide qué variables importan y cuáles no, y ahí introduce su propia cosmovisión.
- En mi propia investigación sobre modelos predictivos en acuicultura, descubrí un sesgo geográfico y de aislamiento : muchos grupos desarrollan modelos con datos locales sin considerar variables ambientales globales o el cambio climático. Además, existe una barrera cultural e idiomática masiva: la investigación de vanguardia que se publica en China (como los avances en Acuicultura 6.0) a menudo es ignorada en Occidente simplemente por no estar en inglés.
- En modelos más macro, como los económicos, el sesgo ideológico es evidente. Un modelo diseñado en una economía social de mercado (como Alemania o Escandinavia) incluirá obligatoriamente la opinión de los trabajadores como variable de bienestar ; un modelo de corte puramente liberal probablemente la excluirá.
El sesgo cultural y la visión de futuro
Nuestra relación con la tecnología depende de nuestro trasfondo cultural. En Occidente, influenciados por narrativas de dominación y subyugación, vemos a la IA autónoma como una amenaza existencial (el «síndrome de Skynet»). En contraste, la cultura japonesa, permeada por el sintoísmo —que atribuye esencia o espíritu tanto a seres vivos como a objetos inanimados—, percibe a los robots no con temor, sino como colaboradores y amigos naturales del ser humano.
Conclusión: ¿Hacia dónde nos dirigimos?
En el estado actual de la técnica, la Inteligencia Artificial sigue siendo una herramienta de optimización y predicción, no un ser autoexistente. Por lo tanto, la urgencia ética inmediata no radica en cómo la IA nos trata a nosotros, sino en la ética del programador y del investigador.
Como científicos y desarrolladores, nuestra responsabilidad es triple:
- Ampliar la perspectiva bibliográfica: Romper barreras idiomáticas y metodológicas para no duplicar esfuerzos ni aislar el conocimiento.
- Hacer explícitos nuestros sesgos: Reconocer desde qué postura ideológica, geográfica o económica estamos construyendo los algoritmos.
- Fomentar la interdisciplinaridad: El futuro de la tecnología no puede dejarse únicamente en manos de las matemáticas; requiere de la neurociencia, la psicología y la filosofía para garantizar que los códigos del mañana se construyan, verdaderamente, con conciencia.
Por: Faisal Bernal, PhD
Ponencia presentada en el marco de la iniciativa Visión 2025 (6 de mayo de 2025) de la Universidad de la Costa (Barranquilla, Colombia).
Arjé y logos 