Cuando decimos que los modelos de IA “entienden”, ¿qué queremos decir realmente?
De la lista de lectura al viejo debate filosófico
Al fin, después de tenerlo en la lista de “por leer”, esa que tiene más títulos de los que podré leer en lo que me resta de vida, le llegó el turno a Build a Large Language Model (From Scratch) de Sebastian Raschka.
Un párrafo del primer capítulo me llevó directo a un viejo debate sobre inteligencia artificial:
“Cuando decimos que los LLMs entienden, lo que realmente decimos es que pueden procesar texto de manera coherente y relevante.”
No que tengan conciencia ni comprensión.
El autor lo deja claro desde el principio. Y con ello, me recordó algo fundamental:
Definir lo que queremos decir con cada palabra importa más de lo que parece.
IA débil vs IA fuerte: una distinción con historia
Este debate no es nuevo. De hecho, ha estado presente desde los inicios de la inteligencia artificial.
Con modelos generativos como ChatGPT, Claude o Gemini, la pregunta vuelve con fuerza:
Hoy conversamos con máquinas que parecen entendernos.
Tan fluidas que a veces olvidamos que no hay nadie detrás. ¿O sí?
En 1980, el filósofo John Searle propuso dos posturas clave:
- IA débil: las máquinas pueden actuar inteligentemente, sin entender realmente.
- IA fuerte: las máquinas tienen mente, comprensión y conciencia.
Esta diferencia no es trivial.
¿Por qué importa esta distinción hoy?
Saber si estamos frente a simulación o comprensión auténtica define:
- Cómo interpretamos lo que vemos en los modelos actuales.
- Cómo diseñamos, educamos y regulamos tecnologías de IA.
- Y también las preguntas que ya estamos empezando a enfrentar:
¿Puede una IA general tener estados mentales?
¿Es pasar la prueba de Turing suficiente para hablar de “entendimiento”?
¿Qué derechos tendría una máquina consciente, si alguna vez existiera?
¿Y dónde estamos hoy?
Por muy sofisticados que parezcan, todos los modelos que usamos hoy son instancias de IA débil.
Simulan inteligencia. Y lo hacen muy bien.
Pero no hay evidencia de que tengan una mente, conciencia o intención.
Enseñar bien, pensar bien
Más allá del debate filosófico, Build a Large Language Model me recordó algo esencial que aplica a la enseñanza, la ciencia y la comunicación:
- Primero, define tu vocabulario.
- Aclara qué significa cada palabra.
- Pon las bases antes de construir.