¿Qué es la Inteligencia Artificial?
Resumen del artículo de Ramón López de Mántaras y Pere Brunet
Ramón López de Mántaras (CSIC) y Pere Brunet (UPC / Centre Delàs)
Publicado en PAPELES de relaciones ecosociales y cambio global, Nº 164 2023/24, pp. 13-21
Definición de IA
La inteligencia artificial es una colección de componentes computacionales que permiten construir sistemas que emulan funciones realizadas por el cerebro humano. El campo comenzó a mediados de los años cincuenta y desde entonces ha pasado por ciclos de promesas, entusiasmo, críticas y dudas.
Dos Enfoques de la IA
Conocimiento IA Basada en Conocimiento
- Desarrollada desde los años setenta
- Enfoque de arriba hacia abajo
- Modela el conocimiento humano mediante modelos informáticos
- Usa bases de conocimientos, ontologías y razonamiento lógico
- Eficiente en tareas de razonamiento y planificación
Datos IA Basada en Datos
- Desarrollada mayoritariamente desde el siglo XXI
- Enfoque de abajo hacia arriba
- Analiza grandes cantidades de datos con algoritmos estadísticos
- Usa redes neuronales de aprendizaje profundo
- Funciona mejor en detección de patrones (imágenes, lenguaje)
En el futuro veremos cada vez más aproximaciones híbridas que combinen ambos enfoques.
Línea del Tiempo: Hitos Clave
1980 — Fukushima desarrolla el "neocognitrón", red neuronal inspirada en los estudios de Hubel y Wiesel sobre el sistema visual (Nobel 1981).
2003 — Franz Josef Och diseña los primeros algoritmos de traducción automática estadística.
2005-2007 — Google incorpora los traductores automáticos de Och, basados en corpus de +150 millones de palabras bilingües y +1000 millones monolingües.
2012 — Geoffrey Hinton (U. de Toronto) logra que una red neuronal convolucional alcance 85% de aciertos en ImageNet (150.000 imágenes, 1.000 categorías).
Cómo Funcionan las Redes Neuronales
Fase 1: Entrenamiento
Se proporciona una gran cantidad de datos etiquetados (imágenes, textos). Un algoritmo ajusta los valores de los "pesos" de las conexiones entre neuronas artificiales en función de los errores cometidos. El proceso comienza con pesos aleatorios y finaliza cuando alcanzan valores estables. Esta fase es altamente costosa y requiere gran potencia de cálculo.
Fase 2: Uso
La red entrenada (una inmensa estructura de neuronas organizadas en capas) puede ejecutarse en dispositivos personales. Los datos se convierten a representación numérica, se propagan capa a capa a través de los pesos, y los valores de la última capa conforman la respuesta del sistema.
Las imágenes y textos, desde el punto de vista de la máquina, no son más que un enorme conjunto de números. Cada píxel se asocia a un número, cada frase a un conjunto de números.
Aplicaciones Actuales
- Medicina Diagnóstico precoz y predicción del plegado de proteínas
- Juegos Sistemas que superan a campeones humanos
- Clima Predicción del impacto del cambio climático
- Transporte Investigación en coches autónomos
- Militar Armas autónomas (preocupación ética)
- Traducción Google Translate y sistemas similares
Limitaciones Fundamentales
Problema de la caja negra: Es prácticamente imposible explicar las decisiones que toman estos sistemas. Ni siquiera los diseñadores saben exactamente por qué funciona cuando acierta ni por qué falla cuando se equivoca.
Sin comprensión Lo que la IA NO tiene
- Sentido común — Puede identificar una persona ante una pared sin saber que es una persona y que no puede atravesarla
- Comprensión real — No entiende el lenguaje ni lo que "perciben" sus sensores
- Relaciones causales — Aprende correlaciones (salida del sol ↔ canto del gallo) pero no causa-efecto
- Intencionalidad — Esencialmente humana, ausente en sistemas de IA
- Corporeidad — Interacciones con el entorno basadas en sentidos y sistema motor
"El esfuerzo por llegar a construir máquinas que de algún modo se asemejen a nosotros ha generado sistemas que se equivocan como nosotros."
Mitos vs Realidad
La tecnología sofisticada no puede distinguirse de la magia (Arthur Clarke, 1960s). Esto genera un relato social donde se mitifican las capacidades de la IA:
- Se cree que la IA no tiene límites → Mito
- Se piensa que nos llevará a inteligencias superiores → Mito
- Se teme una singularidad tecnológica → Mito
Michael Shermer ironiza: la singularidad (máquinas autoconscientes con emociones) llegaría "en algún momento entre 2525 y 9595".
La IA siempre será diferente de la humana. El desarrollo mental humano se nutre de interacciones con el entorno, basadas en corporeidad, sentidos e intencionalidad — elementos ausentes en la IA.
Los Verdaderos Problemas
No provienen de una supuesta singularidad, sino de:
- Manipulación Uso ilícito de datos privados
- Vigilancia Control masivo de la ciudadanía
- Autonomía Sistemas armados autónomos
- Confianza Excesiva en las capacidades de la IA
- Sesgos Algorítmicos en decisiones
- Poder Acumulación en pocas empresas tecnológicas
- Rendición Imposibilidad de rendir cuentas por errores
Caso Gebru & Mitchell (2020): Las codirectoras del equipo de ética de Google advirtieron del riesgo de asignar intención comunicativa a artefactos. Google las despidió tras publicar esta advertencia.
Propuestas y Recomendaciones
- Regulación que garantice sistemas dirigidos a cubrir necesidades de las personas, respetando sus derechos
- Educación a ciudadanos (especialmente jóvenes) sobre beneficios y riesgos de la IA
- Formación ética para estudiantes de ciencias e ingeniería
- Pensamiento crítico para evaluar riesgos tecnológicos
- Debates abiertos en la comunidad de IA para evitar expectativas excesivas
"Los verdaderos problemas de la IA no provienen de una supuesta singularidad tecnológica... La responsabilidad final siempre recae en los seres humanos, tanto como diseñadores como usuarios, y deben rendir cuentas."
Sobre los Autores
Ramón López de Mántaras Badia — Profesor de investigación del CSIC y director del Instituto de Investigación en Inteligencia Artificial. Pionero de la IA en España.
Pere Brunet i Crosa — Doctor y catedrático jubilado de la Universidad Politécnica de Catalunya, investigador del Centre Delàs d'Estudis per la Pau y divulgador científico.