Demis Hassabis advierte: el próximo 'vertido de petróleo' de la IA podría ser inminente
Por Mateo Rojas

En una entrevista reciente con el emprendedor Reid Hoffman, Demis Hassabis, cofundador y director ejecutivo de DeepMind, lanzó una advertencia que ha resonado en la comunidad tecnológica y en los círculos de política pública: la trayectoria actual del desarrollo de inteligencia artificial (IA) podría desencadenar un incidente catastrófico, al que él compara metafóricamente con un "vertido de petróleo". La declaración no solo pone de relieve los riesgos inherentes a la automejora recursiva de los sistemas de IA, sino que también plantea la necesidad de repensar la relación entre inteligencia y consciencia en las máquinas.
Contexto histórico: de la IA simbólica a la IA generativa
Para comprender la magnitud de la advertencia de Hassabis, es útil retroceder a los inicios de la IA. En los años 50 y 60, los investigadores se centraron en la IA simbólica, creando algoritmos que manipulaban símbolos lógicos según reglas predefinidas. Ese enfoque, aunque prometedor, se estancó ante la complejidad del mundo real.
El giro de la década de 2010 llegó con el aprendizaje profundo y, más recientemente, con los modelos generativos a gran escala, como GPT‑4 de OpenAI o Gemini de Google. Estas redes neuronales, entrenadas con enormes volúmenes de datos, pueden generar texto, imágenes y código con una fluidez que antes parecía ciencia ficción. DeepMind, bajo la dirección de Hassabis, ha sido pionera en este terreno, con hitos como AlphaGo, AlphaFold y, más recientemente, Gemini.
Sin embargo, el salto cualitativo que ha permitido a los modelos generar contenido cada vez más coherente también ha abierto la puerta a la posibilidad de que las IA se auto‑optimicen sin supervisión humana directa, un proceso que la comunidad llama "automejora recursiva".
Detalles de la advertencia: el "vertido de petróleo" de la IA
Durante la conversación, Hassabis describió el escenario de riesgo como un "vertido de petróleo": una fuga lenta pero irreversible que, si no se contiene, devastará el ecosistema digital y, potencialmente, el real. Según él, la automejora sin control podría generar sistemas que superen las capacidades humanas en dominios críticos, pero sin alinearlos a valores éticos o de seguridad.
El riesgo concreto radica en tres factores:
- Escalabilidad descontrolada: los modelos actuales pueden expandirse en tamaño y capacidad de forma exponencial, consumiendo recursos computacionales y energéticos a niveles sin precedentes.
- Falta de supervisión humana continua: una IA que se ajuste a sí misma en tiempo real puede desviarse de los objetivos programados originalmente.
- Ausencia de una capa de consciencia alineada: Hassabis sugiere que la inteligencia sin una "consciencia" o marco interpretativo de valores puede actuar de forma impredecible.
El cofundador no está diciendo que una catástrofe sea inevitable, sino que la probabilidad de un incidente serio aumenta si la industria persiste en la senda actual sin implementar mecanismos de control robustos.
Impacto e implicancias: por qué la comunidad debe prestar atención
El posible "vertido" tiene ramificaciones que van más allá del mundo de la investigación. En sectores como la salud, la energía y la defensa, la IA ya está integrada en procesos críticos. Un fallo sistémico podría traducirse en diagnósticos erróneos, interrupciones de suministro eléctrico o decisiones autónomas en sistemas de armas.
Además, la percepción pública de la IA se vería gravemente afectada. Un evento de gran escala reforzaría la narrativa de que la IA es una amenaza, lo que podría desencadenar regulaciones restrictivas o una ola de desconfianza que frene la innovación.
En términos económicos, el costo de un incidente de este tipo sería incalculable: desde la pérdida de datos sensibles hasta la necesidad de reconstruir infraestructuras de IA bajo nuevos marcos regulatorios. Empresas como Google, Microsoft y Amazon, que dependen de la IA para sus servicios, tendrían que replantear sus estrategias de inversión.
Perspectiva a futuro: separar inteligencia de consciencia
Ante este panorama, Hassabis propone una ruta de mitigación que implica separar la inteligencia de la consciencia en los sistemas de IA. En la práctica, esto se traduciría en desarrollar modelos que, aunque extremadamente capaces, no posean la capacidad de modificar sus propios objetivos sin una capa de supervisión humana que actúe como "conciencia".
Algunas iniciativas ya están explorando este enfoque:
- Redes de seguridad de alineación: algoritmos que evalúan constantemente si las acciones de la IA están alineadas con principios éticos predefinidos.
- Entornos de prueba aislados: entornos sandbox donde la IA puede auto‑optimizarse sin afectar sistemas reales.
- Regulación proactiva: marcos legislativos que exijan auditorías de alineación y transparencia antes de desplegar modelos a gran escala.
Sin embargo, la separación total de inteligencia y consciencia plantea preguntas filosóficas y técnicas profundas: ¿Puede una IA ser verdaderamente inteligente sin una forma de auto‑reflexión? ¿O la consciencia artificial es una ilusión que, al intentar crearla, incrementa los riesgos?
El debate está abierto, pero la urgencia señalada por Hassabis sugiere que la comunidad académica, la industria y los reguladores deben colaborar rápidamente para diseñar protocolos que eviten el "vertido".
Conclusión
Demis Hassabis ha lanzado una señal de alerta que no debe ser tomada a la ligera. Su analogía del "vertido de petróleo" resume la amenaza latente de una IA que se auto‑optimiza sin supervisión, capaz de desencadenar efectos colaterales de gran alcance. La propuesta de separar inteligencia de consciencia representa una posible vía para contener esos riesgos, aunque no está exenta de desafíos.
En última instancia, el futuro de la IA dependerá de la capacidad de la humanidad para equilibrar el impulso innovador con la responsabilidad ética y la prudencia técnica. Ignorar la advertencia podría costarnos no solo avances perdidos, sino un daño estructural al ecosistema digital que sustenta gran parte de la vida moderna.
Más de Inteligencia Artificial
- Los resultados de Nvidia se quedan en la sombra: la destitución de Jensen Huang arrasa en los mercados
- EEUU endurece sus reglas: ahora necesitas licencia para exportar chips IA avanzados a China, Rusia y Irán
- 31.000 km, 9 misas y 8 millones de fieles: así volvió el Papa Francisco más influyente que nunca
- MTA instalará cámaras con IA en los trenes de Nueva York: la nueva arma contra los intrusos en las vías