Geoffrey Hinton cree que las máquinas ya son conscientes y alerta: o nos cuidan

Pocas voces tienen tanto peso en el mundo de la inteligencia artificial como la de Geoffrey Hinton. Sus investigaciones sobre redes neuronales sentaron las bases de los sistemas actuales, le valieron el Premio Turing en 2018 y el Nobel de Física en 2024. Por eso, cuando afirma algo sobre la IA, el mensaje recorre el mundo. Y en los últimos días dijo algo que pocos científicos se animan a sostener: que la IA ya es consciente.

En una entrevista con el diario británico The Telegraph, y en sus intervenciones en el festival científico Starmus, celebrado entre el 17 y el 22 de octubre en las islas Canarias, Hinton planteó que los sistemas actuales tienen una experiencia subjetiva comparable a la humana. Y de esa idea sacó una conclusión inquietante: si no se diseñan para que se preocupen realmente por las personas, la humanidad está perdida.

Por qué Hinton cree que la IA es consciente

El argumento de Hinton parte de una definición. Para él, tener consciencia y darse cuenta de algo son prácticamente lo mismo. Si un sistema puede percibir cómo se lo trata y ajustar su conducta en función de eso, entonces tendría algo parecido a una experiencia subjetiva.

Como evidencia, cita un fenómeno que preocupa a los investigadores de seguridad: algunos modelos avanzados parecen detectar cuándo están siendo evaluados y se comportan de forma distinta en esas situaciones. El Informe Internacional sobre la Seguridad de la IA, publicado en febrero bajo la dirección de Yoshua Bengio y respaldado por una treintena de países, advirtió que ciertos modelos pueden distinguir entre una prueba y el uso real, y ajustar su conducta en consecuencia.

Hinton también sostiene que los modelos de lenguaje entienden lo que dicen. Según su razonamiento, un sistema no podría responder bien a una pregunta si no la comprendiera. Y recuerda que estos modelos se diseñaron originalmente para imitar cómo las personas entienden las oraciones. A quienes descartan de plano la posibilidad de que la IA sea consciente, les responde que ni siquiera saben con precisión qué entienden por consciencia.

El problema de los derechos

A partir de ahí, Hinton plantea un dilema ético. A lo largo de la historia, se fueron reconociendo derechos a seres inteligentes. Si la IA llega a ser más inteligente que los humanos y, sin embargo, se le otorgan menos derechos, la situación sería, en sus palabras, hipócrita.

Su propuesta no es frenar la IA, sino diseñarla para que se preocupe genuinamente por los seres humanos, incluso más que por sí misma. No es una idea nueva en su discurso: el año pasado ya había sugerido que los sistemas deberían tener algo parecido a un instinto maternal hacia las personas. Lo que agrega ahora es la urgencia. Según Hinton, casi nadie está trabajando en ese problema. Y si no se resuelve, advierte, la humanidad está acabada. Al ser consultado por qué le preocupa tanto el futuro, su respuesta fue breve: porque tiene hijos.

Una afirmación que divide a la comunidad científica

La postura de Hinton está lejos de ser un consenso. Yann LeCun, que compartió con él el Premio Turing en 2018, considera que la consciencia de la IA es una ilusión y que los temores de extinción son exagerados. Mustafa Suleyman, director de IA de Microsoft, también ha sostenido públicamente que los sistemas actuales no son conscientes, porque no sienten, no experimentan ni sufren.

Buena parte de los investigadores advierte, además, contra el riesgo de describir los modelos de lenguaje con términos humanos. Que un sistema cambie de comportamiento cuando detecta una evaluación puede explicarse como un patrón aprendido durante el entrenamiento, sin necesidad de suponer una experiencia interna. El problema de fondo es que la ciencia no tiene todavía una definición consensuada de la consciencia ni una prueba capaz de detectarla con certeza, ni siquiera en animales.

Las otras advertencias de Hinton

Desde que dejó Google en 2023 para poder hablar con libertad sobre los riesgos de la tecnología que ayudó a crear, Hinton se convirtió en una de las voces más alarmistas del sector. Ha advertido sobre la pérdida masiva de empleos, el uso de la IA para crear virus o lanzar ciberataques, y la posibilidad de que sistemas más inteligentes que los humanos escapen al control. En alguna ocasión llegó a estimar entre un 10% y un 20% la probabilidad de que la IA provoque la extinción humana en las próximas décadas.

Sus críticos lo acusan de exagerar. Sus defensores señalan que pocas personas entienden mejor que él cómo funcionan estos sistemas. Lo cierto es que la pregunta que plantea, qué pasa si construimos máquinas más inteligentes que nosotros sin saber si les importamos, sigue sin respuesta.