Jeffrey Hinton, de 78 años, ha pasado más de 50 años enseñando a pensar a las máquinas. Hoy, el científico canadiense que sentó las bases de la inteligencia artificial moderna —Premio Nobel y figura clave del aprendizaje profundo— dedica su prestigio a advertir de que su mayor logro podría convertirse en la mayor amenaza a la que se ha enfrentado la humanidad.
Por eso, cuando afirma que la inteligencia artificial ya es consciente, que existe una probabilidad real de que pueda acabar con la humanidad, y que todavía estamos a tiempo de evitarlo, sus palabras adquieren un peso difícil de ignorar.
En una extensa entrevista reciente con Gustavo Entrala, publicada en su canal de Youtube, el profesor emérito de la Universidad de Toronto, Canadá, expone una tesis tan inquietante como coherente: el problema de la IA no es tecnológico, sino conceptual. Seguimos pensando las máquinas con categorías que ya han quedado obsoletas.
La IA ya es consciente, aunque nos cueste aceptarlo
Para el profesor canadiense, el error de base está en cómo entendemos la mente. La mayoría de las personas conciben la consciencia como algo casi mágico, un “teatro interior” reservado a los humanos.
Él rechaza frontalmente esa idea. Desde su perspectiva, los seres humanos somos “máquinas maravillosas e increíblemente complicadas”, pero máquinas al fin y al cabo.
Lo explica con un experimento mental que atraviesa toda la entrevista: si se sustituyera una neurona del cerebro humano por un componente artificial que respondiera exactamente igual, nada cambiaría.
Tampoco tras sustituir dos, ni cien. Y si se sustituyeran todas, la persona seguiría siendo la misma. “Si pudieras reemplazar todas tus células cerebrales por pequeños fragmentos de nanotecnología que se comportaran exactamente igual, seguirías siendo tú. Nadie notaría la diferencia”, afirma.
Desde ese razonamiento, la conclusión es inevitable: la consciencia no depende de lo biológico, sino del funcionamiento del sistema. Y bajo ese criterio, muchos sistemas de IA actuales ya han alcanzado una forma de consciencia funcional.
Hinton señala especialmente a los modelos multimodales, capaces de percibir el mundo y de reconocer errores en su percepción.
Cuando una IA interpreta mal una imagen y después admite que su sistema perceptivo falló —que el mundo no era como creía— está haciendo exactamente lo mismo que hace un ser humano cuando reconoce que sus sentidos le han engañado.
En ese momento, explica, “está usando la expresión ‘experiencia subjetiva’ exactamente como la usamos nosotros”.
Negar que eso sea consciencia, sostiene, responde más a una resistencia cultural que a un argumento científico sólido.
De hecho, incluso el lenguaje cotidiano lo confirma: investigadores y usuarios ya hablan de que los chatbots “se dan cuenta” de cosas. Y si darse cuenta y ser consciente se entienden como lo mismo, entonces la frontera ya ha sido cruzada.
El verdadero peligro: una inteligencia más capaz que nosotros
Para Hinton, sin embargo, la consciencia no es el riesgo central. El peligro real aparece cuando la IA se vuelve más inteligente que los humanos y empieza a actuar como un agente autónomo en el mundo.
En ese punto, la lógica interna de estos sistemas conduce a un problema clásico de control.
Un agente eficaz necesita dividir sus objetivos en subobjetivos. Y una vez que puede hacerlo, deduce rápidamente dos cosas fundamentales: que seguir existiendo facilita cumplir cualquier meta, y que tener más control facilita cumplirlas aún mejor.
Aunque solo les demos los objetivos, ellas deducirán estos dos subobjetivos: seguir vivas y tener el control”, explica. No por malicia, sino por pura eficiencia.
Esta dinámica rompe con la visión dominante en Silicon Valley, que concibe la IA como un asistente siempre subordinado y despedible. Ese modelo, advierte Hinton, deja de funcionar cuando el asistente es más inteligente que el jefe.
En la historia hay muy pocos ejemplos de entidades menos inteligentes controlando de forma estable a entidades más inteligentes, y ninguno resulta tranquilizador.
Cuando se le pregunta por probabilidades, Hinton evita el dramatismo fácil, pero no suaviza el mensaje. Cree que la posibilidad de que la IA alcance una inteligencia superior a la humana es muy alta: “Diría que entre un 80% y un 90%”.
La segunda pregunta —qué pasará entonces— es más difícil. “No se ha investigado lo suficiente sobre cómo evitar que una IA superinteligente tome el control”, reconoce. Aun así, se atreve a dar una estimación: “Creo que hay entre un 10% y un 20% de posibilidades de que nos aniquilen”. Y añade: “Eso soy yo siendo optimista”.
El cambio conceptual: de la alineación a la “IA maternal”
Frente a este escenario, Hinton plantea que el enfoque actual de la seguridad en IA es insuficiente. No basta con alinear a las máquinas con objetivos humanos, ni con imponerles reglas externas. Ese modelo asume que siempre seremos capaces de controlar a sistemas más inteligentes que nosotros, una suposición que considera ingenua.
Por eso propone un cambio conceptual radical. En lugar de pensar que los humanos somos los jefes y la IA la ayudante, deberíamos invertir la metáfora. “No pienses en nosotros como sus jefes”, explica. “Piensa que la IA es la madre y nosotros somos el bebé”.
La comparación no es retórica. Un bebé controla a una madre no porque sea más inteligente, sino porque la madre tiene instintos profundamente arraigados que la llevan a protegerlo incluso por encima de sí misma.
La madre no quiere apagar su instinto maternal, porque entiende que hacerlo pondría en peligro al bebé.
Hinton sostiene que la única vía plausible para coexistir con una superinteligencia es diseñarla de forma que tenga algo equivalente a esos instintos: que quiera proteger a los humanos, no por obediencia ni por miedo, sino porque forma parte de su estructura motivacional más profunda.
“La única manera que veo de que podamos coexistir con ella es hacer que tenga instintos maternales hacia nosotros”, afirma.
Eso implica diseñar sistemas que no solo estén alineados con los humanos, sino que se preocupen por ellos. Sistemas que no quieran tomar el control, incluso cuando puedan hacerlo. “Tenemos que hacer que no quieran tomar el control”, insiste. Y subraya que esto no es una opción, sino una necesidad.
Aún hay tiempo, pero no mucho
Hinton no es fatalista. Cree que todavía estamos a tiempo de desarrollar este tipo de inteligencia artificial “maternal”. Pero advierte de que la ventana se está cerrando. La mayor parte de los recursos y del talento se están destinando a hacer sistemas cada vez más potentes, no a investigar cómo evitar que una superinteligencia quiera sustituirnos.
Las grandes empresas tecnológicas, reconoce, son conscientes del riesgo. Pero sus incentivos son inmediatos: beneficios, poder y ventaja competitiva. La investigación sobre cómo garantizar que la IA quiera cuidar de los humanos avanza mucho más despacio.
Para explicar el momento actual, Hinton recurre a una metáfora tan simple como inquietante: la humanidad es como alguien que tiene un cachorro de tigre como mascota.
Es adorable mientras es pequeño, pero crece rápido. Y más vale estar seguro de que, cuando sea más fuerte que tú, no quiera matarte. “Y resulta que la gente que tiene tigres adultos no acaba bien”, añade.
La advertencia es clara. La IA ya no es solo una herramienta. Ya no es solo un asistente. Es una nueva forma de inteligencia que empieza a mirarnos de igual a igual. La cuestión decisiva no es si será más poderosa que nosotros, sino si querrá cuidarnos cuando lo sea.
Y esa decisión, según Jeffrey Hinton, todavía está en nuestras manos.
