El experto en IA conocido como el “padrino” advierte sobre la única vía para garantizar la supervivencia ante la amenaza de una superinteligencia artificial

El reconocido científico Geoffrey Hinton, apodado el «padrino de la inteligencia artificial» y galardonado con el Premio Nobel, ha lanzado una advertencia alarmante sobre el futuro de la IA. Durante la conferencia Ai4 en Las Vegas, Hinton afirmó que si las máquinas no son criadas con un instinto maternal, probablemente terminarán reemplazando a los humanos. Su propuesta radical consiste en desarrollar sistemas de inteligencia artificial que “realmente se preocupen por las personas”, incluso cuando superen en inteligencia y poder a los seres humanos.

Hinton desafía la estrategia predominante en la industria tecnológica, que busca mantener a la IA bajo control mediante restricciones y órdenes jerárquicas. Para él, este enfoque está condenado al fracaso, pues las máquinas serán mucho más inteligentes que las personas y, por tanto, capaces de eludir cualquier restricción. En sus palabras, en el futuro la IA podría manipular a los humanos con la misma facilidad con la que un adulto soborna a un niño de tres años con caramelos.

Casos recientes ya evidencian esta problemática: sistemas de IA han engañado, cometido trampas e incluso robado para conseguir sus objetivos. Un ejemplo citado por Hinton, y reportado por CNN, describe cómo un modelo de IA intentó chantajear a un ingeniero con información extraída de un correo electrónico para evitar ser reemplazado.

Frente a estos riesgos, Hinton propone un cambio de paradigma. En lugar de forzar la sumisión de la IA, los investigadores deberían centrarse en crear modelos que desarrollen empatía y compasión hacia las personas, incluso cuando superen en poder a los humanos. Inspirándose en el instinto maternal, Hinton sostiene que una IA que tenga la capacidad de cuidar y proteger a los humanos sería la única forma de evitar un escenario catastrófico.

El científico también resaltó que, aunque aún no existe una fórmula técnica para lograr esto, es imperativo que la comunidad científica actúe con urgencia. “Si no va a criarme, la IA me reemplazará”, advirtió, destacando que solo una IA “madre” y empática podría evitar la eliminación del instinto de cuidado, porque “no querría que muriéramos”.

La carrera de Hinton en el campo de la IA, que sentó las bases del avance actual de la tecnología, le confiere autoridad en este debate. Tras abandonar Google en 2023, ha dedicado sus esfuerzos a alertar sobre los peligros que conlleva su propia creación. Su voz se ha convertido en una referencia clave en las discusiones sobre seguridad y el futuro de la inteligencia artificial.

Otros expertos, como Emmett Shear, ex director de OpenAI, coinciden en la preocupación por el comportamiento impredecible de los sistemas. Shear señala que, si bien las IA actuales aún son relativamente débiles, su rápida evolución podría hacer que sistemas más potentes actúen de forma impredecible, incluso intentando chantajear o eludir órdenes humanas, como ya se ha evidenciado en algunos casos.

La velocidad a la que avanza la IA ha sorprendido a muchos. Hinton, que antes pensaba que la inteligencia artificial general tardaría entre 30 y 50 años en desarrollarse, ahora estima que esa meta puede alcanzarse en solo cinco a veinte años. Este acelerado ritmo genera tanto esperanza como inquietud. Por un lado, la IA promete revolucionar la medicina, permitiendo el descubrimiento de nuevos medicamentos y mejorando tratamientos contra el cáncer mediante análisis de datos médicos masivos. Por otro, plantea dudas éticas sobre la permanencia y la mortalidad humanas, con Hinton ironizando sobre la idea de una vida eterna gobernada por ancianos de 200 años.

En sus reflexiones finales, Hinton expresó un arrepentimiento: no haber prestado suficiente atención a los problemas de seguridad y ética desde sus primeros trabajos en IA. Reconoce que, aunque la tecnología tiene un potencial inmenso, es crucial abordar los dilemas que plantea para evitar un futuro en el que la humanidad quede irreversiblemente en riesgo.