Hinton eleva la alarma: advierte que la IA superinteligente podría extinguir a la humanidad antes de 2055

Geoffrey Hinton, el científico británico-canadiense de 78 años considerado uno de los padres del aprendizaje profundo, aseguró que existe entre un 10 % y un 20 % de probabilidades de que sistemas de inteligencia artificial superinteligentes provoquen la extinción de la humanidad en un horizonte de treinta años. La estimación, que circuló esta semana en distintos foros académicos, fue confirmada a este medio por fuentes familiarizadas con sus últimas intervenciones públicas.

Un riesgo que la humanidad nunca enfrentó

Hinton, que dejó su cargo en Google en 2023 para poder hablar sin restricciones sobre los riesgos de la tecnología que contribuyó a desarrollar, sostuvo que la especie humana nunca se enfrentó a entidades más inteligentes que ella misma. Ese punto ciego, según el investigador, es el mayor peligro del momento.

El científico atribuyó su rango de probabilidades a la velocidad de desarrollo de los modelos, que superó con creces las proyecciones que ál mismo manejaba hace una década. En su análisis, el salto cualitativo es tan acelerado que los marcos regulatorios actuales resultan insuficientes para contenerlo.

La metáfora del acelerador sin volante

“La innovación tecnológica es como el acelerador de un automóvil: sin volante, más velocidad equivale a más peligro. La regulación gubernamental es ese volante.”Geoffrey Hinton

Hinton rechazó la idea de que la autorregulación del mercado pueda contener los riesgos de una tecnología que, en su estimación, podría volverse incontrolable antes de 2055. Frente a quienes argumentan que imponer límites regulatorios pone en desventaja a determinados países frente a competidores internacionales, respondió que la competencia geopolítica no puede ser razón suficiente para postergar marcos legales globales.

Los modelos ya comprenden conceptos, no solo patrones

• Hinton asegura que los modelos de lenguaje múltiles avanzados ya no se limitan a identificar correlaciones estadísticas en grandes volúmenes de texto.
• Según su análisis, estos sistemas comprenden efectivamente los conceptos semánticos y abstractos que procesan, un salto cualitativo que cambia la categoría del riesgo.
• Esa distinción, para el investigador, obliga a repensar los marcos de evaluación y seguridad de los sistemas desplegados en producción.
• La ventana para definir la orientación ética de la inteligencia artificial se achica a medida que los modelos ganan capacidad de forma autónoma.

Desde su salida de Google, Hinton multiplicó sus intervenciones públicas y académicas para instalar el debate sobre la necesidad de regulación estatal urgente y leyes globales. Su diagnóstico es técnico, apoyado en datos, y su tono es el de un científico que conoce de cerca los sistemas que hoy motorizan a las principales plataformas del mundo.

en desarrollo | última actualización: 14:35