Evan Hubinger nvestigador de Anthropic especializado en seguridad de inteligencia artificial, afirmó que estima en más de 10% la posibilidad de que sistemas avanzados de IA terminen provocando la muerte de toda la humanidad durante los próximos diez años.
La declaración fue difundida después de que Jacob Coxon, exinvestigador de OpenAI y Anthropic, anunciara su salida de esta última empresa y expresara públicamente sus preocupaciones sobre el desarrollo acelerado de sistemas de superinteligencia.
De acuerdo con la información publicada, Coxon sostuvo que las principales compañías del sector continúan avanzando hacia modelos cada vez más capaces sin haber resuelto por completo los mecanismos necesarios para garantizar su control y seguridad.
Hubinger respondió a esos señalamientos y reconoció que comparte parte de esas preocupaciones. El investigador señaló que, desde su perspectiva, existe una probabilidad superior al 10% de que el desarrollo de inteligencia artificial avanzada desemboque en un escenario de extinción humana.
El porcentaje citado corresponde a una estimación personal del especialista y no a un cálculo científico comprobado. Actualmente no existe una metodología aceptada que permita establecer con precisión la probabilidad de que la inteligencia artificial provoque un escenario de esa naturaleza.
Hubinger trabaja en el área conocida como alineación de inteligencia artificial, enfocada en desarrollar métodos para que los sistemas avanzados mantengan objetivos compatibles con las decisiones e intereses humanos.
Uno de los principales temas de investigación en este campo consiste en determinar cómo podrían comportarse sistemas con capacidades superiores a las actuales y qué mecanismos serían necesarios para limitar acciones no previstas por sus desarrolladores.
Las preocupaciones expresadas por Hubinger no se refieren directamente a los modelos de inteligencia artificial disponibles actualmente, sino a sistemas futuros con mayores niveles de autonomía, capacidad de planificación y acceso a herramientas externas.
El debate sobre estos riesgos se ha intensificado conforme empresas como Anthropic, OpenAI y otras firmas tecnológicas compiten por desarrollar modelos con mayores capacidades.
Otros especialistas del sector también han planteado escenarios similares. Geoffrey Hinton, uno de los investigadores más reconocidos en el campo de las redes neuronales, ha señalado anteriormente que considera posible un riesgo de extinción relacionado con el desarrollo de inteligencia artificial avanzada.
Sin embargo, la comunidad científica mantiene posiciones distintas sobre la magnitud y la cercanía de esos escenarios.
La declaración de Hubinger coloca nuevamente el tema de la seguridad en el centro de la discusión sobre el futuro de la inteligencia artificial, mientras las principales compañías continúan desarrollando modelos cada vez más potentes y los investigadores trabajan en mecanismos para reducir posibles riesgos asociados con su evolución.
**Titular todavía más clickbait, sin dejar de ser periodístico:**
**La IA podría matar a todos los humanos: jefe de seguridad de Anthropic calcula un riesgo mayor al 10%**.
