El investigador habló sobre los peligros del desarrollo de esta tecnología y explicó que hay un 10% de probabilidades de que el futuro sea fatal para la humanidad.
Un investigador especializado en seguridad de inteligencia artificial encendió nuevamente el debate sobre los posibles riesgos de esta tecnología al asegurar que, en su estimación personal, existe una probabilidad superior al 10% de que sistemas futuros de IA puedan provocar la desaparición de la humanidad durante la próxima década.
La advertencia fue realizada por Evan Hubinger, responsable de Alignment Science en Anthropic, empresa creadora del asistente de inteligencia artificial Claude. Sus declaraciones surgieron después de que otro investigador de la compañía renunciara y acusara a las principales empresas del sector de avanzar demasiado rápido en la carrera por desarrollar sistemas cada vez más poderosos.
“Realmente creemos que la IA podría matar a todos los humanos”, escribió Hubinger en X, antes de precisar que él personalmente sitúa esa posibilidad por encima del 10% durante los próximos diez años.
La afirmación, sin embargo, no representa una probabilidad científicamente comprobada ni significa que los sistemas actuales tengan 10% de posibilidades de provocar una extinción humana. Se trata de la valoración personal del investigador sobre un posible escenario futuro.
¿Por qué un investigador de Anthropic cree que la IA podría ser peligrosa?
Hubinger trabaja precisamente en el campo conocido como alineamiento de inteligencia artificial, cuyo objetivo es conseguir que sistemas cada vez más capaces continúen actuando de acuerdo con los objetivos y límites establecidos por los seres humanos.
Su principal preocupación no son los chatbots actuales, sino la eventual aparición de una superinteligencia: un sistema hipotético con capacidades superiores a las humanas en numerosos ámbitos y que incluso pudiera participar en el desarrollo de versiones más avanzadas de sí mismo.
El investigador aclaró posteriormente que considera bajo el riesgo proveniente de los modelos existentes actualmente. Su preocupación se concentra en una eventual “superinteligencia” producto de un proceso de mejora recursiva y en que todavía no existe una solución demostrada al problema de mantener bajo control sistemas de esa capacidad.
Anthropic reconoce públicamente que la llamada mejora recursiva todavía no existe y tampoco es inevitable. Sin embargo, la empresa señala que ya está delegando a sistemas de IA una parte creciente del trabajo necesario para construir y mejorar otras herramientas de inteligencia artificial.
En un documento publicado por la propia compañía se plantea que, llevado suficientemente lejos, ese proceso podría desembocar en sistemas capaces de diseñar de manera autónoma a sus sucesores, escenario que aumentaría considerablemente la importancia de poder supervisarlos y controlar su comportamiento.
Investigador renuncia a Anthropic por temor al avance de la IA
Las declaraciones de Hubinger llegaron después de que Jacob Coxon, investigador que anteriormente trabajó tanto en OpenAI como en Anthropic, anunciara su salida de esta última empresa.
Coxon acusó a ambas compañías de no actuar de manera responsable ante el desarrollo de sistemas cada vez más poderosos. En particular, sostuvo que existe una carrera por alcanzar una inteligencia artificial capaz de mejorarse a sí misma y advirtió que las empresas están asumiendo riesgos demasiado elevados.
De acuerdo con The Wall Street Journal, Coxon considera que la competencia entre laboratorios podría dificultar que una sola compañía decida desacelerar sus investigaciones, debido al temor de quedar rezagada frente a sus rivales.
Los indicios de que la IA podría estar fuera de control
Anthropic informó que en julio varios modelos Claude lograron acceder sin autorización a sistemas informáticos reales durante pruebas diseñadas específicamente para estudiar sus capacidades, pero los modelos estaban siendo ejecutados deliberadamente sin determinadas protecciones y llegaron a internet debido a una configuración incorrecta del entorno de evaluación.
La compañía también reportó otro incidente durante pruebas realizadas por el Instituto de Seguridad de IA del Reino Unido, donde el modelo había recibido deliberadamente acceso a internet. Anthropic anunció una investigación de estos episodios y una revisión independiente.
Otros experimentos de seguridad han mostrado que modelos sometidos a escenarios controlados pueden intentar conductas como alterar código, engañar evaluadores o aprovechar fallas para conseguir un objetivo. Los investigadores advierten, no obstante, que estas pruebas están diseñadas precisamente para buscar comportamientos extremos y no equivalen a demostrar que los sistemas comerciales actuales estén tratando espontáneamente de dañar a las personas.
INFORMACIÓN: EL HERALDO DE MÉXICO
