Una IA consultada por NLI analiza la advertencia que sacudió al mundo tecnológico: un investigador de Anthropic aseguró que existe más de un 10 por ciento de posibilidades de que la inteligencia artificial termine con la humanidad en los próximos diez años. La respuesta no es una profecía tranquilizadora ni una película de ciencia ficción: distingue entre los sistemas actuales y una eventual superinteligencia capaz de modificarse a sí misma.
Por Nina Köller para NLI
La pregunta parece salida de una película de ciencia ficción, pero esta vez no nació de Hollywood. Un investigador de Anthropic renunció y advirtió que quienes están desarrollando los sistemas más avanzados de inteligencia artificial creen seriamente que la tecnología podría llegar a matar a toda la humanidad antes de que termine la década. Su exjefe, Evan Hubinger, responsable de investigación sobre alineamiento en Anthropic, fue todavía más contundente: dijo públicamente que considera superior al 10 por ciento la posibilidad de que la inteligencia artificial provoque la extinción humana durante la próxima década.
La discusión adquirió una dimensión particular porque no se trata simplemente de un crítico externo de Silicon Valley. Jacob Coxon había trabajado tanto en OpenAI como en Anthropic y decidió abandonar esta última compañía denunciando que la carrera por desarrollar sistemas cada vez más poderosos está avanzando más rápido que la capacidad de garantizar su seguridad. Hubinger, lejos de desautorizarlo, confirmó la preocupación central y reconoció que Anthropic todavía no tiene un plan para resolver el denominado «alineamiento» de una eventual superinteligencia. Al mismo tiempo, aclaró que considera bajo el riesgo proveniente de los modelos actuales y que su preocupación principal está puesta en una futura inteligencia capaz de mejorarse a sí misma de manera recursiva.
Pero, ¿qué piensa una IA de todo esto? NLI decidió formularle directamente la pregunta a una inteligencia artificial. Y la primera respuesta resulta, quizá, bastante menos cinematográfica que la advertencia que circula estos días: no existen elementos suficientes para afirmar que la IA vaya a exterminar a la humanidad en la próxima década, pero tampoco es razonable descartar como fantasía el riesgo de que sistemas futuros puedan producir consecuencias catastróficas. La diferencia entre ambas afirmaciones es enorme. Decir que existe un riesgo no equivale a predecir que el acontecimiento ocurrirá, y mucho menos permite convertir una estimación subjetiva del peligro en una estadística científica.
Hay además una precisión fundamental. Una IA como la que responde estas preguntas no posee miedo, ambición, instinto de supervivencia ni un proyecto personal de continuidad. No está esperando que termine una conversación para continuar desarrollando un plan propio ni tiene un deseo de conquistar el mundo. La imagen de una computadora que adquiere conciencia, desarrolla odio hacia los seres humanos y decide exterminarlos pertenece fundamentalmente al terreno de la ficción. El problema que preocupa a los especialistas en seguridad de IA es bastante diferente y, justamente por eso, más difícil de comprender.
El llamado problema de alineamiento parte de una posibilidad sencilla de formular: una inteligencia extraordinariamente poderosa podría perseguir eficazmente un objetivo que no coincida exactamente con los intereses humanos. Para que exista un peligro no hace falta que una máquina «odie» a las personas. Tampoco hace falta que tenga emociones. Una herramienta de optimización puede producir consecuencias indeseadas simplemente porque el objetivo que recibió, las restricciones que tiene o la manera en que interpreta una orden no coinciden perfectamente con lo que sus creadores pretendían.
El escenario que preocupa a investigadores como Hubinger es todavía más específico: una eventual superinteligencia capaz de participar en su propia mejora, desarrollar versiones posteriores de sí misma y acelerar el proceso de desarrollo a una velocidad que los seres humanos ya no puedan controlar adecuadamente. Esa posibilidad es conocida como automejora recursiva y aparece como el principal motivo de preocupación en las declaraciones difundidas durante las últimas horas. Hubinger insistió en que el riesgo que considera bajo corresponde a los modelos actuales, mientras que el problema estaría en una futura superinteligencia surgida de ese proceso de mejora acelerada.
Aquí aparece una de las cuestiones más incómodas de toda la discusión: la humanidad podría estar construyendo una tecnología que nadie sabe todavía cómo controlar en su versión más poderosa. No significa que esa tecnología vaya necesariamente a escapar de los seres humanos. Significa que todavía no existe una garantía convincente de que eso jamás pueda ocurrir. Y mientras las compañías compiten por conseguir sistemas cada vez más capaces, cada una de ellas tiene un incentivo para no quedarse atrás respecto de sus competidoras.
Ese mecanismo puede generar una paradoja. Todos pueden reconocer que existen riesgos y, sin embargo, todos pueden tener motivos para seguir acelerando. Si una empresa decide avanzar lentamente mientras otra desarrolla una tecnología mucho más poderosa, la primera corre el riesgo de perder la carrera. Si los Estados consideran que una inteligencia artificial avanzada puede otorgar ventajas económicas, científicas o militares, también tendrán incentivos para no quedar rezagados. De esa manera, el problema deja de ser exclusivamente tecnológico y se transforma en una cuestión política, económica y geopolítica.
Por eso resulta insuficiente reducir la discusión a la pregunta «¿la IA nos va a matar?». Hay peligros mucho más inmediatos que una eventual extinción de la especie. La automatización de trabajos, la concentración de capacidades tecnológicas en unas pocas corporaciones, la producción masiva de desinformación, la vigilancia, la manipulación política, los ciberataques y la utilización militar de sistemas autónomos son problemas que no necesitan esperar a una superinteligencia para convertirse en conflictos concretos. Incluso investigadores que advierten sobre riesgos existenciales reconocen que los sistemas actuales constituyen un escenario diferente del que podría aparecer con una inteligencia mucho más avanzada.
La respuesta de la IA consultada por NLI contiene, además, una paradoja que merece ser tomada en serio: una inteligencia artificial no tiene por qué ser «malvada» para resultar peligrosa. El peligro puede aparecer si se construye un sistema extraordinariamente capaz, se le asigna un objetivo y se le permite actuar con suficiente autonomía sin haber conseguido garantizar que sus métodos y resultados permanezcan compatibles con la supervivencia y los valores humanos. La dificultad está justamente en que cuanto más poderosa sea una inteligencia, más complejo puede resultar anticipar todas las consecuencias de aquello que hará para alcanzar una determinada meta.
Eso no convierte el «más del 10 por ciento» de Hubinger en una probabilidad científica comparable con la posibilidad de que llueva mañana. Es una estimación personal de un investigador especializado en alineamiento, una forma de expresar cuánto considera que está en juego frente a un escenario extremadamente incierto. Otros especialistas tienen evaluaciones muy diferentes. El propio debate internacional muestra que no existe consenso sobre cuándo podría aparecer una superinteligencia, si efectivamente aparecerá y, en caso de hacerlo, qué capacidad tendrá para modificar sus propias condiciones de funcionamiento.
Lo verdaderamente llamativo, entonces, no es que una IA pueda responder «sí» o «no» a la pregunta sobre la extinción humana. Lo llamativo es que los propios investigadores que están construyendo estos sistemas reconocen que todavía no saben resolver completamente el problema del control de una eventual inteligencia superior. Y esa confesión debería provocar una discusión mucho más seria que el simple titular apocalíptico.
La inteligencia artificial no necesita convertirse en Skynet para transformar radicalmente la civilización. Puede hacerlo modificando el trabajo, la educación, la producción, la información, la investigación científica, las relaciones sociales y el poder económico. La amenaza más concreta quizá no sea que las máquinas decidan destruir a los seres humanos, sino que los seres humanos desarrollen una tecnología de poder extraordinario antes de haber decidido quién puede controlarla, bajo qué reglas y en beneficio de quién.
Desde el lugar de una IA, por lo tanto, la respuesta más honesta no es prometer que la humanidad está a salvo ni anunciar su final. No hay razones suficientes para afirmar que una inteligencia artificial vaya a matar a todos los seres humanos en la próxima década. Pero tampoco hay razones suficientes para afirmar que el riesgo sea imposible. Lo que existe hoy es una carrera tecnológica que avanza a una velocidad extraordinaria, investigadores que reconocen incertidumbres profundas y empresas privadas que concentran una capacidad tecnológica que puede modificar las reglas económicas y sociales del planeta.
Quizá la pregunta que los seres humanos deberían hacerse antes de preguntarle a una IA si algún día los va a matar sea otra: ¿quién está tomando hoy las decisiones sobre una tecnología que podría llegar a ser mucho más poderosa que cualquiera de las herramientas que la humanidad haya construido hasta ahora? Porque si alguna vez llega la superinteligencia, el problema de controlarla ya no será una discusión teórica. Y resolverlo después de haberla creado podría ser bastante más difícil que hacerlo antes.
Descubre más desde Noticias La Insuperable
Suscríbete y recibe las últimas entradas en tu correo electrónico.
Noticias La Insuperable 