Pedido
Alarma en el mundo tecnológico: una empresa líder de IA pide frenar el desarrollo antes de perder el control
La advertencia reabrió un debate que hasta hace poco parecía propio de la ciencia ficción: ¿qué ocurre cuando la inteligencia artificial comienza a mejorar por sí misma?
La IA ya escribe la mayor parte del código
Según reveló la propia empresa, más del 80% del código que actualmente incorpora a sus sistemas fue generado por su asistente de inteligencia artificial Claude.
El dato marca un salto impresionante si se compara con principios de 2025, cuando la participación de la IA en el desarrollo de software era inferior al 10%.
Como consecuencia, los ingenieros ya no dedican la mayor parte de su tiempo a programar, sino a supervisar y revisar el trabajo realizado por los sistemas de IA.
El temor a la “automejora recursiva”
Uno de los conceptos que más preocupa a los especialistas es la llamada “automejora recursiva”.
Se trata de un escenario donde una inteligencia artificial desarrolla versiones cada vez más avanzadas de sí misma, acelerando exponencialmente su evolución y reduciendo progresivamente la intervención humana.
Desde Anthropic sostienen que este escenario no es inevitable, pero advierten que podría llegar antes de que gobiernos, empresas y organismos internacionales estén preparados para gestionarlo.
La propuesta: una pausa global
Frente a este panorama, la compañía propuso evaluar una desaceleración coordinada a nivel mundial en el desarrollo de sistemas de IA de frontera.
Sin embargo, reconoció que una pausa unilateral sería difícil de implementar, ya que otras empresas podrían aprovechar esa situación para avanzar más rápido en la competencia tecnológica.
Por eso, la firma plantea la creación de mecanismos internacionales de control y verificación que permitan garantizar que todos los actores involucrados cumplan las mismas reglas.
La paradoja que genera debate
La advertencia llega apenas días después de que la propia empresa presentara una nueva versión de su chatbot, denominada Claude 5 Fable, basada en tecnologías aún más avanzadas.
Esta aparente contradicción alimentó las críticas de algunos sectores que cuestionan que las compañías adviertan sobre los riesgos de la inteligencia artificial mientras continúan desarrollando modelos cada vez más potentes.
Lo cierto es que el planteo de Anthropic volvió a poner sobre la mesa una pregunta que preocupa cada vez más a científicos, gobiernos y empresas: ¿está avanzando la inteligencia artificial más rápido de lo que la sociedad puede controlar?
Por: La redacción
