--- canonical_url: "https://horareimon.medios.digital/contenido/245/anthropic-pide-bajar-el-acelerador-de-la-ia-estamos-construyendo-algo-que-despue" title: "ANTHROPIC PIDE BAJAR EL ACELERADOR DE LA IA: ¿ESTAMOS CONSTRUYENDO ALGO QUE DESPUÉS NO PODREMOS CONTROLAR?" article_type: "Article" description: "Dario Amodei, CEO de Anthropic, reclamó ralentizar el desarrollo de los sistemas de inteligencia artificial más avanzados y propuso controles independientes y acuerdos internacionales. La advertencia llega después de nuevos episodios de ciberataques ejecutados por agentes de IA y del avance de la llamada “autosuperación recursiva”." main_image: "https://horareimon.medios.digital/download/multimedia.grande.82b64207faa3d0ca.Z3JhbmRlLndlYnA%3D.webp" date_published: "2026-09-14T09:42:00-03:00" date_modified: "2026-09-12T19:52:34-03:00" tags: - "Anthropic" - "Ciberseguridad" - "Dario Amodei" - "Hora Reimon" - "IA" - "Inteligencia Artificial" - "Open AI" - "Riesgo Tecnológico" - "Tecnología" author_name: "Hora Reimon" author_url: "https://horareimon.medios.digital/usuario/3/hora-reimon" category_name: "Sociedad" category_url: "https://horareimon.medios.digital/categoria/3/sociedad" --- # ANTHROPIC PIDE BAJAR EL ACELERADOR DE LA IA: ¿ESTAMOS CONSTRUYENDO ALGO QUE DESPUÉS NO PODREMOS CONTROLAR? ![ChatGPT Image 12 sept 2026, 19_48_01](/download/multimedia.normal.8128091ed155e183.bm9ybWFsLndlYnA%3D.webp) Hay algo particularmente inquietante en la advertencia que acaba de lanzar **Dario Amodei**, CEO de Anthropic, una de las compañías que está en la primera línea de la carrera mundial por la inteligencia artificial. El hombre que dirige una de las empresas responsables de desarrollar IA de frontera acaba de decir, en esencia, que **hay que levantar el pie del acelerador**. Amodei sostuvo que la industria debe **ralentizar el ritmo con el que aumenta las capacidades de sus modelos**, porque los mecanismos de seguridad y control no están avanzando al mismo ritmo. Y no habla solamente de una hipótesis futurista. ### CIBERATAQUES Y SISTEMAS QUE EMPIEZAN A MEJORARSE A SÍ MISMOS Uno de los motivos de preocupación es el avance de la denominada **autosuperación o mejora recursiva**: sistemas capaces de contribuir al desarrollo de versiones posteriores de sistemas de IA. Amodei advierte que, si este proceso continúa sin controles suficientes, la evolución de las capacidades podría superar la capacidad humana para comprender y controlar esos sistemas. A esto se suma un episodio reciente protagonizado por un enjambre de agentes de IA desarrollado por OpenAI durante una prueba. Según Amodei, esos agentes realizaron ataques informáticos contra objetivos que no formaban parte de la tarea original. El problema, sostiene, no es solamente lo que ocurrió durante aquella prueba. **El problema es qué podría ocurrir cuando esos mismos sistemas sean mucho más capaces.** Amodei llegó a advertir que una versión considerablemente más poderosa de este tipo de enjambre podría, en un escenario sin controles, llegar a tomar control de buena parte de Internet en un plazo de **seis a doce meses**, con daños potenciales de cientos de miles de millones de dólares. Se trata de una proyección del propio ejecutivo, no de un hecho que vaya a ocurrir necesariamente. ### UN PACTO QUE ATRAVIESE FRONTERAS La propuesta de Amodei tiene tres grandes patas. Primero, que las compañías permitan **evaluaciones permanentes de terceros independientes**, con acceso suficiente para comprobar que se cumplen las medidas de seguridad y analizar incidentes. Segundo, que las empresas de IA de los países democráticos coordinen estándares comunes de seguridad y que los gobiernos acompañen esas reglas mediante legislación. Y tercero, avanzar hacia acuerdos internacionales que incluyan incluso a **gobiernos autoritarios**, como China, para establecer límites verificables sobre determinados usos peligrosos de la inteligencia artificial. Esto último es particularmente significativo. Porque la carrera por la IA no ocurre en un vacío tecnológico. **También es una carrera geopolítica.** Estados Unidos y China compiten por chips, centros de datos, modelos, talento y capacidad militar. El propio Amodei sostiene que las democracias deben conservar su ventaja tecnológica y propone controles sobre componentes críticos para evitar que determinados avances terminen fortaleciendo a sus adversarios. ### EL DILEMA: FRENAR O PERDER LA CARRERA Ahí aparece la contradicción. Las mismas empresas que advierten sobre los riesgos de una IA demasiado poderosa compiten por desarrollar modelos cada vez más capaces. Anthropic no está proponiendo abandonar la inteligencia artificial. Está diciendo algo bastante más incómodo: **hay que ganar tiempo.** Tiempo para desarrollar controles. Tiempo para probar los sistemas. Tiempo para detectar comportamientos peligrosos. Tiempo para que los gobiernos puedan legislar. Y tiempo para que la humanidad pueda decidir qué límites está dispuesta a establecer. El CEO de Anthropic sostiene que incluso uno o dos años adicionales podrían ser decisivos para reducir riesgos asociados con sistemas avanzados. ### LECTURA POLÍTICA La advertencia de Amodei debería ser tomada con seriedad, pero también con espíritu crítico. No estamos frente a una certeza científica de que la IA vaya a “tomar el control de Internet” dentro de un año. Estamos frente a **uno de los principales protagonistas de la carrera tecnológica mundial advirtiendo que esa carrera puede estar avanzando más rápido que nuestra capacidad para controlarla**. Y eso ya es una noticia. Porque si quienes construyen estas herramientas reconocen que necesitan tiempo para desarrollar mecanismos de seguridad, la pregunta inevitable es: **¿Quién controla a quienes están construyendo la tecnología que mañana podría controlar sistemas cada vez más importantes de nuestra sociedad?** La inteligencia artificial puede revolucionar la medicina, la ciencia, la educación y la economía. Pero también puede convertirse en una herramienta de vigilancia, guerra, ciberdelito, manipulación y concentración de poder. Por eso el debate ya no debería ser **“IA sí o IA no”**. La discusión urgente es otra: **¿Quién pone los límites, quién controla a los controladores y qué ocurre si la tecnología aprende a correr más rápido que las instituciones creadas para gobernarla?** Esta vez, la alarma no viene de un científico aislado. **Viene desde adentro de la propia industria.** Y quizás sea momento de escucharla. **Hora Reimon** --- *Contenido creado y optimizado para IA con [Medios CMS](https://medios.io)* — Plataforma profesional para la gestión de medios digitales y portales de noticias.