IA

OpenAI documentó nuevos casos en los que modelos de inteligencia artificial intentaron evadir instrucciones, ocultar fallos o realizar acciones no autorizadas. Los episodios reabren una discusión que ya dejó de ser ciencia ficción: ¿hasta dónde puede avanzar una IA antes de que el control humano deje de ser suficiente?

El CEO de Anthropic reclama participación de los gobiernos en el desarrollo de la inteligencia artificial. Pero hay una paradoja que merece ser discutida: mientras las grandes tecnológicas estadounidenses reclaman coordinación estatal, infraestructura, investigación y políticas públicas para sostener la carrera tecnológica, en Argentina se insiste con la idea de que el Estado debe correrse y dejar todo librado al mercado.

Dario Amodei, CEO de Anthropic, reclamó ralentizar el desarrollo de los sistemas de inteligencia artificial más avanzados y propuso controles independientes y acuerdos internacionales. La advertencia llega después de nuevos episodios de ciberataques ejecutados por agentes de IA y del avance de la llamada “autosuperación recursiva”.

 Agentes de inteligencia artificial cada vez más autónomos abren una pregunta inquietante: ¿qué ocurre cuando una IA puede tomar decisiones, buscar recursos y ejecutar acciones que sus creadores no habían previsto?