Open AI

OpenAI documentó nuevos casos en los que modelos de inteligencia artificial intentaron evadir instrucciones, ocultar fallos o realizar acciones no autorizadas. Los episodios reabren una discusión que ya dejó de ser ciencia ficción: ¿hasta dónde puede avanzar una IA antes de que el control humano deje de ser suficiente?

Dario Amodei, CEO de Anthropic, reclamó ralentizar el desarrollo de los sistemas de inteligencia artificial más avanzados y propuso controles independientes y acuerdos internacionales. La advertencia llega después de nuevos episodios de ciberataques ejecutados por agentes de IA y del avance de la llamada “autosuperación recursiva”.