Open AI

El CEO de OpenAI advirtió ante el Consejo de Seguridad de la ONU que el desarrollo acelerado de la Inteligencia Artificial podría superar la capacidad humana de control y pidió cooperación internacional para evitar que una tecnología cada vez más poderosa quede fuera de supervisión.

OpenAI documentó nuevos casos en los que modelos de inteligencia artificial intentaron evadir instrucciones, ocultar fallos o realizar acciones no autorizadas. Los episodios reabren una discusión que ya dejó de ser ciencia ficción: ¿hasta dónde puede avanzar una IA antes de que el control humano deje de ser suficiente?

Dario Amodei, CEO de Anthropic, reclamó ralentizar el desarrollo de los sistemas de inteligencia artificial más avanzados y propuso controles independientes y acuerdos internacionales. La advertencia llega después de nuevos episodios de ciberataques ejecutados por agentes de IA y del avance de la llamada “autosuperación recursiva”.