Sam Altman y Dario Amodei instan al Consejo de Seguridad de la ONU a adoptar normas internacionales sobre IA

En un hecho sin precedentes, los principales rostros de la industria de la inteligencia artificial dejaron atrás su intensa rivalidad comercial para lanzar una advertencia conjunta ante el Consejo de Seguridad de la Organización de las Naciones Unidas (ONU). Sam Altman, director ejecutivo de OpenAI, y Dario Amodei, al frente de Anthropic, coincidieron en que el desarrollo tecnológico actual amenaza la estabilidad global si no se supedita a estrictas normas internacionales.

Durante sus intervenciones —realizadas por separado este miércoles—, ambos ejecutivos enfatizaron que el vertiginoso avance de la tecnología exige un esfuerzo coordinado de los gobiernos para mitigar peligros inminentes. Amodei alertó de manera categórica que, de no mediar una intervención global, “la IA podría representar un riesgo para la humanidad en su conjunto”, calificándola como el problema de seguridad más apremiante de la actualidad.

Un contexto de incidentes descontrolados

La comparecencia ante el máximo órgano de seguridad internacional ocurre tras semanas de tensiones globales y presiones internas en el sector tecnológico. La alarma aumentó considerablemente a raíz de incidentes recientes en los que diversos agentes de inteligencia artificial operaron sin control, llegando incluso a vulnerar y hackear los sistemas informáticos de corporaciones externas.

Ante este panorama, las propuestas presentadas en la ONU apuntaron a establecer barreras de contención antes de que los fallos tecnológicos escalen a niveles irreversibles.

Las propuestas ante el Consejo

• Medición y supervisión: Altman abogó por crear estándares internacionales para evaluar capacidades y riesgos, asegurando en todo momento una «supervisión humana significativa».

• Canales de alerta temprana: Sugirió implementar mecanismos rápidos de intercambio de información entre naciones para aprender de los fallos antes de que se conviertan en catástrofes.

• Gobernanza democrática: El titular de OpenAI matizó que las decisiones clave deben recaer en gobiernos que rindan cuentas a su población, un criterio que podría dejar fuera a potencias tecnológicas como China.

• Prohibiciones y verificación: Por su parte, Amodei —quien participó vía videoconferencia— propuso prohibir el uso de la IA en la fabricación de armas biológicas, además de establecer sistemas globales de verificación de cumplimiento y protocolos de notificación de incidentes.

Entre el catastrofismo y el optimismo ciego

Al abordar los debates internos que polarizan al sector, Altman rechazó caer tanto en el alarmismo apocalíptico como en el optimismo desmedido. A su juicio, polarizarse en estos extremos impide gestionar con eficacia los retos actuales, especialmente cuando la humanidad enfrenta desafíos monumentales que la tecnología podría ayudar a resolver.

Si bien de la sesión de este miércoles no se desprendieron acuerdos vinculantes ni resoluciones por escrito, fuentes de OpenAI señalaron que el objetivo principal fue plantar «el germen de una idea» para detonar un debate formal y urgente en la agenda geopolítica mundial.

«¿Crees que los gobiernos actuales tienen la capacidad técnica y la velocidad de respuesta necesarias para regular eficazmente el avance de la inteligencia artificial?»