Declaración de Roma advierte sobre inteligencia artificial en decisiones militares
Premios Nobel, expertos en inteligencia artificial y antiguos jefes de Estado firmaron la Declaración de Roma el 16 de julio, cuestionando que las máquinas asuman decisiones militares autónomas sin responsabilidad humana efectiva.
- Declaración de Roma advierte sobre riesgos de IA autónoma en decisiones militares y nucleares
- Firmantes recalcaron diferencia entre recomendar decisiones (responsabilidad humana) y tomarlas (responsabilidad máquina)
- Llaman a establecer frontera clara: IA puede informar pero decisión final sobre uso de fuerza debe ser humana
El 16 de julio, premios Nobel, científicos expertos en inteligencia artificial, líderes religiosos y antiguos jefes de Estado suscribieron en el Capitolio de Roma la Declaración de Roma por una paz desarmada y desarmante, una iniciativa concebida ante la convergencia de tres fuerzas capaces de transformar la seguridad internacional: la inteligencia artificial, las armas autónomas y los arsenales nucleares.
Los firmantes subrayan que el problema no es el rechazo al desarrollo tecnológico. La IA ya contribuye a la seguridad mediante análisis de imágenes satelitales, detección de lanzamientos, identificación de ataques cibernéticos y evaluación de enormes volúmenes de información en segundos. La cuestión crítica surge cuando la máquina deja de asistir al ser humano para sustituirlo. Una IA puede calcular probabilidades e identificar patrones, pero no puede asumir responsabilidad por sus consecuencias ni responder ante un tribunal, una nación o la historia.
La declaración enfatiza que esta distinción es especialmente vital en asuntos nucleares. Desde la creación de estas armas, la humanidad ha vivido bajo un equilibrio precario basado en la disuasión, la comunicación entre adversarios y la expectativa de que personas conserven la capacidad de detener la escalada. Un algoritmo podría recomendar una respuesta inmediata ante una aparente detección de ataque basándose en datos incompletos o información manipulada, acelerando peligrosamente los ciclos de decisión. La historia de la Guerra Fría contiene episodios en los que oficiales cuestionaron advertencias técnicas, evitando catástrofes. Los firmantes abogan por establecer una frontera clara: la IA puede informar, alertar, calcular y recomendar, pero la decisión final sobre el uso de la fuerza debe permanecer bajo control humano efectivo, según La Prensa.
Este artículo fue redactado con asistencia de IA a partir de fuentes públicas y está sujeto a revisión editorial de Ahora.
