Una declaración sobre inteligencia artificial y armas nucleares
Hacia una paz desarmada y desarmante.
Adoptada por l0s participantes de la Asamblea Global de PremiosNobel Borgo Laudato Si’,
26 Vaticano – julio 206
La humanidad se encuentra en un momento decisivo de su historia. Más de ochenta años después del inicio de la era nuclear, y en el umbral de la era de la inteligencia artificial, nos enfrentamos a un desafío sin precedentes. Nunca antes el progreso científico había ofrecido oportunidades tan extraordinarias mientras simultáneamente generaba riesgos tan profundos para nuestro futuro común.
Cuando las armas nucleares empezaron a desarrollarse, el mundo tuvo la oportunidad de evitar vivir en una dinámica permanente de miedo. Fracasamos y, como resultado, la humanidad ha vivido al borde de la aniquilación nuclear.
Con la IA, se presenta un peligro similar. La IA integrada en los sistemas nucleares deja poco tiempo para, o incluso reemplaza, el juicio humano en una crisis. Esta tecnología cambia el contexto en el que los estados con armas nucleares compiten entre sí. Es probable que la IA cause una pérdida masiva de empleos y agudizará la competencia económica entre los estados con armas nucleares. La IA potencia los ciberataques que pueden fracturar infraestructuras civiles y estratégicas críticas. La IA permite la guerra de información: La paz depende de una realidad compartida. Sin hechos no puede haber verdad; Sin la verdad no puede haber confianza; y sin confianza, sin diálogo, sin verificación y sin contención entre naciones.
Las capacidades de IA más avanzadas, recursos informáticos e infraestructuras de datos se concentran cada vez más en un pequeño número de países y empresas, creando asimetrías significativas de poder e incentivos limitados para la cooperación. La IA es una tecnología que provoca disrupciones económicas, militares y sociales, y se está desarrollando a un ritmo sin precedentes en la historia humana.
En medio de una carrera armamentística nuclear cada vez peor, estamos embarcándonos en una carrera igualmente peligrosa de la IA.
@RhizomatikaLab Retina tendencias
El Papa León XIV, invocando valores compartidos entre tradiciones religiosas, ha llamado a la humanidad hacia una «paz desarmada y desarmante». Rechazamos la creencia de que la seguridad duradera pueda construirse sobre el miedo, la dominación o la amenaza permanente de la destrucción mutua. La seguridad no puede reposar indefinidamente sobre la realidad de la destrucción mutua.
Conscientes de nuestra responsabilidad compartida hacia las generaciones presentes y futuras, adoptamos los siguientes principios:
1. Desarmar la próxima carrera armamentística
Reconocemos que la IA es un escenario de competencia estratégica, como las armas nucleares antes que ella. Hacemos un llamamiento a los gobiernos, desarrolladores de IA de vanguardia, investigadores y a la comunidad internacional para que actúen ahora, mediante acuerdos de gobernanza como mecanismos de reparto de beneficios, la promoción de aplicaciones de IA que sirvan al bienestar humano y la moderación en sus aplicaciones más desestabilizadoras, para reducir estos riesgos mientras la elección siga siendo nuestra. Debemos desarmar la próxima carrera armamentística, tanto de IA como nuclear, antes de que definan también el próximo siglo.
2. Desarrollo Responsable
Los desarrolladores de IA deben publicar de forma transparente los principios que guían el comportamiento de sus modelos y ser responsables y responsables de la adhesión de dichos modelos. La IA debe desarrollarse y monitorizarse para estar alineada con los intereses de la humanidad, incluyendo el derecho internacional y el respeto a los derechos humanos. Además, ninguna organización debería iniciar, ni ningún gobierno debería permitir, la auto-mejora recursiva totalmente automatizada en sistemas de inteligencia artificial sin los medios para monitorizar y, si es necesario, detener dichos sistemas.
3. Uso responsable de la IA
Un sistema automatizado nunca debería tomar la decisión final de lanzar un arma nuclear. Pedimos la adopción de un tratado internacional que prohíba la integración temeraria de la inteligencia artificial en los sistemas de mando, control y lanzamiento nucleares para que se mantenga un control humano significativo.
Debemos prevenir el uso malicioso de la inteligencia artificial en operaciones cibernéticas y ataques contra infraestructuras nucleares críticas. Los estados nucleares deben realizar revisiones de seguridad para reducir la vulnerabilidad de sus fuerzas nucleares al control o manipulación no autorizados por parte de la IA.
Promovemos el desarrollo responsable y el uso de la inteligencia artificial para mejorar el bienestar humano, acelerar el progreso científico y médico, proteger el medio ambiente, fortalecer la resiliencia y promover la paz, el desarrollo sostenible y el bien común.
4. Gobernanza responsable
Instamos a gobiernos, empresas y organizaciones internacionales a facilitar la desaceleración coordinada del desarrollo de IA en la frontera mediante el establecimiento de mecanismos compartidos, como la verificación y evaluaciones internas y externas sólidas.
Apoyamos al Panel Científico Internacional Independiente de las Naciones Unidas sobre IA y la promoción de otros esfuerzos en el espíritu de Magnifica Humanitas.
Hacemos un llamamiento a una ampliación de la investigación y el diálogo para proponer nuevas vías institucionales para la gobernanza internacional de la IA y la futura implementación de iniciativas de gobernanza global.
Premios nobel firma la declaración_Fund. Pablo VIs
5. Liderazgo responsable
Reconocemos que los desafíos que enfrentamos probablemente serán resueltos por la próxima generación de líderes. Los jóvenes deben ser capacitados para involucrarse con amenazas nucleares, de IA y otras potencialmente catastróficas, a través de la educación, el mentoría, la colaboración intergeneracional y la participación inclusiva en todas las regiones, culturas y comunidades. Debemos impulsar iniciativas educativas que fomenten la responsabilidad ética, el pensamiento crítico, la alfabetización en medios de comunicación e IA, y una cultura de paz.
Reconocemos que la humanidad se enfrenta a numerosas amenazas conectadas, cuyas consecuencias no intencionadas a menudo afectan a quienes no tienen acceso o control sobre estas tecnologías. Pedimos un bien común digital que produzca datos para avanzar en la comprensión y la acción sobre las armas nucleares, la IA no controlada y otras amenazas existenciales.
6. Desarme Nuclear
Llamamos a negociaciones urgentes, sostenidas y de buena fe que conduzcan, dentro de un marco acordado y con plazos definidos, a la eliminación verificable e irreversible de las armas nucleares. La comunidad internacional debe rechazar la normalización de las armas nucleares como instrumentos permanentes de seguridad y fortalecer las normas humanitarias y jurídicas recogidas en el Tratado de No Proliferación de Armas Nucleares y el Tratado de Prohibición de las Armas Nucleares.
Non-Violence_sculpture_The_Knotted_Gun_at_UNHQ_in_New_York_01
Hacemos un llamamiento a los Estados con armas nucleares para que detengan la renovada carrera armamentística y la expansión de sus arsenales, reanuden las negociaciones bilaterales y multilaterales sobre control de armamentos y desarme, y cumplan con sus obligaciones y compromisos bajo el derecho internacional. Los Estados deben perseguir restricciones y reducciones verificables; niveles de alerta más bajos; ampliar el tiempo de decisión; alejarse de las posturas de lanzamiento en alerta y de represalia rápida; reducir el papel de las armas nucleares en las doctrinas de seguridad; fortalecer las comunicaciones en crisis; prevenir operaciones cibernéticas contra el mando, control y comunicaciones nucleares; y fomentar la cooperación para evitar malentendidos, errores de cálculo y escaladas no intencionadas.
Las naciones nucleares deben promover políticas y doctrinas que disminuyan el papel de las armas nucleares y reduzcan la probabilidad de primer uso y guerra catastrófica. Inspirados por las palabras de los premios Nobel Bertrand Russell y Albert Einstein, «Apelamos como seres humanos a los seres humanos: recordad vuestra humanidad y olvidad el resto.»
Está en juego nuestra supervivencia y la de las futuras generaciones.
Para citar esta entrada
Una declaración sobre inteligencia artificial y armas nucleares. Hacia una paz desarmada y desarmante.
Adoptada por l0s participantes de la Asamblea Global de PremiosNobel Borgo Laudato Si’, 26 Vaticano – julio 206
La Web de NIAIÁ y sus publicaciones (salvo aquellas en las que se especifique de otra manera) están bajo una Licencia Creative Com Etiquetas: Desigualdad social, InteligenciaEtiquetas: democracia, Desigualdad social, Inteligencia