En una reciente reunión del Consejo de Seguridad de Naciones Unidas, figuras destacadas en el campo de la inteligencia artificial, como Sam Altman de OpenAI y Dario Amodei de Anthropic, advirtieron sobre los riesgos que esta tecnología podría representar para la humanidad. Ambos llamaron a ralentizar su desarrollo con el objetivo de controlar sus potenciales peligros y evitar que nadie se apropie del poder total de estos modelos.
Sam Altman destacó el papel dual que la inteligencia artificial podría desempeñar en el futuro, comparándola con una nueva era del Renacimiento en cuanto a creatividad y descubrimiento o con una Revolución Industrial marcada por la agitación. Altman subrayó que el desarrollo de la IA debe centrarse en potenciar las capacidades humanas, no en reemplazar la capacidad de acción de las personas. "La historia continua del progreso humano no trata sobre herramientas que reemplazan la capacidad de acción humana, sino sobre cómo las herramientas adecuadas potencian las capacidades de las personas", afirmó Altman, quien también advirtió contra caer en un catastrofismo que considera como una trampa.
Las herramientas adecuadas deben potenciar las capacidades de las personas, no sustituirlas
Por su parte, Dario Amodei enfocó los riesgos de la IA en dos categorías principales: el uso indebido, como en el terrorismo o en la creación de armas biológicas, y la posible pérdida de control. Amodei aboga por un desarrollo consciente de la IA, sugiriendo que se avance al mismo ritmo que las capacidades tecnológicas manteniendo siempre la seguridad. También instó a las empresas de IA, gobiernos y el Consejo de Seguridad de la ONU a tomar medidas específicas que incluyen la integración de evaluadores externos, el establecimiento de estándares dentro de la industria y la creación de normas internacionales.
Durante la sesión, el secretario general de la ONU, António Guterres, subrayó que "el peligro no reside en la nueva tecnología, sino en la tecnología sin rendición de cuentas" y advirtió contra confiar decisiones de vida o muerte a máquinas.
En cuanto a las posiciones de los países, representantes de China y Estados Unidos mostraron sus divergencias. Michael Kratsios, de Estados Unidos, defendió el desarrollo continuo de la IA sin nuevas restricciones globales y rechazó cualquier esquema globalista de control sobre la superinteligencia. En contraste, Fu Cong de China pidió a las empresas que asumieran su responsabilidad y abogó por una mayor cooperación internacional, describiendo la IA como un patrimonio compartido de la humanidad que no debe ser controlado por unos pocos. Ambos países exhibieron posturas que demuestran su falta de alineación en la estrategia a seguir frente al avance de la inteligencia artificial.
