El director ejecutivo de OpenAI advirtió que los sistemas de IA podrían avanzar más rápido que las instituciones y llamó a establecer mecanismos internacionales de seguridad.
El director ejecutivo de OpenAI, Sam Altman, pidió este miércoles actuar con especial cautela ante el desarrollo de la inteligencia artificial (IA) y advirtió sobre los riesgos que plantea el avance acelerado de sistemas cada vez más capaces y autónomos.
Durante una sesión de emergencia del Consejo de Seguridad de la Organización de las Naciones Unidas (ONU), Altman afirmó que el momento actual en el desarrollo de la tecnología “requiere un extremo cuidado”.
El encuentro reunió a representantes de algunas de las principales empresas del sector para analizar las oportunidades y los riesgos asociados con el desarrollo de sistemas avanzados de inteligencia artificial.
Altman advierte sobre una IA que podría avanzar más rápido que las instituciones
El director de OpenAI señaló que, conforme los sistemas de IA adquieren mayores capacidades y autonomía, existe el riesgo de que lleguen a avanzar a una velocidad superior a la capacidad de respuesta de las instituciones.
También advirtió sobre la posibilidad de que el poder derivado de esta tecnología termine concentrándose en pocas manos o que los sistemas lleguen a tomar decisiones que las personas ya no puedan comprender o controlar.
Altman sostuvo que los beneficios potenciales de la inteligencia artificial no deben utilizarse como argumento para asumir riesgos tecnológicos excesivos.
“La industria no debe aceptar demasiados riesgos tecnológicos simplemente porque los beneficios sean demasiado grandes e importantes como para frenar su avance”, afirmó ante el Consejo de Seguridad.
OpenAI plantea cooperación internacional para regular la IA
Durante su intervención, Altman también planteó que las decisiones sobre el futuro de la inteligencia artificial no deben quedar exclusivamente en manos de los laboratorios tecnológicos.
El directivo señaló que, si la IA pretende desarrollarse de manera democrática, las decisiones fundamentales deben estar sujetas a procesos democráticos y a gobiernos responsables ante la ciudadanía.
OpenAI ha planteado además la creación de estándares internacionales para evaluar las capacidades de los modelos avanzados, medir sus riesgos y establecer mecanismos para reportar incidentes relacionados con su seguridad.
La ONU analiza los riesgos de una inteligencia artificial fuera de control
La reunión del Consejo de Seguridad ocurrió después de varias semanas de advertencias internacionales sobre los posibles riesgos de sistemas de inteligencia artificial cada vez más autónomos.
La ONU señaló que durante la sesión expertos y dirigentes de empresas tecnológicas expusieron tanto el potencial de la IA como los riesgos asociados con sistemas que pudieran superar la capacidad humana de control.
Además de Altman, participaron en el encuentro Dario Amodei, director ejecutivo de Anthropic, y Clément Delangue, director ejecutivo de Hugging Face.
Altman planteó evitar tanto un optimismo que ignore los riesgos como una visión catastrófica de la tecnología. Su propuesta fue avanzar hacia un punto intermedio que permita aprovechar sus beneficios sin dejar de establecer medidas de seguridad.
También te puede interesar: Estefanía Mercado desafía el escenario rumbo a 2027 y respalda a Gino Segura
