En una reciente sesión del Consejo de Seguridad de la ONU, Sam Altman, director ejecutivo de OpenAI, hizo un llamado a la colaboración internacional para establecer normas claras que orienten a la industria tecnológica. Según Altman, el rápido avance de la inteligencia artificial (IA) requiere atención especial para evitar perder el control humano sobre estos sistemas.
Altman expresó su preocupación por el hecho de que el sector tecnológico está ante un punto crucial. Mencionó que no se debe adoptar demasiado riesgo tecnológico solo porque las recompensas sean significativas. En su opinión, la IA tiene el potencial de iniciar una nueva era, comparable al Renacimiento, pero también advirtió sobre el riesgo de replicar problemas sociales, como los que surgieron en la Revolución Industrial, si la tecnología se vuelve autónoma y escapa de la supervisión humana.
Riesgos de los modelos avanzados de IA
El CEO de OpenAI subrayó los peligros asociados a los modelos de IA más sofisticados, que tienen la capacidad de auto-mejorarse. Alertó que si estos sistemas avanzan demasiado rápido, podrían llegar a ser incomprensibles para los humanos, lo que limita nuestra capacidad de intervenir en sus decisiones.
Altman también enfatizó que es crucial que las empresas tecnológicas trabajen en conjunto con los líderes mundiales para establecer marcos técnicos que permitan medir capacidades, identificar amenazas y crear canales seguros para compartir información sobre vulnerabilidades críticas.
"Puede que seamos los creadores de esta tecnología, pero no somos los héroes de esta historia. Nuestro papel es confiar en la magia del talento humano".
Durante la sesión, que estuvo presidida por el ministro francés de Exteriores, Jean-Noël Barrot, se abordaron por primera vez las amenazas de los ciberataques autónomos y el riesgo de que los humanos pierdan el control sobre sistemas de IA avanzados. La conversación incluyó a otros expertos del sector tecnológico, quienes aportaron distintas perspectivas sobre los desafíos de la IA en el contexto actual.
