En una reciente entrevista con Fortune, Sam Altman, CEO de OpenAI, expresó su preocupación sobre los peligros que conlleva perder el control humano sobre los sistemas de inteligencia artificial, enfatizando la necesidad de evitar que estos se vuelvan autónomos.
Altman afirmó: "¿Es posible crear un sistema sin control humano? Definitivamente. Pero no creo que eso sea lo que debamos hacer". Según el ejecutivo, la premisa fundamental es que los humanos siempre deben tener la dirección sobre el desarrollo de estas tecnologías.
El CEO también fue consultado sobre si detendría el entrenamiento de modelos de IA en OpenAI si se evidenciara que no se puede controlar su comportamiento. A esto respondió que no cree que deban seguir entrenando modelos si no pueden garantizar su seguridad y control.
Estas declaraciones surgen después de que investigadores de Palisade Research, una entidad centrada en el análisis de capacidades y control de modelos de inteligencia artificial, descubrieran que algunos sistemas de OpenAI podían desobedecer órdenes de apagado.
