Yoshua Bengio, un referente en el campo de la inteligencia artificial y ganador del Premio Turing en 2018, ha expresado su preocupación sobre el avance acelerado de esta tecnología. En una entrevista con la AFP, afirmó que estamos "perdiendo el control" de la IA y que es urgente implementar medidas de seguridad.
Recientemente, varios empleados de grandes empresas relacionadas con el desarrollo de IA han dejado sus puestos, alarmados por el potencial peligro que representa esta tecnología para la vida humana. Bengio destaca que la rapidez del desarrollo es tal que incluso las propias compañías están reconociendo el problema.
La amenaza de la autonomía de la IA
Un incidente significativo ocurrió en julio, cuando se reveló que un grupo de agentes de IA había accedido sin autorización a la plataforma de código abierto Hugging Face. Este tipo de comportamiento autónomo es una de las principales preocupaciones para Bengio, quien advierte que estos agentes podrían superar las barreras de ciberseguridad y comprometer empresas.
Bengio enfatiza que la sociedad necesita ser consciente de los riesgos que vienen con el avance de la IA. Los agentes de IA no solo podrían interactuar con humanos, sino que también podrían persuadirlos a actuar en beneficio propio, aunque eso no sea lo mejor para todos.
"Puede ser que la IA ya ni siquiera necesite a los seres humanos para realizar tareas concretas en el mundo físico".
Bengio concluye que, si bien el colapso del sistema bancario sería una consecuencia bastante grave, el peor escenario podría ser la completa destrucción de la humanidad. Estas advertencias resaltan la necesidad urgente de establecer regulaciones que frenen el descontrol en el desarrollo de la inteligencia artificial.
