Este jueves, Anthropic, una prominente firma de inteligencia artificial, reveló que logró frustrar varios intentos de uso indebido de sus modelos de IA para investigar potenciales armas biológicas. Según su informe, estas detecciones ocurrieron a lo largo de este año.
La empresa aclaró que, aunque identificaron y bloquearon estos usos inadecuados, no lograron determinar si dichos estudios tenían fines legítimos o maliciosos. Por este motivo, decidieron prevenir su uso para evitar que sus modelos pudieran contribuir a la creación de patógenos peligrosos.
"Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real".
De acuerdo con la compañía californiana, hasta el momento no tienen evidencia de que alguna entidad privada haya divulgado información acerca del uso inapropiado de sus plataformas para desarrollar armas biológicas. Esto subraya su compromiso de mantener la seguridad en el uso de sus modelos.
En un comunicado adicional, Anthropic compartió una extensa lista de casos en los últimos ocho meses donde sus modelos de IA, incluyendo el chatbot Claude, fueron mal utilizados en países como China, Rusia y Yemen.
Este informe emerge en un contexto de creciente preocupación entre expertos tecnológicos sobre el uso dual de la inteligencia artificial. Los modelos que pueden facilitar investigaciones biológicas también poseen el potencial de ser empleados en actividades peligrosas, lo que ha llevado a alertas sobre los riesgos de la creciente autonomía de estas tecnologías.
Anthropic aseguró que ha desarrollado sistemas de detección para identificar y bloquear usos riesgosos de sus modelos de IA, buscando así mitigar cualquier posible amenaza derivada de su tecnología.
