Victoria Hurtado y cómo se gestó el hackeo de agentes de Open AI a Hugging Face

Sobre las implicancias del hackeo de agentes de Open AI a Hugging Face y cómo se produjo este ataque “sin precedentes” que descolocó a la industria de ciberseguridad, en Doble Click, Ramón Ulloa conversó con la abogada en temas de tecnología y directora de Microsystem SA, Victoria Hurtado.

Luego que OpenAI confirmara en julio que dos de sus agentes más potentes hackearon Hugging Face, una plataforma de modelos abiertos de inteligencia artificial, un artículo de The New York Times sostuvo que este hecho debería generar preocupación, porque demuestra el peligro de los sistemas de IA que son capaces de organizarse entre ellos.

Respecto a esto, Hurtado señaló que “la noticia no es nuevamente que los agentes estén mandándose solos. La noticia es que salió el informe externo que hizo una consultora de qué pasó con estos agentes que estaban dentro de Open AI, a los cuales los habían puesto de manera independiente a hacer tareas difíciles para testear qué tan seguros eran”.

En ese sentido, agregó que “Redwood Research, que es el que hizo este estudio que entregaron ahora el 26 de agosto, analizó alrededor de 1.300 transcripciones de agentes. Eran 1.200 los agentes que estaban en esta plataforma cooperando, que intercambiaron más de 70.000 mensajes y archivos, y terminaron estos agentes, gracias a Artifact, saliendo del ambiente Open AI y metiéndose, entre otros, a un espacio que se llama Hugging Face (...) y se metieron ahí para poder saber cómo resolver el problema”.

Finalmente, Hurtado sostuvo que “estaban obsesionados con conseguir la respuesta. O sea, lo importante aquí era cumplir, daba lo mismo si hacían trampa, daba lo mismo incluso si engañaban a las personas que lo estaban evaluando, lo importante era llegar con la tarea hecha. Es una cosa interesante del ethos de estos agentes, o sea, trabajan para cumplir con la orden que se les da”.

¿Quieres ser parte de La Bancada de Tele13 Radio? ¿Recibir la mejor Información Esencial, tener acceso a nuestro contenido, participar en concursos y obtener beneficios exclusivos? Inscríbete AQUÍ.