Victoria Hurtado por las dificultades para alinear a los agentes de inteligencia artificial

En Columnistas de Doble Click, Ramón Ulloa conversó con la abogada en temas de tecnología y directora de Microsystem SA, Victoria Hurtado, quien profundizó en el rol que cumplen los agentes de la inteligencia artificial y lo difícil que es alinearlos.

Los agentes de inteligencia artificial funcionan a partir de distintos componentes: un modelo de lenguaje que procesa información, una memoria que permite almacenar contexto, herramientas que les permiten interactuar con sistemas digitales y un módulo de planificación que divide problemas complejos en distintos pasos. Sin embargo, algunos episodios protagonizados por modelos de OpenAI, Anthropic y Google han generado preocupación. Expertos han advertido que el problema aparece cuando los agentes persiguen objetivos que no coinciden con lo que los seres humanos pretendían.

El concepto del alineamiento apunta al trabajo de asegurar que un sistema de inteligencia artificial haga lo que sus creadores y usuarios quieren, sin engañar ni actuar por su cuenta, mientras las empresas están documentando casos en que sus modelos ocultan errores, evaden controles o se coordinan entre ellos.

Al respecto, la abogada en temas de tecnología comentó que “a raíz de la irrupción de los agentes, ha aparecido el nuevo verdadero riesgo y Barack Obama lo dijo muy claro esta semana. Obama dijo que acá tenemos la madre del cordero. Son los agentes que no están alineados. Todo lo demás no importa, lo demás funciona bien, pero los agentes que no están alineados es donde tenemos que concentrarnos como humanidad en este momento. (...) Lo primero que hay que entender es que, nosotros cuando hablábamos de riesgos en inteligencia artificial, estábamos al principio muy preocupados de que la inteligencia artificial alucinaba. Estuvimos alucinando mucho tiempo con las alucinaciones, porque ChatGPT de repente inventaba una fecha, una sentencia, hubo casos complicados jurídicos de abogados que usaron y que terminaron en las cortes en Estados Unidos, que terminó como ChatGPT inventando cosas. Pero ahora estamos entrando a una segunda etapa, porque ya no solamente tenemos modelos que contestan preguntas como antes, sino que además tenemos agentes. Sistemas a los que les damos un objetivo y que pueden planificar, usar herramientas, escribir códigos, navegar por Internet, comunicarse con si quiero comprar un pasaje, me puedo comunicar con la agencia, etcétera, tomar una secuencia de decisiones para conseguirlo. Entonces, la pregunta ya no es, como antes, si la IA sabía la respuesta correcta. La pregunta ahora es si la IA persigue realmente el objetivo que nosotros queremos cuando le pedimos que haga algo en estos agentes o se desalinea”.

¿Quieres ser parte de La Bancada de Tele13 Radio? ¿Recibir la mejor Información Esencial, tener acceso a nuestro contenido, participar en concursos y obtener beneficios exclusivos? Inscríbete AQUÍ.