Victoria Hurtado analiza el uso de las IA’s en base a la nueva economía de los Tokens

En una nueva edición de Doble Click, Ramón Ulloa conversó con la directora de Micro System SA, Victoria Hurtado, sobre cómo la IA ha consumido el escenario actual y el nuevo uso de la tecnología denominada como Tokens.

La columnista plantea la utilización de tokens, componentes básicos del texto que procesan los modelos de inteligencia artificial. Estos pueden ser tan cortos como un solo carácter, o una palabra completa, dependiendo del uso que se le quiera dar. Hurtado lo dimensionó a partir de un ejemplo diario. “Es más barato subir el PDF, el documento completo, que subir un pedazo y pegarlo en el prompt, porque ahí se gastan más Tokens”.

Según explica los agentes de IA utilizan cada vez más tokens, esto se debe a una baja en su precio. La economía de los tokens ha derivado a la pregunta ¿qué modelo es el mejor para esta tarea? Esta nueva arista se ha discutido desde los departamentos de tecnología hasta los de finanzas.

En relación a los costos menciona que la IA no tiene parámetros claros y que se está en la “selva” en términos regulatorios. Agrega que ocurre lo mismo con los tokens. “Si tú le preguntas al sistema que usas, cuántos tokens puedes usar, tampoco te lo dicen con tanta claridad. Por ejemplo, uno está usando Cloud y te dice 'ya se te acabaron los tokens,  vuelve a usarlo después de las 5 de la tarde'. Porque te está te está parando, ya tienes el consumo suficiente”.