Las empresas que querían ahorrar con la IA están descubriendo el verdadero costo de los tokens

En 8x8, la empresa de software especializada en comunicaciones, los empleados utilizan Claude, el modelo de IA de Anthropic, para redactar correos, analizar comentarios de clientes y escribir código. A diferencia de otras compañías de Silicon Valley que han empezado a limitar el uso de herramientas generativas por su elevado coste, 8x8 afirma que su dependencia de este chatbot no ha generado problemas financieros.

Ahorros y costos de IA en 8x8

Según la compañía, en los últimos 18 meses ha ahorrado alrededor de 5 millones de dólares al cancelar suscripciones a docenas de herramientas de software y formación que consideraba superfluas, ya que Claude puede ofrecer funcionalidades similares. La factura anual de 8x8 por el uso de Claude está “muy por debajo” de esa cifra, indica Joel Neeb, director de Transformación y Operaciones Empresariales.

Neeb prevé que, a medida que más empleados adopten la IA y se incorporen tareas más complejas, los ahorros y los gastos tenderán a equilibrarse. Por ahora, la diferencia sigue siendo sustancial, lo que “alegra a mi director financiero”, comentó a WIRED. La empresa no reveló el gasto total exacto en IA generativa.

El debate sobre el coste de los tokens –la unidad que mide la cantidad de texto que un modelo de IA procesa y genera– se ha convertido en una obsesión del sector tecnológico. En los últimos meses, directivos de importantes compañías han señalado aumentos drásticos en el consumo de tokens:

• El director ejecutivo del Royal Bank of Canada indicó que el uso de tokens se disparó un 500 % en los últimos seis meses.
• En Cisco, un tercio de los empleados utiliza a diario un chatbot interno, lo que ha hecho que el consumo de tokens sea “bastante desmesurado”, según el CEO Chuck Robbins.
• Ingenieros de Amplitude gastan “miles de dólares al mes” en tokens, según su director ejecutivo, Spenser Skates.
• Aaron Levine, CEO de Box, afirmó que la presupuestación de tokens se ha convertido en uno de los temas más críticos y polémicos.

Un análisis de WIRED basado en transcripciones de AlphaStreet mostró que, durante abril y mayo, unas 300 empresas abordaron preguntas sobre los tokens en sus conferencias de resultados o en debates con analistas financieros. Eso representa una fracción pequeña del total de presentaciones, pero comparado con el mismo período del año anterior, cuando solo 93 empresas mencionaron la palabra “token”, el aumento es notable.

Varios directivos comentaron que están desarrollando o evaluando sistemas para supervisar el consumo de tokens y escoger el modelo más económico para cada necesidad. Otros todavía buscan equilibrar la contratación de personal con el aumento de los presupuestos de tokens para cumplir sus objetivos.

El software nunca ha sido barato, y la nueva generación de herramientas de IA está generando una presión inusual en la alta dirección. Los precios fluctúan constantemente: cada mes aparecen modelos más potentes y, por ende, más costosos. Además, lograr que toda la organización adopte nuevas formas de trabajo representa un desafío, pues los beneficios de productividad en un equipo pueden crear cuellos de botella en otro.

Algunas compañías, sin embargo, siguen impulsando a sus empleados a usar IA sin temer la factura. En abril, la marca de ropa Baseball Lifestyle 101, con sede en Long Island, Nueva York, que proyecta ventas de 250 millones de dólares este año, indicó a sus 50 altos directivos que gastaran aproximadamente el 20 % de su salario mensual en tokens de IA.

Bill Rom, cofundador y director de estrategia de Baseball Lifestyle 101, explicó a WIRED que el gasto podría superar los 100 000 dólares al mes a finales de año, pero que ya está dando frutos. Claude ayudó recientemente a cerrar un pedido de un millón de dólares al detectar que un minorista estaba quedándose sin tallas de sus populares shorts estampados. “Lo que antes llevaba un día y medio de trabajo ahora se hace en una o dos horas y podría generar ingresos de ocho cifras en 12 meses”, comparó Rom.

El chatbot también colabora en la redacción de informes financieros y en la planificación de sesiones fotográficas, lo que permite a la empresa reducir la contratación de personal junior y destinar recursos a otras áreas. Rom subrayó la importancia de “inspirar a la gente sobre cómo usar la IA” antes de establecer normas financieras rígidas.

En 8x8, aproximadamente 1 800 empleados a tiempo completo consultan regularmente un panel que muestra su consumo de Claude y el de sus compañeros, con el objetivo de que nadie se quede atrás. “No tiene carácter punitivo; al contrario, sirve para que todos avancemos juntos en este viaje”, señaló Neeb. En mayo, los equipos de producto y de éxito del cliente fueron los mayores usuarios, mientras que los de ventas y finanzas estuvieron entre los de menor consumo.

Neeb advirtió que la empresa podría establecer límites al uso de Claude. Recientemente planteó la cuestión al director financiero, dado el creciente consumo interno del modelo Claude Opus 4.8, lanzado el mes pasado y que cuesta casi 1,7 veces más que la oferta de febrero de Anthropic. Aunque aún no se ha tomado una decisión, Neeb comentó que en el futuro el acceso a Opus podría requerir demostrar que los modelos anteriores son insuficientes para la tarea, preguntándose: “¿Podemos rebajar el nivel del modelo y seguir obteniendo el mismo resultado?”.

Más allá de cualquier restricción, 8x8 sigue apostando por la IA generativa. Los indicadores de satisfacción y fidelidad de sus clientes han mostrado una tendencia al alza, y los ingresos han crecido durante cuatro trimestres consecutivos, impulsados en parte por análisis generados por IA que agilizan el trabajo del equipo de ventas. Aunque es difícil atribuir exclusivamente estos resultados a la IA, Neeb percibe una conexión clara: “La ola creciente es la que hace flotar todos los barcos cuando se maneja bien”.

Hace dos años, 8x8 inició su incursión en la IA generativa ofreciendo formación y apoyo para ChatGPT de OpenAI y Gemini de Google. Posteriormente, a un grupo selecto se le introdujo Claude, que se convirtió en el estándar de la empresa en el último año.

La dirección supervisa el uso y ha advertido a los empleados que negarse a dominar la IA acarreará consecuencias. “Si no utilizas la IA en tu puesto, pierdes la oportunidad de avanzar más rápido y obtener mejores respuestas que tus compañeros”, argumentó Neeb.

En otras compañías tecnológicas, como Amazon y Meta, los empleados han reportado que incorporan la IA porque sienten que es obligatorio, o bien porque la herramienta les brinda más tiempo libre; ambas actitudes pueden derivar en despilfarro, según críticos. Neeb sostiene que la paciencia y la rendición de cuentas son esenciales para orientar a los empleados, sin permitir que se tomen almuerzos prolongados o se pasen el día en la playa mientras la IA hace el trabajo.

Neeb también busca aprovechar los “rezagos” en el proceso de adopción, como los equipos de ventas y finanzas, que representan el 28 % de la plantilla pero solo el 15 % del consumo de tokens. Un reciente hackatón de IA para el área financiera pretende automatizar procesos manuales extensos, como la facturación a clientes y la elaboración de la contabilidad trimestral.

El responsable de operaciones ha visto de primera mano cómo Claude aumenta la eficiencia. Utiliza la herramienta para automatizar un correo diario que resume los principales consejos sobre IA de influencers de YouTube. Al notar que la tarea consumía “muchos tokens”, le pidió a Claude que la optimizara; el resultado fue una reducción del consumo de tokens en un 80 %.

Mira tambien: