hotIA

4 min de lectura

Gartner: los PCs con IA podrían importar finalmente al reducir drásticamente los costes de

Gartner afirma que los PCs con IA que ejecutan modelos locales podrían compensar el aumento de las facturas de tokens en la nube, y que la mayoría de los PCs corporativos serán capaces de ejecutar Gen

Imagen: The Register

La propuesta de Gartner: PCs con IA como cobertura ante las facturas de tokens

Los compradores corporativos en su mayoría han mostrado indiferencia ante los PCs con IA, pero Gartner ahora sostiene que podrían tener un uso muy específico: reducir los desbocados costes de tokens en la nube.

En una nueva Hoja de Ruta Estratégica para PCs Agentivos con IA, el vicepresidente de investigación de Gartner, Steve Kleynhans, sitúa a los sobremesas y portátiles con capacidad de IA como una parte clave de una estrategia híbrida de IA, descargando las cargas de trabajo adecuadas desde la nube hacia el cliente.

«La IA en el dispositivo aún no ha alcanzado la adopción generalizada y permanece mayormente confinada a casos de uso para desarrolladores y entusiastas», escribió, añadiendo que las herramientas empresariales centradas en el escritorio «se han materializado con lentitud».

El creciente problema de la tokenómica es el impulsor

Kleynhans dice que el interés está cambiando a medida que las empresas obtienen una visión más clara de la economía de la IA en la nube, especialmente la llamada “Tokenomics” —la variable y enrevesada forma en que los proveedores definen y facturan los tokens—.

Recomendado

El laboratorio de Mira Murati presenta Inkling, un modelo abierto de 975 000 millones de p

«A medida que las empresas adquieren una mejor comprensión de la dinámica de costes de la IA en la nube, muchas están mirando a los PCs con IA como un potencial contrapeso», escribió.

Según Gartner, las organizaciones están cada vez más preocupadas por la sostenibilidad de una IA exclusivamente en la nube a medida que aumenta el consumo de tokens y las tarifas por uso. Eso las empuja hacia una estrategia híbrida que identifica cargas de trabajo que se manejan mejor en el edge o directamente en el dispositivo.

Kleynhans concede «aún no hay consenso sobre el nivel de beneficio de costes», pero sostiene que el potencial de ahorro está «claro».

Modelos pequeños en el hardware actual

El optimismo se basa en el auge de:

  • Modelos de lenguaje pequeños (SLMs)
  • Modelos de razonamiento pequeños (SRMs)
  • Modelos de lenguaje específicos de dominio y focalizados

Kleynhans espera que algunos de estos se ejecuten cómodamente en los PCs con IA actuales, que vienen con unidades de procesamiento neuronal (NPUs) capaces de al menos 50 TOPS.

No está solo; como ha informado The Register, Microsoft y Google también están recurriendo a modelos más pequeños para ciertos trabajos.

Las herramientas preparadas para empresas aún son inmaduras, pero Kleynhans señala proyectos como OpenClaw y ofertas en el dispositivo como Claude Cowork, Microsoft Scout y OpenAI Codex como primeros puntos de prueba que pueden mostrar a los compradores qué es factible en hardware local.

Del endpoint al nodo de IA

Kleynhans prevé que los modelos de IA locales sustentarán en el dispositivo la generación de voz, chat, imágenes, audio y texto, además de la orquestación de aplicaciones y modelos.

«Los SLMs y SRMs alimentarán asistentes personales y agentes siempre activos, cambiando fundamentalmente la forma en que los usuarios interactúan con sus dispositivos.»

Espera que muchas tareas rutinarias se ejecuten localmente, con agentes personales que orquesten el trabajo a través de aplicaciones, modelos y servicios que abarcan tanto el dispositivo como la nube.

La infraestructura en la nube no desaparece en esta visión. Sigue alojando las cargas de trabajo más pesadas, mientras que los modelos maduros se trasladan gradualmente a los endpoints a medida que se optimizan, «transformando el PC de un simple endpoint en un componente crítico de la infraestructura de IA más amplia».

Gartner también prevé un aumento sostenido del hardware, con los PCs con IA volviéndose diez veces más potentes para 2031.

Cronogramas y consejos de Gartner

Kleynhans ofrece dos predicciones concretas:

  • Para 2029, el 30 por ciento de las empresas usarán PCs con IA para reducir los costes de tokens de la IA en la nube.
  • Para 2030, el 70 por ciento de la base instalada de PCs corporativos podrá ejecutar algunas cargas de trabajo locales de GenAI.

Para prepararse, insta a las organizaciones a tratar los PCs con IA como parte de la infraestructura informática central, no solo como un cliente más agradable. Eso significa construir un modelo de ROI explícitamente vinculado a desplazar el gasto en tokens de la nube.

«Inicialmente esto será más apropiado para desarrolladores, pero haga que la discusión forme parte de cualquier nuevo despliegue de IA para todos los empleados», sugiere.

Kleynhans recomienda intensificar este esfuerzo de verdad con PCs con IA de tercera generación, que espera que lleguen en 2027, y comenzar experimentos ahora con SLMs y SRMs en el hardware ya disponible.

Ava Chen

AI Editor

Ava covers the rapidly evolving world of artificial intelligence, from foundational models and research labs to the real-world economics of intelligence. With a background in computational linguistics, she cuts through the hype to find out what actually works. She firmly believes that benchmarks are just marketing until reproduced in the wild.

vía The Register

// Sigue leyendo