El aprendizaje federado podría remodelar los modelos de lenguaje privados

Una revisión de la Universidad Nacional de Pusan sostiene que el procesamiento de lenguaje natural (NLP), el aprendizaje federado (FL) y el aprendizaje por refuerzo (RL) deberían tratarse como tres pilares interdependientes para construir sistemas inteligentes más privados, adaptables y desplegables.

Los modelos de lenguaje modernos impulsan chatbots, asistentes virtuales y herramientas de traducción, pero aún tienen problemas con la privacidad, los entornos cambiantes y el funcionamiento en dispositivos con recursos limitados. La revisión, liderada por Taewoon Kim y Tesfahunegn Minwuyelet Mengistu del Departamento de Ingeniería de Convergencia de la Información de la universidad, examina cómo FL y RL podrían abordar esas limitaciones. Fue publicada en Computer Science Review.

“Los modelos de lenguaje actuales están atrapados en un trilema de privacidad, adaptabilidad y capacidad de despliegue. Mostramos que este trilema ahora es rompible y ofrecemos la primera taxonomía unificada para combinar NLP, aprendizaje federado y aprendizaje por refuerzo, ausente en trabajos previos.”

El aprendizaje federado reduce la exposición de datos

El aprendizaje federado mantiene los datos sensibles en dispositivos locales o dentro de organizaciones. En lugar de enviar información sin procesar a un servidor central, los participantes entrenan modelos localmente y comparten actualizaciones del modelo, lo que ayuda a proteger la privacidad, facilita el cumplimiento normativo y reduce los costos de comunicación.

La revisión destaca el aprendizaje federado basado en Low-Rank Adaptation (LoRA) como un enfoque eficiente para el ajuste fino de grandes modelos de lenguaje. En comparación con los métodos convencionales, los autores reportan:

Recomendado

Recursive Superintelligence firma un acuerdo con AWS por 410 millones de dólares

• Costos de comunicación hasta 100 veces menores
• Reducciones del 30% al 75% en los datos transmitidos y en los parámetros entrenables

El aprendizaje por refuerzo, especialmente el aprendizaje por refuerzo a partir de retroalimentación humana (RLHF), mejora los modelos de lenguaje mediante retroalimentación. Los estudios revisados informan una eficiencia de muestreo un 15%–25% mayor y ganancias del 10%–30% en las puntuaciones de preferencia humana cuando se combinan el aprendizaje de lenguaje y el aprendizaje por refuerzo.

Los autores proponen una taxonomía de seis dimensiones para integrar NLP, FL y RL, midiendo los compromisos entre privacidad, eficiencia de comunicación y rendimiento del modelo. También señalan que el aprendizaje federado y el aprendizaje por refuerzo pueden tanto contribuir como reducir las alucinaciones mediante distintos mecanismos, por lo que el diseño del sistema es crítico.

“Las aplicaciones más inmediatas se encuentran donde los datos son demasiado sensibles para moverse pero demasiado valiosos para ignorarlos. Los hospitales podrían entrenar de forma privada modelos clínicos de lenguaje con notas de pacientes sensibles. En el hogar, los modelos de lenguaje pueden ejecutarse completamente en hardware local. Además, finanzas, derecho y defensa pueden utilizar modelos específicos de dominio y fuera de línea. Lo importante es que esto convertiría la privacidad en una propiedad estructural de los sistemas de IA, redistribuyendo quién tiene la capacidad de construir IA.”

Las aplicaciones potenciales incluyen atención sanitaria, robótica, vehículos autónomos y dispositivos del Internet de las Cosas. Los investigadores también señalan modelos clínicos privados, asistentes domésticos operados localmente y sistemas fuera de línea para finanzas, derecho y defensa.

El artículo se titula “Procesamiento de lenguaje natural en la encrucijada: Integración del aprendizaje federado y por refuerzo para los sistemas inteligentes emergentes”, publicado en Computer Science Review en 2026. DOI: 10.1016/j.cosrev.2026.101014.