Com o desenvolvimento acelerado dos grandes modelos de linguagem (LLMs), muitas aplicações estão utilizando APIs baseadas em nuvem para reduzir custos. No entanto, ajustar manualmente os prompts para intervir nos resultados dos LLMs pode ser caro e complicado. De acordo com informações do arXiv, o aprendizado em contexto (ICL) surgiu como uma solução promissora, permitindo que os LLMs se adaptem a novas tarefas sem a necessidade de atualizações de parâmetros.
Como o AsynDBT melhora o aprendizado em contexto?
Apesar do potencial do ICL, a falta de dados de alta qualidade e a dificuldade de compartilhamento de informações sensíveis têm sido obstáculos. O aprendizado federado (FL) oferece uma solução potencial, permitindo o treinamento colaborativo de LLMs distribuídos enquanto preserva a privacidade dos dados. No entanto, abordagens anteriores de FL enfrentaram problemas de lentidão e desafios com dados heterogêneos. Para resolver essas questões, foi proposto o algoritmo de ajuste distribuído assíncrono em dois níveis (AsynDBT), que otimiza amostras de aprendizado em contexto e fragmentos de prompts com base no feedback dos LLMs.
Quais são os benefícios do AsynDBT?
O AsynDBT, com sua arquitetura distribuída, oferece proteção de privacidade e adaptabilidade a ambientes de computação heterogêneos. Além disso, uma análise teórica foi apresentada, estabelecendo garantias de convergência para o algoritmo proposto. Experimentos extensivos realizados em vários conjuntos de dados de referência demonstraram a eficácia e eficiência do AsynDBT.
Fonte original: arXiv.
