Amazon SageMaker permite treinamento personalizado de modelos de linguagem

A Amazon SageMaker, plataforma de inteligência artificial da Amazon Web Services, acaba de lançar uma nova funcionalidade que permite aos desenvolvedores treinar modelos de linguagem personalizados sem precisar gerenciar infraestrutura de GPU. Isso é possível graças às APIs de treinamento de sessão da SageMaker, que permitem que os desenvolvedores escrevam seus próprios loops de treinamento em Python, enquanto a SageMaker gerencia a execução dos GPUs.

Com essa nova funcionalidade, os desenvolvedores podem criar modelos de linguagem personalizados para atender às suas necessidades específicas, sem precisar se preocupar com a complexidade da infraestrutura de treinamento. Além disso, a SageMaker fornece um conjunto de receitas prontas para uso, chamado de "SageMaker training sessions cookbook", que pode ser usado como base para criar loops de treinamento personalizados.

A API de treinamento de sessão da SageMaker é organizada em torno de três clientes: ServiceClient, TrainingClient e SamplingClient. O ServiceClient é responsável por configurar as definições de plataforma, como o papel de execução, o grupo de pacotes de modelo e a localização de saída do Amazon S3. O TrainingClient é responsável por operações de treinamento e checkpoint, como forward, forward_backward, optim_step e save_weights_for_sampler. Já o SamplingClient é responsável por operações de amostragem, como sample e compute_logprobs.

Um dos principais benefícios da utilização das APIs de treinamento de sessão da SageMaker é a capacidade de criar loops de treinamento personalizados para técnicas de treinamento de modelos de linguagem, como o treinamento supervisionado (SFT) e o aprendizado por reforço (RL). Além disso, a SageMaker fornece uma forma de execução de operações de treinamento em GPUs gerenciados, o que reduz a complexidade e o custo de gerenciar infraestrutura de treinamento.

Outro benefício importante é a forma como a SageMaker cobra pelo uso das APIs de treinamento de sessão. Em vez de cobrar por hora de uso de GPU, a SageMaker cobra por token processado, o que significa que os desenvolvedores só pagam pelo que usam. Isso pode ser especialmente útil para workloads que envolvem computação local intensiva, como modelos de recompensa complexos ou avaliação humana no loop.

No entanto, é importante notar que a utilização das APIs de treinamento de sessão da SageMaker requer conhecimento em programação Python e em técnicas de treinamento de modelos de linguagem. Além disso, a SageMaker é uma plataforma de nuvem, o que significa que os desenvolvedores precisam ter uma conta na AWS para utilizá-la.

Em resumo, a Amazon SageMaker oferece uma forma poderosa e flexível de treinar modelos de linguagem personalizados, sem precisar gerenciar infraestrutura de GPU. Com as APIs de treinamento de sessão da SageMaker, os desenvolvedores podem criar loops de treinamento personalizados para atender às suas necessidades específicas, e pagar apenas pelo que usam. Isso pode ser especialmente útil para empresas que precisam de modelos de linguagem personalizados para atender às suas necessidades de negócios.