Hugging Face lança modelos de linguagem Granite 4.2

A Hugging Face lançou a família de modelos de linguagem Granite 4.2, que se destaca por sua capacidade de raciocínio explícito. Esses modelos são treinados a partir do zero em aproximadamente 15 trilhões de tokens, utilizando uma estratégia de cinco fases que estende a janela de contexto para 512K tokens. Além disso, os modelos são ajustados finamente com dados de raciocínio, cadeia de pensamento e trajetória agente, e posteriormente treinados com um pipeline de aprendizado de reforço multietapa.

Os modelos Granite 4.2 são disponibilizados em três tamanhos: 3B, 8B e 30B, todos compartilhando a mesma arquitetura e seguindo o mesmo pipeline de treinamento. No entanto, os modelos de 8B e 30B adicionam um bloco de aprendizado de reforço agente, que os ensina a operar como agentes, chamando ferramentas, editando e executando código, dirigindo um terminal e pesquisando na web em ambientes reais.

A capacidade de raciocínio explícito dos modelos Granite 4.2 é uma das principais características que os distinguem de outros modelos de linguagem. Eles podem produzir uma cadeia de pensamento antes de responder a uma pergunta e podem operar em modo de pensamento ou não, dependendo da quantidade de deliberação necessária para uma tarefa. Além disso, os modelos têm um modo de baixo esforço que gasta um orçamento de raciocínio curto em perguntas fáceis.

A arquitetura dos modelos Granite 4.2 é baseada em um transformador denso, apenas decodificador, com componentes principais que incluem uma camada de embedding, uma camada de atenção e uma camada de saída. O treinamento dos modelos é realizado em uma pipeline de dados que combina fontes de dados de alta qualidade e curadas, com uma mistura de dados agente e não agente.

A Hugging Face também fornece uma licença Apache 2.0 para os modelos Granite 4.2, o que os torna acessíveis para uso em uma variedade de aplicações. Além disso, os modelos são compatíveis com o endpoint OpenAI e podem ser utilizados com a biblioteca SGLang.

A capacidade de raciocínio explícito dos modelos Granite 4.2 pode ter um impacto significativo em uma variedade de aplicações, incluindo assistentes virtuais, sistemas de recomendação e análise de dados. Além disso, a capacidade dos modelos de operar em modo de pensamento ou não pode ser útil em situações em que a deliberação é necessária, como em tarefas que requerem uma grande quantidade de raciocínio ou em situações em que a precisão é fundamental.

No entanto, é importante notar que os modelos Granite 4.2 ainda têm limitações, como a necessidade de grandes quantidades de dados de treinamento e a possibilidade de viés nos dados. Além disso, a capacidade dos modelos de raciocinar explicitamente pode ser afetada pela qualidade dos dados de treinamento e pela complexidade das tarefas.

Em resumo, os modelos Granite 4.2 da Hugging Face representam um avanço significativo na capacidade de raciocínio explícito dos modelos de linguagem, e podem ter um impacto importante em uma variedade de aplicações. No entanto, é fundamental considerar as limitações e os desafios associados ao uso desses modelos, e trabalhar para melhorar a qualidade dos dados de treinamento e a complexidade das tarefas.