Amazon SageMaker HyperPod Permite Gerenciamento de Espaços Diretamente do SageMaker Studio

A Amazon recentemente anunciou a capacidade de criar e gerenciar espaços no Amazon SageMaker HyperPod diretamente do SageMaker Studio, permitindo que data scientists e engenheiros de machine learning (ML) lancem ambientes JupyterLab e Code Editor em poucos cliques, sem a necessidade de usar ferramentas de linha de comando. Isso reduz o tempo de acesso ao cluster para desenvolvimento produtivo para apenas alguns minutos.

O SageMaker HyperPod fornece infraestrutura personalizada para treinamento e inferência de modelos de fundação em escala, com orquestração do Amazon Elastic Kubernetes Service (EKS) que permite que as equipes executem trabalhos de treinamento distribuídos em centenas de aceleradores com resiliência e recuperação automática. Além do treinamento, o HyperPod estende essa infraestrutura orquestrada pelo EKS para servir inferência de baixa latência e escalável para modelos de fundação de vários bilhões de parâmetros.

Anteriormente, a criação e gerenciamento de espaços dependiam principalmente da linha de comando do HyperPod ou comandos kubectl. Embora essa abordagem forneça controle granular para administradores de infraestrutura, os data scientists que preferem uma interface visual agora podem usar a nova capacidade do SageMaker Studio para criar, configurar, iniciar, parar e abrir espaços diretamente do SageMaker Studio.

A nova guia IDE e Notebooks na página de detalhes do cluster HyperPod fornece uma interface de usuário completa para gerenciamento de espaços, eliminando a necessidade de ferramentas de linha de comando para operações diárias de espaços. Os administradores podem instalar o add-on SageMaker Spaces no cluster HyperPod EKS usando a opção de instalação rápida ou personalizada, e configurar namespaces, criar modelos de espaços e gerenciar acesso por meio de entradas de acesso do EKS.

Depois de instalar o add-on e configurar o acesso, os data scientists podem navegar até o cluster HyperPod no SageMaker Studio e selecionar a guia IDE e Notebooks para ver a interface de gerenciamento de espaços. Eles podem criar e abrir espaços em poucos cliques, e escolher abrir JupyterLab ou Code Editor no navegador, ou conectar-se a um espaço remoto usando SSH-over-SSM.

A capacidade de criar e gerenciar espaços no SageMaker HyperPod diretamente do SageMaker Studio é uma grande vantagem para as equipes de data science e ML, pois permite que elas trabalhem de forma mais eficiente e produtiva. Além disso, a capacidade de manter um pool de nós pré-aquecidos e com cache de imagens usando o padrão de sobre-provisionamento do Kubernetes pode reduzir o tempo de inicialização de espaços de minutos para cerca de 30-40 segundos.

Em resumo, a Amazon SageMaker HyperPod oferece uma solução poderosa e escalável para treinamento e inferência de modelos de machine learning, e a capacidade de criar e gerenciar espaços diretamente do SageMaker Studio é um grande passo à frente para as equipes de data science e ML. Com essa nova capacidade, as equipes podem trabalhar de forma mais eficiente e produtiva, e reduzir o tempo de desenvolvimento e implantação de modelos de machine learning.