A obtenção de acesso a GPUs (Unidades de Processamento de Gráficos) de forma fácil e acessível é um desafio comum para os desenvolvedores que trabalham com workloads de inteligência artificial (IA) e machine learning (ML). No entanto, uma nova ferramenta chamada Dynamic Workload Scheduler (DWS) pode ser a solução para esse problema.

Desenvolvida pela Google, a DWS é projetada para workloads de curta duração, como treinamento e ajuste fino de modelos ML. A ferramenta oferece dois modos de operação: Flex Start e Calendar Mode. O modo Flex Start permite que os clientes submetam uma solicitação de capacidade, especificando o número de GPUs necessários e a duração do workload. Já o modo Calendar Mode permite que os clientes façam uma reserva de curto prazo, garantindo um horário de início para seu workload.

A DWS se sai bem com workloads ML, como treinamento e ajuste fino de modelos, inferência por lotes e experimentação. Além disso, ela ajuda os clientes a economizar dinheiro, pois eles só pagam pelo tempo de capacidade que é realmente usado.

Além disso, é importante escolher o modelo de consumo adequado para workloads de IA/ML. Os modelos on-demand, spot e de reservas podem ser utilizados de forma flexível para atender às necessidades específicas dos clientes. Por exemplo, os casos de uso on-demand podem ser utilizados para atender às demandas repentinas, enquanto as reservas podem ser usadas para cobrir a demanda básica. Já as instâncias spot podem ser usadas para economizar custos durante a implantação.

Um exemplo real de como a DWS pode ser benéfica é o caso da Two Sigma, um fundo hedge de Nova York. Com a DWS, a Two Sigma conseguiu aumentar sua capacidade de acesso a GPUs de 20% para 80%. Isso permitiu que os pesquisadores da empresa trabalhassem mais rápido e obtivessem resultados mais rapidamente.

Para começar a usar a DWS, os desenvolvedores podem utilizar o produto de treinamento Vertex através da console. Isso permite que os desenvolvedores escolham um contêiner, o deployem para treinamento e deixem a DWS lidar com a provisão de capacidade.

Em resumo, a DWS é uma ferramenta simples e acessível que ajuda os desenvolvedores a obter acesso a GPUs de forma fácil e econômica. Com a DWS, os clientes podem economizar dinheiro e tempo, e se concentrar em suas atividades de desenvolvimento sem se preocupar com a capacidade.

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *