Soft Lounge | São Paulo
Automatizando a
Gestão de K8s
De workloads Java a vLLMs: elimine a adivinhação na alocação de recursos e garanta eficiência operacional contínua em seus ambientes de produção.
Vila Olímpia, São Paulo - SP
O limite da gestão manual na era dos workloads de IA e K8s
Com o aumento da adoção de arquiteturas baseadas em Kubernetes e aplicações de IA, a gestão manual de recursos atingiu seu teto. Configurações estáticas dificultam o dimensionamento, gerando desperdícios por superprovisionamento ou indisponibilidades e OOM Kills por falta de recursos.
Complexidade Operacional
A expansão de workloads, especialmente modelos de linguagem (vLLMs) em GPUs, exige novas estratégias de orquestração que a análise humana não acompanha em tempo real.
Estabilidade e Custos
Lideranças buscam automatizar ambientes para otimizar o consumo de CPU, memória e GPU, garantindo escalabilidade sem comprometer os níveis de serviço (SLOs).
Rightsizing Dinâmico
Automação contínua para eliminar a adivinhação na alocação de recursos, ajustando workloads super ou subdimensionados.
De Java a vLLMs em GPUs
Otimização ponta a ponta: do tuning fino do runtime de aplicações tradicionais à alocação eficiente para inferência de IA.
Tópicos do Encontro
Rightsizing Dinâmico de Pods
Ajuste contínuo e em tempo real de Requests e Limits em nível de contêiner, corrigindo workloads superdimensionados ou subdimensionados de forma determinística e precisa.
Otimização de Réplicas e Ajuste de HPAs
Orquestração dinâmica de réplicas e alinhamento transparente com as políticas de HPA/VPA existentes no cluster.
Distribuição Inteligente em Spot
Alocação e rebalanceamento preventivo de réplicas em instâncias Spot para máxima redução de custos com garantia de alta disponibilidade.
Gestão e Automação em Karpenter
Automação e simplificação no gerenciamento do Karpenter, acelerando o bin-packing e a consolidação eficiente de nós.
Otimização de Workloads de IA em GPUs (vLLMs)
Alocação dinâmica e precisa de recursos de GPU para inferência de modelos de linguagem, otimizando o uso de VRAM e o rendimento do hardware.
Tuning Específico para Java
Otimização automatizada do consumo de memória Heap/Non-Heap e ajuste fino do runtime Java rodando em contêineres.
Agenda do Encontro
Troca real entre líderes de SRE e Cloud
Deixe as palestras teóricas de lado. Sente-se à mesa com pares de nível gerencial e diretores para debater os bastidores, os desafios e as estratégias reais de otimização de Kubernetes, redução de custos e adoção de IA na nuvem.
Apenas pares do mesmo nível
Conecte-se exclusivamente com líderes de SRE, Cloud, DevOps e Platform Engineering. Encontro focado e restrito a apenas 15 executivos do setor.
Discussões de bastidores
Um espaço qualificado para compartilhar dores reais de infraestrutura, FinOps e performance, sem pitches comerciais ou discursos ensaiados.
Insights para o dia seguinte
Saia com clareza sobre rightsizing, gestão de Spot/Karpenter e alocação de GPUs para decidir os próximos passos da sua operação e infraestrutura.