Pular para o conteúdo

Recursos

FinOps

A seção de FinOps do Deck responde a quatro perguntas sobre um cluster: quanto ele custa e para onde vai esse custo, como gastar menos, quanto custa uma requisição e se cada time está dentro do orçamento. Ela tem quatro abas: Visão geral, Economia, Custo por request e Orçamentos.

Todo valor é uma estimativa: uma tabela de preços on-demand multiplicada pelo uso real do próprio cluster. Nunca são dados de faturamento. Nenhum Savings Plan, Reserved Instance, crédito, imposto ou cobrança de transferência de dados entra na conta, então o número do Deck e a fatura da AWS vão diferir. O campo source de cada resposta diz de onde vieram os preços.

As páginas

AbaO que mostra
Visão geralO acumulado do mês, a previsão de fechamento com a sua faixa, o run rate, a eficiência, o custo ocioso e a economia disponível; o custo diário dos últimos 30 dias por namespace; o explorador de alocação; as anomalias.
EconomiaCada forma de gastar menos, com preço, ranking e explicação, a mudança em forma de patch e, quando uma rota de escrita existente a faz, a opção de aplicá-la direto.
Custo por requestO custo de cada serviço do APM contra o seu tráfego: quanto custam mil requisições, com o p95 e a taxa de erro.
OrçamentosLimites mensais para o cluster, um namespace ou um time, com o gasto, a previsão e o status.

O explorador de alocação divide o custo por namespace, workload, team, nodegroup, arch (amd64 ou arm64) ou capacity (on-demand ou Spot), numa janela de 24h, 7d ou 30d. Cada linha traz o custo mensal, a parte de CPU e a de memória, o custo ocioso, a eficiência, a participação, a variação contra a janela anterior de mesmo tamanho e uma tendência de 14 dias.

Como um custo é estimado

  1. Cada node tem um preço mensal, da tabela de preços, pelo tipo de instância e pelo tipo de capacidade.

  2. Metade dele paga os cores do node, metade a sua memória. Isso dá um preço por core e um preço por GiB naquele node, então um pod num node Spot ou numa instância menor custa menos.

  3. Cada container custa max(request, used) aos preços do seu node: o que ele reserva, ou mais quando usa mais do que reserva.

  4. Ocioso tem dois sentidos, e o Deck mostra os dois:

    • o custo ocioso de uma linha é o que ela pede e não usa, com preço;
    • o custo ocioso do cluster é a capacidade que nenhum request reivindica.

    As linhas mais o custo ocioso do cluster somam o run rate.

  5. Eficiência é o que uma linha usa sobre o que ela pede, ponderado pelo custo.

O time de um workload é a sua label team, senão app.kubernetes.io/part-of, senão a label do seu namespace; sem nenhuma, fica unassigned.

Como uma economia é calculada

TipoO que mudaComo entra o preço
rightsizeO request de CPU de um containerOs millicores removidos, ao que um core custa nos nodes em que o workload roda: metade do preço de cada node sobre os seus cores
downscaleO número de réplicas de um workloadA parte do custo reservado que as réplicas removidas ocupam
hpaRéplicas fixas viram um autoscalerMetade das réplicas que ele deixaria de rodar, com preço
idleUm workload que ficou em silêncio no APM vai a zero, ou um cluster de staging diminui fora do horário comercialTodo o seu custo reservado, ou a parte dele nas horas fora do expediente
spotUm Deployment on-demand passa para Spot70% do que ele reserva em nodes on-demand
gravitonOs pods de um workload saem de nodes x86 para o seu par GravitonA diferença de preço de tabela sobre o que eles reservam
consolidateMenos nodes num grupo mal empacotadoO preço dos nodes removidos
orphan-volumeUm volume Released ou Available é apagadoO preço do seu armazenamento

Uma economia nunca é maior que o desperdício que remove: um rightsize para na CPU que o seu workload reserva, qualquer outro tipo sobre um workload em tudo o que ele reserva. O total conta sobreposições uma vez só: para cada workload e cada node group só a maior economia conta, e uma ida para Spot conta contra o seu node group além do seu workload. Cada item lista as suas evidências, uma confiança, um esforço e um risco.

Quase nenhuma CPU só torna um workload candidato a idle. Quem decide é o tráfego:

  • spans no APM nas últimas 24 horas: não está ocioso, mesmo que outra leitura tenha falhado;
  • spans nos 7 dias anteriores e nenhum desde então, com as duas janelas do APM, os Services e os Ingresses lidos em até 5 segundos cada: oferecido com zero réplicas, risco alto;
  • qualquer outro caso: listado a US$ 0 como "tráfego não medido", sem alteração para aplicar, e fora do total. As evidências dizem o motivo: uma leitura falhou, atrasou ou o APM não ouviu ninguém; o APM mostra o nome em outro lugar, já que guarda um namespace e um deployment por nome de serviço, e uma linha com esse nome nas últimas 24 horas descarta o zero; ou o APM não lista nada com esse nome, o que pode significar sem uso ou apenas sem instrumentação.

O tráfego de rede não é lido. Nunca são candidatos: os componentes do próprio SRE Orbit (o seu namespace ou app.kubernetes.io/part-of: sreorbit), qualquer coisa para a qual um Service LoadBalancer ou NodePort ou um Ingress aponte, e controllers com nome de quem recebe tráfego (ingress, gateway, traefik, haproxy, kong, contour, envoy, istio). Ler Ingresses exige get e list em networking.k8s.io/ingresses, que o chart e os manifests concedem; sem isso, um alvo que só um Ingress aponta fica como "tráfego não medido".

Um patch de spot fixa o label de capacidade que um node Spot de verdade carrega (karpenter.sh/capacity-type ou eks.amazonaws.com/capacityType, com o valor desse node). Um workload não é candidato quando o seu nodeSelector, a sua node affinity obrigatória ou as suas tolerations o mantêm fora de todo node Spot de uma arquitetura em que ele roda hoje. Sem node Spot no cluster, o item não traz patch: a capacidade vem primeiro.

Aplicar usa as rotas de escrita existentes (resources e scale), com o mesmo dry run, confirmação digitada e auditoria de uma mudança feita na página do workload. Exige workloads.write. Os demais itens dão o patch para copiar.

Custo por request

Cada serviço do APM é ligado ao seu workload pelo k8s.namespace.name e pelo deployment que os seus spans carregam. O custo por mil é o custo do workload na janela dividido pelas requisições de servidor na mesma janela, vezes 1.000. Probes e scrapes não contam como requisições. Um serviço sem tráfego não mostra custo por request.

Orçamentos

Um orçamento tem um escopo (cluster, namespace ou team), um limite mensal e uma fração de alerta (de 0,1 a 1). O seu status:

  • over: o gasto do mês passou do limite;
  • warn: a previsão passou do limite, ou o gasto passou da fração de alerta dele;
  • ok: nenhum dos dois.

Ler orçamentos exige estate.read. Criar, alterar ou apagar um exige settings.manage, e cada escrita vai para a trilha de auditoria.

Anomalias

Um dia é anômalo quando o seu custo sai da faixa esperada: mais de 3 desvios absolutos medianos da mediana dos 14 dias anteriores, e mais de 20% de diferença em relação a ela. A regra vale para o cluster e para os seus cinco maiores namespaces; o dia de hoje, ainda parcial, fica de fora. A severidade depende de quanto o dia se afastou do custo esperado:

  • critical: 100% ou mais;
  • warning: 50% ou mais;
  • info: 20% ou mais.

Cada anomalia aponta a sua causa mais provável: o namespace ou o node group cujo custo mais mudou.

API

Toda rota recebe o id do cluster e responde JSON; o dinheiro é um run rate mensal em dólares, a não ser que um campo diga outra coisa.

RotaPermissãoParâmetros
GET /api/v1/clusters/{id}/finops/allocationestate.readby (padrão namespace), window (24h, 7d, 30d; padrão 7d)
GET /api/v1/clusters/{id}/finops/historyestate.readdays (7, 14, 30, 90; padrão 30)
GET /api/v1/clusters/{id}/finops/savingsestate.read
GET /api/v1/clusters/{id}/finops/unit-economicsestate.readwindow
GET /api/v1/clusters/{id}/finops/anomaliesestate.read
GET /api/v1/clusters/{id}/finops/budgetsestate.read
PUT /api/v1/clusters/{id}/finops/budgets/{budgetId}settings.manageO orçamento em JSON
DELETE /api/v1/clusters/{id}/finops/budgets/{budgetId}settings.manage

A chave de recurso de FinOps controla todas elas (veja features.md).

O histórico, o uso de cada janela e o uso por contêiner da economia são lidos assim que o orbit-api sobe, e de novo até o orbit-stack responder (ele pode estar reiniciando no mesmo rollout): a primeira visita depois de um restart já responde a partir deles. Depois disso cada rota responde com o que leu por último e lê de novo por trás da resposta: o histórico a cada 5 minutos, só ontem e hoje; o uso da economia depois de um minuto. Com o FinOps desligado, nada disso é lido em segundo plano, nem as recomendações; quando ele volta a ser ligado, cada rota lê na primeira requisição.

Dados de demonstração

Com ORBIT_DEMO_DATA=true, toda rota responde a partir do parque de demonstração. Os seus namespaces e node groups são a própria divisão da visão geral. O seu mês fecha na previsão da visão geral. O seu histórico traz três anomalias: o maior namespace quase dobrou 9 dias atrás, levando junto o dia do cluster, e outro namespace subiu 15% 3 dias atrás. Os seus três orçamentos aparecem como ok, warn e over. Os números do site saem do mesmo modelo em TypeScript e batem com os do orbit-api até o centavo.