Recursos
FinOps
A seção de FinOps do Deck responde a quatro perguntas sobre um cluster: quanto ele custa e para onde vai esse custo, como gastar menos, quanto custa uma requisição e se cada time está dentro do orçamento. Ela tem quatro abas: Visão geral, Economia, Custo por request e Orçamentos.
Todo valor é uma estimativa: uma tabela de preços on-demand multiplicada pelo uso real do próprio
cluster. Nunca são dados de faturamento. Nenhum Savings Plan, Reserved Instance, crédito, imposto ou
cobrança de transferência de dados entra na conta, então o número do Deck e a fatura da AWS vão
diferir. O campo source de cada resposta diz de onde vieram os preços.
As páginas
| Aba | O que mostra |
|---|---|
| Visão geral | O acumulado do mês, a previsão de fechamento com a sua faixa, o run rate, a eficiência, o custo ocioso e a economia disponível; o custo diário dos últimos 30 dias por namespace; o explorador de alocação; as anomalias. |
| Economia | Cada forma de gastar menos, com preço, ranking e explicação, a mudança em forma de patch e, quando uma rota de escrita existente a faz, a opção de aplicá-la direto. |
| Custo por request | O custo de cada serviço do APM contra o seu tráfego: quanto custam mil requisições, com o p95 e a taxa de erro. |
| Orçamentos | Limites mensais para o cluster, um namespace ou um time, com o gasto, a previsão e o status. |
O explorador de alocação divide o custo por namespace, workload, team, nodegroup, arch
(amd64 ou arm64) ou capacity (on-demand ou Spot), numa janela de 24h, 7d ou 30d. Cada linha
traz o custo mensal, a parte de CPU e a de memória, o custo ocioso, a eficiência, a participação, a
variação contra a janela anterior de mesmo tamanho e uma tendência de 14 dias.
Como um custo é estimado
Cada node tem um preço mensal, da tabela de preços, pelo tipo de instância e pelo tipo de capacidade.
Metade dele paga os cores do node, metade a sua memória. Isso dá um preço por core e um preço por GiB naquele node, então um pod num node Spot ou numa instância menor custa menos.
Cada container custa
max(request, used)aos preços do seu node: o que ele reserva, ou mais quando usa mais do que reserva.Ocioso tem dois sentidos, e o Deck mostra os dois:
- o custo ocioso de uma linha é o que ela pede e não usa, com preço;
- o custo ocioso do cluster é a capacidade que nenhum request reivindica.
As linhas mais o custo ocioso do cluster somam o run rate.
Eficiência é o que uma linha usa sobre o que ela pede, ponderado pelo custo.
O time de um workload é a sua label team, senão app.kubernetes.io/part-of, senão a label do seu
namespace; sem nenhuma, fica unassigned.
Como uma economia é calculada
| Tipo | O que muda | Como entra o preço |
|---|---|---|
rightsize | O request de CPU de um container | Os millicores removidos, ao que um core custa nos nodes em que o workload roda: metade do preço de cada node sobre os seus cores |
downscale | O número de réplicas de um workload | A parte do custo reservado que as réplicas removidas ocupam |
hpa | Réplicas fixas viram um autoscaler | Metade das réplicas que ele deixaria de rodar, com preço |
idle | Um workload que ficou em silêncio no APM vai a zero, ou um cluster de staging diminui fora do horário comercial | Todo o seu custo reservado, ou a parte dele nas horas fora do expediente |
spot | Um Deployment on-demand passa para Spot | 70% do que ele reserva em nodes on-demand |
graviton | Os pods de um workload saem de nodes x86 para o seu par Graviton | A diferença de preço de tabela sobre o que eles reservam |
consolidate | Menos nodes num grupo mal empacotado | O preço dos nodes removidos |
orphan-volume | Um volume Released ou Available é apagado | O preço do seu armazenamento |
Uma economia nunca é maior que o desperdício que remove: um rightsize para na CPU que o seu workload
reserva, qualquer outro tipo sobre um workload em tudo o que ele reserva. O total conta sobreposições uma
vez só: para cada workload e cada node group só a maior economia conta, e uma ida para Spot conta contra o
seu node group além do seu workload. Cada item lista as suas evidências, uma confiança, um esforço e um risco.
Quase nenhuma CPU só torna um workload candidato a idle. Quem decide é o tráfego:
- spans no APM nas últimas 24 horas: não está ocioso, mesmo que outra leitura tenha falhado;
- spans nos 7 dias anteriores e nenhum desde então, com as duas janelas do APM, os Services e os Ingresses lidos em até 5 segundos cada: oferecido com zero réplicas, risco alto;
- qualquer outro caso: listado a US$ 0 como "tráfego não medido", sem alteração para aplicar, e fora do total. As evidências dizem o motivo: uma leitura falhou, atrasou ou o APM não ouviu ninguém; o APM mostra o nome em outro lugar, já que guarda um namespace e um deployment por nome de serviço, e uma linha com esse nome nas últimas 24 horas descarta o zero; ou o APM não lista nada com esse nome, o que pode significar sem uso ou apenas sem instrumentação.
O tráfego de rede não é lido. Nunca são candidatos: os componentes do próprio SRE Orbit (o seu namespace ou
app.kubernetes.io/part-of: sreorbit), qualquer coisa para a qual um Service LoadBalancer ou NodePort
ou um Ingress aponte, e controllers com nome de quem recebe tráfego (ingress, gateway, traefik,
haproxy, kong, contour, envoy, istio). Ler Ingresses exige get e list em
networking.k8s.io/ingresses, que o chart e os manifests concedem; sem isso, um alvo que só um Ingress
aponta fica como "tráfego não medido".
Um patch de spot fixa o label de capacidade que um node Spot de verdade carrega
(karpenter.sh/capacity-type ou eks.amazonaws.com/capacityType, com o valor desse node). Um workload não
é candidato quando o seu nodeSelector, a sua node affinity obrigatória ou as suas tolerations o mantêm fora
de todo node Spot de uma arquitetura em que ele roda hoje. Sem node Spot no cluster, o item não traz patch:
a capacidade vem primeiro.
Aplicar usa as rotas de escrita existentes (resources e scale), com o mesmo dry run,
confirmação digitada e auditoria de uma mudança feita na página do workload. Exige workloads.write.
Os demais itens dão o patch para copiar.
Custo por request
Cada serviço do APM é ligado ao seu workload pelo k8s.namespace.name e pelo deployment que os seus
spans carregam. O custo por mil é o custo do workload na janela dividido pelas requisições de servidor
na mesma janela, vezes 1.000. Probes e scrapes não contam como requisições. Um serviço sem tráfego não
mostra custo por request.
Orçamentos
Um orçamento tem um escopo (cluster, namespace ou team), um limite mensal e uma fração de alerta
(de 0,1 a 1). O seu status:
over: o gasto do mês passou do limite;warn: a previsão passou do limite, ou o gasto passou da fração de alerta dele;ok: nenhum dos dois.
Ler orçamentos exige estate.read. Criar, alterar ou apagar um exige settings.manage, e cada
escrita vai para a trilha de auditoria.
Anomalias
Um dia é anômalo quando o seu custo sai da faixa esperada: mais de 3 desvios absolutos medianos da mediana dos 14 dias anteriores, e mais de 20% de diferença em relação a ela. A regra vale para o cluster e para os seus cinco maiores namespaces; o dia de hoje, ainda parcial, fica de fora. A severidade depende de quanto o dia se afastou do custo esperado:
critical: 100% ou mais;warning: 50% ou mais;info: 20% ou mais.
Cada anomalia aponta a sua causa mais provável: o namespace ou o node group cujo custo mais mudou.
API
Toda rota recebe o id do cluster e responde JSON; o dinheiro é um run rate mensal em dólares, a não ser que um campo diga outra coisa.
| Rota | Permissão | Parâmetros |
|---|---|---|
GET /api/v1/clusters/{id}/finops/allocation | estate.read | by (padrão namespace), window (24h, 7d, 30d; padrão 7d) |
GET /api/v1/clusters/{id}/finops/history | estate.read | days (7, 14, 30, 90; padrão 30) |
GET /api/v1/clusters/{id}/finops/savings | estate.read | |
GET /api/v1/clusters/{id}/finops/unit-economics | estate.read | window |
GET /api/v1/clusters/{id}/finops/anomalies | estate.read | |
GET /api/v1/clusters/{id}/finops/budgets | estate.read | |
PUT /api/v1/clusters/{id}/finops/budgets/{budgetId} | settings.manage | O orçamento em JSON |
DELETE /api/v1/clusters/{id}/finops/budgets/{budgetId} | settings.manage |
A chave de recurso de FinOps controla todas elas (veja features.md).
O histórico, o uso de cada janela e o uso por contêiner da economia são lidos assim que o orbit-api sobe, e de novo até o orbit-stack responder (ele pode estar reiniciando no mesmo rollout): a primeira visita depois de um restart já responde a partir deles. Depois disso cada rota responde com o que leu por último e lê de novo por trás da resposta: o histórico a cada 5 minutos, só ontem e hoje; o uso da economia depois de um minuto. Com o FinOps desligado, nada disso é lido em segundo plano, nem as recomendações; quando ele volta a ser ligado, cada rota lê na primeira requisição.
Dados de demonstração
Com ORBIT_DEMO_DATA=true, toda rota responde a partir do parque de demonstração. Os seus namespaces e
node groups são a própria divisão da visão geral. O seu mês fecha na previsão da visão geral. O seu
histórico traz três anomalias: o maior namespace quase dobrou 9 dias atrás, levando junto o dia do
cluster, e outro namespace subiu 15% 3 dias atrás. Os seus três orçamentos aparecem como ok, warn
e over. Os números do site saem do mesmo modelo em TypeScript e batem com os do orbit-api até o
centavo.