...

Monitoraggio dell'hosting con i percentili: P95 e P99 anziché solo la media

P95 e P99 mettono in evidenza le richieste lente che potrebbero essere mascherate da un valore medio. Un P95 Descrive, in termini semplificati, la durata che circa il 95% delle richieste selezionate non supera. Il significato che ne deriva dipende dal punto di misurazione, dal periodo di tempo e dal volume delle richieste registrate. Gli istogrammi forniscono stime la cui precisione dipende dalla loro risoluzione. Per una visione affidabile delle operazioni, occorre considerare anche il volume delle richieste e il tasso di errore; un percentile da solo non spiega né la causa di un ritardo né l’esperienza dei singoli individui.

Cosa rileva la misurazione della latenza

Un indicatore di latenza è comprensibile solo se Punto di misura È un dato di fatto. Un proxy inverso può rilevare la durata di una richiesta nel momento in cui questa passa attraverso di esso verso il servizio; un’applicazione, invece, misura un intervallo all’interno del proprio processo di elaborazione. Quali fasi siano incluse in ciascun caso dipende da dove inizia e finisce la misurazione.

Una misurazione effettuata nel browser può inoltre rilevare parti del percorso tra client e server, nonché l'elaborazione lato client. Anche in questo caso, sono gli strumenti di monitoraggio specifici a determinare l'inizio e la fine della misurazione. Una bassa latenza del server, di per sé, non dimostra quindi che una pagina sia rapidamente fruibile nel browser: la trasmissione di rete e l'elaborazione sul dispositivo finale possono richiedere ulteriore tempo.

Immagine simbolica generata dall'intelligenza artificiale raffigurante una presa di rete con un cavo Ethernet collegato, a indicare un punto di misurazione
Nella grafica simbolica generata dall'IA, la connessione di rete rappresenta una possibile sezione del percorso della richiesta.

Metti anche la Popolazione Specifica: si tratta di tutte le richieste di un servizio o di un endpoint specifico? La distribuzione complessiva può differire da quella di un singolo endpoint. Indica inoltre se l'analisi copre una finestra mobile di cinque minuti o un periodo di tempo più lungo e se i valori vengono visualizzati in secondi o millisecondi.

Anche le richieste andate a buon fine e quelle fallite rientrano nella definizione. Un errore segnalato rapidamente può migliorare la distribuzione della latenza, anche se la richiesta non ha raggiunto la sua destinazione. Viste separate per i casi di successo e di errore aiutano a identificare questi casi; inoltre, il tasso di errore rimane un indicatore operativo a sé stante.

La convenzione OpenTelemetry nel ramo di sviluppo descrive, per i server HTTP, un istogramma della durata delle richieste in secondi. Ciò non implica che una determinata versione installata lo supporti o lo esporti con lo stesso nome. Verifica nel tuo ambiente il nome effettivo della metrica e gli attributi disponibili prima di creare una dashboard basata su di essa.

Come leggere correttamente i modelli P95 e P99

A percentile descrive un limite all’interno della distribuzione selezionata. Se P95 è pari a 400 millisecondi, in termini semplificati circa il 95% delle durate delle richieste prese in considerazione non supera tale valore. P99 sposta l’attenzione verso la parte più lenta della distribuzione: descrive quindi il limite per circa il 99% delle osservazioni.

Confronto tra media e percentili
Figura chiaveDichiarazioneLimiti dell'affermazione
mediaSomma dei tempi divisa per il numero di richiesteNasconde la distribuzione delle singole richieste veloci e lente
P50Limite per circa la metà delle durate osservateNon descrive quanto sia lenta la parte superiore
P95Limite per circa il 95% delle durate osservateLe osservazioni più lente al di sopra del limite rimangono invisibili in un singolo valore
P99Limite per circa il 99% delle durate osservateSe il numero di osservazioni è esiguo, i risultati possono dipendere in larga misura dai singoli valori

Queste percentuali si riferiscono a valori misurati, non direttamente a persone o sessioni. Una persona può generare più richieste, mentre un’altra ne invia solo una. Da un P99 da solo non è quindi possibile dedurre che l’1% degli utenti abbia riscontrato una sessione lenta.

Il limite esatto dipende inoltre dal metodo di calcolo. A parità di valori misurati o quando la posizione desiderata si trova tra due osservazioni, diverse definizioni di quantile possono selezionare o interpolare in modo diverso. Nel caso di valori istogrammatici stimati, si aggiunge la suddivisione in intervalli; un valore visualizzato non corrisponde quindi sempre a una durata singola effettivamente osservata.

Per il monitoraggio dell'hosting, il percentile comprende il volume delle richieste e il tasso di errore. Lo stesso valore P99 va interpretato in modo diverso a seconda che le richieste siano poche o molte; senza considerare il volume, è difficile valutarne la stabilità. Il tasso di errore evidenzia inoltre un aspetto che una semplice distribuzione temporale non riflette in modo affidabile.

Come gli istogrammi stimano i percentili

Un istogramma Prometheus classico non memorizza un elenco ordinato di tutte le durate delle richieste. Conta le osservazioni in fasce cumulative: Un intervallo con un determinato limite massimo comprende anche le osservazioni già incluse negli intervalli inferiori. Da questi conteggi è possibile stimare in quale intervallo della distribuzione si trovi un percentile ricercato.

Supponiamo che la posizione ricercata si trovi tra i limiti di 200 e 500 millisecondi. L'istogramma mostra quante osservazioni sono state conteggiate fino a questi limiti, ma non la loro esatta distribuzione all'interno di tale intervallo. Per gli istogrammi classici, Prometheus stima la posizione all'interno di questo intervallo tramite interpolazione lineare.

Questa stima può discostarsi dai valori effettivi individuali. In particolare, un intervallo ampio intorno a un valore limite importante dal punto di vista operativo lascia ampio margine di incertezza: le osservazioni potrebbero essere distribuite all’interno dell’intervallo in modo diverso rispetto a quanto ipotizzato nell’interpolazione. Limiti più ristretti nelle aree rilevanti migliorano la risoluzione, ma comportano un carico di lavoro aggiuntivo per la raccolta dei dati.

Illustrazione generata dall'intelligenza artificiale che raffigura campi di larghezza variabile con dei punti che simboleggiano i comparti dell'istogramma
L'illustrazione generata dall'intelligenza artificiale evidenzia che i "buckets" ampi forniscono solo una risoluzione limitata della posizione delle singole osservazioni.

Gli istogrammi nativi utilizzano una rappresentazione diversa rispetto alle classiche serie temporali a intervalli. Anche i loro quantili sono stime; i Interpolazione Dipende dallo schema e dal bucket utilizzati. Gli istogrammi classici e nativi non dovrebbero quindi essere trattati come se avessero la stessa struttura di archiviazione e sempre le stesse regole di interpolazione.

Quantile è in grado di calcolare un riepilogo già all’interno del processo strumentato. Tuttavia, questi valori quantilici finali non possono essere successivamente aggregati per ottenere un quantile complessivo corretto di più processi. Per un'analisi congiunta delle istanze, i dati dell'istogramma aggregabili costituiscono quindi spesso la base più adeguata; in questo caso, i limiti dei bucket devono corrispondere al livello di aggregazione desiderato.

Quando la media nasconde i valori anomali

Esempio di calcolo illustrativo, non si tratta di una misurazione: in un intervallo di tempo, 95 richieste durano ciascuna 100 millisecondi e altre cinque durano ciascuna 2.000 millisecondi. Tutte le 100 osservazioni appartengono alla stessa popolazione selezionata. L’esempio serve a confrontare gli indicatori di prestazione e non costituisce una prova delle prestazioni di un sistema di hosting.

Per i percentili utilizziamo qui un valore concreto Regola di selezione: Si cerca in ciascun caso il valore minimo osservato al quale almeno la percentuale indicata delle richieste si colloca o rimane al di sotto. Nell'elenco ordinato compaiono innanzitutto 95 valori pari a 100 millisecondi e successivamente cinque valori pari a 2.000 millisecondi.

Esempio illustrativo di calcolo per 100 richieste, nessuna misurazione
Figura chiaveCalcolo o selezioneRisultato
media(95 × 100 ms + 5 × 2.000 ms) / 100195 ms
P9595. valore ordinato100 ms
P9999. valore ordinato2.000 ms

Il sito media è nettamente inferiore alla durata delle cinque richieste lente. Il sistema ripartisce matematicamente il tempo aggiuntivo di queste ultime su tutte le osservazioni. Chi considera solo questo valore, quindi, non rileva né la durata delle richieste lente né, immediatamente, quante di esse siano interessate.

In questo caso il P95 è pari a 100 millisecondi, sebbene il cinque per cento delle richieste impieghi un tempo 20 volte superiore. Le osservazioni più lente si collocano esattamente al di sopra del limite P95 selezionato; in questo esempio, il P99 le rende visibili. Ciò non significa che il P99 rilevi in generale ogni ritardo rilevante.

Altre definizioni di quantile possono effettuare un’interpolazione tra i valori ordinati, fornendo così risultati diversi. Anche un percentile stimato sulla base dei bucket dell’istogramma potrebbe non coincidere con quello ricavato dai singoli valori. Ai fini dell’interpretazione, è quindi necessario considerare, oltre al valore visualizzato, anche il metodo di calcolo, il numero di richieste e l’intervallo di tempo preso in esame.

Eseguire query su P95 con PromQL

Per la query seguente è necessario avere accesso a una fonte dati Prometheus e a un istogramma classico effettivamente esistente relativo ai tempi di risposta delle richieste. Inserisci l'espressione nel browser delle espressioni di Prometheus o in un campo di query di Grafana per Prometheus. La query legge le serie temporali esistenti; non si tratta né di un comando da terminale né di una modifica alla configurazione.

Il nome della metrica è un segnaposto. Sostituiscilo, se necessario, con il nome della tua strumentazione e verifica che le serie temporali selezionate abbiano limiti di bucket compatibili. L'esempio aggrega tutti i restanti tag senza filtri aggiuntivi e fornisce quindi il valore totale desiderato solo se questa selezione corrisponde alla tua domanda operativa.

Codice
histogram_quantile(0.95, sum by (le) (rate(http_request_duration_seconds_bucket[5m])))

Prima si calcola rate dai contatori cumulativi dei bucket, il loro tasso di variazione nell'arco di una finestra mobile di cinque minuti. Successivamente si somma sum by (le) i tassi relativi alle altre etichette. Questo ordine consente di tenere conto dei ripristini dei contatori delle singole serie temporali nel calcolo dei tassi.

L'etichetta le rimane invariato: indica il limite superiore del rispettivo intervallo. Dalla distribuzione aggregata si stima histogram_quantile il Totale P95. Poiché in questo caso si utilizza la metrica in secondi, anche il risultato è espresso in secondi; 0,4 corrisponde quindi a 400 millisecondi.

Per P99, sostituisci il primo parametro 0.95 attraverso 0.99. Utilizzando i filtri per etichetta appropriati, puoi, ad esempio, selezionare un servizio; ulteriori etichette di raggruppamento consentono di ottenere risultati separati. Verifica in ogni caso quali richieste vengono incluse e se la risoluzione del bucket è sufficiente per l'area di tuo interesse.

Per istogrammi nativi si applica una sintassi di interrogazione diversa: non si utilizza la classica sintassi separata _bucket-Serie con le. La disponibilità di istogrammi nativi e le modalità di esportazione dipendono dai componenti e dalle versioni utilizzati.

Confronta le istanze e i gruppi di richieste

Un valore P99 comune per gli accessi alla cache e le chiamate dinamiche risponde alla domanda relativa al volume totale delle richieste selezionate. Tuttavia, non spiega quale gruppo sia cambiato. Se la percentuale di accessi rapidi alla cache subisce una variazione, anche il valore complessivo può cambiare, senza che necessariamente ogni singolo gruppo sia diventato più lento.

Aggiungi quindi al valore complessivo delle viste separate per gli aspetti rilevanti dal punto di vista tecnico Gruppi di richiesta, purché siano disponibili etichette adeguate. Una denominazione limitata del percorso o lo stato di una cache possono essere utili a tal fine. Gli URL individuali o gli ID utente utilizzati come etichette possono invece generare un numero molto elevato di serie temporali; scegli le dimensioni in modo che rispondano a una domanda concreta.

Per ottenere un percentile complessivo su più istanze, negli istogrammi classici compatibili vengono prima raggruppati i contatori dei bucket, ovvero i relativi tassi per ciascun limite. Solo a partire da questa distribuzione comune viene stimato il quantile. La media dei singoli valori P99 delle istanze non fornisce in genere un P99 complessivo corretto, poiché le distribuzioni e il numero di richieste possono variare.

Modelli di dati per l'analisi delle distribuzioni di latenza
Formato dei datiAggregazione e precisioneCarico di dati
IstogrammaI bucket compatibili sono aggregabili; i quantili sono stimati, la precisione dipende dalla risoluzione e dalla rappresentazioneSerie temporali o dati dell'istogramma in base alla risoluzione e alla combinazione di etichette selezionate
SintesiI quantili calcolati durante il processo non sono aggregabili in un quantile complessivo; la precisione dipende dalla configurazioneCalcolo dei quantili nel processo e serie temporali per quantili configurati
Singoli eventiÈ possibile effettuare un'analisi congiunta se sono disponibili valori singoli rilevanti; il risultato dipende dal metodo quantilico sceltoPotenzialmente un record per ogni richiesta; l'archiviazione e l'analisi possono richiedere molto tempo

A Sintesi può essere utile per analizzare un singolo processo. Tuttavia, i quantili già calcolati in tale contesto non possono essere successivamente combinati per ottenere un quantile corretto valido per tutte le istanze. Gli eventi singoli consentono un diverso livello di dettaglio, ma presuppongono che le osservazioni necessarie siano effettivamente registrate e disponibili.

Impostazione degli obiettivi di latenza e degli allarmi

Un obiettivo di latenza diventa verificabile solo se si definisce chiaramente la popolazione di riferimento. L’affermazione „Il 95% delle richieste selezionate impiega al massimo 300 millisecondi“ richiede quindi informazioni sul punto di misurazione, sugli endpoint coinvolti e sul periodo di analisi. Una finestra di cinque minuti risponde a una domanda operativa diversa rispetto a una finestra giornaliera.

Per il Quota di soglia dividi il numero di osservazioni fino a 300 millisecondi compresi per il numero totale di osservazioni. In un istogramma classico, un intervallo con esattamente questo limite fornisce il contatore corrispondente; per una finestra temporale, si utilizzano le variazioni del contatore o i tassi corrispondenti. La percentuale indica immediatamente se la soglia selezionata è stata raggiunta nella finestra.

Se non è presente un limite di bucket a 300 millisecondi, non è possibile determinare la percentuale esatta solo dai contatori dei bucket. Il valore P95 stimato può comunque fornire un orientamento, ma la sua precisione dipende dalla distribuzione e dai limiti dei bucket. Per una soglia target importante, vale quindi la pena verificare in anticipo la configurazione dell’istogramma.

Specifica inoltre in modo esplicito in che modo gli errori vengono considerati ai fini dell'obiettivo. Una risposta rapida a un messaggio di errore non dovrebbe essere considerata automaticamente come una buona esperienza utente; a seconda della definizione dell'obiettivo, gli errori possono, ad esempio, essere monitorati separatamente o valutati come eventi negativi. È fondamentale che il numeratore e il denominatore siano in linea con la definizione scelta.

A Durata dell'allarme impedisce che ogni minima fluttuazione attivi immediatamente una notifica. Imposta un numero minimo di osservazioni, in modo che poche richieste isolate non determinino in modo sproporzionato l'attivazione di un allarme. Entrambi i valori dovrebbero essere adeguati al volume di traffico e all'urgenza del servizio; i dati mancanti richiedono un trattamento specifico.

Nella dashboard è utile visualizzare affiancati la percentuale target, il volume delle richieste e il tasso di errore. In questo modo è possibile distinguere se il mancato raggiungimento dell’obiettivo riguarda molte richieste o è dovuto a un intervallo di tempo limitato. Inoltre, un allarme dovrebbe indicare quale selezione e quale periodo di tempo hanno attivato la segnalazione.

Analizzare sistematicamente i percentili crescenti

Se il P99 aumenta, controlla innanzitutto il volume delle richieste e il Mix di endpoint. Un numero maggiore di richieste dinamiche lente può influire sul valore complessivo, anche se la durata di ogni singolo gruppo di richieste è rimasta pressoché invariata. Al contrario, una diminuzione delle richieste veloci può aumentare la percentuale di quelle più lente.

Confronta quindi le visualizzazioni separate per percorso e gruppo di stato, a condizione che la strumentazione fornisca tali etichette. Un percorso che salta all’occhio può restringere la ricerca; inoltre, i gruppi di errori separati mostrano se le risposte errate veloci o lente influenzano la distribuzione. Utilizza, se possibile, categorie di percorsi limitate anziché singoli URL o ID utente.

A questo punto, esamina parallelamente il carico di lavoro, le code, il tempo di risposta del database e il tasso di errore nello stesso periodo. Una coda in crescita accompagnata da un aumento del P99 costituisce un punto di partenza per l'analisi, ma non è ancora una prova che sia essa a causare il ritardo. Verifica inoltre se le metriche riguardano lo stesso servizio e gruppi di richieste comparabili.

Utile per singole operazioni lente Tracce e log selezionati in modo mirato, purché siano disponibili e collegati al contesto della richiesta. Una traccia può, ad esempio, mostrare quale sezione del percorso della richiesta richieda molto tempo. Per verificare se tale sezione sia effettivamente la causa, è necessario procedere a ulteriori osservazioni.

L'articolo spiega come le metriche, i log e le tracce si integrino a vicenda nelle questioni operative in sospeso: Osservabilità nell'hosting. Per le code è disponibile anche il Monitoraggio delle code di posta un caso d'uso correlato: in questo caso si tratta della consegna dei messaggi, non direttamente della latenza di una richiesta HTTP.

In ogni confronto, prendi nota delle fasce orarie e dei punti di misurazione coinvolti. Una durata elevata del database e una latenza del server contemporanee possono giustificare un’ulteriore verifica, ma la sola correlazione temporale non dimostra un nesso causale. Anche le variazioni del traffico o della strumentazione possono influenzare il quadro osservato.

Qualità dei dati e decisioni operative

Quando il traffico è scarso, P99 reagisce in modo marcato alle singole osservazioni. Dieci richieste in una finestra non consentono una classificazione altrettanto stabile quanto un volume elevato di richieste; pertanto, visualizza il numero di osservazioni accanto al percentile. Per gli allarmi, un numero minimo può aiutare a tenere conto della significatività senza escludere completamente dal monitoraggio i servizi poco utilizzati.

A finestra vuota significa che non sono state rilevate richieste e che la latenza non è pari a zero millisecondi. Rapporta i valori mancanti o non definiti nella dashboard in modo adeguato e valuta separatamente se l'assenza di traffico costituisca di per sé un problema. In questo modo, la mancanza di dati non verrà interpretata erroneamente come una risposta particolarmente veloce.

Anche gli intervalli di tempo non possono essere aggregati a piacimento: un P99 su cinque minuti descrive una finestra diversa rispetto a un P99 giornaliero. La media dei singoli P99 al minuto non produce, in genere, un P99 giornaliero. Per l’analisi giornaliera sono necessari i dati di distribuzione aggregabili relativi al periodo desiderato.

Il sito Risoluzione del bucket influisce sulla precisione con cui un istogramma è in grado di rappresentare il limite di interesse. La scelta di limiti più precisi può migliorare la stima nell’ambito rilevante, ma nei casi degli istogrammi classici richiede serie temporali aggiuntive e quindi maggiore spazio di memoria. Valuta questo onere rispetto ai benefici per la decisione operativa concreta.

Ai fini della valutazione continua, gli indicatori si integrano a vicenda: la media descrive la durata media, P95 e P99 evidenziano le aree di rallentamento, mentre la percentuale di soglia risponde a un obiettivo di latenza definito in modo concreto. Il volume delle richieste e il tasso di errore forniscono il contesto necessario per contestualizzare questi valori. Nessun indicatore, da solo, può sostituire la verifica del punto di misurazione, del periodo di riferimento e della qualità dei dati.

Fonti e stato dell'arte

Stato della ricerca:

Dati di riferimento al 16 novembre 2026; le convenzioni OpenTelemetry del ramo di sviluppo non costituiscono una garanzia per le versioni installate.

https://sre.google/workbook/monitoring/

https://prometheus.io/docs/practices/histograms/

https://github.com/open-telemetry/semantic-conventions/blob/main/docs/http/http-metrics.md

https://prometheus.io/docs/specs/native_histograms/

https://grafana.com/docs/grafana/latest/datasources/prometheus/query-editor/

Articoli attuali

Illustrazione generata dall'intelligenza artificiale che raffigura diversi nodi Anycast dello stesso tipo accanto a endpoint Unicast separati.
web hosting

DNS Anycast vs. DNS Unicast: vantaggi e limiti per i siti web

Il DNS Anycast consente di rendere accessibili le richieste autoritative da più sedi. Quando questo è utile per un sito web, quando è sufficiente l'Unicast e quali sono gli aspetti fondamentali dell'hosting DNS.