Latency와 Throughput 뜻

Latency(레이턴시)는 지연시간으로 요청이 왔을 때 요청을 처리하고 응답할 때까지의 시간이다.

 

Throughput(스루풋)은 처리량으로 일정시간 동안 처리하는 작업의 양이다.

 

보통은 Latency가 짧으면 Throughput은 높지만 Latency가 짧다고 항상 Throughput이 높은 것은 아니다. 멀티 태스킹에 최적화된 서버는 실시간 시스템에 비해 Latency는 길지만 Throughput은 훨씬 높다.