서버5 [트래픽 핸들링] Thread pool 과 Queue (Feat.Tomcat WAS) [트래픽 핸들링] Thread pool 과 Queue (Feat.Tomcat WAS) Thread pool Tomcat WAS는 Thread를 이용해 사용자의 요청을 처리한다. 이 요청들은 Thread per request 모델로 처리된다. Thread 하나당 요청 한개를 담당해서 처리한다는 뜻이다. 이 Thread들은 Thread pool에 의해 관리된다. Thread의 생애주기를 관리한다고 생각하자 유저들로부터 HTTP 요청이 들어올 때 요청들은 Queue에 저장된다. WAS의 Thread pool이 수용할 수 있는 수(thread pool size)의 요청까지만 Thread들이 각각 요청을 담당해서 동시적으로 작업을 처리하고 나머지 요청은 Queue에서 대기한다. Thread pool의 특징 Thr.. 2022. 3. 16. WebServer 와 WAS(Web Application Server) 들어가기에 앞서 서버는 여러가지 의미를 가진다. 서버는 컴퓨터이다. 물리적인 기계,하드웨어 같은 컴퓨터에서도 서비스를 해주느냐 제공받느냐에 따라 서버라고 부르기도 한다. 어떤 컴퓨터로 하여금 서버 역할을 하도록 하는 소프트웨어를 서버라고 하기도 한다. Web Service 동작 흐름 전체적인 흐름 웹 브라우저에서 Web Server로 HTTP 요청을 보내고 정적 요청인 경우에는 즉각적으로 Web Server에서 응답을 한다 동적 요청인 경우에는 Web Sever에서 대응하지 못하고 Web Server에 연결되어 있는 WAS(Web Application Server)중 한곳에 처리를 위임한다. WAS(Web Application Sever)는 Web Server에서 요청을 받게 되면 컨테이너가 응답하여 동.. 2021. 12. 22. [서버] (5) 스케일 어빌리티 [서버] (5) 스케일 어빌리티 스케일 어빌리티 서버컴퓨터에는 보통 웹 서버 + 웹 어플리케이션 + DB가 설치되어 동작한다. 서버를 운용하다 보면 과한 트래픽이나 리소스 사용으로 서버 컴퓨터에 부하가 걸리는 경우가 발생할것이다. 스케일 아웃 & 스케일 업 으로 이를 해결할수있다. 스케일 업 서버 장비를 더 좋은 사양의 장비로 교체하는 것 스케일 아웃 분산 컴퓨팅의 개념을 이용해 서버의 역할을 여러대의 컴퓨터로 나누어 처리하는 것 앞서 서버는 웹 서버 + 웹 어플리케이션 + DB가 함께 설치 되어 운용된다고 했다. 한 컴퓨터에서 3개의 역할이 함께 리소스를 공유하며 운용된다. 서비스가 커지고 트래픽이 커지면 서버 부하가 발생할것이다. 보통은 DB에서 가장 많은 리소스를 소모 함으로 서버 부하의 주 원인이.. 2021. 12. 13. [서버] (1) 웹 호스팅 VS 직접 웹 서버 설치(HOME SERVER) 프로젝트 어플리케이션의 완성이 임박했다. AWS를 이용하여 배포를 하려고 하는데, 먼저 서버에 대한 기본적인 이해가 있어야 할것같아 관련 지식을 시리즈로 정리하려고 한다. 클라이언트와 서버는 요청과 응답을 주고 받으며 데이터를 주고받는다. 웹서버 개념을 활용하면 내가 만든 컨텐츠를 인터넷을 사용할 수 있는 전 세계의 누구나 사용하도록 있도록 할 수 있다. 웹 호스팅 VS 직접 웹 서버 설치 웹 호스팅: 웹서버를 제공해주는 업체를 이용하는 것 직접 웹 서버 설치: 컴퓨터에 직접 웹서버를 설치하는 것 웹 호스팅 내가 만든 웹 어플리케이션을 웹 호스팅 업체에서 제공하는 서버 역할을 할 컴퓨터에 업로드해서 사용자들의 요청에 대한 응답처리를 하도록 함 보통 가상 컴퓨터를 이용한다. 클라우드 컴퓨팅 AWS , Gi.. 2021. 11. 26. 이전 1 2 다음