Chapter3 - CPU Bound 애플리케이션 무중단 배포(성능 측정)

• 안녕하세요~ 이전에 운영하던 블로그 및 GitHub, 공부 내용을 정리하는 Study-GitHub 가 있습니다!

• 네이버 블로그

• GitHub

• Study-GitHub

• 🐔

---

✔ CLASS101 백엔드 시스템 실무 - Chapter3 CPU Bound 애플리케이션 무중단 배포

안녕하세요, 클래스101 백엔드 시스템 실무 강의를 듣고, 복습 차원으로 정리하여 남기려고 합니다! 혹시 문제가 된다면 글을 삭제하겠습니다 !!

 

class101.net/products/5fc4a3b4fc231b000d85661b

현직 대기업 개발자 푸와 함께하는 진짜 백엔드 시스템 실무!

---

 

✔ 서버를 늘려서 성능 측정하기(Artillery)

GCP 인스턴스에서 Nginx의 외부 IP를 cpu-test.yaml 파일의 IP로 붙여넣기 합니다.

 

그 후 위 파일을 artillery를 통해 실행합니다.

    • artillery.cmd run --output report.json cpu-test.yaml

 

그 후 html 파일로 생성합니다.

    • artillery.cmd report .\report.json

 

arrivalRate: 1

위 그래프는 arrivalRate가 1 일때의 결과인데요, 이제 8로 변경하고 테스트를 진행해보겠습니다.

 

 

 

 

arrivalRate: 8

위 그래프는 arrivalRate가 8 일때의 결과인데요, 이제 16으로 변경하고 테스트를 진행해보겠습니다.

 

 

 

위 그래프는 16으로 변경한 뒤 테스트 결과입니다.

 

에러 Codes에는 500과 502가 있는데요, 두 응답의 차이점은 무엇일까요?

500 에러는 Cpu Bound 애플리케이션에서 자기 자신의 성능이, 요청에 대한 응답을 할 수 없는 상태가 되어서

자체에서 발생하는 오류입니다.

 

502 에러는 애플리케이션이 500 에러를 계속 던지다가, 어느 순간에는 이 에러 조차 던질 수 없을때, 502로 떨어지게 됩니다. 즉, 애플리케이션 자체가 종료가 되는 상태입니다.

이때부터는 Nginx가 해당 인스턴스가 더이상 요청을 받을 수 없다고 판단하고 끊어버립니다.

 

 

 

 

🎗 GCP 인스턴스 1개로 테스트하기(인스턴스-2,3 의 docker 정지)

GCP 인스턴스를 1개로만 테스트하기 위해서 인스턴스-2,3 에서 실행중인 애플리케이션(도커이미지)을 정지해야합니다.

 

 

 

docker ps

docker container kill -s 15 CONTAINER ID

 

 

인스턴스-2,3 의 docker 재기동

    • Jenkins에서 빌드

 

 

🎗 무중단 배포 확인

Artillery로 스트레스 테스트 도중, 로드밸런싱 되는 서버가 죽어도 해당 요청을 다른 서버에 요청하여 응답을 받아오기 때문에 요청이 실패하지 않습니다.

 

이처럼, 실패한 요청에 대해 정상적으로 처리될 수 있도록 자동으로 응답있는 서버로 요청을 포워딩해주는 것을

failover 라고 합니다.