DevOps (38) 썸네일형 리스트형 [AWS CLI] ECS Task Scale out 빠르게 하기 https://juyeonee826.tistory.com/199 [AWS CLI] ECS 서비스 우선순위 기반 Task 분배 자동화스크립트 작성 배경AWS ECS에는 Auto Scaling 기능이 있다. 하지만 때로는 다수의 서비스가 n개의 task 수를 적절히 나눠가져야 할 때가 생긴다..,그러나 기본 Auto Scaling으로는 안 된다. 그래서 Jenkins에juyeonee826.tistory.com이 글은 위 포스팅과 이어집니다. 위 포스팅에서 Task의 Max Capacity를 동적으로 조정하는 스크립트를 짰다.이 글은 max capacity를 조정하고 빠르게 max까지 띄우기 위한 scale out 최적화 스크립트를 짜는 내용으로 구성된다. 1. sleep 코드 추가하기sleep 코드 없이 바.. [Lambda] Lambda로 Kafka 컨슈머 운영할 때 주의할 점 카프카(AWS MSK)를 트리거로 돌리는 람다가 있다. 작년 8월부터 9개월을 운영했다.이벤트 처리 누락으로 CS가 들어왔던 건 한 두건 있었던 것 같다.(다른 팀에서 운영하는 람다에서도 종종 이벤트 누락이 발생한다고 하고,, 대응할 수 있는 방안이 있어서 람다 버그구나 생각하고 넘어갔다,,,) 내용 요약- 람다 이벤트 처리 누락 발생 -> records 첫번째 것만 처리함 -> records for문 돌려 해결- 그랬더니 중복 컨슘 발생 -> lambda timeout 발생 -> timeout 설정 변경하여 해결 이벤트 처리 누락 발견다른 팀에서 며칠 전부터 위 카프카로 배치성으로 이벤트를 보내기 시작했다고 하는데 90프로 처리가 누락되었다.kafka partition, offset 로그를 찍어뒀는데 .. [AWS CLI] ECS 서비스 우선순위 기반 Task 분배 자동화 스크립트 작성 배경AWS ECS에는 Auto Scaling 기능이 있다. 하지만 때로는 다수의 서비스가 n개의 task 수를 적절히 나눠가져야 할 때가 생긴다..,그러나 기본 Auto Scaling으로는 안 된다. 그래서 Jenkins에서 AWS CLI로 오토스케일링을 구현했다. 스크립트우리의 목표!! svc-high-priority SQS에 있는 메시지를 우선처리 해야한다!!- total은 31개 유지하기- svc-high-priority가 svc-low-priority 보다 우선순위가 높다.- svc-high-priority sqs 잔여 메시지가 1000개 이상일 때 max capacity를 30으로 조정하고, desired count를 30으로 조정- svc-high-priority sqs 잔여 메.. [Helm] Spring Batch Helm으로 GKE Job 배포(젠킨스에서 배포) * 배치 잡을 GKE 파드 생성해서 돌리기 위한 여정 중🏃♀️ TODO https://juyeonee826.tistory.com/188 [Helm] Spring Batch Helm으로 GKE Job 배포(로컬 테스트) * 배치 잡을 GKE 파드 생성해서 돌리기 위한 여정 중🏃♀️ TODO https://juyeonee826.tistory.com/187 [GKE/K8S] GKE 생성, Spring batch job 실행(Cloud Shell 사용) * 배치 잡을 GKE 파드 생성해서 돌리기 위한 여정 중 juyeonee826.tistory.com 이것을 젠킨스에서 해내야한다. helm 차트 배포 jenkins 다시 띄우기 helm, gcloud, google-cloud-sdk-gke-gcloud-aut.. [Helm] Spring Batch Helm으로 GKE Job 배포(로컬 테스트) * 배치 잡을 GKE 파드 생성해서 돌리기 위한 여정 중🏃♀️ TODO https://juyeonee826.tistory.com/187 [GKE/K8S] GKE 생성, Spring batch job 실행(Cloud Shell 사용) * 배치 잡을 GKE 파드 생성해서 돌리기 위한 여정 중🏃♀️ TODO 이제 이미지를 배포했으니 쿠버네티스에서 spring batch job을 실행해야 한다. VPC, Subnet 생성 Cloud SQL 접근을 위한 Cloud NAT 게이트웨이 juyeonee826.tistory.com 위에서 진행한 GKE job 배포를 helm을 사용해서 할 것이다. helm 설치 brew install helm helm version helm 디렉토리 생성 헬름 차트를 생성할 디렉토리.. [GKE/K8S] GKE 생성, Spring batch job 실행(Cloud Shell 사용) * 배치 잡을 GKE 파드 생성해서 돌리기 위한 여정 중🏃♀️ TODO이제 이미지를 배포했으니 쿠버네티스에서 spring batch job을 실행해야 한다.VPC, Subnet 생성Cloud SQL 접근을 위한 Cloud NAT 게이트웨이 생성비공개 클러스터 생성 VPC, Subnet 생성default vpc가 있지만 환경에 따라 네트워크를 분리하고, NAT 게이트웨이를 적용하기 위해 VPC, Subnet을 새로 생성했다.vpc 생성gcloud compute networks create VPC_NAME \ --subnet-mode custom서브넷 생성IP 범위는 공식 문서에 있는대로 했다.gcloud compute networks subnets create SUBNET_NAME \ --n.. Spring Batch 프로젝트 GCP Artifact Registry 배포(젠킨스에서 배포) * 배치 잡을 GKE 파드 생성해서 돌리기 위한 여정 중🏃♀️ TODO https://juyeonee826.tistory.com/185 Spring Batch 프로젝트 GCP Artifact Registry 배포(로컬에서 배포) * 배치 잡을 GKE 파드 생성해서 돌리기 위한 여정 중🏃♀️ TODO Spring Batch 프로젝트를 Jenkins를 이용해서 GCP Artifact Registry에 배포할 것이다. 로컬에 gcloud CLI 설치 공식 문서에서는 SDK 다운로드 해 juyeonee826.tistory.com 이제 Spring batch GCP Artifact Registry 배포를 젠킨스에서 해내야한다. gcloud CLI 사용 가능한 jenkins로 컨테이너 다시 띄울 것이고, jen.. Spring Batch 프로젝트 GCP Artifact Registry 배포(로컬에서 배포) * 배치 잡을 GKE 파드 생성해서 돌리기 위한 여정 중🏃♀️ TODO Spring Batch 프로젝트를 Jenkins를 이용해서 GCP Artifact Registry에 배포할 것이다. 로컬에 gcloud CLI 설치 공식 문서에서는 SDK 다운로드 해서 압축 풀고 그렇게 하라길래 지선생이 알려준 방법으로 설치했다. brew install --cask google-cloud-sdk gcloud init gcloud init을 하면 gcp 콘솔 창이 켜지면서 로그인이 완료된다. 저장소 생성 Artifact Registry에 이미지를 배포할 저장소를 만들어준다. gcloud artifacts repositories create quickstart-docker-repo --repository-format=.. 이전 1 2 3 4 5 다음
