AWS Certified Machine Learning - Specialty - MLS-C01 - Review

오랜만의 자격증 글입니다. 최근에 책한권을 추천받았습니다. 기계학습을 다시묻다 라는 책이었습니다. 이광근 교수님의 번역에 대한 생각과 이해를 볼수있는 책이었습니다. 이 책을 읽으면서 너무너무너무너무 이해가 안갔습니다. 그 동안 머신러닝을 지속적으로 찍먹을 하던터라 읽을만 하지 않을까? 했는데 아니나 다를까 수포자에겐 자비가 없었습니다. 그렇지만, 근일년간 쿠버네티스와 머신러닝을 찍먹하면서 내가 머신러닝을 실무에 적용하고 쓸수있는 레벨은 아니지만 어떤기술이 어디서 사용된다 정도는 이해하고 있던터라 한번 과감하게 시험날자를 잡았습니다. **등급: Specialty 시간: 시험 완료까지 180분 소요 비용: 300 USD ...

December 25, 2021 · 2 min · 📁 AWS, Certification · 🏷️ MLS, Machine Learning - Specialty

EKS-prometheus-grafana

https://docs.aws.amazon.com/ko_kr/eks/latest/userguide/prometheus.html 먼저 프로메테우스를 설치한다. cat << EOF | k apply -f - --- apiVersion: v1 kind: PersistentVolumeClaim metadata: name: grafana-pvc spec: accessModes: - ReadWriteOnce resources: requests: storage: 1Gi --- apiVersion: apps/v1 kind: Deployment metadata: labels: app: grafana name: grafana spec: selector: matchLabels: app: grafana template: metadata: labels: app: grafana spec: securityContext: fsGroup: 472 supplementalGroups: - 0 containers: - name: grafana image: grafana/grafana:7.5.2 imagePullPolicy: IfNotPresent ports: - containerPort: 3000 name: http-grafana protocol: TCP readinessProbe: failureThreshold: 3 httpGet: path: /robots.txt port: 3000 scheme: HTTP initialDelaySeconds: 10 periodSeconds: 30 successThreshold: 1 timeoutSeconds: 2 livenessProbe: failureThreshold: 3 initialDelaySeconds: 30 periodSeconds: 10 successThreshold: 1 tcpSocket: port: 3000 timeoutSeconds: 1 resources: requests: cpu: 250m memory: 750Mi volumeMounts: - mountPath: /var/lib/grafana name: grafana-pv volumes: - name: grafana-pv persistentVolumeClaim: claimName: grafana-pvc --- apiVersion: v1 kind: Service metadata: name: grafana spec: ports: - port: 3000 protocol: TCP targetPort: http-grafana selector: app: grafana sessionAffinity: None type: LoadBalancer EOF https://grafana.com/docs/grafana/latest/installation/kubernetes/ ...

September 18, 2021 · 2 min · 📁 AWS, Linux, Kubernetes · 🏷️ prometheus, grafana, EKS

AKOS-Study-Manual-EKS-istio

클러스터를 먼저 프로비저닝 했다. 30분이상이 걸리는 작업이므로 시작해놓고 기다린다. eksctl create cluster --vpc-public-subnets $WKSubnets --name $CLUSTER_NAME --region $AWS_REGION --version 1.21 \\ > --nodegroup-name $CLUSTER_NAME-nodegroup --node-type t3.medium --nodes 3 --nodes-min 3 --nodes-max 6 \\ > --with-oidc --node-volume-size=20 --ssh-access --ssh-public-key $MySSHKeypair 2021-09-04 11:29:11 [ℹ] eksctl version 0.63.0 2021-09-04 11:29:11 [ℹ] using region ap-northeast-2 2021-09-04 11:29:12 [✔] using existing VPC (vpc-094808933b68add7c) and subnets (private:map[] public:map[ap-northeast-2a:{subnet-0a603a222db0cce10 ap-northeast-2a 10.0.11.0/24} ap-northeast-2b:{subnet-007964ce4a003361a ap-northeast-2b 10.0.12.0/24} ap-northeast-2c:{subnet-007813cf58631ef3b ap-northeast-2c 10.0.13.0/24}]) 2021-09-04 11:29:12 [!] custom VPC/subnets will be used; if resulting cluster doesn't function as expected, make sure to review the configuration of VPC/subnets 2021-09-04 11:29:12 [ℹ] nodegroup "first-eks-nodegroup" will use "" [AmazonLinux2/1.21] 2021-09-04 11:29:12 [ℹ] using EC2 key pair %!q(*string=<nil>) 2021-09-04 11:29:12 [ℹ] using Kubernetes version 1.21 2021-09-04 11:29:12 [ℹ] creating EKS cluster "first-eks" in "ap-northeast-2" region with managed nodes 2021-09-04 11:29:12 [ℹ] will create 2 separate CloudFormation stacks for cluster itself and the initial managed nodegroup 2021-09-04 11:29:12 [ℹ] if you encounter any issues, check CloudFormation console or try 'eksctl utils describe-stacks --region=ap-northeast-2 --cluster=first-eks' 2021-09-04 11:29:12 [ℹ] CloudWatch logging will not be enabled for cluster "first-eks" in "ap-northeast-2" 2021-09-04 11:29:12 [ℹ] you can enable it with 'eksctl utils update-cluster-logging --enable-types={SPECIFY-YOUR-LOG-TYPES-HERE (e.g. all)} --region=ap-northeast-2 --cluster=first-eks' 2021-09-04 11:29:12 [ℹ] Kubernetes API endpoint access will use default of {publicAccess=true, privateAccess=false} for cluster "first-eks" in "ap-northeast-2" 2021-09-04 11:29:12 [ℹ] 2 sequential tasks: { create cluster control plane "first-eks", 3 sequential sub-tasks: { 4 sequential sub-tasks: { wait for control plane to become ready, associate IAM OIDC provider, 2 sequential sub-tasks: { create IAM role for serviceaccount "kube-system/aws-node", create serviceaccount "kube-system/aws-node" }, restart daemonset "kube-system/aws-node" }, 1 task: { create addons }, create managed nodegroup "first-eks-nodegroup" } } 2021-09-04 11:29:12 [ℹ] building cluster stack "eksctl-first-eks-cluster" 2021-09-04 11:29:12 [ℹ] deploying stack "eksctl-first-eks-cluster" 2021-09-04 11:29:42 [ℹ] waiting for CloudFormation stack "eksctl-first-eks-cluster" 2021-09-04 11:30:12 [ℹ] waiting for CloudFormation stack "eksctl-first-eks-cluster" 2021-09-04 11:31:12 [ℹ] waiting for CloudFormation stack "eksctl-first-eks-cluster" 2021-09-04 11:32:12 [ℹ] waiting for CloudFormation stack "eksctl-first-eks-cluster" 2021-09-04 11:33:12 [ℹ] waiting for CloudFormation stack "eksctl-first-eks-cluster" 2021-09-04 11:34:12 [ℹ] waiting for CloudFormation stack "eksctl-first-eks-cluster" 2021-09-04 11:35:12 [ℹ] waiting for CloudFormation stack "eksctl-first-eks-cluster" 2021-09-04 11:36:12 [ℹ] waiting for CloudFormation stack "eksctl-first-eks-cluster" 2021-09-04 11:37:12 [ℹ] waiting for CloudFormation stack "eksctl-first-eks-cluster" 2021-09-04 11:38:12 [ℹ] waiting for CloudFormation stack "eksctl-first-eks-cluster" 2021-09-04 11:39:12 [ℹ] waiting for CloudFormation stack "eksctl-first-eks-cluster" 2021-09-04 11:40:13 [ℹ] waiting for CloudFormation stack "eksctl-first-eks-cluster" 2021-09-04 11:41:13 [ℹ] waiting for CloudFormation stack "eksctl-first-eks-cluster" 2021-09-04 11:45:14 [ℹ] building iamserviceaccount stack "eksctl-first-eks-addon-iamserviceaccount-kube-system-aws-node" 2021-09-04 11:45:14 [ℹ] deploying stack "eksctl-first-eks-addon-iamserviceaccount-kube-system-aws-node" EKS를 Setup 하는 과정에 대해선 이전포스팅을 참고하기 바란다. ...

September 4, 2021 · 7 min · 📁 AWS, Kubernetes · 🏷️ k8s, istio, istio-injection

AKOS-Study-Manual-EKS-Setup

두번째로 진행한 가시다님과의 스터디! AKOS다. 가시다님은 편한 스터디를 위해서 항상 CloudFromation 을 제공해주시지만 청개구리인 나는 사실 그대로 따라해본적은 없다. 이번에도 그렇다. 먼저 VPC와 bastion-hsot를 생성하는 cloudformation 템플릿을 주셨지만 어찌..엔지니어가 된자의 도리로 그대로 따라만 하겠는가.. 라고 생각하여 일단 새로 생성하는것이 아닌..내가 사용하던 EC2에 셋팅을 했다. 미리 사용하던 VPC가 있었기에 VPC도 그대로 쓴다. aws cli,eksctl,kubectl, 실습에서 사용하는 postgresql cmd docker 등 실습에 필요한 것들을 설치했다. 해당 부분은 cloudformation 템플릿에 user-data 로 셋팅하는 부분을 참고했다. ...

August 28, 2021 · 8 min · 📁 AWS · 🏷️ AKOS

AWS-CLF-Practitioner

https://www.aws.training/LearningLibrary AWS 의 기초학습은 먼저 AWS training ang certification 에서 진행한다. Amazon 계정이 필요하며 로그인후 클라우드 실무자 한국어로 정렬한다. 그럼 초보자를 위한 학습리스트가 보인다. 모두듣자. 그다음은 내 블로그에서 여러번 소개된 인도아저씨 블로그를 참고하자. Jayendra 님은 나를 AWS로 이끌어주는데 아주 많은 일조를 하신분이다. 항상 감사하는중. 언제 한번 계획을 세워 감사인사를 할 계획. https://jayendrapatil.com/aws-certified-cloud-practitioner-exam-learning-path/ https://jayendrapatil.com/aws-certified-solutions-architect-associate-saa-c02-exam-learning-path/ SAA 포스팅을 추가로 넣은이유는 경계가 애매하기 때문이다. 그래서 같이보는것도 좋다. 공부할때 참고하길 바라며 궁금하거나 알고싶은건 언제나 댓글이나, ...

January 21, 2021 · 1 min · 📁 AWS, Certification · 🏷️ practitioner, CLF, saa

AWS Certified Solutions Architect – Associate SAA-C02

AWS Certified Solutions Architect – Associate SAA-C02 준비방법 자격증 개요확인 https://aws.amazon.com/ko/certification/certified-solutions-architect-associate/ 안내서 https://d1.awsstatic.com/ko_KR/training-and-certification/docs-sa-assoc/AWS-Certified-Solutions-Architect-Associate_Exam-Guide.pdf 샘플문항 https://d1.awsstatic.com/ko_KR/training-and-certification/docs-sa-assoc/AWS-Certified-Solutions-Architect-Associate_Sample-Questions.pdf 기본교육 - amazon id 필요 https://www.aws.training/Dashboard/?cta=tctopbanner 인도아저씨 - 서비스가 간략하게 정리되어있음 - 기출문제 존재 https://jayendrapatil.com/aws-certified-solutions-architect-associate-saa-c02-exam-learning-path/ 참고사이트 https://aws-hyoh.tistory.com 비공식 AWS 공인 솔루션스 아키텍트 - 어소시에이트 SAA-C02 (2020년 3월 출시) 수험 가이드 (bit.ly/saaguide) https://github.com/serithemage/AWSCertifiedSolutionsArchitectUnofficialStudyGuide

December 29, 2020 · 1 min · 📁 AWS, Certification

AWS-CloudShell

OK! Thank You! amazon linux2 기반의 클라우드 쉘이다. 가볍고 빠르고 일부리전만 지원하고.. 얼른한국 리전도 지원해주세요.! 본격적으로 스펙을 파악해 보자. -bash-4.2# df -h Filesystem Size Used Avail Use% Mounted on overlay 30G 12G 17G 41% / tmpfs 64M 0 64M 0% /dev shm 1.9G 0 1.9G 0% /dev/shm tmpfs 1.9G 0 1.9G 0% /sys/fs/cgroup /dev/nvme1n1 30G 12G 17G 41% /aws/mde /dev/loop0 976M 2.6M 907M 1% /home tmpfs 1.9G 0 1.9G 0% /proc/acpi tmpfs 1.9G 0 1.9G 0% /sys/firmware 은근무거운데? ...

December 16, 2020 · 1 min · 📁 AWS

AWS-gp3-speed-test

볼륨 두개를 만들었다 mount /dev/nvme1n1p1 /mnt/gp3 mount /dev/nvme2n1p1 /mnt/gp2 yum install gcc zlib-devel wget https://codeload.github.com/axboe/fio/tar.gz/fio-3.24 tar zfxv fio-3.24 cd fio-fio-3.24/ ./configure --prefix=/home/fio make; make install 필요한 라이브러리 gcc, zlib-devel 설치후 컴파일. fio 는 나도 처음써보는 툴이다 fio --directory=/mnt/gp3 --name fio_test_file --direct=1 --rw=randread \\ --bs=4K --size=1G --numjobs=7 --time_based --runtime=180 --group_reporting \\ --norandommap 3분동안 하나의 스레드가 7개의 1G 파일을 4K 단위로 Direct I/O 모드의 Random Read 로 읽는 테스트이다. Jobs: 7 (f=7): [r(7)][100.0%][r=11.7MiB/s][r=3001 IOPS][eta 00m:00s] fio_test_file: (groupid=0, jobs=7): err= 0: pid=2450: Wed Dec 2 06:59:19 2020 read: IOPS=3016, BW=11.8MiB/s (12.4MB/s)(2121MiB/180004msec) clat (usec): min=188, max=296635, avg=2319.05, stdev=1213.65 lat (usec): min=188, max=296635, avg=2319.21, stdev=1213.65 clat percentiles (usec): | 1.00th=[ 408], 5.00th=[ 922], 10.00th=[ 1287], 20.00th=[ 1598], | 30.00th=[ 1762], 40.00th=[ 1926], 50.00th=[ 2057], 60.00th=[ 2212], | 70.00th=[ 2474], 80.00th=[ 2933], 90.00th=[ 3818], 95.00th=[ 4621], | 99.00th=[ 6194], 99.50th=[ 6587], 99.90th=[ 7767], 99.95th=[ 8455], | 99.99th=[10028] bw ( KiB/s): min= 9848, max=32328, per=100.00%, avg=12069.08, stdev=167.76, samples=2513 iops : min= 2462, max= 8082, avg=3017.27, stdev=41.94, samples=2513 lat (usec) : 250=0.05%, 500=2.12%, 750=1.59%, 1000=1.99% lat (msec) : 2=40.61%, 4=45.04%, 10=8.59%, 20=0.01%, 50=0.01% lat (msec) : 250=0.01%, 500=0.01% cpu : usr=0.12%, sys=0.29%, ctx=543082, majf=0, minf=93 IO depths : 1=100.0%, 2=0.0%, 4=0.0%, 8=0.0%, 16=0.0%, 32=0.0%, >=64=0.0% submit : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0% complete : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0% issued rwts: total=542985,0,0,0 short=0,0,0,0 dropped=0,0,0,0 latency : target=0, window=0, percentile=100.00%, depth=1 Run status group 0 (all jobs): READ: bw=11.8MiB/s (12.4MB/s), 11.8MiB/s-11.8MiB/s (12.4MB/s-12.4MB/s), io=2121MiB (2224MB), run=180004-180004msec Disk stats (read/write): nvme1n1: ios=542478/13, merge=0/3, ticks=1253070/0, in_queue=1078350, util=99.97% 정확히 3000iops 가 나온다. ...

December 2, 2020 · 4 min · 📁 AWS, ec2 · 🏷️ fio, gp3, gp2

AWS-EBS-gp2-to-gp3-boot-volume-support

미뤘다가..못참고 내가한다.ㅠㅠ 먼저 인스턴스를 생성하고.. 켜져있는 상태로 일단 수정해보자. 부트볼륨으론 지원하지 않는다...-_-;뭐양.. 근데 DOCS 엔.. 지원인데..아직미지원인가..? 이후 지원한다. 잘된다. 쓰세요!

December 2, 2020 · 1 min · 📁 AWS, ec2

AWS-apple-MAC-instance

오오오오오오!!!!!!!!!!!!!!!!!!!!!!!!!!!!! macOS Catalina 10.15.7 버전을 쓸수있다. 뜨든... 인스턴스 유형은 베어 메탈뿐.. 그렇다고 해서 내가 안만들순없지 가즈아!!!!! -_-; 전용 호스트가 필요하다....근데 전용 호스트 갯수는 not support 상태다 service quotas를 늘려야한다. 일단 바로 요청 근데 금방 안되나? 아마 지금 전세계에서 생성 중일거다..증가가 되면 바로 더 진행해 보겠다. Maximum number of running dedicated mac1 hosts. 보류에서 할당량이 요청됨으로 변경됬다. 그리고 오늘 (12월2일) 요청은 허락되지 않고 기본 제공량이 3으로 변경됬다. ...

December 1, 2020 · 1 min · 📁 AWS, ec2 · 🏷️ aws, mac, instance