CLOUD/AWS

DEA 001 - 009

🐰히히 2024. 5. 18. 21:33
λ°˜μ‘ν˜•

001 AWS Glue

https://repost.aws/knowledge-center/glue-s3-endpoint-validation-failed

데이터 μ—”μ§€λ‹ˆμ–΄κ°€ Amazon S3 λ²„ν‚·μ—μ„œ 데이터λ₯Ό 읽도둝 AWS Glue μž‘μ—…μ„ κ΅¬μ„±ν•˜κ³  μžˆμŠ΅λ‹ˆλ‹€.

데이터 μ—”μ§€λ‹ˆμ–΄λŠ” ν•„μš”ν•œ AWS Glue μ—°κ²° μ„ΈλΆ€ 정보와 κ΄€λ ¨ IAM 역할을 μ„€μ •ν–ˆμŠ΅λ‹ˆλ‹€.

κ·ΈλŸ¬λ‚˜ 데이터 μ—”μ§€λ‹ˆμ–΄κ°€ AWS Glue μž‘μ—…μ„ μ‹€ν–‰ν•˜λ €κ³  ν•˜λ©΄ 데이터 μ—”μ§€λ‹ˆμ–΄λŠ” Amazon S3 VPC κ²Œμ΄νŠΈμ›¨μ΄ μ—”λ“œν¬μΈνŠΈμ— λ¬Έμ œκ°€ μžˆμŒμ„ λ‚˜νƒ€λ‚΄λŠ” 였λ₯˜ λ©”μ‹œμ§€λ₯Ό μˆ˜μ‹ ν•©λ‹ˆλ‹€.
데이터 μ—”μ§€λ‹ˆμ–΄λŠ” 였λ₯˜λ₯Ό ν•΄κ²°ν•˜κ³  AWS Glue μž‘μ—…μ„ S3 버킷에 μ—°κ²°ν•΄μ•Ό ν•©λ‹ˆλ‹€.
이 μš”κ΅¬ 사항을 μΆ©μ‘±ν•˜λŠ” μ†”λ£¨μ…˜μ€ λ¬΄μ—‡μž…λ‹ˆκΉŒ?

 

VPC의 λΌμš°νŒ… ν…Œμ΄λΈ”μ— Amazon S3 VPC κ²Œμ΄νŠΈμ›¨μ΄ μ—”λ“œν¬μΈνŠΈμ— λŒ€ν•œ μΈλ°”μš΄λ“œ 및 μ•„μ›ƒλ°”μš΄λ“œ κ²½λ‘œκ°€ ν¬ν•¨λ˜μ–΄ μžˆλŠ”μ§€ ν™•μΈν•©λ‹ˆλ‹€.

 

VPC 자체 였λ₯˜μž„

AWS Glue > μ„œλ²„λ¦¬μŠ€ μ„œλΉ„μŠ€ μ΄λ―€λ‘œ λ³΄μ•ˆ κ·Έλ£Ή μ—†μŒ

S3λŠ” 항상 FQDN

 

002 AWS Lake Formation

μ†Œλ§€ νšŒμ‚¬μ—λŠ” Amazon S3 버킷에 고객 데이터 ν—ˆλΈŒκ°€ μžˆμŠ΅λ‹ˆλ‹€.

μ—¬λŸ¬ κ΅­κ°€μ˜ 직원듀이 데이터 ν—ˆλΈŒλ₯Ό μ‚¬μš©ν•˜μ—¬ 전사적 뢄석을 μ§€μ›ν•©λ‹ˆλ‹€.

κ±°λ²„λ„ŒμŠ€ νŒ€μ€ νšŒμ‚¬μ˜ 데이터 뢄석가가 뢄석가와 λ™μΌν•œ ꡭ가에 μžˆλŠ” 고객의 λ°μ΄ν„°μ—λ§Œ μ•‘μ„ΈμŠ€ν•  수 μžˆλ„λ‘ ν•΄μ•Ό ν•©λ‹ˆλ‹€.
μ΅œμ†Œν•œμ˜ 운영 λ…Έλ ₯으둜 μ΄λŸ¬ν•œ μš”κ΅¬ 사항을 μΆ©μ‘±ν•  수 μžˆλŠ” μ†”λ£¨μ…˜μ€ λ¬΄μ—‡μž…λ‹ˆκΉŒ?

 

S3 버킷을 AWS Lake Formation의 데이터 레이크 μœ„μΉ˜λ‘œ λ“±λ‘ν•©λ‹ˆλ‹€. Lake Formation ν–‰ μˆ˜μ€€ λ³΄μ•ˆ κΈ°λŠ₯을 μ‚¬μš©ν•˜μ—¬ νšŒμ‚¬μ˜ μ•‘μ„ΈμŠ€ 정책을 μ‹œν–‰ν•˜μ‹­μ‹œμ˜€

> 각 고객과 κ΄€λ ¨λœ κ΅­κ°€ λ“± νŠΉμ • 쑰건을 기반으둜 데이터에 λŒ€ν•œ μ•‘μ„ΈμŠ€λ₯Ό μ œν•œν•˜λŠ” 정책을 μ‹œν–‰ν•  수 μžˆμŠ΅λ‹ˆλ‹€.

 

003

ν•œ λ―Έλ””μ–΄ νšŒμ‚¬μ—μ„œλŠ” μ‚¬μš©μž 행동과 μ„ ν˜Έλ„μ— 따라 κ³ κ°μ—κ²Œ λ―Έλ””μ–΄ μ½˜ν…μΈ λ₯Ό μΆ”μ²œν•˜λŠ” μ‹œμŠ€ν…œμ„ κ°œμ„ ν•˜λ €κ³  ν•©λ‹ˆλ‹€.

μΆ”μ²œ μ‹œμŠ€ν…œμ„ κ°œμ„ ν•˜λ €λ©΄ νšŒμ‚¬λŠ” 타사 데이터 μ„ΈνŠΈμ˜ 톡찰λ ₯을 νšŒμ‚¬μ˜ κΈ°μ‘΄ 뢄석 ν”Œλž«νΌμ— 톡합해야 ν•©λ‹ˆλ‹€.
νšŒμ‚¬λŠ” 타사 데이터 μ„ΈνŠΈλ₯Ό ν†΅ν•©ν•˜λŠ” 데 ν•„μš”ν•œ λ…Έλ ₯κ³Ό μ‹œκ°„μ„ μ΅œμ†Œν™”ν•˜λ €κ³  ν•©λ‹ˆλ‹€.
μ΅œμ†Œν•œμ˜ 운영 μ˜€λ²„ν—€λ“œλ‘œ μ΄λŸ¬ν•œ μš”κ΅¬ 사항을 μΆ©μ‘±ν•˜λŠ” μ†”λ£¨μ…˜μ€ λ¬΄μ—‡μž…λ‹ˆκΉŒ?

 

 

728x90
λ°˜μ‘ν˜•