๊ด€๋ฆฌ ๋ฉ”๋‰ด

data_lab

Imapa VS Hive ๋ณธ๋ฌธ

BIGDATA/ํ•˜๋‘ก์—์ฝ”์‹œ์Šคํ…œ

Imapa VS Hive

๐Ÿฐํžˆํžˆ 2022. 3. 30. 17:30

ํ•ด๋‹น ๊ธ€์€ ์œ ํˆฌ๋ธŒ๋ณด๊ณ  ๋ฒˆ์—ญ ๋ฐ ์ •๋ฆฌํ•œ ๊ธ€์ž…๋‹ˆ๋‹ค.

  Hive Impala
์•„ํ‚คํ…์ณ ๋งต๋ฆฌ๋“€์Šค ๊ธฐ๋ฐ˜์œผ๋กœ ์‹คํ–‰ ๋˜์—ˆ์œผ๋‚˜,
๋‹ค์–‘ํ•œ ์—”์ง„ ์ง€์›
- ๋งต๋ฆฌ๋“€์Šค
- tez
- ์ŠคํŒŒํฌ
์ตœ๊ทผ์—” tez๊ฐ€ ๊ธฐ๋ณธ์—”์ง„์œผ๋กœ ๋‚˜์˜จ๋‹ค๊ณ  ๋“ค์—ˆ๋Š”๋ฐ ํ™•์ธํ•„์š”ํ•จ
๋Œ€๊ทœ๋ชจ ๋ณ‘๋ ฌ ์ปดํ“จํ„ฐ
RAM ๋งŽ์ด ์”€
์–ธ์–ด ์ž๋ฐ” C++
์‚ฌ์šฉ ์˜ˆ์‹œ ETL
๊ณผ๊ฑฐ ์ผ๊ด„ ์ฒ˜๋ฆฌ
Tez ๋ฐ LLAP๋ฅผ ํ†ตํ•ด interactive query์— ๊ฐ€๊นŒ์šด ์ฟผ๋ฆฌ๋ฅผ ์ œ๊ณต
์ง€์—ฐ์‹œ๊ฐ„ ์งง์Œ, interactive query
์žฅ์   Fault Torelance
ํฐ ํ…Œ์ด๋ธ”๋ผ๋ฆฌ ์กฐ์ธ ๊ฐ€๋Šฅ
interactive query ํ–ฅ์ƒ (Fault Tolerance ์•„๋‹˜)
์Šคํƒ€ ์Šคํ‚ค๋งˆ ํ˜•ํƒœ ์กฐ์ธ ์ตœ์ ํ™”

์ง€์› ํŒŒ์ผ ํ˜•์‹ ํ•˜๋‘ก ํŒŒ์ผ ํฌ๋งท
๋‹ค์–‘ํ•œ ๊ตฌ์กฐ์™€ ๋ฐ˜์ •ํ˜• ๋ฐ์ดํ„ฐ ํ˜•์‹
๋‹ค์–‘ํ•˜๊ฒŒ ์ง€์›ํ•˜์ง€๋งŒ Parquetํ˜•์‹์ด ์ œ์ผ

 

 

์‹ค์ œ๋กœ ์„ค์น˜ํ•ด๋ณด๋‹ˆ

Hive Metastore๊ฐ€ ์‹คํ–‰๋˜์–ด ์žˆ์ง€ ์•Š์œผ๋ฉด Impala๋Š” ์‹คํ–‰ํ•  ์ˆ˜ ์—†๋‹ค.

Metastore๋ฅผ ๊ณต์œ ํ•ด์„œ ์“ฐ๋Š”๊ฑฐ ๊ฐ™์€๋ฐ ๋” ์ฐพ์•„๋ด์•ผํ• ๋“ฏ..

 

 

 

 

 

 

 

 

 

 

 

 

 

์œ ํˆฌ๋ธŒ ์ฃผ์†Œ - https://www.youtube.com/watch?v=vmiWOlcnFW8 

728x90
๋ฐ˜์‘ํ˜•