๊ด€๋ฆฌ ๋ฉ”๋‰ด

๋ชฉ๋ก๋ฏธ์‚ฌ์šฉ (35)

data_lab

์Šค์นผ๋ผ ๋ถ 01

์Šค์นผ๋ผ์˜ ๋ง› ์Šค์นผ๋ผ ํŠน์ง• ์ •์  ํƒ€์ž… ๊ตฌ๋ฌธ ๊ฐ„๊ฒฐํ•˜๋ฉฐ ์ฝ๊ธฐ ์‰ฌ์›€ ๊ฐ์ฒด ์ง€ํ–ฅ ํ”„๋กœ๊ทธ๋ž˜๋ฐ ๊ณผ ํ•จ์ˆ˜ํ˜• ํ”„๋กœ๊ทธ๋ž˜๋ฐ ํŒจ๋Ÿฌ๋‹ค์ž„ ์ง€์› ์ •๊ตํ•œ ์œ ํ˜• ์ถ”๋ก  ์‹œ์Šคํ…œ? JVM์—์„œ ์‹คํ–‰๋˜๋Š” ํด๋ž˜์ŠคํŒŒ์ผ ์ƒ์„ฑ ์ž๋ฐ” ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ ์‚ฌ์šฉํ•˜๊ธฐ ์‰ฌ์›€ Hello, World Hello.scala object Hello expends App { println("Hello, World") } ๋‘ ๊ฐ€์ง€ ์œ ํ˜•์˜ ๋ณ€์ˆ˜ val : ๋ถˆ๋ณ€ ๋ณ€์ˆ˜ - ์ž๋ฐ”์—์„œ final๊ณผ ๊ฐ™์Œ var : ๊ฐ€๋ณ€ ๋ณ€์ˆ˜ - ํŠน๋ณ„ํ•œ ์ด์œ ๊ฐ€ ์žˆ์„ ๋•Œ๋งŒ ์‚ฌ์šฉ ๋ณ€์ˆ˜ ์œ ํ˜• ์„ ์–ธ ์œ ํ˜•์„ ์„ ์–ธํ•˜์ง€ ์•Š๊ณ  ๋ณ€์ˆ˜๋ฅผ ๋งŒ๋“ฆ val x = 1 val s = "string" val p = new Persion("Regina") ๋ฐ์ดํ„ฐ ์œ ํ˜•์„ ์œ ์ถ”ํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ, ์ฝ”๋“œ ๊ฐ„๊ฒฐํ•˜๊ฒŒ ์œ ์ง€ํ•˜๋Š”๋ฐ ๋„์›€๋จ ์œ ํ˜• ๋ช…์‹œํ•  ์ˆ˜..

์ฑ… ์ •๋ฆฌ ์ค‘

ํ•˜๋‘ก๊ธฐ์ดˆ ํ•˜๋‘ก๊ณผ์˜ ๋งŒ๋‚จ ๋งต๋ฆฌ๋“€์Šค ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ๋ฅผ ์œ„ํ•œ ํ”„๋กœ๊ทธ๋ž˜๋ฐ์ด๋‹ค. ๋งต๊ณผ ๋ฆฌ๋“€์Šค ๊ฐ ๋‹จ๊ณ„๋Š” ์ž…๋ ฅ๊ณผ ์ถœ๋ ฅ์œผ๋กœ ํ‚ค-๊ฐ’ ์Œ ์ž…๋ ฅ - ๋งต - ์…”ํ”Œ - ๋ฆฌ๋“€์Šค - ์ถœ๋ ฅ ๋งต๋ฆฌ๋“€์Šค ์žก - ํด๋ผ์ด์–ธํŠธ๊ฐ€ ์ˆ˜ํ–‰ํ•˜๋Š” ์ž‘์—…์˜ ๊ธฐ๋ณธ ๋‹จ์œ„ ์žก - ๋งต ํƒœ์Šคํฌ, ๋ฆฌ๋“€์Šค ํƒœ์Šคํฌ ๊ฐ ํƒœ์Šคํฌ๋Š” YARN์„ ์ด์šฉํ•ด ์Šค์ผ€์ฅด๋ง๋จ ๋งต ํƒœ์Šคํฌ์˜ ๊ฒฐ๊ณผ๋Š” HDFS๊ฐ€ ์•„๋‹Œ ๋กœ์ปฌ์— ์ €์žฅ๋จ ์žก์ด ์™„๋ฃŒ๋œ ํ›„ ๋งต ํƒœ์Šคํฌ์˜ ๊ฒฐ๊ณผ๋Š” ๋ฒ„๋ฆผ ํ•˜๋‘ก ๋ถ„์‚ฐ ํŒŒ์ผ์‹œ์Šคํ…œ ๋ถ„์‚ฐํŒŒ์ผ์‹œ์Šคํ…œ - ๋„คํŠธ์›Œํฌ๋กœ ์—ฐ๊ฒฐ๋œ ์—ฌ๋Ÿฌ ๋จธ์‹ ์˜ ์Šคํ† ๋ฆฌ์ง€๋ฅผ ๊ด€๋ฆฌํ•˜๋Š” ํŒŒ์ผ์‹œ์Šคํ…œ ๋„คํŠธ์›Œํฌ ํ”„๋กœ๊ทธ๋žจ์˜ ๋ณต์žก์„ฑ์„ ๊ฐ€์ง€๊ณ  ์žˆ์œผ๋ฉฐ, ์ตœ๋Œ€ ๋‚œ์ œ๋Š” ํŠน์ • ๋…ธ๋“œ์— ์žฅ์• ๊ฐ€ ๋ฐœ์ƒํ•ด๋„ ์ž๋ฃŒ๊ฐ€ ์œ ์‹ค๋˜์ง€์•Š์Œ HDFS์˜ ๊ธฐ๋ณธ๋ธ”๋ก๋‹จ์œ„๋Š” 128MB๋กœ ๊ต‰์žฅํžˆ ํฐ ๋‹จ์œ„ -> ํƒ์ƒ‰ ๋น„์šฉ์„ ์ตœ์†Œํ™” ํ•˜๊ธฐ์œ„ํ•จ ๋ธ”๋ก์ด ๋งค์šฐ ํฌ๋ฉด ๋ธ”๋ก์˜ ์‹œ์ž‘์ ์„ ํƒ์ƒ‰..

[k8s] k8s swap memory

์Šค์™‘ ๋ฉ”๋ชจ๋ฆฌ ๋„๋Š” ์ด์œ  - ์Šค์™‘ ๋ฉ”๋ชจ๋ฆฌ? : ๋ฉ”๋ชจ๋ฆฌ๊ฐ€ ๊ฐ€๋“์ฐจ๊ณ  ๋” ๋งŽ์€ ๋ฉ”๋ชจ๋ฆฌ ํ•„์š”ํ•  ๋•Œ, ํ•˜๋“œ๋””์Šคํฌ๋ฅผ ๋ฉ”๋ชจ๋ฆฌ์ฒ˜๋Ÿผ ์‚ฌ์šฉ (์†๋„ ๋Š๋ฆผ) (๋””์Šคํฌ๋ฅผ ๊ฐ€์ƒ๋ฉ”๋ชจ๋ฆฌ) ์ด์ „ ๋ฆด๋ฆฌ์ฆˆ์—์„œ Kubernetes๋Š” Linux์—์„œ ์Šค์™‘ ๋ฉ”๋ชจ๋ฆฌ ์‚ฌ์šฉ์„ ์ง€์›ํ•˜์ง€ ์•Š์Œ. ์Šค์™‘์ด ๊ด€๋ จ๋  ๋•Œ ํฌ๋“œ ๋ฉ”๋ชจ๋ฆฌ ์‚ฌ์šฉ๋ฅ ์„ ๋ณด์žฅํ•˜๊ณ  ๊ณ ๋ คํ•˜๊ธฐ ์–ด๋ ต๊ธฐ ๋•Œ๋ฌธ์ž…๋‹ˆ๋‹ค. Kubernetes์˜ ์ด์ „ ์„ค๊ณ„์˜ ์ผ๋ถ€๋กœ, ์Šค์™‘ ์ง€์›์€ ๋ฒ”์œ„๋ฅผ ๋ฒ—์–ด๋‚œ ๊ฒƒ์œผ๋กœ ๊ฐ„์ฃผ๋˜์—ˆ์œผ๋ฉฐ, ๋…ธ๋“œ์—์„œ ์Šค์™‘์ด ๊ฐ์ง€๋˜๋ฉด ๊ธฐ๋ณธ์ ์œผ๋กœ ์ฟ ๋ธ”๋ ›์ด ์‹œ์ž‘๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. k8s 1.22 alpha version ๋…ธ๋“œ ์‹œ์Šคํ…œ ์Šค์™‘(swap) ์ง€์› ๋ชจ๋“  ์‹œ์Šคํ…œ ๊ด€๋ฆฌ์ž๋‚˜ ์ฟ ๋ฒ„๋„คํ‹ฐ์Šค ์‚ฌ์šฉ์ž๋Š” ์ฟ ๋ฒ„๋„คํ‹ฐ์Šค๋ฅผ ์„ค์ •ํ•˜๊ฑฐ๋‚˜ ์‚ฌ์šฉํ•  ๋•Œ ์Šค์™‘ ๊ณต๊ฐ„(space)์„ ๋น„ํ™œ์„ฑํ™”ํ•ด์•ผ ํ•œ๋‹ค๋Š” ๋™์ผํ•œ ์ƒํ™ฉ์— ๋†“์—ฌ ์žˆ์—ˆ์Šต๋‹ˆ๋‹ค. ์ฟ ๋ฒ„๋„คํ‹ฐ..