Chanho

[ML] ๋จธ์‹ ๋Ÿฌ๋‹์—์„œ์˜ ํšŒ๊ท€ ๋ถ„์„: ๋‹จ์ˆœ, ๋‹ค์ค‘, ๋‹คํ•ญ ํšŒ๊ท€

ํšŒ๊ท€(Regression) ๋ถ„์„์€ ๋จธ์‹ ๋Ÿฌ๋‹์˜ ์ง€๋„ ํ•™์Šต(Supervised Learning) ํŒจ๋Ÿฌ๋‹ค์ž„์— ์†ํ•˜๋Š” ํ•ต์‹ฌ์ ์ธ ๊ธฐ๋ฒ• ์ค‘ ํ•˜๋‚˜์ด๋‹ค. ์ง€๋„ ํ•™์Šต์€ ์‹œ์Šคํ…œ์ด ์ž…๋ ฅ ๋ฐ์ดํ„ฐ(๋…๋ฆฝ ๋ณ€์ˆ˜)์™€ ๊ทธ์— ์ƒ์‘ํ•˜๋Š” ์ •๋‹ต(์ข…์† ๋ณ€์ˆ˜) ์Œ์œผ๋กœ ๊ตฌ์„ฑ๋œ ๋ฐ์ดํ„ฐ์…‹์„ ํ†ตํ•ด ํ•™์Šตํ•˜๋Š” ๋ฐฉ์‹์ด๋ฉฐ, ํšŒ๊ท€ ๋ถ„์„์˜ ๋ชฉํ‘œ๋Š” ํ•˜๋‚˜ ์ด์ƒ์˜ ๋…๋ฆฝ ๋ณ€์ˆ˜๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ์—ฐ์†์ ์ธ ๊ฐ’์˜ ๊ฒฐ๊ณผ(์ข…์†...

[RAG] ๊ฒ€์ƒ‰ ์„ฑ๋Šฅ์„ ๋†’์ด๊ธฐ ์œ„ํ•œ ์•Œ๊ณ ๋ฆฌ์ฆ˜ ๋ถ„์„

RAG์— ๋Œ€ํ•ด ํ—ค๋”ฉํ•˜๋ฉด์„œ ๊ฒ€์ƒ‰์„ ์กฐ๊ธˆ ๋” ์ •ํ™•ํ•˜๊ณ  ํšจ์œจ์ ์œผ๋กœ ํ•˜๊ธฐ์œ„ํ•ด ๊ฒ€์ƒ‰ ๋ฐ ๋žญํ‚น ์•Œ๊ณ ๋ฆฌ์ฆ˜์— ๋Œ€ํ•ด ์•Œ์•„๋ณด๊ฒŒ ๋˜์—ˆ๊ณ , ์ด๋ฅผ ์ •๋ฆฌํ•˜๊ณ  ๊ธฐ๋กํ•˜๊ณ ์ž ํ•œ๋‹ค. RAG์™€ ๊ฒ€์ƒ‰/๋žญํ‚น ์•Œ๊ณ ๋ฆฌ์ฆ˜์˜ ์—ญํ•  RAG๋Š” ์‚ฌ์šฉ์ž์˜ ์งˆ๋ฌธ์ด๋‚˜ ํ”„๋กฌํ”„ํŠธ์— ๋Œ€ํ•ด ๊ด€๋ จ์„ฑ ๋†’์€ ์ •๋ณด๋ฅผ ๋จผ์ € ๊ฒ€์ƒ‰ํ•˜๊ณ , ์ด ์ •๋ณด๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ ์–ธ์–ด ๋ชจ๋ธ์ด ๋‹ต๋ณ€์„ ์ƒ์„ฑํ•˜๋Š” ๋ฐฉ์‹์ด๋‹ค. ์—ฌ๊ธฐ์„œ ๊ฒ€์ƒ‰ ...

Model Context Protocol: MCP ํ•ต์‹ฌ ์ •๋ฆฌ

์š”์ฆ˜ ์ด๊ณณ ์ €๊ณณ์—์„œ MCP ๊ด€๋ จ๋œ ์งˆ๋ฌธ์„ ๋งŽ์ด ๋ฐ›๊ณ  ์žˆ๋‹ค. ์ด์— ๊ฐ„๋žตํ•˜๊ฒŒ ํ•ด๋‹น ๋‚ด์šฉ์„ ์ •๋ฆฌํ•˜๊ณ ์ž ํ•œ๋‹ค. ํ•ด๋‹น ๊ฒŒ์‹œ๊ธ€์„ Anthropic์˜ Model Context Protocol์˜ ๊ณต์‹ ๋ฌธ์„œ๋ฅผ ์ฐธ์กฐ ํ•ด์„œ ์ž‘์„ฑํ•˜์˜€๋‹ค. MCP๋ž€? MCP(Model Context Protocol)๋ฅผ ๊ฐ„๋žตํ•˜๊ฒŒ ์ •์˜ํ•˜๋ฉด AI ๋ชจ๋ธ์ด ํŒŒ์ผ-์‹œ์Šคํ…œ, DB, Saa...

[vLLM] CUDA 12.4 ๋ฐ 11.8 ํ™˜๊ฒฝ์—์„œ vLLM ๋นŒ๋“œ

vLLM์„ LLM ์„œ๋น™ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋กœ ์‚ฌ์šฉํ•˜๊ณ ์ž ํ•˜์˜€์œผ๋‚˜, ํ˜„์žฌ ์ฃผ๋กœ ์‚ฌ์šฉํ•˜๋Š” ์„œ๋ฒ„์˜ GPU๊ฐ€ ์˜ค๋žœ๋œ ์—ฐ์‹์˜ GPU์—ฌ์„œ ๋ช‡๋ช‡์˜ ๋‚œ๊ด€์ด ์žˆ์—ˆ๋‹ค. ์ด๋ฅผ ํ•ด๊ฒฐํ•œ ๊ณผ์ •๊ณผ ํ•จ๊ป˜ ์ตœ์ข… ๋นŒ๋“œ์— ์„ฑ๊ณตํ•œ ์Šคํฌ๋ฆฝํŠธ๋ฅผ ๊ธฐ๋กํ•˜๊ณ ์ž ํ•œ๋‹ค. Docker Image: https://hub.docker.com/r/nvidia/cuda Pytorch: https:/...

[RAG] Modular RAG & Self-Routing: LLM ๊ฒ€์ƒ‰ ํšจ์œจ์„ ์œ„ํ•œ ๋ชจ๋“ˆํ™” ์ „๋žต

Retrieval-Augmented Generation(RAG)์€ LargeLanguageModel์— ๋ฐœ์ƒํ•˜๋Š” ํ™˜๊ฐ(hallucination) ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๊ณ  ์ •ํ™•์„ฑ์„ ๋†’์ด๊ธฐ ์œ„ํ•ด ์™ธ๋ถ€ ์ง€์‹ ๊ธฐ๋ฐ˜์—์„œ ์ •๋ณด๋ฅผ ๊ฒ€์ƒ‰ํ•ด ๋‹ต๋ณ€์— ํ™œ์šฉํ•˜๋Š” ๋ฐฉ์‹์ด๋‹ค. ์‹œ๊ฐ„์ด ์ง€๋‚จ์— ๋”ฐ๋ผ RAG๋Š” ํฌ๊ฒŒ ์„ธ ๊ฐ€์ง€ ํ˜•ํƒœ๋กœ ๋ฐœ์ „ํ–ˆ๋‹ค. ํŒจ๋Ÿฌ๋‹ค์ž„ ...

[Docker] ํฌํŠธํฌ์›Œ๋”ฉ๊ณผ ํ˜ธ์ŠคํŠธ [Localhost](http://Localhost) ์ ‘๊ทผ

Docker๋ฅผ ์‚ฌ์šฉํ•˜๋‹ค ๋ณด๋ฉด ์ปจํ…Œ์ด๋„ˆ์˜ ์„œ๋น„์Šค๋ฅผ ์™ธ๋ถ€์— ๋…ธ์ถœํ•˜๊ฑฐ๋‚˜, ๋ฐ˜๋Œ€๋กœ ์ปจํ…Œ์ด๋„ˆ ๋‚ด๋ถ€์—์„œ ๊ฐœ๋ฐœ ํ™˜๊ฒฝ์˜ ๋‹ค๋ฅธ ์„œ๋น„์Šค(์˜ˆ: ํ˜ธ์ŠคํŠธ ๋จธ์‹ ์—์„œ ์‹คํ–‰ ์ค‘์ธ DB)์— ์ ‘๊ทผํ•ด์•ผ ํ•˜๋Š” ๊ฒฝ์šฐ๊ฐ€ ์žˆ๋‹ค. ์˜ค๋Š˜์€ Docker ๋„คํŠธ์›Œํ‚น์—์„œ ๊ฐ€์žฅ ์ž์ฃผ ๋งˆ์ฃผ์น˜๋Š” ๋‘ ๊ฐ€์ง€ ์‹œ๋‚˜๋ฆฌ์˜ค์ธ ํฌํŠธ ํฌ์›Œ๋”ฉ (-p ์˜ต์…˜)๊ณผ ์ปจํ…Œ์ด๋„ˆ์—์„œ ํ˜ธ์ŠคํŠธ์˜ localhost ์„œ๋น„์Šค์— ์ ‘๊ทผํ•˜๋Š” ๋ฐฉ...

[TIL] ๋ฐ์ดํ„ฐ๋ฒ ์ด์Šค ๊ธฐ์ดˆ์™€ SQL ์‹ค์ „ ํ™œ์šฉ ์ •๋ฆฌ :10-Minute SQL

๋ฐ์ดํ„ฐ๋ฒ ์ด์Šค๋ฅผ ์‚ฌ์šฉํ•˜๊ณ  ์žˆ์ง€๋งŒ, ๊นŠ๊ฒŒ ๊ณต๋ถ€ํ•œ ์ ์€ ์—†๋Š” ๊ฒƒ ๊ฐ™๋‹ค๋Š” ์ƒ๊ฐ์ด ๋“ค์—ˆ๋‹ค. ์ด์— ์‹œ๊ฐ„์ด ๋‚ ๋–„ ํ•œ๋ฒˆ์”ฉ 10๋ถ„์ •๋„ ๋ถ„๋Ÿ‰์˜ SQL ์ง€์‹์— ๋Œ€ํ•ด์„œ A-Z๊นŒ์ง€ ํ•™์Šต์„ ํ•ด๋ณด๊ณ ์ž ํ•œ๋‹ค. ์˜ค๋Š˜์€ ๋ฐ์ดํ„ฐ๋ฒ ์ด์Šค์˜ ๊ธฐ๋ณธ ๊ฐœ๋…๋ถ€ํ„ฐ ์‹œ์ž‘ํ•ด, SQL ๋ช…๋ น์–ด์˜ ๋ถ„๋ฅ˜์™€ ์—ญํ• , ๊ทธ๋ฆฌ๊ณ  PL/SQL์˜ ํ™œ์šฉ๊นŒ์ง€ ๊ฐ„๋žตํ•˜๊ฒŒ ์‚ดํŽด๋ณด๊ฒ ๋‹ค. ํ•ต์‹ฌ ํฌ์ธํŠธ ๋ฐ์ดํ„ฐ๋ฒ ์ด์Šค๋Š” ๋…ผ๋ฆฌ...

ยฉ chanho. Some rights reserved.