Edge AI ยท On-device LLM ยท Medical Imaging
ํฐ ๋ชจ๋ธ์ ์์ ๊ธฐ๊ธฐ์์ ๋๋ฆฌ๊ณ , ์๋ฃ ์์์์ ์ ๋ขฐํ ์ ์๋ ์ ํธ๋ฅผ ์ฐพ์ต๋๋ค.
AI ์ฐ๊ตฌ์ค์์ ์ฃ์ง ๋๋ฐ์ด์ค ์์ LLM๊ณผ ์๋ฃ ์์ ๋ฅ๋ฌ๋์ ์ฐ๊ตฌํฉ๋๋ค. ๊ด์ฌ์ฌ๋ "๋ ผ๋ฌธ ์์น"๋ณด๋ค ์ค์ ๋ก ๋์๊ฐ๋ ์์คํ โ Jetson์์ ์ด๋น ๋ช ํ ํฐ์ด ๋์ค๋์ง, ๋ชจ๋ธ์ด ๋ณ๋ณ์ ๋ณด๊ณ ํ๋จํ ๊ฑด์ง ์ดฌ์ ์ฅ๋น๋ฅผ ์ธ์ด ๊ฑด์ง(shortcut) ๊ฐ์ ๊ฒ๋ค์ ๋๋ค.
- ๐ฌ Medical Imaging โ ํ๋ถ X์ ๊ฒฐํต ์ง๋จ, CTโX-ray ๋๋ฉ์ธ ๋ณํ, XAI(Grad-CAM) ๊ธฐ๋ฐ ๊ทผ๊ฑฐ ๊ฒ์ฆ
- ๐ง On-device LLM โ 1-bit/์ ๋นํธ ์์ํ, llama.cpp + CUDA, NVIDIA Jetson ๋ฐฐํฌ
- ๐ก Edge & IoT โ ๋ฉํฐ๋ชจ๋ฌ ์ผ์ ์ด์ ํ์ง, GRPO ๊ธฐ๋ฐ ๊ฐํํ์ต ํ๋
- ๐ ๏ธ Infra โ Slurm GPU ํด๋ฌ์คํฐ, Kubernetes GPU ์ํฌ๋ก๋, Docker ์ฌํ ํ๊ฒฝ
| Project | What it is | Stack |
|---|---|---|
| bonsai-27b-jetson | 27B 1-bit LLM(PrismML Bonsai)์ Jetson Orin NX 16GB์์ CUDA ๊ฐ์์ผ๋ก ๊ตฌ๋ํ๋ ์ ์ ๊ฐ์ด๋ + ๋ฒค์น๋งํฌ | llama.cpp CUDA Shell |
| mmtb-task2-tb-cxr | TREAT-MMTB 2026 Task 2 โ ํ๋ถ X์ ๊ฒฐํต ์ง๋จ. modality shortcut ๋์๋ฅผ ์ง๋จํ๊ณ ๊ฒฐ์ธก์ ๊ฐ์ธํ ๋ฉํฐ๋ชจ๋ฌ ๋ชจ๋ธ๋ก ์ฌ์ค๊ณ | PyTorch DenseNet121-xrv Docker |
| edge-llm-iot-anomaly | GRPO๋ก ํ๋ํ Qwen2.5-3B๋ฅผ Jetson Orin Nano์ ์ฌ๋ ค ์ค์๊ฐ ๋ฉํฐ๋ชจ๋ฌ ์ผ์ ์ด์ ํ์ง (MIRU 2026 ํฌ์คํฐ) | TRL/GRPO Qwen2.5 Jetson |
| f1-project | F1 ๊ท์ ยท๋ฐ์ดํฐ RAG ์ฑ๋ด โ FIA ๊ท์ PDF ์๋ฒ ๋ฉ + ์ค์๊ฐ ๋ ์ด์ค ๋ฐ์ดํฐ, LangGraph ReAct ์์ด์ ํธ, SSE ์คํธ๋ฆฌ๋ฐ | FastAPI LangGraph ChromaDB |
| Study | ํ์ตยท์ฌ์ด๋ ํ๋ก์ ํธ ๋ก๊ทธ โ Spring Boot CRUD API, K8s GPU ๋ฐฐํฌ ํ๋ฆฌ์ , arXiv ์์นด์ด๋ฒ | Spring K8s Python |
Currently working on CTโX-ray translation for chest imaging.

