Shadow AI

PostgreSQL ဒေတာဘေ့စ် တွင် Vector Embeddings သိမ်းဆည်းနိုင်သည့် Open-source စနစ်

PagedAttention နှင့် KV Cache သုံး၍ LLM စာရိုက်နှုန်း 10x-50x မြန်စေသည့် Serving Engine

GGUF Quantization သုံး၍ CPU/Mac တွင် မော်ဒယ်များကို အခမဲ့ Run နိုင်သည့် C/C++ Engine

Chip Huyen ရေးသားသည့် Production ML Systems, MLOps နှင့် Feature Stores တည်ဆောက်နည်း မရှိမဖြစ် စာအုပ်

Chip Huyen ရေးသားသည့် AI Agents များနှင့် Foundation Models လက်တွေ့ ရေးဆွဲနည်း ကျမ်းကြီး

Scalable Data Pipelines နှင့် MLOps Systems တည်ဆောက်ရန် နည်းပညာ သီးသန့် စာအုပ်ကြီး

GPU Memory 90% သက်သာစွာဖြင့် LLM များကို Fine-Tune လုပ်နိုင်သည့် LoRA မူရင်း စာတမ်း

PagedAttention ဖြင့် KV Cache Virtual Memory စနစ်ကို စတင်ခဲ့သည့် vLLM မူရင်း စာတမ်း