Entry № 029
GPU & Compute
GPU နှင့် တွက်ချက်မှု အင်အား (GPU & Compute)
GPU & Compute — Concept plate
GPU နှင့် တွက်ချက်မှု အင်အား (GPU & Compute) — GPU ဆိုတာ ဂိမ်းကတ်လို ချစ်ပ်တစ်မျိုး — တစ်ချိန်တည်းမှာ တွက်ချက်မှု ထောင်နဲ့ချီ လုပ်နိုင်တယ်။ CPU က လူတော်တစ်ယောက် တစ်ခုချင်း မြန်မြန်လုပ်သလို; GPU ကတော့ လူသောင်းချီ တစ်ပြိုင်တည်း အလုပ်လုပ်သလိုပါ။ AI မှာ ကိန်းဂဏန်း အများကြီးကို တစ်ပြိုင်တည်း မြှောက်ရလို့ GPU က မရှိမဖြစ် ဖြစ်လာတယ်။
GPU ဆိုတာ ဂိမ်းကတ်လို ချစ်ပ်တစ်မျိုး — တစ်ချိန်တည်းမှာ တွက်ချက်မှု ထောင်နဲ့ချီ လုပ်နိုင်တယ်။ CPU က လူတော်တစ်ယောက် တစ်ခုချင်း မြန်မြန်လုပ်သလို; GPU ကတော့ လူသောင်းချီ တစ်ပြိုင်တည်း အလုပ်လုပ်သလိုပါ။ AI မှာ ကိန်းဂဏန်း အများကြီးကို တစ်ပြိုင်တည်း မြှောက်ရလို့ GPU က မရှိမဖြစ် ဖြစ်လာတယ်။
See also
Production Tools & Resources for GPU & Compute
OpenAI Platform & APIs
OpenAI
GPT-4o, o1 reasoning models နှင့် Structured Outputs များကို တိုက်ရိုက် သုံးနိုင်သော API
Supabase Vector (pgvector)
Supabase
PostgreSQL ဒေတာဘေ့စ် တွင် Vector Embeddings သိမ်းဆည်းနိုင်သည့် Open-source စနစ်
vLLM High-Throughput Engine
vLLM Project / UC Berkeley
PagedAttention နှင့် KV Cache သုံး၍ LLM စာရိုက်နှုန်း 10x-50x မြန်စေသည့် Serving Engine
llama.cpp & GGML Engine
Georgi Gerganov
GGUF Quantization သုံး၍ CPU/Mac တွင် မော်ဒယ်များကို အခမဲ့ Run နိုင်သည့် C/C++ Engine
Machine Learning Specialization by Andrew Ng
Coursera / Stanford & DeepLearning.AI
Machine Learning အခြေခံနှင့် နျူရယ်ကွန်ရက်များကို စနစ်တကျ သင်ကြားပေးသည့် ကမ္ဘာ့လူကြိုက်များဆုံး သင်တန်း
Mathematics for Machine Learning and Data Science Specialization
Coursera / DeepLearning.AI
Machine Learning နှင့် Deep Learning အတွက် မရှိမဖြစ် Vector Math, Linear Algebra နှင့် Calculus သင်တန်း
AI for Everyone by Andrew Ng
Coursera / DeepLearning.AI
AI နည်းပညာ၏ အခြေခံသဘောတရားများ၊ ML အလုပ်လုပ်ပုံနှင့် အနာဂတ်အလားအလာများကို ရှင်းပြသော အခြေခံသင်တန်း
Designing Machine Learning Systems
Amazon / O'Reilly Media (Chip Huyen)
Chip Huyen ရေးသားသည့် Production ML Systems, MLOps နှင့် Feature Stores တည်ဆောက်နည်း မရှိမဖြစ် စာအုပ်
AI Engineering: Building Applications with Foundation Models
Amazon / O'Reilly Media (Chip Huyen)
Chip Huyen ရေးသားသည့် AI Agents များနှင့် Foundation Models လက်တွေ့ ရေးဆွဲနည်း ကျမ်းကြီး
Hands-On Machine Learning with Scikit-Learn, Keras & TensorFlow
Amazon / O'Reilly Media
Machine Learning နှင့် Deep Learning မော်ဒယ်များကို လက်တွေ့ ရေးဆွဲရန် မရှိမဖြစ် စာအုပ်ကြီး
Designing Data-Intensive Applications
Amazon / O'Reilly Media
Scalable Data Pipelines နှင့် MLOps Systems တည်ဆောက်ရန် နည်းပညာ သီးသန့် စာအုပ်ကြီး
LoRA: Low-Rank Adaptation of Large Language Models
Microsoft Research (arXiv)
GPU Memory 90% သက်သာစွာဖြင့် LLM များကို Fine-Tune လုပ်နိုင်သည့် LoRA မူရင်း စာတမ်း
Efficient Memory Management for Large Language Model Serving (vLLM)
UC Berkeley (arXiv)
PagedAttention ဖြင့် KV Cache Virtual Memory စနစ်ကို စတင်ခဲ့သည့် vLLM မူရင်း စာတမ်း
Papers With Code
Meta AI / Papers With Code
ML သုတေသန စာတမ်းများ၊ ရင်းမြစ် Code များနှင့် Benchmarks များကို အခမဲ့ လေ့လာနိုင်သော ကမ္ဘာ့အကြီးဆုံး စင်တာ