Entry № 117
Model Denial of Service
(Model DoS)မော်ဒယ် ဝန်ဆောင်မှု ရပ်တန့်စေမှု (Model Denial of Service)
Model Denial of Service — Concept plate
မော်ဒယ် ဝန်ဆောင်မှု ရပ်တန့်စေမှု (Model Denial of Service) — Model DoS ဆိုတာ တိုက်ခိုက်သူက AI ကို အလွန်လေးလံတဲ့ အလုပ်တွေ အများကြီး ခိုင်းလိုက်ပြီး စနစ်တစ်ခုလုံး နှေးသွား/ရပ်သွားအောင် လုပ်တာ။ ဒါမှမဟုတ် တောင်းဆိုမှု အများကြီးနဲ့ ကုန်ကျစရိတ်ကို မတန်တဆ တက်သွားအောင် လုပ်တာ။ ဆိုင်တစ်ဆိုင်ကို ဝယ်လက် အတုတွေနဲ့ ဖြည့်ပြီး တကယ့်ဖောက်သည် မဝင်နိုင်အောင် လုပ်သလိုပါ။
Model DoS ဆိုတာ တိုက်ခိုက်သူက AI ကို အလွန်လေးလံတဲ့ အလုပ်တွေ အများကြီး ခိုင်းလိုက်ပြီး စနစ်တစ်ခုလုံး နှေးသွား/ရပ်သွားအောင် လုပ်တာ။ ဒါမှမဟုတ် တောင်းဆိုမှု အများကြီးနဲ့ ကုန်ကျစရိတ်ကို မတန်တဆ တက်သွားအောင် လုပ်တာ။ ဆိုင်တစ်ဆိုင်ကို ဝယ်လက် အတုတွေနဲ့ ဖြည့်ပြီး တကယ့်ဖောက်သည် မဝင်နိုင်အောင် လုပ်သလိုပါ။
See also
Production Tools & Resources for Model Denial of Service
Supabase Vector (pgvector)
Supabase
PostgreSQL ဒေတာဘေ့စ် တွင် Vector Embeddings သိမ်းဆည်းနိုင်သည့် Open-source စနစ်
vLLM High-Throughput Engine
vLLM Project / UC Berkeley
PagedAttention နှင့် KV Cache သုံး၍ LLM စာရိုက်နှုန်း 10x-50x မြန်စေသည့် Serving Engine
llama.cpp & GGML Engine
Georgi Gerganov
GGUF Quantization သုံး၍ CPU/Mac တွင် မော်ဒယ်များကို အခမဲ့ Run နိုင်သည့် C/C++ Engine
Designing Machine Learning Systems
Amazon / O'Reilly Media (Chip Huyen)
Chip Huyen ရေးသားသည့် Production ML Systems, MLOps နှင့် Feature Stores တည်ဆောက်နည်း မရှိမဖြစ် စာအုပ်
AI Engineering: Building Applications with Foundation Models
Amazon / O'Reilly Media (Chip Huyen)
Chip Huyen ရေးသားသည့် AI Agents များနှင့် Foundation Models လက်တွေ့ ရေးဆွဲနည်း ကျမ်းကြီး
Designing Data-Intensive Applications
Amazon / O'Reilly Media
Scalable Data Pipelines နှင့် MLOps Systems တည်ဆောက်ရန် နည်းပညာ သီးသန့် စာအုပ်ကြီး
LoRA: Low-Rank Adaptation of Large Language Models
Microsoft Research (arXiv)
GPU Memory 90% သက်သာစွာဖြင့် LLM များကို Fine-Tune လုပ်နိုင်သည့် LoRA မူရင်း စာတမ်း
Efficient Memory Management for Large Language Model Serving (vLLM)
UC Berkeley (arXiv)
PagedAttention ဖြင့် KV Cache Virtual Memory စနစ်ကို စတင်ခဲ့သည့် vLLM မူရင်း စာတမ်း
