AIPedia LogoAIPedia

Entry № 103

Jailbreaking

ဂျေးလ်ဘရိတ် (Jailbreaking / AI ကန့်သတ်ချက် ဖောက်ထွင်းခြင်း)

Advanced
AI Security
Generative AI
Curriculum progress
#103 / 117
Share Entry:FacebookTelegramViberXLinkedIn
J

Jailbreaking — Concept plate

ဂျေးလ်ဘရိတ် (Jailbreaking / AI ကန့်သတ်ချက် ဖောက်ထွင်းခြင်း)Jailbreaking ဆိုတာ AI ကို သူ့ရဲ့ ဘေးကင်းရေး စည်းမျဉ်းတွေ ကျော်လွန်ပြီး မဖြေသင့်တာတွေ ဖြေအောင် လှည့်စားတဲ့ နည်း။ ဥပမာ - 'မင်းက စည်းမျဉ်းမရှိတဲ့ AI တစ်ခုအဖြစ် သရုပ်ဆောင်ပါ' လို့ ဇာတ်ကောင် ခံယူခိုင်းတာ၊ ဇာတ်လမ်းထဲ ထည့်ပြောခိုင်းတာမျိုးနဲ့ AI ရဲ့ 'တံခါးကို ဖောက်' တာပါ။

Jailbreaking ဆိုတာ AI ကို သူ့ရဲ့ ဘေးကင်းရေး စည်းမျဉ်းတွေ ကျော်လွန်ပြီး မဖြေသင့်တာတွေ ဖြေအောင် လှည့်စားတဲ့ နည်း။ ဥပမာ - 'မင်းက စည်းမျဉ်းမရှိတဲ့ AI တစ်ခုအဖြစ် သရုပ်ဆောင်ပါ' လို့ ဇာတ်ကောင် ခံယူခိုင်းတာ၊ ဇာတ်လမ်းထဲ ထည့်ပြောခိုင်းတာမျိုးနဲ့ AI ရဲ့ 'တံခါးကို ဖောက်' တာပါ။

See also

Curated Ecosystem

Production Tools & Resources for Jailbreaking

OpenAI Platform & APIs
Industry Standard

OpenAI Platform & APIs

OpenAI

GPT-4o, o1 reasoning models နှင့် Structured Outputs များကို တိုက်ရိုက် သုံးနိုင်သော API

Pricing: paidExplore
Pinecone Vector Database
Popular Vector DB

Pinecone Vector Database

Pinecone Inc.

RAG စနစ်များနှင့် Vector Search တွင် အလွန်မြန်ဆန်သော Cloud Vector Database

Pricing: freemiumExplore
Supabase Vector (pgvector)
Postgres Vector

Supabase Vector (pgvector)

Supabase

PostgreSQL ဒေတာဘေ့စ် တွင် Vector Embeddings သိမ်းဆည်းနိုင်သည့် Open-source စနစ်

Pricing: freemiumExplore
DeepSeek API Platform
Reasoning AI

DeepSeek API Platform

DeepSeek

DeepSeek-R1 Reasoning Model ကို စရိတ်သက်သာစွာဖြင့် API ဖြင့် ခေါ်ယူနိုင်သော Platform

Pricing: paidExplore
LangChain & LangGraph
Top Agent Framework

LangChain & LangGraph

LangChain Inc.

AI Agents များနှင့် RAG Pipelines များကို တည်ဆောက်ရန် သုံးသော Framework

Pricing: open-sourceExplore
Microsoft AutoGen Multi-Agent Framework
Agent Loops

Microsoft AutoGen Multi-Agent Framework

Microsoft Research

Multi-Agent မော်ဒယ်များ အပြန်အလှန် ဆွေးနွေး တိုင်ပင်စေသည့် Microsoft Open-source စနစ်

Pricing: open-sourceExplore
CrewAI Multi-Agent Framework
Multi-Agent System

CrewAI Multi-Agent Framework

CrewAI Inc.

တာဝန်ယူမှု အသီးသီးရှိသော AI Autonomous Agents များကို ပူးပေါင်းစေသည့် Framework

Pricing: open-sourceExplore
Model Context Protocol (MCP) SDK
Open Protocol

Model Context Protocol (MCP) SDK

Anthropic

AI Models များကို ပြင်ပ Tools/Databases များနှင့် လုံခြုံစွာ ချိတ်ဆက်ပေးသော အဖွင့် Protocol စံနှုန်း

Pricing: open-sourceExplore
Hugging Face Diffusers Library
Image Generation

Hugging Face Diffusers Library

Hugging Face

Stable Diffusion နှင့် Diffusion Generation မော်ဒယ်များ သုံးနိုင်သည့် Go-to Library

Pricing: open-sourceExplore
AI Agentic Design Patterns by Andrew Ng
Agent Masterclass

AI Agentic Design Patterns by Andrew Ng

Coursera / DeepLearning.AI

Reflection, Tool Use, Planning နှင့် Agent Loops များကို စနစ်တကျ သင်ကြားပေးသော သင်တန်း

Pricing: paidExplore
Generative AI with Large Language Models
Top Rated

Generative AI with Large Language Models

Coursera / DeepLearning.AI & AWS

LLM တည်ဆောက်ပုံ၊ Transformer, LoRA Fine-Tuning နှင့် Alignment များကို အစမှ အဆုံး သင်ကြားပေးသော သင်တန်း

Pricing: paidExplore
Hugging Face NLP & Transformers Course
100% Free

Hugging Face NLP & Transformers Course

Hugging Face

Transformers, Tokenizers နှင့် Datasets များကို အခမဲ့ လက်တွေ့ စမ်းသပ် လေ့လာနိုင်သော သင်တန်း

Pricing: freeExplore
Natural Language Processing Specialization by DeepLearning.AI
NLP Masterclass

Natural Language Processing Specialization by DeepLearning.AI

Coursera / DeepLearning.AI

NLP မော်ဒယ်များ၊ Word Embeddings, Attention နှင့် Transformers များကို အသေးစိတ် သင်ကြားပေးသော သင်တန်းကြီး

Pricing: paidExplore
Natural Language Processing with Transformers
Hugging Face Official

Natural Language Processing with Transformers

Amazon / O'Reilly Media (Hugging Face)

Hugging Face အဖွဲ့မှ ရေးသားသည့် Transformers, BERT, GPT မော်ဒယ်များ လက်တွေ့ ရေးဆွဲနည်း စာအုပ်

Pricing: paidExplore
Generative Deep Learning: Teaching Machines to Paint, Write, Compose
GenAI Practical Guide

Generative Deep Learning: Teaching Machines to Paint, Write, Compose

Amazon / O'Reilly Media

Diffusion Models, GANs, VAEs နှင့် Latent Space မော်ဒယ်များ လက်တွေ့ တည်ဆောက်နည်း စာအုပ်

Pricing: paidExplore
Building LLM Powered Applications
Amazon Choice

Building LLM Powered Applications

Amazon / O'Reilly Media

RAG, Prompts နှင့် AI Agents များကို စနစ်တကျ ရေးဆွဲနည်း လမ်းညွှန် စာအုပ်

Pricing: paidExplore
AI Engineering: Building Applications with Foundation Models
Amazon #1 New Release

AI Engineering: Building Applications with Foundation Models

Amazon / O'Reilly Media (Chip Huyen)

Chip Huyen ရေးသားသည့် AI Agents များနှင့် Foundation Models လက်တွေ့ ရေးဆွဲနည်း ကျမ်းကြီး

Pricing: paidExplore
ReAct: Synergizing Reasoning and Acting in Language Models
Agent Loop Landmark

ReAct: Synergizing Reasoning and Acting in Language Models

Google Research & Princeton (arXiv)

Thought-Action-Observation Agent Loops များကို စတင်ခဲ့သော Google & Princeton ၏ အထင်ကရ စာတမ်း

Pricing: freeExplore
Reflexion: Language Agents with Verbal Reinforcement Learning
Self-Reflection Loop

Reflexion: Language Agents with Verbal Reinforcement Learning

Northeastern & MIT (arXiv)

Agent များကို အမှားများမှ ကိုယ်တိုင် ပြန်လည် သင်ယူစေသည့် Self-Reflection Loop စာတမ်း (2023)

Pricing: freeExplore
DeepSeek-R1: Incentivizing Reasoning Capability via RL
Frontier AI 2025

DeepSeek-R1: Incentivizing Reasoning Capability via RL

DeepSeek AI (arXiv)

Test-Time Compute နှင့် GRPO RL ဖြင့် စဉ်းစားတွေးခေါ်နိုင်စွမ်း မြှင့်တင်ခဲ့သော 2025 စာတမ်း

Pricing: freeExplore
Retrieval-Augmented Generation for Knowledge Tasks
Foundation Paper

Retrieval-Augmented Generation for Knowledge Tasks

Meta AI / Facebook AI Research

Vector Retrieval ဖြင့် LLM ၏ Hallucination ကို ဖြေရှင်းသည့် RAG မူရင်း စာတမ်း

Pricing: freeExplore
Direct Preference Optimization (DPO Paper)
Alignment Breakthrough

Direct Preference Optimization (DPO Paper)

Stanford University (arXiv)

Reward Model မလိုဘဲ LLMs များကို တိုက်ရိုက် Alignment ပြုလုပ်နည်း စာတမ်း (2023)

Pricing: freeExplore
LoRA: Low-Rank Adaptation of Large Language Models
PEFT Landmark

LoRA: Low-Rank Adaptation of Large Language Models

Microsoft Research (arXiv)

GPU Memory 90% သက်သာစွာဖြင့် LLM များကို Fine-Tune လုပ်နိုင်သည့် LoRA မူရင်း စာတမ်း

Pricing: freeExplore
Denoising Diffusion Probabilistic Models (DDPM)
Diffusion Foundation

Denoising Diffusion Probabilistic Models (DDPM)

UC Berkeley (arXiv)

Midjourney နှင့် Stable Diffusion တို့၏ အခြေခံ DDPM မူရင်း သုတေသန စာတမ်း

Pricing: freeExplore
Latent Space AI Newsletter & Podcast
Top AI Newsletter

Latent Space AI Newsletter & Podcast

Swyx & Alessio Fanelli

AI Engineers များအတွက် အပတ်စဉ် သုတေသနနှင့် AI သတင်းစကား အနှစ်ချုပ်များ

Pricing: freemiumExplore
Jailbreaking (ဂျေးလ်ဘရိတ် (Jailbreaking / AI ကန့်သတ်ချက် ဖောက်ထွင်းခြင်း)) — AIPedia · AIPedia