áá°áááșáž Latent Patterns Glossary (https://latentpatterns.com/glossary) á០áĄááŻá¶ážáĄááŸáŻááșáž (ááá) ááŻááŻá¶ážááᯠááŒááșááŹááŹááŹáááŻá· áĄááŒáá·áșáĄá áŻá¶ ááŒááșáááŻááŒáźáž áĄááŒá±áá¶ ááá±áŹáááŹážááŸáá·áș áĄáá±ážá áááș ááŸááșážáááșážáá»ááșáá»áŹáž ááá·áșááœááșážáá±ážááŹážáá«áááșá
- Activation Function (áĄááșááźáá±ážááŸááșáž áááșááŸááș): Neuron áá
áșááŻááČá· á
áŻá
áŻáá±á«ááșáž ááááș (weighted sum) ááœááșááŹááŒáźážáá±áŹááșááŸáŹ áĄááŻá¶ážááŒáŻááČá· nonlinear function áá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: Neural network ááœá±ááŸáŹ activation function ááá«áááș layer ááœá± áááșáá±áŹááșááČ áááșááŹážáá«á á± ááááșá linear transformation áá áșááŻáááșáž áĄááŒá áșááČ ááœááșááŹááŸáŹ ááŒá áșáá«áááșá Activation function á neural network ááᯠááŸáŻááșááœá±ážááČá· (non-linear) ááŻá¶á á¶ááœá±ááᯠáááșááŒáŹážáááŻááșá áœááșáž áá±ážáá«áááșá á„ááᏠ- ReLU, Sigmoid ááČá· Tanh áááŻá·áᏠáá°áááá»áŹážááČá· activation function ááœá± ááŒá áșáá«áááșá
- Adam Optimizer (áĄáŹáááș áĄá±áŹá·áááźáááŻááșááŹ): Adaptive learning rate ááᯠáĄááŻá¶ážááŒáŻááČá· optimizer áá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: Adam áᏠRMSProp ááČá· Momentum áááșážáááșážááŸá áșááŻááŻá¶ážááČá· áĄáŹážááŹáá»ááșááœá±ááᯠáá±á«ááșážá ááșááŹážáᏠááŒá áșáá«áááșá parameter áá áșááŻáá»ááșážá áźáĄááœááș momentum ááČá· squared gradient ááá·áșááŸááșážáá»ááșááœá±ááᯠbias correction ááČá·áĄáá° ááááșážááááșážáá±ážááČá·áĄááœááș training ááŻááșááČá·áĄáá« áááŻáááŻááŒááșáááșááŒáźáž áááșááŒáááșá á±áá«áááșá
- Agent Backpressure (áĄá±áá»ááșá· áááșááááșááŸáŹ): áĄá±áá»ááșá·ááœá±á áá°áááŻá·ááČá· áĄááŸáŹážááœá±ááᯠáá°ááááŻááČ ááŸáŹááœá±ááŒááșáááșáááŻááșáĄá±áŹááș ááŻááșáá±áŹááșáá±ážááČá· áĄáááŻáĄáá»á±áŹááș ááŻá¶á·ááŒááșááŸáŻ áááčáááŹážáá»áŹáž ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: Type systems, test suites, linters ááČá· pre-commit hooks ááœá±áᏠbackpressure mechanisms ááœá± ááŒá áșáá«áááșá áá«ááœá±á AI áĄá±áá»ááșá·ááᯠáá°ááŻááșáá±ááČá·áĄááŻááșááŸáŹ áĄááŸáŹážáá«áááș áá»ááșáá»ááșáž ááááŸáá á±ááŒáźáž áá°ááČá· áááșáá±áŹááșá áœááșáááșááŸáŻ ááááŻááČ áááŻáá·áșááŹáᏠááŒááșááŒááșáááŻááșá áœááșáž áá±ážáá«áááșá
- Agent Harness (áĄá±áá»ááșá· ááŹážáááșá
áș): Language model áá
áșááŻááČá· áá±ážáááșáááșááŸáŹ ááŸáááČá· orchestration layer ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: AI model áááșáááșá áĄááŻááșáááŻááșáááŻááșáá«áá°ážá Agent Harness á prompts ááœá± á áźáá¶ááŹá tool ááœá± ááŸááŻážááŹá á ááșážáááșáž (policy) ááœá± á á áșááŹááČá· áĄááŻááșáá áșáᯠááŒáźážááČá·áĄáá loop áááșááŹááœá±ááᯠááŹáááșáá°áá±ážáá«áááșá
- Agent Heartbeat (áĄá±áá»ááșá· áááșááá
áș): áĄá±áá»ááșá·áá
áșáᯠáĄááŻááșááŻááșáá±ááČ ááŻááșáááŻááș á
á
áșáá±ážááČá· á
áá
áșááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áĄá±áá»ááșá·á database áá áșááŻááŸáŹ timestamp ááᯠáĄáá»áááșááŸááș update ááŻááșáá±ážááŒááșážáĄáŹážááŒáá·áș monitoring system á áĄá±áá»ááșá· á ááșáááșááœáŹážáᏠ(crashed) ááᯠáááááŻááșáá«áááșá áĄáČá·ááźáĄáá« áá»ááșáá±ááČá· áĄááŻááșááœá±ááᯠáááŒáŹážáĄá±áá»ááșá·ááź áĄáááŻáĄáá»á±áŹááș ááŒááșááœáČáá±ážáááŻááșáá«áááșá
- Agent Skills (áĄá±áá»ááșá· á
áá±ážááș): áááŻáĄááșááŸáᏠáĄá±áá»ááșá·ááČá· context window ááČááᯠááá·áșááœááșážáĄááŻá¶ážááŒáŻááČá· ááœáŸááșááŒáŹážáá»ááșáá»áŹáž (instruction sets) ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: Tool ááœá± áĄáá»áŹážááŒáźážááČá· definition ááœá±ááᯠcontext window ááČ áĄááŒáČááá·áșááŹážáááș áá±ááŹááŻááș (token ááŻááș) áá«áááșá Agent Skills ááá±áŹá· áááșáááŻááșáᏠáĄááŻááșááČá· ááœáČáááșááČá· ááœáŸááșááŒáŹážáá»ááșááœá±ááᯠáááŻáĄááșááČá· áĄáá»áááșááŸáᏠload ááŻááșááČá·áĄááœááș ááœááșáá»ááșááŸáŻ ááŻááșáá»á ááááșááᯠáá»áŸá±áŹá·áá»áá±ážáá«áááșá
- Agent (áĄá±áá»ááșá·): Observe-think-act loop ááČá· tool calling ááᯠáĄááŻá¶ážááŒáŻááŒáźáž áĄááŻááșááœá±ááᯠááááááŹáᏠááŒáźážááŒá±áŹááșáĄá±áŹááș ááŻááșáá±áŹááșáááŻááșááČá· AI á
áá
áșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áááŻážáááŻáž chatbot ááČá·ááá°ááČ áĄá±áá»ááșá·á áááșáááșážáá»ááșááᯠáá±á·ááŹáááș (observe)á ááŹááŻááșááááČ á ááșážá áŹážáááș (think)á ááŒáźážáááș tool ááœá± ááŻá¶ážááŒáźáž áááșááœá±á·ááŻááșáá±áŹááșáááș (act)á ááź loop ááᯠááŻá¶ážááŒáźáž áá°ááČá· áááŻááșážá á±ááŸáŻ áá áșááŻáááșážááČá· áĄááá·áșááá·áș áĄááŻááșááœá±ááᯠááŒáźážáĄá±áŹááș ááŻááșáá«áááșá
- AGENTS.md: AI coding agent ááœá± áááșáááŻááșáĄá±áŹááș ááá±áŹáá»ááșááČá· build steps, testing commands ááČá· coding conventions ááœá±ááᯠáá±ážááŹážááŹážááČá· markdown áááŻááș á
á¶ááŸáŻááșážáá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áá«áᏠááá°ááźááČá· coding tools ááœá± áĄáŹážááŻá¶áž ááŹážáááșáááŻááșááČá· ááá±áŹáá»ááș áááșážááœáŸááșáá»ááș áááŻááșááŒá áșáá«áááșá áĄá±áá»ááșá·áá áșáᯠááá±áŹáá»ááșááČ áá±áŹááșááŹáááș ááŹááŻááșááááČáááŻáᏠááźáááŻááșááᯠááŒáá·áșááŒáźáž áá»ááșáá»ááșáž áááááŻááșáá«áááșá
- Attention Weight Matrix (áĄáááșááŸááș ááááș áá±ážááá
áș): á
áŹááŹážáá
áșááŻááČááŸáŹ áá±ááŹáá
áșááŻá áááŒáŹážáá±ááŹáá
áșááŻááᯠáááșáá±áŹááș áĄáŹááŻá¶á
ááŻááșáááČáááŻááŹááᯠáá±áŹáșááŒááČá· matrix áá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: Matrix ááČá áĄááœááșáááŻááșážá á áŹááŻá¶ážáá áșááŻá¶ážááČá· áá áșááŻá¶ážááŒáŹáž áááșááœááșááŸáŻááᯠáá±áŹáșááŒáá«áááșá áĄáááșáž (rows) ááœá±áᏠinput sequence áá áșááŻááŻá¶ážáĄáá±á«áș áá°áááșááČá· probability distributions ááœá± ááŒá áșááŹáá«áááșá
- Attention Weights (áĄáááșááŸááș ááááșáá»áŹáž): á
áŹááŹážáá
áșááŻááČá· ááááș ááœááșááŹáááŻá·áĄááœááș áá±ááŹáá
áșááŻáá»ááșážá
áźá áááșáá±áŹááșáĄáá áĄáá±ážáá«áááČáááŻááŹááᯠáááșááŸááșáá±ážááČá· áááŸááșáá»áŹáž ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áá«ááœá±áᏠnormalized scores ááœá± ááŒá áșááŒáźáž input sequence ááČá áááșáá±ááŹááœá±á output áĄááœááș áĄáá±áŹááșáĄáá° áĄááŒá áșááŻá¶ážááČáááŻááŹááᯠáááșááŸááșáá±ážáá«áááșá
- Attention (áĄáááșááŸááș): Neural network ááœá±á ááááșáá
áșáᯠááŻááșáá±ážááČá·áĄáá« input ááČá áááșáááŻááșáᏠáĄá
áááșáĄáááŻááșážááœá±ááᯠáĄáŹááŻá¶á
ááŻááșáááŻááșáĄá±áŹááș ááŻááșáá±áŹááșáá±ážááČá· á
áá
áșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áááá ááŻááŸá áș "Attention Is All You Need" á áŹáááșážááá± á áááșááČá·ááŹáá«á AI á á áŹááŒá±áŹááșážááŸááșááœá±ááᯠáááșááČá·áĄáá« ááŸá±á·ááŹážá á áŹááČá· áá±áŹááșááŹážá á ᏠáááșááᯠáááșáááșáááČáááŻááŹááᯠáĄáŹááŻá¶á ááŻááșáááŻááșá á±áá«áááșá
- Autograd (áĄá±áŹáșáááŻááááș): Automatic differentiation - gradient ááœá±ááᯠáĄáááŻáĄáá»á±áŹááș ááœááșáá»ááșáá±ážááČá· á
áá
áșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: ááŻááșáá±áŹááșáá»ááș (operations) ááœá±ááᯠááŸááșááŹážááŹážááŒáźáž chain rule ááᯠáá±áŹááșááŒááș áĄááŻá¶ážááŒáŻáᏠgradients ááœá±ááᯠááœááșáá»ááșáá±ážáá«áááșá Neural network áááșááŒáŹážááŸáŻáĄááœááș áĄáá±ážáá«ááČá· áĄá áááșáĄáááŻááșáž ááŒá áșáá«áááșá
- Backpropagation (áááșááááŻáá«áá±ážááŸááșáž): Computation graph ááČááŸáŹ gradients ááœá±ááᯠááœááșáá»ááșáá±ážááČá· algorithm ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: Chain rule ááᯠááŻá¶ážááŒáźáž error signal ááœá±ááᯠcomputation graph ááČááŸáŹ áá±áŹááșááŒááș (backward) á áźážáááșážá á±áá«áááșá áááŸáááŹááČá· gradients ááœá±ááČá· model ááČá· weights ááœá±ááᯠupdate ááŻááșáá«áááșá
- Batch Normalization (áááșáá»áș áá±áŹáșáááșáááŻááșáá±ážááŸááșáž): activations ááœá±ááᯠbatch dimension áĄáááŻááș ááŻá¶ááŸááșááŒá
áșáĄá±áŹááș ááŸááá±ážááČá· áááșážáááșážááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: Learnable scale ááČá· shift parameters ááœá±ááᯠááŻá¶ážááŒáźáž activations ááœá±ááᯠnormalizes ááŻááșáá«áááșá áá«áᏠdeep network ááœá± áááșááŒáŹážááČá·áĄáá« áááșááŒáááșááŸáŻ ááŸáá á±ááŒáźáž áááŻááŒááșááŒááș áááșááŒáŹážáááŻááșá á±áá«áááșá
- Beads (ááááșá
áș): AI coding agent ááœá±áĄááœááș git áĄááŒá±áá¶ Issue tracker áá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áá«áᏠdistributed ááŒá áșááŒáźáž graph ááŻá¶á á¶ááČá· áĄááŻááșááŻááșáá«áááșá áĄááŻááșááœá±ááČá· áááșááœááșááŸáŻ (dependencies) ááœá±ááᯠpersistent structured memory áĄááŒá áș git repository ááČááŸáŹ ááááșážáááșážáá±ážáá«áááșá
- BERT: Bidirectional Encoder Representations from Transformers - Transformer ááČá· encoder áááșáááșááᯠáĄááŻá¶ážááŒáŻááŹážááČá· model áá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: á áŹááŹážááœá±ááᯠmasked language modelling ááČá· next sentence prediction áááșážáááșážááœá± ááŻá¶ážááŒáźáž ááŒááŻáááșáááșááŒáŹáž (pre-trained) ááŹážáᏠááŒá áșáá«áááșá á áŹááŹážááœá±ááČá· áĄááááčááŹááșááᯠáááșáááșááŸááŻááșážááŸááŻááșáž ááŹážáááșáááŻá· ááŻá¶ážáá«áááșá
- Bigram (áááŻááșááááș): áááșááŸá á
áŹááŻá¶áž (token) áĄáá±á«áș áá°áááșááŒáźáž áá±áŹááșá
áŹááŻá¶ážááᯠáááșá·ááŸááșážááČá· áĄáááŻážááŸááșážááŻá¶áž language model áá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: á áŹááŻá¶ážááœáČ áááŻá·áááŻááș á áŹááŻá¶ážáá áșááŻá¶ážáá»ááșážá áźááČá· áĄááŒáááșáá± (frequency) ááᯠááŒáá·áșááŒáźáž áá±áŹááșááŹááŹáááČ ááá·áșááŸááșážááČá· model ááŒá áșáá«áááșá
- Bombadil (ááœááșááŹáá±áž): Web application ááœá±ááČá· ááŸááșáááșááŸáŻááᯠáĄáááŻáĄáá»á±áŹááș á
á
áșáá±ážáá±ážááČá· UI testing framework áá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: Antithesis á ááŻááșááŻááșááŹááŒá áșááŒáźáž web apps ááœá±ááᯠáá°á·ááŹáᏠááŸáá·áșáááșááŒáá·áșááŸáŻáᏠáááșááŸááșááŹážááČá· á ááșážáááșáž (correctness invariants) ááœá±ááČá· ááźáááź á á áșáá±ážáá±ážáá«áááșá
- Byte Pair Encoding (BPE): áĄááŻá¶ážáĄáá»áŹážááŻá¶áž á
áŹááŻá¶ážááœáČááœá±ááᯠtoken áá
áșááŻáááșáž áĄááŒá
áș áá±á«ááșážá
ááșážááČá· subword tokenization áááșážáááșážáá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áĄááŒáááșáá± áĄáá»áŹážááŻá¶áž á áŹááŻá¶ážááœáČááœá±ááᯠáááșáá«áááČááČ áá±á«ááșážá ááșážááŒááșážáĄáŹážááŒáá·áș vocabulary áá áșááŻááᯠáááșáá±áŹááșáá«áááșá áá«áᏠá áŹááŻá¶ážáĄáá áșááœá±áááŻáá« áááŻááșááœááșáááŻááșá áœááșáž ááŸáá á±áá«áááșá
- Causal Masking (áá±áŹá·áááș áááșá
áșáááșáž): Language model ááœá± áĄááŹáááșááŸáŹ ááŹááá·áș á
áŹááŻá¶ážááœá±ááᯠááŒááŻáááŒááșáĄá±áŹááș ááááșáááșááŹážááČá· á
áá
áșááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áĄáŹááŻá¶á ááŻááșááŸáŻ (attention) ááᯠáĄááŹáááș áá±ááŹááœá±ááź ááá±áŹááșáĄá±áŹááș ááŹážááźážáá±ážáá«áááșá áá«ááŸáᏠlanguage model á á áŹááŹážááœá±ááᯠáá áșááŻá¶ážáá»ááșážá áź ááá·áșááŸááșážááČá· (autoregressive) ááŻááșáááčááááᯠááááșážááááșážáááŻááșááŸáŹ ááŒá áșáá«áááșá
- Cell-Level Merge (ááČááș-áááșáááș ááŹá·áá»áș): Merge ááŻááșááČá·áĄáá« field áá
áșááŻáá»ááșážá
áź (cell) áĄáááŻááș conflict ááœá±ááᯠááŒá±ááŸááșážááČá· áááșážáááșážááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: á áŹááŒá±áŹááșážáĄáááŻááș (line) áááŻááșááČ áĄááœááșáĄáááŻááș conflict ááŒá±ááŸááșážááČá·áĄááœááș áá°áĄáá»áŹážááŒáźážá record áá áșááŻáááșážááČá· ááá°ááźááČá· fields ááœá±ááᯠáá áșááŒááŻááșáááșáž ááŒááșáááșáááŻááșá á±áá«áááșá
- Chain Rule (áá»áááș áá°ážááș): Composed function áá
áșááŻááČá· derivative ááᯠááœááșáá»ááșááČá· áááșáčáá»áŹáááșážá„ááá±ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áĄááá·áșááá·áș áá»áááșáááșááŹážááČá· function áá áșááŻááČá· derivative ááᯠááœááșáá»ááșááŹááŸáŹ áĄááá·áșáááŻááșážááČá· derivative ááœá±ááᯠááŒáŸá±áŹááșáá±ážááá«áááșá áá«áᏠbackpropagation ááČá· áĄááŒá±áá¶ áááșáčáá»áŹ ááŒá áșáá«áááșá
- Chrome Extension (áááŻááșáž áĄááșá áșáááșááŸááș): Google Chrome browser ááČááŸáŹ browser ááČá· ááŻááșáá±áŹááșáá»ááșááœá±ááᯠááŒá±áŹááșážááČáááŻá· áá«ááŸáááŻááș áĄáá áșááá·áșáááŻá· áĄááŻá¶ážááŒáŻááČá· app áĄáá±ážáá±ážáá»áŹážá
- CLAUDE.md: Claude Code áĄááœááș ááá±áŹáá»ááșááČá· architecture ááČá· workflow ááœáŸááșááŒáŹážáá»ááșááœá±ááᯠááááșážáááșážááŹážááČá· config áááŻááș ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: ááźáááŻááșááᯠClaude Code á áĄáááŻáĄáá»á±áŹááș load ááŻááșááŒáźáž codebase ááČá· á ááșážáááșážááœá±á build commands ááœá±ááČá· architecture ááœá±ááᯠááŹážáááșáĄá±áŹááș áĄááŻá¶ážááŒáŻáá«áááșá
- Collision-Free ID (áá±áŹáșáá
áșááŸááș-áááźáž áĄááŻááșááź): Content hashing ááᯠáĄááŻá¶ážááŒáŻááŒáźáž áĄááŻááșááźááŸá
áșáᯠáááșáááœáŹážáĄá±áŹááș ááŒáŻááŻááșááČá· áááșážáááșážááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áĄááŻááșááźááœá±ááᯠcontent ááČá· hash áĄáá±á«áș áá°áááșááŒáźáž ááŻááșáá±ážááČá·áĄááœááș ááźážááŒáŹážá áź áááșááźážááŹážááČá· items ááœá±áááșáž áĄááŻááșááźáá°ááœáŹážáááŻá· áĄááœáá·áșáĄáááșáž áĄááœááșáááșážáá«ážáá«áááșá
- Compaction (ááœááșáááșááŸááș): áĄá±áá»ááșá·ááČá· á
ááŹážááŒá±áŹááŸááșáááșážááČá áá±áŹááșážáá±ááČá· á
áŹááœá±ááᯠáĄáá»ááșážáá»áŻááșáᏠáá«ááŸáááŻááș áá»ááșááŻááșááČá· áááșážáááșážááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: Context window ááČááŸáŹ áá±ááŹááœááșáĄá±áŹááș ááŻááșáá±áŹááșááČá· áááșážáááșážáá áșáᯠááŒá áșáá«áááșá áĄáá±ážááŒáźážááČá· áĄáá»ááșááœá±ááᯠáĄáá»ááșážáá»áŻááș ááááșážááŹážááŒáźáž áá»ááșááŹááœá±ááᯠáááșááŸáŹážáá áșáá«áááșá
- Computation Graph (ááœááșáá»á°áá±ážááŸááșáž ááááșááș): ááŻááșáá±áŹááșáá»ááș áá
áșááŻáá»ááșážá
áźááᯠááŸááșáááșážáááșááŹážááČá· graph ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áá«áᏠdirected acyclic graph (DAG) ááŒá áșááŒáźáž ááœááșáá»ááșááŸáŻáááŻááșážááᯠááŸááșáááșážáááșááŹážááČá·áĄááœááș backpropagation ááČá· gradient ááœááșáá»ááșááŸáŻááᯠááœááșáá°á á±áá«áááșá
- Context Engineering (ááœááșáááșá
áș áĄááșáá»ááșááźááŹáááșáž): AI ááźá áĄáá±áŹááșážááŻá¶áž ááááș ááááŻá·áĄááœááș context window ááČááᯠááá·áșááœááșážááá·áș áĄáá»ááșáĄáááșááœá±ááᯠá
áźá
ááșá
áźáá¶ááŒááșážá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áááșáĄáá»ááșáĄáááșááœá±á áĄáá±ážááŒáźážááČá áááșááᯠááŻá¶á á¶ááČá· ááŒáááááČáááŻááŹááœá±ááᯠááźáááŻááșážááœáČááŒááșážáĄáŹážááŒáá·áș AI ááČá· áĄááŒá±ááᯠáááŻáááŻááŸááșáááș áááșááŒáááșá á±áá«áááșá
- Context Window (ááœááșáááșá
áș áááșážáááŻáž): Language model áá
áșáᯠáá
áșááŒáááșáááșážááŸáŹ áááșáá¶áááŻááșááČá· áĄáá»áŹážááŻá¶áž token áĄáá±áĄááœááș ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: ááźáĄáá±áĄááœááșááČááŸáŹ input prompt áá±áŹ model á ááŒááșááŻááșáá±ážááá·áș output áá±áŹ ááŸá áșááŻááŻá¶áž áá«áááșáá«áááșá
- Correctness Invariant (áá±áŹáșáááșáááșá
áș áĄááșáá±ážááźážáááșá·): á
áá
áșáá
áșááŻááČá· áĄááŒá±áĄáá±áááŻááșážááŸáŹ áĄááŒáČáááșáž ááŸááșáááșáá±áááá·áș ááŻááșáááčáá (property) ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: á áá áșáá áșááŻááČá· ááŸááșáááșááČá· ááŻááșáá±áŹááșááŸáŻááᯠáááŹážáááș áááșááŸááșáá»ááș (formal specification) áĄááŒá áș áĄááŻá¶ážááŒáŻáá«áááșá
- Cross-Entropy (ááá±áŹá·á
áș-áĄááșááááŻááź): áááșá·ááŸááșážáá»ááșááČá· áááá·áșááááș áááșáá±áŹááșáĄáá áá°ááźáááČáááŻááŹááᯠáááŻááșážááŹááČá· loss function ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: Classification ááČá· language modeling ááœá±ááŸáŹ áĄááŻá¶ážáĄáá»áŹážááŻá¶áž ááŒá áșááŒáźáž ááŒá áșáááŻááșááŒá± ááŒáá·áșáá»ááșááŸáŻ (probability distribution) ááœá±ááᯠááŸááŻááșážááŸááșáá«áááșá
- Decision Boundary (ááźá
áźááŸááș áá±áŹááșáááź): Classifier áá
áșááŻá input ááœá±ááᯠclass ááœáČááŒáŹážááČá· áá»ááșáž áááŻá·áááŻááș áá»ááșááŸáŹááŒááș ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: input space ááČááŸáŹ model ááČá· ááá·áșááŸááșážáá»ááș áá áșáá»ááŻážááá± áá±áŹááșáá áșáá»ááŻáž ááŒá±áŹááșážááČááœáŹážááČá· áá±áᏠááŒá áșáá«áááșá Model á áááșáá°ááŹážááČá· áĄááááᯠáá»áźá©áá±ááŒáź áááșážáááșážááČá· ááŒááșááŒáá·áșáᏠááŒá áșáá«áááșá
- Differential Rendering (ááźááááșááŸááș áááșáá«áááșáž): áĄáááșááœááșááŹážááČá· ááááșááČá· áááșááŸáááááșááᯠááŸááŻááșážááŸááșááŒáźáž ááŒá±áŹááșážááČááœáŹážááČá· áĄá
áááșáĄáááŻááșážááœá±áááŻááČ update ááŻááșááČá· áááșážáááșážááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áá áșááŒááșááŻá¶ážááᯠáĄáá áșááŒááșáááœáČááČ ááŒá±áŹááșážááČááœáŹážááČá· áá±ááŹáá±ážááœá±áááŻááČ ááŒááșááČá·áĄááœááș áááŻáááŻááŒááșáááș á áœááșážáááșáááșááŒááșá á±áá«áááșá
- Dilated Convolution (áááŻááșáá±ážáááș ááœááșáááŻáá°ážááŸááșáž): parameter áĄáá±áĄááœááș ááááŻážááČ áááŻáááŻáá»ááșááŒáá·áșááČá· áá±ááŹááœá±ááᯠááŒááșáááŻááșáĄá±áŹááș gap ááœá± ááá·áșááœááșážááŹážááČá· convolution áááșážáááșážááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: WaveNet áááŻáá»ááŻáž model ááœá±ááŸáŹ áĄááá ááŻá¶ážáá«áááșá parameter áá°áá°ááČááᯠáááŻáá»ááșááČá· á§ááááŹá áĄáá»ááșáĄáááșááœá±ááᯠáá°áááŻááșá á±áá«áááșá
- Embedding (áĄááșáááșáááșáž): á
áŹááŻá¶áž (token) ááœá±ááᯠááááșážááááșáž vector ááœá±áĄááŒá
áș ááŒá±áŹááșážááČááŹážááČá· áááŻááșá
áŹážááŒáŻáá»ááș ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áá«áᏠmodel á áááșáá°ááŹážááČá· dense vector áááŻááșá áŹážááŒáŻáá»ááș ááŒá áșááŒáźáž áĄááááčááŹááșáá°ááČá· á áŹááŻá¶ážááœá±ááᯠvector space ááČááŸáŹ áá áșáá±ááŹáááșáž á áŻá ááșážáá±ážáá«áááșá
- Ephemeral Work Item (áĄááźážááááș áááșááș áĄááŻááșáááș): ááááŹááČ ááŻá¶ážááŒáźáž áá»ááșáá
áșááá·áș áĄááŻááșáá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áá«áᏠlocal database ááČááŸáŹááČ ááŸááá±ááŒáźáž remote ááᯠsync ááŻááșáááŻá· ááááŻáá«áá°ážá áĄááŻááșááŒáźážááœáŹážáááș áĄáááŻáĄáá»á±áŹááș áá»ááșáá áșáá«áááșá
- Exclusive Lock Protocol (áĄááșá
áșááá°áá
áș áá±áŹá·ááș ááááŻáááŻáá±áŹ): Tool áá
áșááŻá database ááᯠclaim ááŻááșááŹážáááș áááŒáŹáž tool ááœá± áááșáááŸá±áŹáá·áșááŸááșáĄá±áŹááș ááááșáááșááŹážááČá· á
áá
áșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: cooperative file-based locking áááșážáááșážááŒá áșááŒáźáž áĄááŻááșááœá± áááșáááœáŹážáĄá±áŹááș áá«ááŸáááŻááș data ááá»ááșá áźážáĄá±áŹááș ááŹááœááșáá±ážáá«áááșá
- Finite-State Machine (áááŻááșáááŻááș-á
ááááș áááŸááșáž): áááșááŸááșááŹážááČá· state ááœá±ááČá· rules ááœá±áĄáá±á«áș áá°áááșááŒáźáž áĄááŻááșááŻááșááČá· ááŻá¶á
á¶áá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: sequential decision-making ááœá±ááᯠmodel ááŻááșáááŻá· ááŻá¶ážáá«áááșá input áá áșáᯠááááș áááșááŸá state ááá± áá±áŹááș state áá áșááŻááᯠá ááșážáááșážáĄáááŻááșáž ááŒá±áŹááșážááČááœáŹážáá«áááșá
- Follow-up Message (áá±áŹáșáááŻáĄááș áááșáá±á·áá»áș): áĄá±áá»ááșá· áĄááŻááșááŻááșáá±ááŻááșáž áááșážá
áźááŹážááČá· user message ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áĄá±áá»ááșá·á áááșááŸá áĄááŻááșááœá± áĄááŻááșááŒáźážááŸáᏠááź message ááᯠáááșáá¶ááŒáźáž áĄááŻááșáĄáá áș ááŒááșá ááŸáŹ ááŒá áșáá«áááșá
- Forward Pass (áá±áŹáșáááș áá«á·á
áș): Neural network áá
áșááŻááČááŸáŹ input data ááᯠááŒááșáááșážá
á±ááŒáźáž ááááș ááŻááșáá°ááČá· ááŻááșáááșážá
ááș ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: Computation graph ááᯠáááșáá±áŹááșááČá· áĄááá·áșááŒá áșááŒáźáž áá±áŹááșáááŻááșážááŸáŹ backpropagation áĄááœááș áĄááŻá¶ážáááșáá«áááșá
- Git Hook (áá
áș ááœááșááș): Git workflow ááČá· áĄááá·áșáĄáá»ááŻá·ááŸáŹ áĄáááŻáĄáá»á±áŹááș áĄááŻááșááŻááșááČá· script áá»áŹáž ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: commit áááŻááșáááșá merge ááŻááșááŒáźážáá±áŹááș áá«ááŸáááŻááș push áááŻááșáááș á ááŹááœá±ááŸáŹ áĄáááŻáĄáá»á±áŹááș validation ááœá±á automation ááœá±ááᯠááŻááșáá±áŹááșáá±ážáá«áááșá
- GPT: Generative Pre-trained Transformer - á
áŹááŹážááœá± ááŻááșááŻááșáá±ážááČá· decoder-only model áá»áŹáž ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: ááŸá±á·á á áŹááŻá¶ážááœá±áĄáá±á«áș áá°áááșááŒáźáž áá±áŹááșááŹááá·áș á áŹááŻá¶ážááᯠááá·áșááŸááșážááŒááșážáĄáŹážááŒáá·áș á áŹááŹážááœá±ááᯠáááșááźážáá±ážáá«áááșá
- Gradient Descent (ááááșááźáááșá· ááźááá·áș): Loss function ááᯠáĄáááșážááŻá¶ážááŒá
áșáĄá±áŹááș parameter ááœá±ááᯠááŸááá°ááČá· algorithm ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: Gradients ááœá±ááᯠáĄááŻá¶ážááŒáŻááŒáźáž loss function áááșážááœáŹážááá·áș áááșááᯠáááŒááșážááŒááșážáá»ááșáž ááŒá±ááŸááșážááŸááșážááŒáźáž parameters ááœá±ááᯠááŒááșáááșááœáŹážáᏠááŒá áșáá«áááșá
- Gradient Highway (ááááșááźáááșá· áááŻááșážáá±áž): Gradient ááœá± áá±áŹááșááŒááșá
áźážáááșážááŹááŸáŹ áĄááŹážáĄááźážáááŸá áááŻááșáááŻááșááœáŹážáááŻááșááČá· áááșážááŒá±áŹááșáž ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: derivative áááșáááŻáž 1 ááŸáááČá· áááșážááŒá±áŹááșážááœá± ááŒá áșááŒáźáž deep architectures ááœá±ááŸáŹ gradients ááœá± áá»á±áŹááșááœááșááœáŹážáᏠ(vanishing gradients) ááᯠááŹážááźážáá±ážáá«áááșá
- Graph Issue Tracker (ááááșááș áĄá
áșááŸá°áž ááááșááŹ): áĄááŻááșááœá±ááᯠnode ááœá±áĄááŒá
áșá áááșáááșááŸáŻááœá±ááᯠedge ááœá±áĄááŒá
áș graph ááŻá¶á
á¶ááČá· ááááșážáááșážááČá· issue tracker ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: dependency-aware queries ááœá±ááᯠááŻááșáá±áŹááșáááŻááșá á±áá«áááșá á„ááᏠ- "áááșáĄááŻááșááœá±á áĄááŹážáĄááźáž áááŸá ááŻááșáááŻá· áĄááá·áșááŒá áșáá±ááŒáźááČ" áááŻááŹáá»ááŻáž ááŸáŹááœá±áááŻááșáá«áááșá
- GRU: Gated Recurrent Unit - LSTM áááș áááŻáááŻáááŻážááŸááșážááČá· RNN variant áá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: parameter áááșážáá±ááá·áș LSTM áááŻááČ ááŸááșáá»áŹážááČá· áááșááœááșááŸáŻááœá±ááᯠááŸááșáááááŻááșá áœááșáž ááŸááá«áááșá
- Hierarchical Issue ID (ááŹááŹááźáááș áĄá
áșááŸá°áž áĄááŻááșááź): Parent-child áááșááœááșááŸáŻááᯠáĄááŻááșááźááČááŸáŹáááș ááŒááșáááŻááșáĄá±áŹááș áá±ážááŹážááČá· ááŻá¶á
á¶ ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: á„ááᏠ- bd-a3f8.1.1 áááŻáááș áá«áᏠtask 1 ááČá· sub-task 1 ááŒá áșáááșáááŻáᏠáá»ááșáá»ááșáž áááááŻááșáá«áááșá
- Hinge Loss (ááá·áșáá»áș áá±áŹá·á
áș): Class ááœáČááŒáŹážááŹááŸáŹ margin áááŻá¶áá±áŹááșááČá· áááșá·ááŸááșážáá»ááșááœá±ááᯠáĄááŒá
áșáá±ážááČá· loss function ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: SVM ááœá±ááŸáŹ áĄááá ááŻá¶ážááČá· objective function ááŒá áșáá«áááșá
- Incremental Learning (áĄááșáááźáááșááČááș ááŹážáááșáž): áĄá
ááá± áĄááŻááșáĄáá
áșááŒááșáááŻááșááČ ááŸáááŒáźážááŹáž áĄáá±á«áșááŸáŹ áĄáááșážáááșá
áź ááŒááșáááșáááșáá°ááČá· ááŻá¶á
á¶ ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: Residual networks ááœá±ááČá· ááŻááșáááčáááá áșáᯠááŒá áșááŒáźáž layer áá áșááŻáá»ááșážá áźá ááŸá±á·á ááááșáĄáá±á«áș áĄáááșážáááșá áźááČ ááŒááșáááș ááŒáá·áșá áœááșááœáŹážáá«áááșá
- Inference (áĄááșáááá·áșá
áș): áááșááŒáŹážááŒáźážááŹáž model áá
áșááŻááᯠinput áĄáá
áșááœá± áá±ážááŒáźáž ááááș ááŻááșáá°ááČá· ááŻááșáááșážá
ááș ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áá«áᏠmodel training ááČá· ááá°áá«áá°ážá weights ááœá±ááᯠupdate áááŻááșáá±áŹá·ááČ áááșááœá±á· áĄááŻá¶ážááŒáŻááČá· áĄááá·áș ááŒá áșáá«áááșá
- Issue Compaction (áĄá
áșááŸá°áž ááœááșáááșááŸááș): áĄá±áá»ááșá·ááČá· context áááșááááĄá±áŹááș ááŒáźážááœáŹážááČá· áĄááŻááșáá±áŹááșážááœá±ááᯠAI ááČá· áĄáá»ááșážáá»áŻááș ááááșážáááșážááČá· áááșážáááșážááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áĄáá»ááșáĄáááș áĄááŸááșááŒáźážááœá±ááᯠááááŻáá±áŹá·áááș áááșáá áșááŒáźáž graph structure ááČá· áĄáá»ááșážáá»áŻááșáááŻááČ ááááșážááŹážááŒááșážáĄáŹážááŒáá·áș context window ááᯠáá»áœá±ááŹáá«áááșá
- Issue Federation (áĄá
áșááŸá°áž áááșááá±ážááŸááșáž): áĄáááșážáĄááœáČá· áĄááźážááźážá áááŻáá·áș database ááČá·áááŻááș ááŸááá±ááŒáźáž áááŻáĄááșááČá· áĄááŻááșááœá±áááŻááČ áĄáá»ááșážáá»ááșáž sync ááŻááșááČá· á
áá
áșááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: peer-to-peer protocol ááŒá áșááŒáźáž áá áșáááșááČá·áá áșáááș database-level remotes ááœá± ááŻá¶ážááŒáźáž áĄááŻááșááœá±ááᯠáá±áá»áŸáá±áŹááșááœááșáááŻááșáá«áááșá
- JSON Schema: JSON áááŻááșááœá±ááČá· áááșáá±áŹááșááŻá¶ááᯠáááșááŸááșáá±ážááČá· ááŻá¶á
á¶ ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: Language model ááœá± ááŻá¶ážááá·áș tool interfaces ááœá±ááᯠáááșááŸááșáááŻá·ááČá· validate ááŻááșáááŻá· ááŻá¶ážáá«áááșá
- JSON: JavaScript Object Notation - ááœááșáá»á°ááŹáá±áŹ áá°áá« áááșáááŻááșááČá· áá±á«á·áá«ážááČá· data format áá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: Key-value pairs ááČá· ordered lists ááœá±ááᯠááŻá¶ážááŒáźáž structured data ááœá±ááᯠáá±áŹáșááŒáá«áááșá
- JSONL Portability Layer: Operational database ááČá· áĄáá»ááșáĄáááșááœá±ááᯠgit ááČá· áááșáá°áááŻá·ááĄá±áŹááș JSONL áááŻááșáĄááŒá
áș ááŒá±áŹááșážááČáá±ážááČá· áĄááœáŸáŹ ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: dual-format strategy ááŒá áșáá«áááșá database á operational áĄááœááș ááŻá¶ážááŒáźáž JSONL ááá±áŹá· git clones ááœá±ááŒáŹáž áááșáá°áááŻá· ááŻá¶ážáá«áááșá
- LayerNorm: Layer Normalization - deep network áááșááŒáŹážááŸáŻ áááșááŒáááșáĄá±áŹááș activations ááœá±ááᯠááŻá¶ááŸááșááŒá
áșáĄá±áŹááș ááŸááá±ážááČá· áááșážáááșážááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: features ááœá±áĄáááŻááș activations ááœá±ááᯠcentering ááČá· scaling ááŻááșáá±ážáá«áááșá
- Learning Rate (ááŹážáááșáž ááááș): áááșááŒáŹážááČá·áĄáá« parameter ááœá±ááᯠáááșáá±áŹááșáĄáá áĄááŒá±áŹááșážáĄááČ ááŻááșáááČáááŻááŹááᯠááááșážáá»áŻááșááČá· áááșáááŻáž ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: parameter update step ááČá· áĄááœááșáĄá áŹážááᯠááááșážáá»áŻááșáá«áááșá áĄáááșážááŒáźážáááș ááááșáááŒáááș ááŒá áșáááșááŒáźáž áĄáááșážáá±ážáááș áááșáá°ááŸáŻ ááŸá±ážáááșáá«áááșá
- Linear Algebra (áááșááźáᏠáĄááșááșáá»áźáááŹ): Vectors, matrices ááœá±ááČá· áĄááŻááșááŻááșááČá· áááșáčáá»áŹááŹááŹáááș ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áá«áᏠneural networks ááČá· transformer architectures ááœá±ááČá· áĄááŒá±áá¶ áááșáčáá»áŹááŹááŹá ááŹáž ááŒá áșáá«áááșá
- Linear Regression (áááșááźáᏠááźááááșááŸááș): Variables ááœá±ááŒáŹážá áááșááœááșááŸáŻááᯠáá»ááșážááŒá±áŹáá·áșááŻá¶á
á¶ááČá· áá±áŹáșááŒááČá· áĄáááŻážááŸááșážááŻá¶áž áááșáá°ááŸáŻ algorithm ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: neural network training ááČá· ááŸá±á·ááŒá±áž áááșáčáá»áŹááá±áŹáááŹáž ááŒá áșáá«áááșá
- Linear Temporal Logic (áááșááźáᏠáááșáááŻáááș áá±áŹáá»á
áș): áĄáá»áááșááČá·áĄáá»áŸ ááŒá±áŹááșážááČááœáŹážááČá· áĄááŒá±áĄáá±ááœá±ááᯠá
á
áșáá±ážááČá· logic á
áá
áș ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: 'always' ááČá· 'eventually' á ááČá· operators ááœá± ááŻá¶ážááŒáźáž á áá áșáá áșááŻááČá· ááŻááșáá±áŹááșáá»ááșááœá±ááᯠáááșááŸááș á á áșáá±ážáá«áááșá
- Logits (áááŻáá»á
áșá
áș): Model ááá± ááœááșááŹááČá· raw score áá»áŹáž ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: Softmax áááŻááșáááș ááœááșááŹááČá· áááșáááŻážááœá± ááŒá áșááŒáźáž probability áááŻááșáá±ážáá«áá°ážá
- Loss Function (áá±áŹá·á
áș áááșááŸááș): Model ááČá· áááșá·ááŸááșážáá»ááș áááșáá±áŹááșáĄáá ááŸáŹážáááČáááŻááŹááᯠááœááșáá»ááșááČá· ááááșážááááșáž ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: Training ááŻááșááČá·áĄáá« ááź ááááșážááááșáž áĄáááșážááŻá¶áž ááŒá áșáĄá±áŹááș áĄááá ááŹážááŻááșáá±áŹááșááá«áááșá
- LSTM: Long Short-Term Memory - ááŸááșáá»áŹážááČá· áááșááœááșááŸáŻááœá±ááᯠááŸááșáááááŻááșááČá· RNN variant áá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: gating mechanisms ááœá± ááŻá¶ážááŒáźáž ááŸááșáá»áŹážááČá· sequences ááœá±ááŒáŹážá dependencies ááœá±ááᯠáááșáá°áááŻááșáá«áááșá
- manifest.json: Browser extension áá áșááŻááČá· áĄáá»ááșáĄáááșááœá±ááČá· ááœáá·áșááŒáŻáá»ááșááœá±ááᯠáááșááŸááșáá±ážááČá· config áááŻááșá
- Mathematical Notation (áááșáčáá»áŹ áááșáčáá±ááá»áŹáž): Machine learning áá±áŹáșááŒá°ááŹááœá±ááŸáŹ ááŻá¶ážááČá· symbols, operators ááČá· conventions áá»áŹážá
- Matrix Theory (áá±ážááá
áș ááźáĄááŻááź): Matrix ááœááșáá»ááșááŸáŻáááŻááșáᏠááźáĄááŻááźáá»áŹážá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: Matrix multiplication ááČá· transposition ááœá±áᏠtransformer models ááœá±ááČá· áĄááŒá±áá¶ ááœááșáá»ááșááŸáŻááœá± ááŒá áșáá«áááșá
- Model Context Protocol (MCP): AI áĄá±áá»ááșá·ááœá± áĄááŒááșá data ááœá±ááČá· áá»áááșáááșáááŻá· áĄááŻá¶ážááŒáŻááČá· protocol áá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: client-server architecture ááᯠááŻá¶ážááŒáźáž AI áĄá±áá»ááșá·ááČááᯠcontext ááœá± ááá·áșááœááșážáá±ážáááŻááșááČá· open standard ááŒá áșáá«áááșá
- Monad (áááŻáááș): design pattern áá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: values ááœá±ááᯠcontext áá áșááŻááČááŸáŹ ááŻááșáááŻážááŹážááŒáźáž áĄááá·áșááá·áș ááŻááșáá±áŹááșáá»ááșááœá±ááᯠcomposable ááŒá áșáĄá±áŹááș á áźá ááșáá±ážáá«áááșá
- Monorepo (áááŻáááŻááźáááŻ): ááá±áŹáá»ááș áĄáá»áŹážááŒáźážááᯠrepo áá
áșááŻáááșážááŸáŹ á
áŻá
ááșážááŹážááŒááșážá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: ááŹážááŸááșáž ááááșážáá»áŻááșááᏠááœááșáá°á á±áááŻá·ááČá· ááá±áŹáá»ááșááœá±ááŒáŹáž áá»áááșáááșááŸáŻááᯠá áźáá¶á ááœááșáĄá±áŹááș ááŻááșáá±áŹááșááČá· áááșážáááșážááŒá áșáá«áááșá
- Multi-Layer Perceptron (MLP): stacked layers ááœá± áá«áááșááČá· áĄááŒá±áá¶ neural network áá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: nonlinear patterns ááœá±ááᯠáááșáá°áááŻááșááČá· áĄááŒá±áá¶áĄáá»ááŻá¶áž neural network architecture ááŒá áșáá«áááșá
- Neuron (áá°ááœááș): Neural network áá
áșááŻááČá· áĄááŒá±áá¶ ááœááșáá»ááșááŸáŻ áá°áá
áș ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: input ááœá±ááᯠweights ááœá±ááČá· ááŒáŸá±áŹááșááŒáźáž bias áá±á«ááșážáᏠactivation function ááČ ááŒááșáááșážá á±áá«áááșá
- Next-Token Prediction (áááșá
áș-áááŻáááș áááźáá
áșááŸááș): ááŸá±á·á
áŹááŻá¶ážááœá±áĄáá±á«áș áá°áááșááŒáźáž áá±áŹááșá
áŹááŻá¶ážááᯠáááșá·ááŸááșážáĄá±áŹááș áááșááŒáŹážááČá· ááŻá¶á
á¶ ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: language model ááœá±ááČá· áĄááá áááșááŒáŹážááŸáŻ áááșááŸááșážáá»ááș (training objective) ááŒá áșáá«áááșá
- NLP: Natural Language Processing - áá°ááŹážááœá±ááČá· ááŹááŹá
ááŹážááᯠááœááșáá»á°áᏠááŹážáááșáĄá±áŹááș ááŻááșáá±áŹááșáá±ážááČá· AI áááșáááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: ááŹááŹá ááŹáž ááŹážáááșááŒááșážá ááŹááŹááŒááșááŒááșážááČá· á áŹááŹážáá»áŹáž ááŻááșááŻááșááŒááșáž á ááŹááœá± áá«áááșáá«áááșá
- One-Hot Encoding (áááșáž-áá±áŹá· áĄááșáááŻáááșáž): áĄáá»ááșáĄáááșááœá±ááᯠ0 ááČá· 1 ááœá± áá«áááșááČá· vector áĄááŒá
áș ááŒá±áŹááșážááČááČá· áááșážáááșážááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: categories ááœá±ááᯠááááșážááááșáž ááŒá±áŹááșážááČá· áĄáááŻážááŸááșážááŻá¶áž áááșážáááșážááŒá áșáá«áááșá
- Overfitting (áĄááŻááŹáá
áșáááșáž): Model á áááșááŒáŹážááŹážááČá· data ááœá±áááŻááČ áĄááœááșáá»ááșááŹážááČá· áĄááŒá±áĄáá± ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: training data áá±á«áșááŸáŹ áĄáááșážáá±áŹáșáá±ááá·áș data áĄáá áșááœá± áá±ážáááș áááŻááșáááŻááșáá±áŹá·ááČá· áĄááŒá±áĄáá± ááŒá áșáá«áááșá
- Probability Theory (ááááŻááŹááźáá
áșááźáž ááźáĄááŻááź): ááŒá
áșáááŻááșááŒá±ááœá±ááᯠááœááșáá»ááșááČá· áááșáčáá»áŹááŹááŹáááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: language model ááœá± á áŹááŹážááŻááșááŻááșááČá·áĄáá« ááźááźáĄááŻááź áĄááŒá±áá¶ááœá±ááČá· ááŻááșáá±áŹááșáᏠááŒá áșáá«áááșá
- Prompt Injection (áááœááșáž áĄááșáá»ááșááŸááș): AI ááᯠáááŻááșááá·áșááČá· áĄááŻááșááœá± ááŻááșáááŻááșážáááŻá· user á ááŸáá·áșá
áŹážááŒáźáž áááŻááșážá
á±ááŒááșážá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: AI model ááČá· áĄááŒáŻáĄáá°ááᯠinput ááŸáá áșááá·áș ááááșááœááșááČ ááŒá±áŹááșážááČáá áșááČá· áááŻááșáááŻááșááŸáŻ áá áșáá»ááŻáž ááŒá áșáá«áááșá
- Property-Based Testing: áááșááŸááșááŹážááČá· ááŻááșáááčááááœá± ááŸááșáááŸááșááᯠinput ááœá± áĄáá»áŹážááŒáźážááČá· áĄáááŻáĄáá»á±áŹááș á
á
áșáá±ážááČá· áááșážáááșážááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: developers ááœá±á á ááșážáááșážááœá±ááČ áááșááŸááșáá±ážááŒáźáž test engine á ááá°ááźááČá· áĄááŒá±áĄáá±ááœá±ááᯠáĄáááŻáĄáá»á±áŹááș áááșááźážá á áșáá±ážáá«áááșá
- Provider Registry (ááááŻáááŻááșáá« áááșáá»á áșá áááź): startup ááŸáŹ implementations ááœá±ááᯠááŸááșááŻá¶áááșááŒáźáž runtime ááŸáŹ ááŒááșááŸáŹááŻá¶ážááČá· design patterná
- Ralph Wiggum Loop: áĄá±áá»ááșá·áá
áșááŻá áĄááŻááșáá
áșááŻá
áźááᯠcontext ááá·áșááá·áșááČá· áĄááŻááșááŻááșááČá· ááŻá¶á
á¶ ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: loop áá áșááŻá áźááŸáŹ specifications ááœá±ááᯠáááșáááșá áĄááŻááșáá áșáᯠááŒáźážáĄá±áŹááșááŻááșáááșá ááŒáźážáááș context ááᯠáá»ááșááŒáźáž áĄáá áșááŒááșá áá«áááșá
- Ready Work Query: dependencies ááœá± áááșážááŸááșážááŒáźáž ááŻááșáááŻá· áĄááá·áșááŒá áșáá±ááČá· áĄááŻááșááœá±ááᯠááŸáŹááœá±ááČá· query ááŒá áșáá«áááșá
- Regularization (áááșáá°ááŹáááŻááșáá±ážááŸááșáž): Overfitting áááŒá
áșáĄá±áŹááș model ááČá· ááŸáŻááșááœá±ážááŸáŻááᯠáááșá·áááșááČá· áááșážáááșážáá»áŹáž ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: model á ááŻá¶áá± áĄááœááșáá»ááșááŹáá»ááŻáž áááŻááșááČ áĄááœá±ááœá± ááŻá¶á á¶ááœá±ááᯠáááșáá°áááŻááșáĄá±áŹááș áá°ááźáá±ážáá«áááșá
- ReLU: Rectified Linear Unit - nonlinear activation function áá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áĄááŻááșáááșáááŻážááœá±ááᯠ0 ááŒá±áŹááșážááŒáźáž áĄáá±á«ááșážáááșáááŻážááœá±ááᯠáĄááŸááĄáááŻááșáž ááŹážáá«áááșá neural network ááœá±ááŸáŹ áĄááŻá¶ážáĄáá»áŹážááŻá¶áž activation function áá áșáᯠááŒá áșáá«áááșá
- Residual Connection (áááșááźáá»á°áááș ááœááșáááșááŸááș): input ááᯠoutput ááČ áááŻááșáááŻááșáá±á«ááșážááá·áșááČá· skip connection ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: deep networks ááœá±ááŸáŹ gradient ááŒáżááŹááᯠááŒá±ááŸááșážáá±ážááŒáźáž áááŻáááŻáááșááŸááŻááșážááČá· networks ááœá±ááᯠáááșááŒáŹážáááŻááșá á±áá«áááșá
- RMSNorm: Root Mean Square Normalization - normalization áááșážáááșážáá
áșáᯠááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: activations ááœá±ááᯠááŸááá±ážááŹááŸáŹ centering áááŻááșááČ root mean square ááČá·ááČ scaling ááŻááșáá«áááșá
- RNN: Recurrent Neural Network - sequence ááœá±ááᯠstate áá áșááŻááČá· ááŸááșááŹážááŒáźáž áĄááŻááșááŻááșááČá· architecture ááŒá áșáá«áááșá
- Snake Case (á ááááș áá±á·á áș): á áŹááŻá¶ážááœá±ááᯠunderscore ( _ ) ááČá· áááșááŒáźáž lowercase ááČá· áá±ážááŹážááČá· ááŻá¶á á¶ ááŒá áșáá«áááșá (á„ááᏠ- agent_skill)
- Softmax Normalization (áá±áŹá·ááșáááșá
áș áá±áŹáșáááșáááŻááșáá±ážááŸááșáž): ááááșážááááșážááœá±ááᯠáá±á«ááșážáááș 1 áááČá· probability distribution áĄááŒá
áș ááŒá±áŹááșážááČáá±ážááČá· function ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: attention mechanisms ááœá±ááŸáŹ weight ááœá± áááșááŸááșáááŻá· áĄááá ááŻá¶ážáá«áááșá
- Steering Message (á
ááźááŹáááșáž áááșáá±á·áá»áș): áĄá±áá»ááșá· áĄááŻááșááŻááșáá±ááŻááșáž áááșážááŒá±áŹááșážááŒá±áŹááșážáááŻááșážááŹááœá± ááŻááșááČá· message ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áĄá±áá»ááșá·ááČá· áááșááŸá áĄááŻááșááœá±ááᯠáááșááá·áșá á±ááŒáźáž áĄáá áșáá±ážááČá· áááșážááœáŸááșááŸáŻáĄáááŻááșáž ááŒá±áŹááșážááČá á±áá«áááșá
- Stochastic Gradient Descent (SGD): Gradient descent ááᯠáááŒááșážááŒááșážáá»ááșáž áĄááá·áșááá·áș ááŻááșáá±áŹááșááČá· áááșážáááșážááŒá áșáá«áááșá
- Streaming (á áááźáááșáž): AI á áĄááŒá±ááœá±ááᯠáá áșááŻá¶ážáá»ááșážá áź áá»ááșáá»ááșáž ááŒááá±ážááČá· áááșážáááșážááŒá áșáá«áááșá
- Sub-Agent (áááș-áĄá±áá»ááșá·): áĄááá áĄá±áá»ááșá·ááá± ááœáČááœááșááŒáźáž ááźážááá·áș áĄááŻááșáá
áșááŻááᯠááŻááșáá±áŹááșááČá· áááșáá±áŹááș áĄá±áá»ááșá· ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: memory ááᯠááœáČááŒáŹážááŹážáááŻááșáááŻá·ááČá· ááźážááá·áș áĄááŻááșáá áșááŻáááŻááČ áĄáŹááŻá¶á ááŻááșáááŻááșáááŻá· context window áĄáá áșááŸáŹ spawn ááŻááșáá«áááșá
- Swarm Analysis (ááœááșáž áĄááșááŹáá
áșáá
áș): áĄá±áá»ááșá· áááșááŸá
áșááŻáĄáá ááŒááŻááșáá° áĄááŻááșááŻááșáááŻááșáááČáááŻááŹááᯠááœááșáá»ááșááČá· áááșážáááșážááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áĄááŻááșááœá±ááČá· dependencies áĄáá±á«áș áá°áááșááŒáźáž áááșááŸáá±áŹááș ááŒááŻááșáá° ááŻááșáááŻá·áááČáááŻááŹááᯠááœáČááŒááșážá áááșááŒáŹáᏠááŒá áșáá«áááșá
- System Prompt (á
á
áșá
áááș áááœááșáž): AI áĄá±áá»ááșá·ááČá· á
áááŻááșá á
áœááșážáá±áŹááșáááșááČá· á
ááșážáááșážááœá±ááᯠáááșááŸááșáá±ážááČá· áĄááá ááœáŸááșááŒáŹážáá»ááș ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: context window ááČá· áĄá ááŸáŹ ááŹážááŸáááŒáźáž á ááŹážááŒá±áŹáá áșááŻááŻá¶ážááČá· áááșážááŒá±áŹááșážááᯠááááșážáá»áŻááșáá±ážáá«áááșá
- Tanh: Hyperbolic tangent - input ááœá±ááᯠ[-1, 1] ááŒáŹážááČ áá±áŹááșáĄá±áŹááș ááŸááá±ážááČá· activation function áá áșáᯠááŒá áșáá«áááșá
- Technical Debt (áááșážááᏠáĄááŒáœá±áž): áĄááŻááșááŒááșááŒááșááŒáźážáááŻá·áĄááœááș áááșážá áá áșááá»ááČ ááŻááșááČá·ááŹááŒá±áŹáá·áș áá±áŹááșáááŻááșážááŸáŹ ááŒááșááŒááșááááșááŹááČá· áĄáááșáĄááČáá»áŹážá
- Temperature (áááșááááșáá»áŹ): AI á á
áŹááŹážááœá± ááŻááșáá±ážááČá·áĄáá« áááșáá±áŹááșáĄáá random ááŒá
áșáááČáááŻááŹááᯠááááșážáá»áŻááșááČá· áááșáááŻáž ááŒá
áșáá«áááșá
- áĄáá±ážá áááșááŸááșážáááșážáá»ááș: áááșážáááș ááŻá¶áá± áĄááŒá±ááœá±ááČ ááœááșááŹááŸáŹ ááŒá áșááŒáźáž áá»áŹážáááșáá±áŹá· áááŻááŒáźáž áá°ážááŒáŹážááČá· áĄááŒá±ááœá± ááœááșááŹáá«áááșá
- Tokenizer (áááŻáááșáááŻááșááŹ): á áŹááŹážááœá±ááᯠtoken id ááœá±áĄááŒá áș ááŒá±áŹááșážááČáá±ážááČá· áĄá áááșáĄáááŻááșáž ááŒá áșáá«áááșá
- TOML: Tom's Obvious, Minimal Language - áááșáááœááșáá°ááČá· config áááŻááș áá±ážááŹážáááșáž format áá áșáᯠááŒá áșáá«áááșá
- Tool Calling (áá°ážááș áá±áŹáááșáž): AI á áĄááŒááșá tool ááœá±á API ááœá±ááᯠáĄááŻá¶ážááŒáŻáááŻááșáĄá±áŹááș áá±áŹááșážáááŻááČá· á áá áșááŒá áșáá«áááșá
- Transformer (ááááșá áá±áŹáșááŹ): self-attention mechanisms ááœá±áĄáá±á«áș áĄááŒá±áá¶ááŹážááČá· neural network architecture ááŒá áșáá«áááșá
- Type System (áááŻááșááș á á áșá áááș): ááŻááșááœá±ááŸáŹ áĄááŸáŹážááá«áĄá±áŹááș á á áșáá±ážááČá· á ááșážáááșážá áá áș ááŒá áșáá«áááșá
- Vector (áááșááŹ): ááááșážááááșážááœá± áĄá áźáĄá ááșáááŻááș áá«áááșááČá· list áá áșáᯠááŒá áșáá«áááșá
- Version-Controlled Database: Git áááŻáá»ááŻáž ááŒá±áŹááșážááČááŸáŻááœá±ááᯠversion history áĄááŒá áș ááááșážáááșážáááŻááșááČá· database ááŒá áșáá«áááșá
- Weight Initialization (ááááș áĄááșááźááŸááșáááŻááșáá±ážááŸááșáž): áááșááŒáŹážááŸáŻ áá áááș parameter ááœá±ááČá· áĄá ááŒáŻ áááșáááŻážááœá±ááᯠáááșááŸááșááČá· áááșážáá»á°áᏠááŒá áșáá«áááșá
- Workflow Formula (áááșááșááááŻáž áá±áŹáșááŒá°ááŹ): ááŒááșáááș áĄááŻá¶ážááŒáŻáááŻááșááČá· ááŻááșáááșážá ááș ááŻá¶á á¶ááœááș (template) áá»áŹáž ááŒá áșáá«áááșá
- YAML: configuration ááœá± áá±ážááŹážááŹááŸáŹ ááŻá¶ážááČá· áá°áááșáááœááșáá°ááČá· data format áá áșáᯠááŒá áșáá«áááșá