Skip to content

Instantly share code, notes, and snippets.

@thinkphp
Created April 27, 2026 11:34
Show Gist options
  • Select an option

  • Save thinkphp/180ef5e6c557b9df18bf1f810385ef57 to your computer and use it in GitHub Desktop.

Select an option

Save thinkphp/180ef5e6c557b9df18bf1f810385ef57 to your computer and use it in GitHub Desktop.
LLM Path Study

Iată lista ajustată, optimizată specific pentru LLM-uri:


🧠 LLM Path — Lista Ajustată (12 resurse)

🧮 Fundație Matematică (minimă, suficientă)

1. Introduction to Linear Algebra — Gilbert Strang Vectori, matrici, transformări. Fără asta nu înțelegi nici embeddings, nici attention.

2. Mathematics for Machine Learning — Deisenroth, Faisal, Ong (înlocuiește Boyd + Wasserman) — acoperă algebră, probabilități, optimizare direct aplicat la ML, fără surplus academic. Gratuit online.


📊 Statistică + Probabilități (compact)

3. All of Statistics — Larry Wasserman Rămâne, dar citești selectiv: cap. 1–9 sunt suficiente.


🤖 Machine Learning (baza)

4. An Introduction to Statistical Learning (ISL) Rămâne. Intuiție solidă, cod în R/Python, accesibil.


🧠 Deep Learning (core)

5. Deep Learning — Goodfellow, Bengio, Courville Rămâne. Cap. 6–9 sunt esențiale. Restul — opțional.

6. Dive into Deep Learning — d2l.ai (nou în listă) — gratuit, interactiv, are capitol dedicat Transformers + Attention. Cel mai practic pentru LLM-uri.


🔑 Transformers (inima LLM-urilor)

7. Natural Language Processing with Transformers — Tunstall, von Werra, Wolf (nou, esențial) — BERT, GPT, fine-tuning, Hugging Face. Direct pe subiect.

8. The Illustrated Transformer — Jay Alammar (articol online, gratuit) Citești în 2 ore, înțelegi Attention Mechanism mai bine decât din orice carte.

9. Attention Is All You Need — Vaswani et al. (paper original, 2017) 12 pagini. Le citești după Alammar. Referința absolută.


⚙️ Practică + Implementare

10. Hands-On Machine Learning — Aurélien Géron Rămâne. Cap. 11–16 sunt cele mai relevante pentru deep learning practic.

11. Build a Large Language Model From Scratch — Sebastian Raschka (2024) (nou, esențial) — construiești un GPT mic de la zero în Python. Cel mai direct path spre a înțelege ChatGPT intern.


🎯 Intuiție + Context

12. You Look Like a Thing and I Love You — Janelle Shane Rămâne. O citești prima sau ultima, oriunde vrei.


🗺️ Ordinea Optimă

# Resursă Durată estimată
1 Shane (intuiție) 1 săptămână
2 Strang (algebră) 6–8 săptămâni
3 Math for ML — Deisenroth 4–6 săptămâni
4 Wasserman cap. 1–9 3–4 săptămâni
5 ISL 4–5 săptămâni
6 Goodfellow cap. 6–9 4–5 săptămâni
7 d2l.ai (Transformers) 4–6 săptămâni
8 Alammar (articol) 2 ore
9 Attention Is All You Need 3–4 ore
10 Tunstall (NLP Transformers) 4–5 săptămâni
11 Géron cap. 11–16 3–4 săptămâni
12 Raschka (LLM from scratch) 5–6 săptămâni

Total estimat: ~12 luni la ritm rezonabil (1–2 ore/zi)


✅ Ce obții față de lista originală

Original Ajustat
AI general (Russell & Norvig) ❌ eliminat
Boyd (optimizare teoretică) ❌ eliminat
✅ Transformers dedicat (Tunstall)
✅ Build LLM from scratch (Raschka)
✅ Paper original Attention
✅ d2l.ai interactiv
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment