⊕

Томас Байєс

1701 — 1761
Теорема Байєса · Умовна ймовірність · Байєсівський вивід
1701
Рік народження
P(H|E)
Символ теореми Байєса
1763
Публікація Essay (посмертно)
FRS
Член Королівського товариства

📐 Теорема Байєса: вивід і формула

Центральний результат Байєса — формула перерахунку ймовірностей після отримання нових даних. Починається з визначення умовної ймовірності:

Умовна ймовірність: P(A|B) = P(A ∩ B) / P(B) Симетрія: P(A ∩ B) = P(A|B)P(B) = P(B|A)P(A) Теорема Байєса: P(H|E) = P(E|H) · P(H) / P(E) де: P(H) — апріорна (prior) ймовірність гіпотези H P(E|H) — правдоподібність (likelihood) даних E при H P(H|E) — апостеріорна (posterior) ймовірність H після E P(E) — нормуюча константа (повна ймовірність) Формула повної ймовірності: P(E) = Σᵢ P(E|Hᵢ)·P(Hᵢ) ← сума по всіх гіпотезах

Байєс опублікував це у 1763 р. (посмертно), але Лаплас незалежно отримав ту ж формулу у 1774 р. і широко її застосовував — тому часто вживають назву «теорема Байєса-Лапласа».

🧪 Медичний тест: класичний приклад

Хвороба уражає 1% населення. Тест: чутливість 99%, специфічність 95%. Яка ймовірність хвороби за позитивним тестом?

Нотація: H = «хворий», E = «тест позитивний» P(H) = 0.01, P(¬H) = 0.99 P(E|H) = 0.99 ← чутливість (sensitivity) P(E|¬H) = 0.05 ← 1 − специфічність Повна ймовірність P(E): P(E) = P(E|H)·P(H) + P(E|¬H)·P(¬H) = 0.99·0.01 + 0.05·0.99 = 0.0099 + 0.0495 = 0.0594 Теорема Байєса: P(H|E) = (0.99 · 0.01) / 0.0594 = 0.0099 / 0.0594 ≈ 0.167 = 16.7% Висновок: навіть при позитивному тесті, лише ~17% шанс бути хворим! Причина: хвороба рідкісна (базова ставка мала).

Цей приклад показує важливість «базової ставки» (base rate) і поширену помилку мислення — ігнорування базової ставки (base rate fallacy).

🔄 Байєсівський вивід: оновлення переконань

Байєсівський підхід — це процес послідовного оновлення апостеріору при отриманні нових даних:

Схема байєсівського виводу: Prior → Data → Posterior → New Prior → ... Математично (з новими даними d₁, d₂, ...): P(H|d₁) ∝ P(d₁|H)·P(H) ← крок 1 P(H|d₁,d₂) ∝ P(d₂|H)·P(H|d₁) ← крок 2 (якщо d₁, d₂ незалежні при H) Спряжені розподіли (conjugate priors): ┌───────────────┬──────────┬──────────────────┐ │ Правдоподібн. │ Prior │ Posterior │ ├───────────────┼──────────┼──────────────────┤ │ Bernoulli(p) │ Beta(α,β)│ Beta(α+k, β+n-k) │ │ Normal(μ,σ²) │ Normal │ Normal (оновл.) │ │ Poisson(λ) │ Gamma │ Gamma (оновл.) │ └───────────────┴──────────┴──────────────────┘ Beta-оновлення: монета, підкинута n разів, k орлів: Prior: Beta(α,β) → Posterior: Beta(α+k, β+n−k) Якщо рівноважний prior Beta(1,1)=Uniform[0,1]: P(θ|k,n) = Beta(k+1, n−k+1)

Спряжені prior'и зручні: posterior має той самий параметричний вигляд, що й prior, тільки з оновленими параметрами.

🤖 Байєсівські методи у машинному навчанні

Наївний байєсівській класифікатор (Naive Bayes) — один з найефективніших простих класифікаторів для тексту та спаму:

Наївний Байєс (класифікація): Ознаки x = (x₁, x₂, ..., xₙ), клас y ∈ {1,...,K} «Наївне» припущення: xᵢ незалежні при y: P(x|y) = Πᵢ P(xᵢ|y) Правило рішення: ŷ = argmax P(y) · Πᵢ P(xᵢ|y) y або у лог-просторі: ŷ = argmax [log P(y) + Σᵢ log P(xᵢ|y)] Байєсівська нейронна мережа (BNN): Замість точкових ваг w — розподіл q(w|θ) ELBO: L = E[log P(D|w)] − KL[q(w)||P(w)] MAP-оцінка (Maximum A Posteriori): θ_MAP = argmax P(θ|D) = argmax [log P(D|θ) + log P(θ)] θ θ → регуляризація = log prior (L2 ↔ Гаусівський prior)

MAP-оцінка узагальнює MLE (максимальна правдоподібність): додавання регуляризатора L2 еквівалентне гаусівському prior для параметрів.

МетодPriorРезультатЗастосування
MLEрівномірнийточкова оцінкакласичне ML
MAPдовільнийточкова оцінкарегуляризований ML
Повний байєсдовільнийрозподілневизначеність
Empirical Bayesоцінюєтьсягібриднийієрархічні моделі

📅 Хронологія

  • 1701Народився в Лондоні, пресвітеріанська родина
  • 1719Навчання в Единбурзькому університеті (логіка, теологія)
  • 1733Стає пресвітеріанським священиком у Тунбридж-Веллс
  • 1736Захист науки Ньютона від критики Берклі («Divine Benevolence»)
  • 1742Обраний членом Королівського товариства (FRS)
  • 1748Листування з Прайсом або приватні нотатки про теорію ймовірностей
  • 1761Помер, рукопис «An Essay towards solving a Problem in the Doctrine of Chances» передано Річарду Прайсу
  • 1763Посмертна публікація в Philosophical Transactions of the Royal Society
  • 1774Лаплас незалежно публікує подібну формулу і широко застосовує
  • 20ст.Відродження байєсівської статистики: Де Фінетті, Сейвідж, Джеффрейс

Внесок у науку

Цей вчений залишив глибокий слід у розвитку науки та технологій. На цій сторінці зібрані ключові відкриття, цитати та концепції, пов'язані з його науковою спадщиною.

Статистика дозволяє робити обґрунтовані висновки з даних у будь-якій науці.

Чому важливо знати цього вченого

Розуміння внеску видатних вчених допомагає зрозуміти логіку розвитку науки. Їхні методи мислення, підходи до проблем і наукова стійкість — безцінний приклад для кожного дослідника і студента.

🔗 Також за темою

🧮 Калькулятор формули Байєса 📖 Теорема Байєса інтуїтивно: пояснення з прикладами 📐 Теорема Байєса — Формула

Часті запитання (FAQ)

Які головні відкриття зробив цей вчений?

Ключові відкриття та внески вченого в науку детально описані на цій сторінці. Там ви знайдете опис основних теорій, рівнянь та концепцій, названих на честь цього науковця, а також їх вплив на розвиток науки загалом.

Де вивчав та де працював вчений?

Освіта та наукова кар'єра вченого описані в розділі «Біографія». Більшість видатних науковців здобули освіту у провідних університетах Європи та світу і зробили свої відкриття під час роботи в університетах або наукових інституціях.

Які закони, формули або теореми носять ім'я цього вченого?

На сторінці перелічені основні наукові результати, названі на честь вченого: закони, теореми, рівняння, методи та ефекти. Кожен із них пов'язаний з відповідними матеріалами та калькуляторами на нашому сайті.

Яке значення має спадщина цього вченого для сучасної науки?

Праці видатних вчених, представлених на сайті, заклали фундамент сучасної математики, фізики, хімії та інформатики. Їхні відкриття досі використовуються в науці, інженерії, медицині та технологіях. Сторінка показує, як давні теорії знаходять нові застосування у XXI столітті.

Де знайти задачі та приклади, пов'язані з роботами цього вченого?

На сайті calculator.party є тренажери, розв'язані задачі та калькулятори, що базуються на теоріях і формулах цього вченого. Відповідні посилання наведено в кінці сторінки біографії. Також скористайтеся пошуком по сайту для знаходження матеріалів за ім'ям вченого.