Informasi Fisher: Béda antarrépisi
Budhi (obrolan | kontribusi) mTidak ada ringkasan suntingan |
m Ngarapihkeun éjahan, replaced: oge → ogé , nyaeta → nyaéta (6), make → maké , ngarupakeun → mangrupa (16), yen → yén (5), dipake → dipaké (3), ea → éa, kusabab → ku sabab, kabeh → kabéh (2), bebas → bébas (4),... |
||
Baris ka-1: | Baris ka-1: | ||
Dina [[statistik]], '''informasi Fisher''' ''I''(θ), |
Dina [[statistik]], '''informasi Fisher''' ''I''(θ), nyaéta [[information|informasi]] [[variabel acak]] nu bisa diobservasi mawa kanyaho ngeunaan parameter nu teu ka observasi θ nu gumantung kana [[probability distribution]] ''X'', mangrupa [[score (statistics)|score]] [[varian]]. Sabab skor [[expectation]] nyaéta nol, bisa dituliskeun salaku |
||
:<math> |
:<math> |
||
Baris ka-6: | Baris ka-6: | ||
</math> |
</math> |
||
numana ''f'' |
numana ''f'' mangrupa [[probability density function]] variabel random ''X''. |
||
Informasi Fisher saterusna |
Informasi Fisher saterusna mangrupa ekspektasi kuadrat tina skor. Variabel random mawa informasi Fisher nu luhur nu ngakibatkeun nilai mutlak skor ogé jadi luhur (inget yén skor ekspektasi nyaéta nol). |
||
Konsep ieu |
Konsep ieu dipaké keur ngahargaan ka ahli genetis jeung statistikawan [[Ronald Fisher]]. |
||
Catetan |
Catetan yén informasi nu dihartikeun di luhur lain fungsi tina observasi sabagéan, salaku variabel ''X'' geus ngabogaan ''average''. Konsep informasi gampang dipaké keur ngabandingkeun dua metoda observasi dina proses random nu sarua. |
||
Informasi saperti nu geus dihartikeun di luhur bisa ditulis dina bentuk |
Informasi saperti nu geus dihartikeun di luhur bisa ditulis dina bentuk |
||
Baris ka-20: | Baris ka-20: | ||
\right] |
\right] |
||
</math> |
</math> |
||
sarta saterusna log ekspektasi |
sarta saterusna log ekspektasi mangrupa turunan kadua ti ''X'' nu pakait jeung ''θ''. Informasi saterusna geus katempo mangrupa ukuran "kaseukeutan" nu ngadukung kurva deukeut kana [[maximum likelihood|maximum likelihood estimate]] ''θ''. Kurva dukungan nu "Kodol" (nu ngabogaan nilai minimum deet) bakal ngabogaan turunan ekspektasi kadua nu lemah, sarta saterusna informasi nu lemah; sabalikna bentuk nu seukeut bakal ngabogaan nilai turunan kadua nu luhur sarta saterusna nilai informasi nu luhur. |
||
Informasi |
Informasi mangrupa tambahan, dina hal ieu informasi dicokot tina dua eksperimen [[independent]], mangrupa jumlah tina éta informasi: |
||
:<math> |
:<math> |
||
Baris ka-28: | Baris ka-28: | ||
</math> |
</math> |
||
Hal ieu |
Hal ieu ku sabab jumlah varian dua variabel random bébas mangrupa jumlah éta varian. Hal ieu nuturkeun yén informasi dina ukuran sampel random ''n'' nyaéta ''n'' kali dina ukuran hiji sampel(lamun éta observasi bébas). |
||
Informasi ieu disaratkeun ku [[sufficiency (statistics)|sufficient statistic]] |
Informasi ieu disaratkeun ku [[sufficiency (statistics)|sufficient statistic]] nyaéta sarua jeung sampel ''X''. Ieu geus katempo ku maké kriteria faktorisasi Fisher keur kacukupan statistis. Lamun ''T(X)'' cukup keur θ, mangka |
||
:<math> |
:<math> |
||
Baris ka-36: | Baris ka-36: | ||
</math> |
</math> |
||
keur sababaraha fungsi ''g'' jeung ''h'' (tempo [[sufficient statistic]] keur katerangan leuwih lengkep). Dina kanyataanna persamaan informasi nuturkeun bentuk |
keur sababaraha fungsi ''g'' jeung ''h'' (tempo [[sufficient statistic]] keur katerangan leuwih lengkep). Dina kanyataanna persamaan informasi nuturkeun bentuk |
||
:<math> |
:<math> |
||
Baris ka-43: | Baris ka-43: | ||
</math> |
</math> |
||
(numana ieu kasus sabab ''h''(''X'') |
(numana ieu kasus sabab ''h''(''X'') mangrupa θ) bébas sarta harti keur informasi information dibérékeun di luhur. Leuwih umum, lamun ''T=t(X)'' mangrupa [[statistic]], mangka |
||
:<math> |
:<math> |
||
I_T(\theta)\leq I_X(\theta) |
I_T(\theta)\leq I_X(\theta) |
||
</math> |
</math> |
||
nu sarua lamun jeung lamun ''T'' |
nu sarua lamun jeung lamun ''T'' mangrupa kacukupan statistik. |
||
[[Cramér-Rao inequality]] netepkeun |
[[Cramér-Rao inequality]] netepkeun yén informasi Fisher bolak balik mangrupa water handap dina varian keur unggal ''unbiased estimator'' θ. |
||
===Conto=== |
===Conto=== |
||
Informasi dipiboga dina ''n'' [[Bernoulli trial]] |
Informasi dipiboga dina ''n'' [[Bernoulli trial]] bébas, nu unggal probabiliti sukses ''θ'' bisa diitung siga di handap ieu. Runduyannana, ''a'' ngagambarkeun jumlah sukses , ''b'' jumlah gagal, sarta ''n=a+b'' mangrupa jumlah sakabéh percobaan. |
||
:<math> |
:<math> |
||
Baris ka-77: | Baris ka-77: | ||
::<math>=\frac{n}{\theta(1-\theta)}</math> |
::<math>=\frac{n}{\theta(1-\theta)}</math> |
||
Garis kahiji sakadar ngahartikeun informasi; kadua migunakeun kanyataan kandungan informasi dina kacukupan statistik saru jeung |
Garis kahiji sakadar ngahartikeun informasi; kadua migunakeun kanyataan kandungan informasi dina kacukupan statistik saru jeung éta sampel sorangan; garis katilu ngan perluasan watesan [[logarithm|log]] (jeung ngaleungitkeun konstant), kaopat jeung kalima ngan proses diferensiasi wrt ''θ'', kagenep ngagantikeun ''a'' jeung ''b'' ku ekspektasina , sarta katujuh ngarupakaeun manipulasi aljabar. |
||
Hasil |
Hasil kabéhannana, nyaéta |
||
:<math> |
:<math> |
||
I(\theta)=\frac{n}{\theta(1-\theta)}</math> |
I(\theta)=\frac{n}{\theta(1-\theta)}</math> |
||
bisa katempo |
bisa katempo yén dumasar kana ekspektasi, saprak mangrupa varian bolak balik tian jumlah ''n'' Bernoulli variabel random. |
||
Dina kasus paramete θ |
Dina kasus paramete θ mangrupa nilai vektor, informasi mangrupa harti-positip tina matriks, nu dihartikeun sameter dina parameter ruang; akibatna [[differential geometry]] dipaké dina ieu topik. Tempo [[Fisher information metric]]. |
||
[[ |
[[Kategori:Statistika]] |
||
[[Kategori:Information theory]] |
Révisi nurutkeun 13 Pébruari 2017 03.49
Dina statistik, informasi Fisher I(θ), nyaéta informasi variabel acak nu bisa diobservasi mawa kanyaho ngeunaan parameter nu teu ka observasi θ nu gumantung kana probability distribution X, mangrupa score varian. Sabab skor expectation nyaéta nol, bisa dituliskeun salaku
numana f mangrupa probability density function variabel random X. Informasi Fisher saterusna mangrupa ekspektasi kuadrat tina skor. Variabel random mawa informasi Fisher nu luhur nu ngakibatkeun nilai mutlak skor ogé jadi luhur (inget yén skor ekspektasi nyaéta nol).
Konsep ieu dipaké keur ngahargaan ka ahli genetis jeung statistikawan Ronald Fisher.
Catetan yén informasi nu dihartikeun di luhur lain fungsi tina observasi sabagéan, salaku variabel X geus ngabogaan average. Konsep informasi gampang dipaké keur ngabandingkeun dua metoda observasi dina proses random nu sarua.
Informasi saperti nu geus dihartikeun di luhur bisa ditulis dina bentuk
sarta saterusna log ekspektasi mangrupa turunan kadua ti X nu pakait jeung θ. Informasi saterusna geus katempo mangrupa ukuran "kaseukeutan" nu ngadukung kurva deukeut kana maximum likelihood estimate θ. Kurva dukungan nu "Kodol" (nu ngabogaan nilai minimum deet) bakal ngabogaan turunan ekspektasi kadua nu lemah, sarta saterusna informasi nu lemah; sabalikna bentuk nu seukeut bakal ngabogaan nilai turunan kadua nu luhur sarta saterusna nilai informasi nu luhur.
Informasi mangrupa tambahan, dina hal ieu informasi dicokot tina dua eksperimen independent, mangrupa jumlah tina éta informasi:
Hal ieu ku sabab jumlah varian dua variabel random bébas mangrupa jumlah éta varian. Hal ieu nuturkeun yén informasi dina ukuran sampel random n nyaéta n kali dina ukuran hiji sampel(lamun éta observasi bébas).
Informasi ieu disaratkeun ku sufficient statistic nyaéta sarua jeung sampel X. Ieu geus katempo ku maké kriteria faktorisasi Fisher keur kacukupan statistis. Lamun T(X) cukup keur θ, mangka
keur sababaraha fungsi g jeung h (tempo sufficient statistic keur katerangan leuwih lengkep). Dina kanyataanna persamaan informasi nuturkeun bentuk
(numana ieu kasus sabab h(X) mangrupa θ) bébas sarta harti keur informasi information dibérékeun di luhur. Leuwih umum, lamun T=t(X) mangrupa statistic, mangka
nu sarua lamun jeung lamun T mangrupa kacukupan statistik.
Cramér-Rao inequality netepkeun yén informasi Fisher bolak balik mangrupa water handap dina varian keur unggal unbiased estimator θ.
Conto
Informasi dipiboga dina n Bernoulli trial bébas, nu unggal probabiliti sukses θ bisa diitung siga di handap ieu. Runduyannana, a ngagambarkeun jumlah sukses , b jumlah gagal, sarta n=a+b mangrupa jumlah sakabéh percobaan.
Garis kahiji sakadar ngahartikeun informasi; kadua migunakeun kanyataan kandungan informasi dina kacukupan statistik saru jeung éta sampel sorangan; garis katilu ngan perluasan watesan log (jeung ngaleungitkeun konstant), kaopat jeung kalima ngan proses diferensiasi wrt θ, kagenep ngagantikeun a jeung b ku ekspektasina , sarta katujuh ngarupakaeun manipulasi aljabar.
Hasil kabéhannana, nyaéta
bisa katempo yén dumasar kana ekspektasi, saprak mangrupa varian bolak balik tian jumlah n Bernoulli variabel random.
Dina kasus paramete θ mangrupa nilai vektor, informasi mangrupa harti-positip tina matriks, nu dihartikeun sameter dina parameter ruang; akibatna differential geometry dipaké dina ieu topik. Tempo Fisher information metric.