Informasi Fisher: Béda antarrépisi

Ti Wikipédia Sunda, énsiklopédi bébas
Konten dihapus Konten ditambahkan
Budhi (obrolan | kontribusi)
Budhi (obrolan | kontribusi)
Baris ka-83: Baris ka-83:
I(\theta)=\frac{n}{\theta(1-\theta)}</math>
I(\theta)=\frac{n}{\theta(1-\theta)}</math>


bisa katempo yen dumasar kana ekspektasi, saprak ngarupakeun varian bolak balik tian jumlah ''n'' Bernoulli variabel random.
may be seen to be in accord with what one would expect, since it is the reciprocal of the variance of the sum of the ''n'' Bernoulli random variables..


Dina kasus paramete &theta; ngarupakeun nilai vektor, informasi ngarupakeun harti-positip tina matriks, nu dihartikeun sameter dina parameter ruang; akibatna [[differential geometry]] dipake dina ieu topik. Tempo[[Fisher information metric]].
Dina kasus paramete &theta; ngarupakeun nilai vektor, informasi ngarupakeun harti-positip tina matriks, nu dihartikeun sameter dina parameter ruang; akibatna [[differential geometry]] dipake dina ieu topik. Tempo [[Fisher information metric]].


[[Category:Statistics]][[Category:Information theory]]
[[Category:Statistics]][[Category:Information theory]]

Révisi nurutkeun 4 Séptémber 2004 13.58

Dina statistik, informasi Fisher I(θ), nyaeta information random variable nu bisa diobservasi mawa kanyaho ngeunaan parameter nu teu ka observasi θ nu gumantung kana probability distribution X, ngarupakeun score variance. Sabab skor expectation nyaeta nol, bisa dituliskeun salaku

numana f ngarupakeun probability density function variabel random X. Informasi Fisher saterusna ngarupakeun ekspektasi kuadrat tina skor. Variabel random mawa informasi Fisher nu luhur nu ngakibatkeun nilai mutlak skor oge jadi luhur (inget yen skor ekspektasi nyaeta nol).

Konsep ieu dipake keur ngahargaan ka ahli genetis jeung statistikawan Ronald Fisher.

Catetan yen informasi nu dihartikeun di luhur lain fungsi tina observasi sabagean, salaku variabel X geus ngabogaan average. Konsep informasi gampang dipake keur ngabandingkeun dua metoda observasi dina proses random nu sarua.

Informasi saperti nu geus dihartikeun di luhur bisa ditulis dina bentuk

sarta saterusna log ekspektasi ngarupakeun turunan kadua ti X nu pakait jeung θ. Informasi saterusna geus katempo ngarupakeun ukuran "kaseukeutan" nu ngadukung kurva deukeut kana maximum likelihood estimate θ. Kurva dukungan nu "Kodol" (nu ngabogaan nilai minimum deet) bakal ngabogaan turunan ekspektasi kadua nu lemah, sarta saterusna informasi nu lemah; sabalikna bentuk nu seukeut bakal ngabogaan nilai turunan kadua nu luhur sarta saterusna nilai informasi nu luhur.

Informasi ngarupakeun tambahan, dina hal ieu informasi dicokot tina dua eksperimen independent, ngarupakeun jumlah tina eta informasi:

Hal ieu kusabab jumlah varian dua variabel random bebas ngarupakeun jumlah eta varian. Hal ieu nuturkeun yen informasi dina ukuran sampel random n nyaeta n kali dina ukuran hiji sampel(lamun eta observasi bebas).

Informasi ieu disaratkeun ku sufficient statistic nyaeta sarua jeung sampel X. Ieu geus katempo ku make kriteria faktorisasi Fisher keur kacukupan statistis. Lamun T(X) cukup keur θ, mangka

keur sababaraha fungsi g jeung h (tempo sufficient statistic keur katerangan leuwih lengkep). Dina kanyataanna persamaan informasi nuturkeun bentuk

(numana ieu kasus sabab h(X) ngarupakeun θ) bebas sarta harti keur informasi information diberekeun di luhur. Leuwih umum, lamun T=t(X) ngarupakeun statistic, mangka

nu sarua lamun jeung lamun T ngarupakeun kacukupan statistik.

Cramér-Rao inequality netepkeun yen informasi Fisher bolak balik ngarupakeun water handap dina varian keur unggal unbiased estimator θ.

Conto

Informasi dipiboga dina n Bernoulli trial bebas, nu unggal probabiliti sukses θ bisa diitung siga di handap ieu. Runduyannana, a ngagambarkeun jumlah sukses , b jumlah gagal, sarta n=a+b ngarupakeun jumlah sakabeh percobaan.

Garis kahiji sakadar ngahartikeun informasi; kadua migunakeun kanyataan kandungan informasi dina kacukupan statistik saru jeung eta sampel sorangan; garis katilu ngan perluasan watesan log (jeung ngaleungitkeun konstant), kaopat jeung kalima ngan proses diferensiasi wrt θ, kagenep ngagantikeun a jeung b ku ekspektasina , sarta katujuh ngarupakaeun manipulasi aljabar.

Hasil kabehannana, nyaeta

bisa katempo yen dumasar kana ekspektasi, saprak ngarupakeun varian bolak balik tian jumlah n Bernoulli variabel random.

Dina kasus paramete θ ngarupakeun nilai vektor, informasi ngarupakeun harti-positip tina matriks, nu dihartikeun sameter dina parameter ruang; akibatna differential geometry dipake dina ieu topik. Tempo Fisher information metric.