Informasi Fisher: Béda antarrépisi

Ti Wikipédia Sunda, énsiklopédi bébas
Konten dihapus Konten ditambahkan
Budhi (obrolan | kontribusi)
mTidak ada ringkasan suntingan
Ilhambot (obrolan | kontribusi)
m Ngarapihkeun éjahan, replaced: oge → ogé , nyaeta → nyaéta (6), make → maké , ngarupakeun → mangrupa (16), yen → yén (5), dipake → dipaké (3), ea → éa, kusabab → ku sabab, kabeh → kabéh (2), bebas → bébas (4),...
Baris ka-1: Baris ka-1:
Dina [[statistik]], '''informasi Fisher''' ''I''(θ), nyaeta [[information|informasi]] [[variabel acak]] nu bisa diobservasi mawa kanyaho ngeunaan parameter nu teu ka observasi θ nu gumantung kana [[probability distribution]] ''X'', ngarupakeun [[score (statistics)|score]] [[varian]]. Sabab skor [[expectation]] nyaeta nol, bisa dituliskeun salaku
Dina [[statistik]], '''informasi Fisher''' ''I''(θ), nyaéta [[information|informasi]] [[variabel acak]] nu bisa diobservasi mawa kanyaho ngeunaan parameter nu teu ka observasi θ nu gumantung kana [[probability distribution]] ''X'', mangrupa [[score (statistics)|score]] [[varian]]. Sabab skor [[expectation]] nyaéta nol, bisa dituliskeun salaku


:<math>
:<math>
Baris ka-6: Baris ka-6:
</math>
</math>


numana ''f'' ngarupakeun [[probability density function]] variabel random ''X''.
numana ''f'' mangrupa [[probability density function]] variabel random ''X''.
Informasi Fisher saterusna ngarupakeun ekspektasi kuadrat tina skor. Variabel random mawa informasi Fisher nu luhur nu ngakibatkeun nilai mutlak skor oge jadi luhur (inget yen skor ekspektasi nyaeta nol).
Informasi Fisher saterusna mangrupa ekspektasi kuadrat tina skor. Variabel random mawa informasi Fisher nu luhur nu ngakibatkeun nilai mutlak skor ogé jadi luhur (inget yén skor ekspektasi nyaéta nol).


Konsep ieu dipake keur ngahargaan ka ahli genetis jeung statistikawan [[Ronald Fisher]].
Konsep ieu dipaké keur ngahargaan ka ahli genetis jeung statistikawan [[Ronald Fisher]].


Catetan yen informasi nu dihartikeun di luhur lain fungsi tina observasi sabagean, salaku variabel ''X'' geus ngabogaan ''average''. Konsep informasi gampang dipake keur ngabandingkeun dua metoda observasi dina proses random nu sarua.
Catetan yén informasi nu dihartikeun di luhur lain fungsi tina observasi sabagéan, salaku variabel ''X'' geus ngabogaan ''average''. Konsep informasi gampang dipaké keur ngabandingkeun dua metoda observasi dina proses random nu sarua.


Informasi saperti nu geus dihartikeun di luhur bisa ditulis dina bentuk
Informasi saperti nu geus dihartikeun di luhur bisa ditulis dina bentuk
Baris ka-20: Baris ka-20:
\right]
\right]
</math>
</math>
sarta saterusna log ekspektasi ngarupakeun turunan kadua ti ''X'' nu pakait jeung ''&theta;''. Informasi saterusna geus katempo ngarupakeun ukuran "kaseukeutan" nu ngadukung kurva deukeut kana [[maximum likelihood|maximum likelihood estimate]] ''&theta;''. Kurva dukungan nu "Kodol" (nu ngabogaan nilai minimum deet) bakal ngabogaan turunan ekspektasi kadua nu lemah, sarta saterusna informasi nu lemah; sabalikna bentuk nu seukeut bakal ngabogaan nilai turunan kadua nu luhur sarta saterusna nilai informasi nu luhur.
sarta saterusna log ekspektasi mangrupa turunan kadua ti ''X'' nu pakait jeung ''&theta;''. Informasi saterusna geus katempo mangrupa ukuran "kaseukeutan" nu ngadukung kurva deukeut kana [[maximum likelihood|maximum likelihood estimate]] ''&theta;''. Kurva dukungan nu "Kodol" (nu ngabogaan nilai minimum deet) bakal ngabogaan turunan ekspektasi kadua nu lemah, sarta saterusna informasi nu lemah; sabalikna bentuk nu seukeut bakal ngabogaan nilai turunan kadua nu luhur sarta saterusna nilai informasi nu luhur.


Informasi ngarupakeun tambahan, dina hal ieu informasi dicokot tina dua eksperimen [[independent]], ngarupakeun jumlah tina eta informasi:
Informasi mangrupa tambahan, dina hal ieu informasi dicokot tina dua eksperimen [[independent]], mangrupa jumlah tina éta informasi:


:<math>
:<math>
Baris ka-28: Baris ka-28:
</math>
</math>


Hal ieu kusabab jumlah varian dua variabel random bebas ngarupakeun jumlah eta varian. Hal ieu nuturkeun yen informasi dina ukuran sampel random ''n'' nyaeta ''n'' kali dina ukuran hiji sampel(lamun eta observasi bebas).
Hal ieu ku sabab jumlah varian dua variabel random bébas mangrupa jumlah éta varian. Hal ieu nuturkeun yén informasi dina ukuran sampel random ''n'' nyaéta ''n'' kali dina ukuran hiji sampel(lamun éta observasi bébas).


Informasi ieu disaratkeun ku [[sufficiency (statistics)|sufficient statistic]] nyaeta sarua jeung sampel ''X''. Ieu geus katempo ku make kriteria faktorisasi Fisher keur kacukupan statistis. Lamun ''T(X)'' cukup keur &theta;, mangka
Informasi ieu disaratkeun ku [[sufficiency (statistics)|sufficient statistic]] nyaéta sarua jeung sampel ''X''. Ieu geus katempo ku maké kriteria faktorisasi Fisher keur kacukupan statistis. Lamun ''T(X)'' cukup keur &theta;, mangka


:<math>
:<math>
Baris ka-36: Baris ka-36:
</math>
</math>


keur sababaraha fungsi ''g'' jeung ''h'' (tempo [[sufficient statistic]] keur katerangan leuwih lengkep). Dina kanyataanna persamaan informasi nuturkeun bentuk
keur sababaraha fungsi ''g'' jeung ''h'' (tempo [[sufficient statistic]] keur katerangan leuwih lengkep). Dina kanyataanna persamaan informasi nuturkeun bentuk


:<math>
:<math>
Baris ka-43: Baris ka-43:
</math>
</math>


(numana ieu kasus sabab ''h''(''X'') ngarupakeun &theta;) bebas sarta harti keur informasi information diberekeun di luhur. Leuwih umum, lamun ''T=t(X)'' ngarupakeun [[statistic]], mangka
(numana ieu kasus sabab ''h''(''X'') mangrupa &theta;) bébas sarta harti keur informasi information dibérékeun di luhur. Leuwih umum, lamun ''T=t(X)'' mangrupa [[statistic]], mangka


:<math>
:<math>
I_T(\theta)\leq I_X(\theta)
I_T(\theta)\leq I_X(\theta)
</math>
</math>
nu sarua lamun jeung lamun ''T'' ngarupakeun kacukupan statistik.
nu sarua lamun jeung lamun ''T'' mangrupa kacukupan statistik.


[[Cram&eacute;r-Rao inequality]] netepkeun yen informasi Fisher bolak balik ngarupakeun water handap dina varian keur unggal ''unbiased estimator'' &theta;.
[[Cram&eacute;r-Rao inequality]] netepkeun yén informasi Fisher bolak balik mangrupa water handap dina varian keur unggal ''unbiased estimator'' &theta;.


===Conto===
===Conto===


Informasi dipiboga dina ''n'' [[Bernoulli trial]] bebas, nu unggal probabiliti sukses ''&theta;'' bisa diitung siga di handap ieu. Runduyannana, ''a'' ngagambarkeun jumlah sukses , ''b'' jumlah gagal, sarta ''n=a+b'' ngarupakeun jumlah sakabeh percobaan.
Informasi dipiboga dina ''n'' [[Bernoulli trial]] bébas, nu unggal probabiliti sukses ''&theta;'' bisa diitung siga di handap ieu. Runduyannana, ''a'' ngagambarkeun jumlah sukses , ''b'' jumlah gagal, sarta ''n=a+b'' mangrupa jumlah sakabéh percobaan.


:<math>
:<math>
Baris ka-77: Baris ka-77:
::<math>=\frac{n}{\theta(1-\theta)}</math>
::<math>=\frac{n}{\theta(1-\theta)}</math>


Garis kahiji sakadar ngahartikeun informasi; kadua migunakeun kanyataan kandungan informasi dina kacukupan statistik saru jeung eta sampel sorangan; garis katilu ngan perluasan watesan [[logarithm|log]] (jeung ngaleungitkeun konstant), kaopat jeung kalima ngan proses diferensiasi wrt ''&theta;'', kagenep ngagantikeun ''a'' jeung ''b'' ku ekspektasina , sarta katujuh ngarupakaeun manipulasi aljabar.
Garis kahiji sakadar ngahartikeun informasi; kadua migunakeun kanyataan kandungan informasi dina kacukupan statistik saru jeung éta sampel sorangan; garis katilu ngan perluasan watesan [[logarithm|log]] (jeung ngaleungitkeun konstant), kaopat jeung kalima ngan proses diferensiasi wrt ''&theta;'', kagenep ngagantikeun ''a'' jeung ''b'' ku ekspektasina , sarta katujuh ngarupakaeun manipulasi aljabar.


Hasil kabehannana, nyaeta
Hasil kabéhannana, nyaéta
:<math>
:<math>
I(\theta)=\frac{n}{\theta(1-\theta)}</math>
I(\theta)=\frac{n}{\theta(1-\theta)}</math>


bisa katempo yen dumasar kana ekspektasi, saprak ngarupakeun varian bolak balik tian jumlah ''n'' Bernoulli variabel random.
bisa katempo yén dumasar kana ekspektasi, saprak mangrupa varian bolak balik tian jumlah ''n'' Bernoulli variabel random.


Dina kasus paramete &theta; ngarupakeun nilai vektor, informasi ngarupakeun harti-positip tina matriks, nu dihartikeun sameter dina parameter ruang; akibatna [[differential geometry]] dipake dina ieu topik. Tempo [[Fisher information metric]].
Dina kasus paramete &theta; mangrupa nilai vektor, informasi mangrupa harti-positip tina matriks, nu dihartikeun sameter dina parameter ruang; akibatna [[differential geometry]] dipaké dina ieu topik. Tempo [[Fisher information metric]].


[[Category:Statistika]][[Category:Information theory]]
[[Kategori:Statistika]]
[[Kategori:Information theory]]

Révisi nurutkeun 13 Pébruari 2017 03.49

Dina statistik, informasi Fisher I(θ), nyaéta informasi variabel acak nu bisa diobservasi mawa kanyaho ngeunaan parameter nu teu ka observasi θ nu gumantung kana probability distribution X, mangrupa score varian. Sabab skor expectation nyaéta nol, bisa dituliskeun salaku

numana f mangrupa probability density function variabel random X. Informasi Fisher saterusna mangrupa ekspektasi kuadrat tina skor. Variabel random mawa informasi Fisher nu luhur nu ngakibatkeun nilai mutlak skor ogé jadi luhur (inget yén skor ekspektasi nyaéta nol).

Konsep ieu dipaké keur ngahargaan ka ahli genetis jeung statistikawan Ronald Fisher.

Catetan yén informasi nu dihartikeun di luhur lain fungsi tina observasi sabagéan, salaku variabel X geus ngabogaan average. Konsep informasi gampang dipaké keur ngabandingkeun dua metoda observasi dina proses random nu sarua.

Informasi saperti nu geus dihartikeun di luhur bisa ditulis dina bentuk

sarta saterusna log ekspektasi mangrupa turunan kadua ti X nu pakait jeung θ. Informasi saterusna geus katempo mangrupa ukuran "kaseukeutan" nu ngadukung kurva deukeut kana maximum likelihood estimate θ. Kurva dukungan nu "Kodol" (nu ngabogaan nilai minimum deet) bakal ngabogaan turunan ekspektasi kadua nu lemah, sarta saterusna informasi nu lemah; sabalikna bentuk nu seukeut bakal ngabogaan nilai turunan kadua nu luhur sarta saterusna nilai informasi nu luhur.

Informasi mangrupa tambahan, dina hal ieu informasi dicokot tina dua eksperimen independent, mangrupa jumlah tina éta informasi:

Hal ieu ku sabab jumlah varian dua variabel random bébas mangrupa jumlah éta varian. Hal ieu nuturkeun yén informasi dina ukuran sampel random n nyaéta n kali dina ukuran hiji sampel(lamun éta observasi bébas).

Informasi ieu disaratkeun ku sufficient statistic nyaéta sarua jeung sampel X. Ieu geus katempo ku maké kriteria faktorisasi Fisher keur kacukupan statistis. Lamun T(X) cukup keur θ, mangka

keur sababaraha fungsi g jeung h (tempo sufficient statistic keur katerangan leuwih lengkep). Dina kanyataanna persamaan informasi nuturkeun bentuk

(numana ieu kasus sabab h(X) mangrupa θ) bébas sarta harti keur informasi information dibérékeun di luhur. Leuwih umum, lamun T=t(X) mangrupa statistic, mangka

nu sarua lamun jeung lamun T mangrupa kacukupan statistik.

Cramér-Rao inequality netepkeun yén informasi Fisher bolak balik mangrupa water handap dina varian keur unggal unbiased estimator θ.

Conto

Informasi dipiboga dina n Bernoulli trial bébas, nu unggal probabiliti sukses θ bisa diitung siga di handap ieu. Runduyannana, a ngagambarkeun jumlah sukses , b jumlah gagal, sarta n=a+b mangrupa jumlah sakabéh percobaan.

Garis kahiji sakadar ngahartikeun informasi; kadua migunakeun kanyataan kandungan informasi dina kacukupan statistik saru jeung éta sampel sorangan; garis katilu ngan perluasan watesan log (jeung ngaleungitkeun konstant), kaopat jeung kalima ngan proses diferensiasi wrt θ, kagenep ngagantikeun a jeung b ku ekspektasina , sarta katujuh ngarupakaeun manipulasi aljabar.

Hasil kabéhannana, nyaéta

bisa katempo yén dumasar kana ekspektasi, saprak mangrupa varian bolak balik tian jumlah n Bernoulli variabel random.

Dina kasus paramete θ mangrupa nilai vektor, informasi mangrupa harti-positip tina matriks, nu dihartikeun sameter dina parameter ruang; akibatna differential geometry dipaké dina ieu topik. Tempo Fisher information metric.