Akaike information criterion
Akaike information criterion (AIC) (dibacana ah-kah-ee-keh), dimekarkeun Professor Hirotsugu Akaike (赤池 弘次) (1927-) dina 1971 sarta diusulkeun dina taun 1974, nyaéta model statistik ukuran fit. modél ieu ngitung goodness-of-fit relatif tina sababaraha model statistik nu aya saméméhna nu mana sampel data geus aya. modél ieu maké rarangka gawe analisa informasi nu taliti dumasar kana konsép entropy. Ide satukangeun AIC ieu nyaéta ku ayana karuwetan dina modél nu babarengan jeung datangna data séjén kana modél tur ngahadilkan ukuran di antara duanana.
Rumusan AIC nyaéta , nu mana k nyaéta jumlah parameters, jeung L nyaéta fungsi likelihood.
Ilaharna, eror sebaran normal diasumsikeun sarta diitung maké rumus , numama n nyaéta lobana observasi jeung RSS nyaéta sesa kuadrat kasalahan.
modél nu loba parameterna bakal nembongkeun fit nu alus kana data, tapi bakal mibanda tingkat kabebasan nu saeutik tur pamakéan nu heureut. Kasaimbangan ieu bakal nyababkeun overfitting. Dina kaayaan ieu leuwih hadé dipilih modél nu mibanda nilai AIC pangleutikna.métodeuAIC nyoba keur nangtukeun modél minimal nu nerangkeun data kalayan bener, nu mungkin béda jeung métodeu nu leuwih tradisional dina nyieun modél, sapertinu mimiti tina null hypothesis.
Variasi tina AIC kaasup AICc, QAIC, jeung QAICc.
AICc leuwih hadé tinimbang AIC lamun ukuran sampel, n, saeutik. Rumus AICc nyaéta:
AICc = AIC + 2k(k + 1) / (n - k - 1), or
AICc = -2ln(L) + 2k(n / (n - k - 1)).
Sabab AICc konvergen jeung AIC keur n nu loba, disarankeun sacara praktis maké AICc dina unggal kasus ( Burnham and Anderson, 2004).
QAIC dideukeutkeun keur over-dispersion atawa teu pas dina fit, saperti dihartikeun:
QAIC = -[2ln(L)/c] + 2k,
nu mana c mangrupa faktor inflation.
Keur ukuran sample nu leutik QAIC nyaéta:
QAICc = QAIC + 2k(k + 1) / (n - k - 1).
métodeu ieu loba dimekarkeun di widang séjén saperti dina widang téhnik sipil, upamana dina widang géotéhnik, saperti Akaike Bayesian Information Criterion jeung Extended Bayesian Method.
Rujukan
[édit | édit sumber]- Akaike, Hirotugu (December 1974). "A new look at the statistical model identification". IEEE Transactions on Automatic Control 19 (6): 716–723.
- Burnham, K.P., and D.R. Anderson. 2002. modél Selection and Multimodél Inference: A Practical-Théoretic Approach, 2nd Edition. Springer, New York. ISBN 0-387-95364-7.
- Burnham, K.P., and D.R. Anderson. 2004. Multimodél Inference: understanding AIC and BIC in modél Selection, Amsterdam Workshop on modél Selection (available online: PDF Archived 2009-09-14 di Wayback Machine)
- Yusuke Honjo and Budhi Setiawan. 2004. On selection of a prior distribution in inverse analysis by Akaike Bayesian Information Criterion.Journal of Applied Mechanic JSCE, vol. 7. no. 1-2004 p. 145 - 154 in Japanese
Tempo ogé
[édit | édit sumber]- Bayesian information criterion
- deviance information criterion
- Kullback-Leibler divergence
- Occam's Razor