Inferencia bayesiana

La inferencia bayesiana ye un tipu d'inferencia estadística na que les evidencies o observaciones emplegar p'actualizar o inferir la probabilidá de qu'una hipótesis pueda ser cierta. El nome «bayesiana» provién del usu frecuente que se fai del teorema de Bayes mientres el procesu de inferencia. El teorema de Bayes derivóse del trabayu realizáu pol matemáticu Thomas Bayes. Anguaño, unu de los campos d'aplicación ye na teoría de la decisión,^[1] visión artificial^[2](simulación de la perceición polo xeneral)^[3] y reconocencia de patrones por ordenador.

Contestu inicial

La incertidume y l'imprecisión son connaturales nel procesu de razonamientu. La lóxica establez unes regles de inferencia a partir de les cualos constrúyese'l sistema de razonamiento deductivu, nel qu'una proposición determinada ye considerada como cierta o falsa, ensin que s'almitan graos ente estos dos estremos. Los métodos de razonamientu averáu, ente los que s'atopen los métodos bayesianos, apurren modelos teóricos qu'asemeyen la capacidá de razonamientu en condiciones d'incertidume, cuando nun se conoz con absoluta certidume la verdá o falsedá d'un enunciáu o hipótesis, ya imprecisión, enunciaos nos que s'almite un rangu de variación.

Ente los métodos de razonamientu averáu atópense los métodos bayesianos, basaos nel conocíu teorema de Bayes. Toos ellos tienen de mancomún la asignación d'una probabilidá como midida de credibilidá de les hipótesis. Nesti contestu, la inferencia entiéndese como un procesu d'actualización de les midíes de credibilidá al conocese nueves evidencies. Por aciu l'aplicación del Teorema de Bayes búscase llograr les probabilidaes de les hipótesis condicionaes a les evidencies que se conocen. La diferencia ente los distintos métodos bayesianos, modelos causales y redes bayesianas, finca nes hipótesis d'independencia condicional ente hipótesis y evidencies. Diches rellaciones esprésense comúnmente por aciu un grafo acíclico empobináu.

Evidencia y creencies cambiantes

La inferencia bayesiana utiliza aspeutos del métodu científicu, qu'implica recoyer evidencia que se considera consistente o inconsistente con una hipótesis dada. A midida que la evidencia atrópase, el grau de creencia nuna hipótesis va modificándose. Con evidencia abonda, de cutiu va poder faese bien alto o bien baxu. Asina, los que sostienen la inferencia bayesiana dicen que pue ser utilizada pa discriminar ente hipótesis en conflictu: les hipótesis con un grau de creencia bien alto tienen de ser aceptaes como verdaderes y les que tienen un grau de creencia bien baxu tienen de ser refugaes como falses. Sicasí, los detractores dicen qu'esti métodu de inferencia puede tar afeutáu por un sesgu por cuenta de les creencies iniciales que se deben sostener antes d'empezar a recoyer cualquier evidencia.

¿Qué ye lo curioso de la Estadística Bayesiana?

i) Construcción axomática
ii) Una sola regla de decisión
iii) La única qu'ufierta solución pa ciertos problemes

Axomes de coherencia

i) Comparanza
ii) Transitividá
iii) Dominancia-Sustitución
iv) Referencia

Exemplos de inferencia

Un exemplu de inferencia bayesiana ye'l siguiente:

Mientres miles de millones d'años, el sol salió dempués de ponese. El sol púnxose esta nueche. Hai una probabilidá bien alta de (o 'Yo creo firmemente' o 'ye verdá') que'l sol va volver a salir mañana. Esiste una probabilidá bien baxa de (o 'yo nun creo de nenguna manera' o 'ye falsu') que'l sol nun sala mañana.

La inferencia bayesiana usa un estimador numbéricu del grau de creencia nuna hipótesis entá antes de reparar la evidencia y calcula un estimador numbéricu del grau de creencia na hipótesis dempués de reparar la evidencia. La inferencia bayesiana xeneralmente básase en graos de creencia, o probabilidaes suxetives, nel procesu d'inducción y non necesariamente declara aprovir un métodu oxetivu d'inducción.

Definiciones formales

Con too y con eso, dellos estadísticos bayesianos creen que les probabilidaes pueden tener un valor oxetivu y polo tanto la inferencia bayesiana puede aprovir un métodu oxetivu d'inducción. (Ver métodu científicu.) Dada una nueva evidencia, el teorema de Bayes afai les probabilidaes de la mesma de la siguiente manera:

P(H_{0}|Y)={\frac {P(Y|H_{0})\;P(H_{0})}{P(Y)}}

onde

$H_{0}$ representa una hipótesis, llamada hipótesis nula, que foi inferida primero que la nueva evidencia, $Y$ , resultara disponible.
$P(H_{0})$ llámase la probabilidá a priori de $H_{0}$ .
$P(Y|H_{0})$ llámase la probabilidá condicional de que se cumpla la evidencia $Y$ si la hipótesis $H_{0}$ ye verdadera. Llámase tamién la función de verosimilitud cuando s'espresa como una función de $Y$ dau $H_{0}$ .
$P(Y)$ llámase la probabilidá marxinal de $Y$ : la probabilidá de reparar la nueva evidencia $Y$ so toles hipótesis mutuamente escluyentes. Puede calcular como la suma del productu de toles hipótesis mutuamente escluyentes poles correspondientes probabilidaes condicionales: $\sum P(Y|H_{i})P(H_{i})$ .
$P(H_{0}|Y)$ llámase la probabilidá a posteriori de $H_{0}$ dau $Y$ .

El factor $P(Y|H_{0})/P(Y)$ representa l'impautu que la evidencia tien na creencia na hipótesis. Si ye posible que se repare la evidencia cuando la hipótesis considerada ye verdadera, entós esti factor va ser grande. Multiplicando la probabilidá a priori de la hipótesis por esti factor va resultar nuna gran probabilidá a posteriori dada la evidencia. Na inferencia bayesiana, poro, el teorema de Bayes mide cuántu la nueva evidencia ye capaz d'alteriar la creencia na hipótesis.

Establecimientu de la inferencia

Los estadísticos bayesianos sostienen qu'entá cuando distintes persones puedan proponer probabilidaes a priori bien distintes, la nueva evidencia que surde de nueves observaciones va llograr que les probabilidaes suxetives avérense cada vez más. Otros, sicasí, sostienen que cuando distintes persones proponen probabilidaes a priori bien distintes, les probabilidaes suxetives a posteriori pueden nun converxer nunca, por más evidencies nueves que se recoyer. Estos críticos consideren que visiones del mundu que son dafechu distintos de primeres pueden siguir siendo dafechu distintos al traviés del tiempu por más evidencies que s'atropen.

Multiplicando la probabilidá anterior $P(H_{0})$ pol factor $P(Y|H_{0})/P(Y)$ nunca podrá llograse una probabilidá cimera a 1. Yá que $P(Y)$ ye siquier mayor que $P(Y\cap H_{0})$ , lo que dexa la igualdá $P(Y|H_{0})\cdot P(H_{0})$ (vease probabilidá conxunta), reemplazando $P(Y)$ con $P(Y\cap H_{0})$ nel factor $P(Y|H_{0})/P(Y)$ esto va dexar una probabilidá posterior de 1. Poro, la probabilidá posterior nun va aportar# a mayor qu'unu namái si $P(Y)$ fora menor que $P(Y\cap H_{0}),$ lo que nunca ye ciertu.

La probabilidá de $Y$ dau $H_{0}$ , $P(Y|H_{0})$ , pue ser representada como una función del so segundu argumentu, lo que puede faese propocionando un valor. Tal función denominar función de verosimilitud; ye función de $H_{0}$ dau $Y$ . Una proporción de dos funciones de verosimilitudes que se denomina proporción de verosimilitud, $\Lambda$ . Por casu:

\Lambda ={\frac {L(H_{0}|Y)}{L(\mathrm {not} \,H_{0}|Y)}}={\frac {P(Y|H_{0})}{P(Y|\mathrm {not} \,H_{0})}}

La probabilidá marxinal $P(Y)$ , pue ser representada amás como la suma de los productos de toles probabilidaes de les hipótesis esclusives mutuamente y que correspuenden a probabildades condicionales: $P(Y|H_{0})P(H_{0})+P(Y|\mathrm {not} \,H_{0})P(\mathrm {not} \,H_{0})$ .

Como resultancia, puede reescribise el teorema de Bayes como:

P(H_{0}|Y)={\frac {P(Y|H_{0})P(H_{0})}{P(Y|H_{0})P(H_{0})+P(Y|\mathrm {not} \,H_{0})P(\mathrm {not} \,H_{0})}}={\frac {\Lambda P(H_{0})}{\Lambda P(H_{0})+P(\mathrm {not} \,H_{0})}}

Con dos evidencies independientes $Y_{1}$ y $Y_{2}$ , la inferencia bayesiana puede aplicase iterativamente. Puede emplegase la primer evidencia pa calcular la primer probabilidá posterior y emplegar ésta nel cálculu de la siguiente probabilidá y siguir d'esta forma coles demás.

La independencia d'evidencies implica que:

P(Y_{1},Y_{2}|H_{0})=P(Y_{1}|H_{0})\times P(Y_{2}|H_{0})

P(Y_{1},Y_{2})=P(Y_{1})\times P(Y_{2})

P(Y_{1},Y_{2}|\mathrm {not} \,H_{0})=P(Y_{1}|\mathrm {not} \,H_{0})\times P(Y_{2}|\mathrm {not} \,H_{0})

Aplicando'l teorema de Bayes de forma iterativa, implica

P(H_{0}|Y_{1},Y_{2})={\frac {P(Y_{1}|H_{0})\times P(Y_{2}|H_{0})\;P(H_{0})}{P(Y_{1})\times P(Y_{2})}}

Emplegando los ratios de verosimilitud, puede atopase que

P(H_{0}|Y_{1},Y_{2})={\frac {\Lambda _{1}\Lambda _{2}P(H_{0})}{[\Lambda _{1}P(H_{0})+P(\mathrm {not} \,H_{0})][\Lambda _{2}P(H_{0})+P(\mathrm {not} \,H_{0})]}}

,

Esta iteración de la inferencia bayesiana puede ser espandida cola inclusión de más evidencies. La inferencia bayesiana emplegar nel cálculu de probabilidaes en tomar de decisión. Emplegar nes probabilidaes calculaes na teoría de cálculu de riesgos, na denomada función de perda que reflexa les consecuencies de cometer un error.

Ver tamién

Teorema de Bayes - Fundamentu de la inferencia
Inferencia bayesiana en filogenias

Referencies

↑ "Statistical Decision Theory and Bayesian Analysis", James O. Berger; 1985 ;Springer
↑ "Bayesian Approach to Image Interpretation", Sunil K. Kopparapu, Uday B. Desai; 2001 Springer
↑ "Perception as Bayesian Inference", David C. Knill, Whitman Richards;1996 ;Cambridge University Press

Bibliografía

Berger, J.O. (1999) Statistical Decision Theory and Bayesian Analysis. Second Edition. Springer Verlag, New York. ISBN 0-387-96098-8 and also ISBN 3-540-96098-8.
Bolstad, William M. (2004) Introduction to Bayesian Statistics, John Wiley ISBN 0-471-27020-2
Bretthorst, G. Larry, 1988, Bayesian Spectrum Analysis and Parameter Estimation in Lecture Notes in Statistics, 48, Springer-Verlag, New York, New York
Dawid, A.P. and Mortera, J. (1996) Coherent analysis of forensic identification evidence. Journal of the Royal Statistical Society, Series B, 58,425-443.
Foreman, L.A; Smith, A.F.M. and Evett, I.W. (1997). Bayesian analysis of deoxyribonucleic acid profiling data in forensic identification applications (with discussion). Journal of the Royal Statistical Society, Series A, 160, 429-469.
Gardner-Medwin, A. What probability should the jury address?. Significance. Volume 2, Issue 1, March 2005
Gelman, A., Carlin, B., Stern, H., and Rubin, D.B. (2003). Bayesian Data Analysis. Second Edition. Chapman & Hall/CRD, Boca Raton, Florida. ISBN 1-58488-388-X.
Gelman, A. and Meng, X.L. (2004). Applied Bayesian Modeling and Causal Inference from Incomplete-Data Perspectives: an essential journey with Donald Rubin's statistical family. John Wiley & Sons, Chichester, UK. ISBN 0-470-09043-X
Giffin, A. and Caticha, A. (2007) Updating Probabilities with Data and Moments
Jaynes, Y.T. (1998) Probability Theory: The Logic of Science.
Lee, Peter M. Bayesian Statistics: An Introduction. Second Edition. (1997). ISBN 0-340-67785-6.
O'Hagan, A. and Forster, J. (2003) Kendall's Advanced Theory of Statistics, Volume 2B: Bayesian Inference. Arnold, New York. ISBN 0-340-52922-9.
Pearl, J. (1988) Probabilistic Reasoning in Intelligent Systems, San Mateo, CA: Morgan Kaufmann.
Robert, C.P. (2001) The Bayesian Choice. Springer Verlag, New York.
Robertson, B. and Vignaux, G.A. (1995) Interpreting Evidence: Evaluating Forensic Science in the Courtroom. John Wiley and Sons. Chichester.
Winkler, Robert L, Introduction to Bayesian Inference and Decision, 2nd Edition (2003) Probabilistic. ISBN 0-9647938-4-9

Referencies esternes

Llibro on-line textbook: Teoría de la información Theory, Inferencia, y algoritmos d'aprendizaxe, por David MacKay, tien capítulos sobre métodos bayesianos, incluyendo exemplos; argumentes a favor de los métodos bayesianos (del estilu d'Edwin Jaynes); métodos modernos sobre Métodu de Montecarlu, y método variacionales; y exemplos ilustrativos alrodiu de como s'empleguen les redes bayesianas nos algoritmos de compresión de datos.

[1] "Statistical Decision Theory and Bayesian Analysis", James O. Berger; 1985 ;Springer

[2] "Bayesian Approach to Image Interpretation", Sunil K. Kopparapu, Uday B. Desai; 2001 Springer

[3] "Perception as Bayesian Inference", David C. Knill, Whitman Richards;1996 ;Cambridge University Press

[1]

[2]

[3]