XVI Contents
15 Bayesian Inference: Modeling and Computation . . . . . . . . . . . 301
15.1 Hierarchical Models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 301
15.2 Bayesian Robustness . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 303
15.3 Ma rkov Chains . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 306
15.4 Metropolis–Hastings Algor ithm . . . . . . . . . . . . . . . . . . . . . . . . . . . . 309
15.5 Gibbs Sampler . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 11
15.6 Image Restoration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 313
15.7 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 317
16 Asymptotic Optimality . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 19
16.1 Superefficiency . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 319
16.2 Contiguity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 23
16.3 Local Asymptotic Normality . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 27
16.4 Minimax Estimation of a Normal Mean . . . . . . . . . . . . . . . . . . . . 330
16.5 Posterior Distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 335
16.6 Locally Asymptotically Minimax Estimation . . . . . . . . . . . . . . . . 3 39
16.7 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 341
17 Large-Sample Theory for Likelihood Ratio Tests . . . . . . . . . . . 343
17.1 Gener alized Likelihood Ratio Tests . . . . . . . . . . . . . . . . . . . . . . . . 343
17.2 Asymptotic Distribution of 2 log λ . . . . . . . . . . . . . . . . . . . . . . . . . 3 47
17.3 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 353
17.4 Wald and Score Tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 361
17.5 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 363
18 Nonparametric Regression . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 367
18.1 K e rnel Methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 368
18.2 Hilbert Spaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 373
18.3 Splines . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 378
18.4 Density Estimatio n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 384
18.5 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 388
19 Bootstrap Methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 391
19.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 391
19.2 Bias Reduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 394
19.3 Parametric Bootstrap Confidence Intervals . . . . . . . . . . . . . . . . . . 396
19.4 Nonparametric Accurac y for Averages . . . . . . . . . . . . . . . . . . . . . . 399
19.5 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 402
20 Sequential Methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 405
20.1 Fixed Width Confidence Intervals . . . . . . . . . . . . . . . . . . . . . . . . . 406
20.2 Stopping Times and Likelihoods . . . . . . . . . . . . . . . . . . . . . . . . . . . 410
20.3 O ptimal Stopping . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 413
20.4 Sequential Probability Ratio Test . . . . . . . . . . . . . . . . . . . . . . . . . . 4 17
20.5 Sequential Design . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 22