Erweiterte Suche

Bayesian inversion in biomedical imaging

Biomedizinische Bildgebung ist zu einer Schlüsseltechnik geworden, Struktur oder Funktion lebender Organismen nicht-invasiv zu untersuchen. Relevante Informationen aus den gemessenen Daten zu rekonstruieren erfordert neben mathematischer Modellierung und numerischer Simulation das verlässliche Lösen schlecht gestellter inverser Probleme. Um dies zu erreichen müssen zusätzliche a-priori Informationen über die zu rekonstruierende Größe formuliert und in die algorithmischen Lösungsverfahren einbezogen werden. Bayesianische Invertierung ist eine spezielle mathematische Methodik dies zu tun. Die vorliegende Arbeit entwickelt eine aktuelle Übersicht Bayesianischer Invertierung und demonstriert die vorgestellten Konzepte und Algorithmen in verschiedenen numerischen Studien, darunter anspruchsvolle Anwendungen aus der biomedizinischen Bildgebung mit experimentellen Daten. Ein Schwerpunkt liegt dabei auf der Verwendung von Dünnbesetztheit/Sparsity als a-priori Information.

Biomedical imaging techniques became a key technology to assess the structure or function of living organisms in a non-invasive way. Besides innovations in the instrumentation, the development of new and improved methods for processing and analysis of the measured data has become a vital field of research. Building on traditional signal processing, this area nowadays also comprises mathematical modeling, numerical simulation and inverse problems. The latter describes the reconstruction of quantities of interest from measured data and a given generative model. Unfortunately, most inverse problems are ill-posed, which means that a robust and reliable reconstruction is not possible unless additional a-priori information on the quantity of interest is incorporated into the solution method. Bayesian inversion is a mathematical methodology to formulate and employ a-priori information in computational schemes to solve the inverse problem. This thesis develops a recent overview on Bayesian inversion and exemplifies the presented concepts and algorithms in various numerical studies including challenging biomedical imaging applications with experimental data. A particular focus is on using sparsity as a-priori information within the Bayesian framework.

Titel: Bayesian inversion in biomedical imaging
Verfasser: Lucka, Felix GND
Gutachter: Burger, Martin
Organisation: FB 10: Mathematik und Informatik
Dokumenttyp: Dissertation/Habilitation
Medientyp: Text
Erscheinungsdatum: 2015
Publikation in MIAMI: 09.02.2015
Datum der letzten Änderung: 27.07.2015
Schlagwörter: Bayesianische Statistik, Biomedizinische Bildgebung, inverse Probleme, Sparsity, Computertomographie, Elektroenzephalographie, Magnetoenzephalographie
Bayesian inference; biomedical imaging; inverse problems; sparsity; computed tomography; electroencephalography; magnetoencephalography
Fachgebiete: Mathematik
Sprache: Englisch
Format: PDF-Dokument
URN: urn:nbn:de:hbz:6-80359613770
Permalink: https://nbn-resolving.org/urn:nbn:de:hbz:6-80359613770
Onlinezugriff:
Inhalt:
Contents vii
Notation and Abbreviations xv
1 Introduction 1
1.1 Biomedical Imaging . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 Inverse Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
1.3 Sparsity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.4 Organization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.5 Notes and Comments . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
2 Computational Scenarios 13
2.1 Inverse Crimes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
2.2 Image Deblurring . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
2.2.1 Boxcar Reconstruction in 1D . . . . . . . . . . . . . . . . . . . . 14
2.2.2 Point Source Reconstruction in 2D . . . . . . . . . . . . . . . . . 15
2.3 Computed Tomography . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
2.3.1 The Radon Transform . . . . . . . . . . . . . . . . . . . . . . . . 17
2.3.2 Computational Model for Computed Tomography . . . . . . . . . 18
2.3.3 Computational Scenarios . . . . . . . . . . . . . . . . . . . . . . 21
2.3.4 Notes and Comments . . . . . . . . . . . . . . . . . . . . . . . . 22
2.4 EEG/MEG Source Reconstruction . . . . . . . . . . . . . . . . . . . . . . 24
2.4.1 Computational Model for EEG/MEG Source Reconstruction . . . . 25
2.4.2 Computational Scenarios . . . . . . . . . . . . . . . . . . . . . . 27
2.4.3 Notes and Comments . . . . . . . . . . . . . . . . . . . . . . . . 30
3 The Bayesian Approach to Inverse Problems 33
3.1 Stochastic Noise Modeling . . . . . . . . . . . . . . . . . . . . . . . . . 35
3.2 Bayesian Modeling . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
3.2.1 General Concepts . . . . . . . . . . . . . . . . . . . . . . . . . . 39
3.2.2 Incorporating Hard Constraints . . . . . . . . . . . . . . . . . . . 40

3.2.3 Gibbs Priors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
3.2.4 Gibbs Priors Based on lqp-Norms . . . . . . . . . . . . . . . . . . 41
3.2.5 Heavy-tailed Prior Models . . . . . . . . . . . . . . . . . . . . . . 49
3.2.6 Normalization and Improper Priors . . . . . . . . . . . . . . . . . 52
3.3 Hierarchical Bayesian Modeling . . . . . . . . . . . . . . . . . . . . . . 53
3.3.1 Conditionally lp Hypermodels . . . . . . . . . . . . . . . . . . . . 54
3.3.2 Hyperprior Modeling . . . . . . . . . . . . . . . . . . . . . . . . 55
3.3.3 Implicit Priors . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
3.3.4 Notes and Comments . . . . . . . . . . . . . . . . . . . . . . . . 58
3.4 Bayesian Estimation and Decision Theory . . . . . . . . . . . . . . . . . 60
3.4.1 Bayesian Estimators . . . . . . . . . . . . . . . . . . . . . . . . . 60
3.4.2 Bayes Cost Method . . . . . . . . . . . . . . . . . . . . . . . . . 61
3.4.3 MAP or CM Estimation: The Classical View . . . . . . . . . . . . . 62
3.4.4 Notes and Comments . . . . . . . . . . . . . . . . . . . . . . . . 64
3.5 Recovery Conditions for MAP Estimates . . . . . . . . . . . . . . . . . . 64
3.5.1 Uniform Recovery Conditions . . . . . . . . . . . . . . . . . . . . 66
3.5.2 Non-uniform Conditions . . . . . . . . . . . . . . . . . . . . . . . 67
3.5.3 Stable and Robust Conditions . . . . . . . . . . . . . . . . . . . 68
3.5.4 Source Conditions . . . . . . . . . . . . . . . . . . . . . . . . . . 69
3.5.5 Block-Sparsity . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71
3.5.6 Notes and Comments . . . . . . . . . . . . . . . . . . . . . . . . 73
3.6 Selected Advanced Topics . . . . . . . . . . . . . . . . . . . . . . . . . 74
3.6.1 Infinite Dimensional Bayesian Inversion . . . . . . . . . . . . . . 74
3.6.2 Bayesian Treatment of Nuisance Parameters . . . . . . . . . . . . 76
3.7 Notes and Comments . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79
4 Bayesian Computation 81
4.1 Posterior Sampling Methods . . . . . . . . . . . . . . . . . . . . . . . . 82
4.1.1 Monte Carlo Integration . . . . . . . . . . . . . . . . . . . . . . . 82
4.1.2 Direct Sampling Methods . . . . . . . . . . . . . . . . . . . . . . 83
4.1.3 Markov Chain Monte Carlo Methods . . . . . . . . . . . . . . . . 85
4.1.4 Metropolis Hastings Sampling . . . . . . . . . . . . . . . . . . . 88
4.1.5 Gibbs Sampling . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
4.1.6 MCMC Convergence Diagnostics . . . . . . . . . . . . . . . . . . 93
4.1.7 SC Gibbs Posterior Sampling . . . . . . . . . . . . . . . . . . . . 97
4.1.8 Direct SC Gibbs Posterior Sampling . . . . . . . . . . . . . . . . 100
4.1.9 Slice Sampling . . . . . . . . . . . . . . . . . . . . . . . . . . . 101
4.1.10 Slice Sampling Withing SC Gibbs Posterior Sampling . . . . . . . 104

4.1.11 Posterior Sampling for Hierarchical Bayesian Models . . . . . . . 105
4.1.12 Notes and Comments . . . . . . . . . . . . . . . . . . . . . . . . 105
4.2 Posterior Optimization Methods . . . . . . . . . . . . . . . . . . . . . . 106
4.2.1 Least Squares Methods for Gaussian Priors . . . . . . . . . . . . 106
4.2.2 ADMM Methods for Log-Concave Priors . . . . . . . . . . . . . . 106
4.2.3 Parameter Fitting for lqp Priors . . . . . . . . . . . . . . . . . . . . 111
4.2.4 Simulated Annealing . . . . . . . . . . . . . . . . . . . . . . . . 112
4.2.5 Alternating Optimization for Hierarchical Bayesian Models . . . . 114
4.3 Iterative Optimization and MCMC Sampling . . . . . . . . . . . . . . . . 116
4.3.1 Over-relaxation Techniques . . . . . . . . . . . . . . . . . . . . . 117
4.3.2 Notes and Comments . . . . . . . . . . . . . . . . . . . . . . . . 120
4.4 Computation of Recovery Conditions . . . . . . . . . . . . . . . . . . . . 120
5 Computational Studies 123
5.1 Evaluation of the Computational Methods . . . . . . . . . . . . . . . . . 123
5.1.1 Prior Sampling . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123
5.1.2 Comparison of MCMC Samplers for l1 priors . . . . . . . . . . . . 123
5.1.3 Examination of the Slice Sampler . . . . . . . . . . . . . . . . . . 131
5.1.4 Oriented Overrelaxation Studies . . . . . . . . . . . . . . . . . . 133
5.1.5 Simulated Annealing Studies . . . . . . . . . . . . . . . . . . . . 136
5.2 General Bayesian Inversion Studies . . . . . . . . . . . . . . . . . . . . 139
5.2.1 “Spots” Reconstruction with an l1 Prior . . . . . . . . . . . . . . 139
5.2.2 The Discretization Dilemma of the TV Prior . . . . . . . . . . . . . 140
5.2.3 q-TV Priors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144
5.2.4 p-TV Priors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146
5.2.5 lp Hypermodels . . . . . . . . . . . . . . . . . . . . . . . . . . . 146
5.2.6 Besov Priors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 148
5.3 Computed Tomography Studies . . . . . . . . . . . . . . . . . . . . . . . 153
5.3.1 Measurement Setup . . . . . . . . . . . . . . . . . . . . . . . . . 153
5.3.2 Noise Modeling . . . . . . . . . . . . . . . . . . . . . . . . . . . 154
5.3.3 Reconstruction Results . . . . . . . . . . . . . . . . . . . . . . . 157
5.3.4 Discussion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158
5.4 EEG/MEG Source Reconstruction Studies . . . . . . . . . . . . . . . . . 163
5.4.1 Head Model Generation . . . . . . . . . . . . . . . . . . . . . . . 163
5.4.2 Head Model Cascade . . . . . . . . . . . . . . . . . . . . . . . . 166
5.4.3 Source Space Construction and Forward Computation . . . . . . . 168
5.4.4 Hierarchical Bayesian Inversion Studies for EEG, MEG and EMEG . 172
5.4.5 Auditory and Somatosensory Evoked Potentials and Fields . . . . 179

5.4.6 Sparse Recovery Conditions . . . . . . . . . . . . . . . . . . . . 195
6 Classical Bayesian Theory Revisited 203
6.1 MAP or CM Estimation Revisited . . . . . . . . . . . . . . . . . . . . . . 203
6.1.1 Converse Observations and Results . . . . . . . . . . . . . . . . 203
6.1.2 A Novel Characterization of the MAP Estimate . . . . . . . . . . . 205
6.2 Sparsity in Bayesian Inversion . . . . . . . . . . . . . . . . . . . . . . . 210
6.2.1 The lp Approach to Sparsity . . . . . . . . . . . . . . . . . . . . . 211
6.2.2 The HBM Approach to Sparsity . . . . . . . . . . . . . . . . . . . 212
6.2.3 Comparison and Fusion . . . . . . . . . . . . . . . . . . . . . . . 213
7 Conclusion, Outlook and Perspectives 217
7.1 Bayesian Inversion as a General Framework for Biomedical Imaging . . . 217
7.2 MAP and CM Estimation . . . . . . . . . . . . . . . . . . . . . . . . . . . 218
7.3 Prior Models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219
7.4 Bayesian Computation . . . . . . . . . . . . . . . . . . . . . . . . . . . 221
A Appendix I
A.1 Subdifferentials and Bregman Distances . . . . . . . . . . . . . . . . . . I
A.2 Application Specific Implementation Details . . . . . . . . . . . . . . . . IV
A.3 Implementation Details of the 1 Sampler . . . . . . . . . . . . . . . . . VIII
A.4 Implementation Details of the TV Slice Sampler . . . . . . . . . . . . . . XII
A.5 Implementation Details of ADMM . . . . . . . . . . . . . . . . . . . . . . XIV
A.6 Implementation Details of Simulated Annealing . . . . . . . . . . . . . . XVI
A.7 Validation Measures for EMEG Studies . . . . . . . . . . . . . . . . . . . XVII
A.8 Software . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . XVIII
A.9 Publications and Presentations Related to the Thesis . . . . . . . . . . . XXII
A.10 Additional Figures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . XXIV
A.11 Additional Tables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . XXVI
Bibliography XLV