Overcoming generative likelihood bias for voxel-based out-of-distribution detection

Deep learning-based dose prediction is a promising approach to automated radiotherapy planning but carries with it the risk of failing silently when the inputs are highly abnormal compared to the training data. One way to address this issue is to develop a dedicated outlier detector capable of detec...

Full description

Bibliographic Details
Main Author: Lennelöv, Einar
Format: Others
Language:English
Published: KTH, Skolan för elektroteknik och datavetenskap (EECS) 2021
Subjects:
Online Access:http://urn.kb.se/resolve?urn=urn:nbn:se:kth:diva-304326
id ndltd-UPSALLA1-oai-DiVA.org-kth-304326
record_format oai_dc
spelling ndltd-UPSALLA1-oai-DiVA.org-kth-3043262021-11-03T05:30:32ZOvercoming generative likelihood bias for voxel-based out-of-distribution detectionengHanterande av generativ sannolikhetssnedvridning för voxelbaserad anomalidetektionLennelöv, EinarKTH, Skolan för elektroteknik och datavetenskap (EECS)2021Variational autoencoderout-of-distribution detectionlikelihood biasvoxel representationradiation therapyVariationell autokodareanomalidetektionsannolikhetssnedvridningvoxelrepresentationstrålbehandlingComputer and Information SciencesData- och informationsvetenskapDeep learning-based dose prediction is a promising approach to automated radiotherapy planning but carries with it the risk of failing silently when the inputs are highly abnormal compared to the training data. One way to address this issue is to develop a dedicated outlier detector capable of detecting anomalous patient geometries. I examine the potential of so-called generative models to handle this task. These models are promising due to being able to model the distribution of the input data regardless of the downstream task, but they have also been shown to suffer from serious biases when applied to outlier detection. No consensus has been reached regarding the root cause of these biases, or how to address them. I investigate this by attempting to design a variational autoencoder-based outlier detector trained to detect anomalous samples of shapes represented in a binary voxel format. I find the standard procedure application to suffer from severe bias when encountering cropped shapes, leading to systematic misclassification of some outlier patient cases. I overcome this by adopting a segmentation metric as an out-of-distribution metric and show that this outperforms recently proposed general-purpose solutions to the likelihood bias issue. I then benchmark my proposed method on clinical samples and conclude that this approach achieves performance comparable to a one-class support vector machine model that uses handcrafted domain-specific features.  Djupinlärningsbaserad dosprediktion är en mycket lovande metod för att automatiskt generera behandlingsplaner för strålterapi. Djupinlärningsmodeller kan dock endast förväntas fungera på data som är tillräckligt lik träningsdatan, vilket skapar en säkerhetsrisk i kliniska miljöer. Ett möjlig lösning på detta problem är att använda en särskild detektor som klarar av att identifiera avvikande data. I denna uppsats undersöker jag om en generativa djupinlärningsmodell kan användas som en sådan detektor. Generativa modeller är särskilt intressanta för detta ändamål då de är både kraftfulla och flexibla. Dessvärre har generativa modeller visats kunna vilseledas av vissa typer av data. Orsakerna och de underliggande faktorerna till detta har ännu inte identifierats. Jag undersöker denna problematik genom att designa en detektor baserad på en variationell autokodare. Jag upptäcker att den en naiv applikation av denna modell inte är tillräcklig för den kliniska datan, då modellen systematiskt felvärderar beskärda former. Jag löser detta problem genom att nyttja ett modifierat segmenteringsmått som detektionsmått, och visar att denna metod fungerar bättre än mer allmänna lösningar på vilseledningsproblemet. Jag evaluerar metoderna på klinisk data och finner att min metod fungerar lika bra som en en-klass stödvektormaskin som använder sig av handgjorda domänspecifika features. Student thesisinfo:eu-repo/semantics/bachelorThesistexthttp://urn.kb.se/resolve?urn=urn:nbn:se:kth:diva-304326TRITA-EECS-EX ; 2021:614application/pdfinfo:eu-repo/semantics/openAccess
collection NDLTD
language English
format Others
sources NDLTD
topic Variational autoencoder
out-of-distribution detection
likelihood bias
voxel representation
radiation therapy
Variationell autokodare
anomalidetektion
sannolikhetssnedvridning
voxelrepresentation
strålbehandling
Computer and Information Sciences
Data- och informationsvetenskap
spellingShingle Variational autoencoder
out-of-distribution detection
likelihood bias
voxel representation
radiation therapy
Variationell autokodare
anomalidetektion
sannolikhetssnedvridning
voxelrepresentation
strålbehandling
Computer and Information Sciences
Data- och informationsvetenskap
Lennelöv, Einar
Overcoming generative likelihood bias for voxel-based out-of-distribution detection
description Deep learning-based dose prediction is a promising approach to automated radiotherapy planning but carries with it the risk of failing silently when the inputs are highly abnormal compared to the training data. One way to address this issue is to develop a dedicated outlier detector capable of detecting anomalous patient geometries. I examine the potential of so-called generative models to handle this task. These models are promising due to being able to model the distribution of the input data regardless of the downstream task, but they have also been shown to suffer from serious biases when applied to outlier detection. No consensus has been reached regarding the root cause of these biases, or how to address them. I investigate this by attempting to design a variational autoencoder-based outlier detector trained to detect anomalous samples of shapes represented in a binary voxel format. I find the standard procedure application to suffer from severe bias when encountering cropped shapes, leading to systematic misclassification of some outlier patient cases. I overcome this by adopting a segmentation metric as an out-of-distribution metric and show that this outperforms recently proposed general-purpose solutions to the likelihood bias issue. I then benchmark my proposed method on clinical samples and conclude that this approach achieves performance comparable to a one-class support vector machine model that uses handcrafted domain-specific features.  === Djupinlärningsbaserad dosprediktion är en mycket lovande metod för att automatiskt generera behandlingsplaner för strålterapi. Djupinlärningsmodeller kan dock endast förväntas fungera på data som är tillräckligt lik träningsdatan, vilket skapar en säkerhetsrisk i kliniska miljöer. Ett möjlig lösning på detta problem är att använda en särskild detektor som klarar av att identifiera avvikande data. I denna uppsats undersöker jag om en generativa djupinlärningsmodell kan användas som en sådan detektor. Generativa modeller är särskilt intressanta för detta ändamål då de är både kraftfulla och flexibla. Dessvärre har generativa modeller visats kunna vilseledas av vissa typer av data. Orsakerna och de underliggande faktorerna till detta har ännu inte identifierats. Jag undersöker denna problematik genom att designa en detektor baserad på en variationell autokodare. Jag upptäcker att den en naiv applikation av denna modell inte är tillräcklig för den kliniska datan, då modellen systematiskt felvärderar beskärda former. Jag löser detta problem genom att nyttja ett modifierat segmenteringsmått som detektionsmått, och visar att denna metod fungerar bättre än mer allmänna lösningar på vilseledningsproblemet. Jag evaluerar metoderna på klinisk data och finner att min metod fungerar lika bra som en en-klass stödvektormaskin som använder sig av handgjorda domänspecifika features.
author Lennelöv, Einar
author_facet Lennelöv, Einar
author_sort Lennelöv, Einar
title Overcoming generative likelihood bias for voxel-based out-of-distribution detection
title_short Overcoming generative likelihood bias for voxel-based out-of-distribution detection
title_full Overcoming generative likelihood bias for voxel-based out-of-distribution detection
title_fullStr Overcoming generative likelihood bias for voxel-based out-of-distribution detection
title_full_unstemmed Overcoming generative likelihood bias for voxel-based out-of-distribution detection
title_sort overcoming generative likelihood bias for voxel-based out-of-distribution detection
publisher KTH, Skolan för elektroteknik och datavetenskap (EECS)
publishDate 2021
url http://urn.kb.se/resolve?urn=urn:nbn:se:kth:diva-304326
work_keys_str_mv AT lenneloveinar overcominggenerativelikelihoodbiasforvoxelbasedoutofdistributiondetection
AT lenneloveinar hanterandeavgenerativsannolikhetssnedvridningforvoxelbaseradanomalidetektion
_version_ 1719492385302380544