Augmenting High-Dimensional Data with Deep Generative Models

Data augmentation is a technique that can be performed in various ways to improve the training of discriminative models. The recent developments in deep generative models offer new ways of augmenting existing data sets. In this thesis, a framework for augmenting annotated data sets with deep generat...

Full description

Bibliographic Details
Main Author: Nilsson, Mårten
Format: Others
Language:English
Published: KTH, Robotik, perception och lärande, RPL 2018
Subjects:
GAN
VAE
eye
Online Access:http://urn.kb.se/resolve?urn=urn:nbn:se:kth:diva-233969
id ndltd-UPSALLA1-oai-DiVA.org-kth-233969
record_format oai_dc
spelling ndltd-UPSALLA1-oai-DiVA.org-kth-2339692018-09-21T05:54:08ZAugmenting High-Dimensional Data with Deep Generative ModelsengHögdimensionell dataaugmentering med djupa generativa modellerNilsson, MårtenKTH, Robotik, perception och lärande, RPL2018GANGANsmachine learningdeep learninggenerative modelgenerative modelsdeep generative modeldeep generative modelsgenerative adversarial networksVAEVAEsvariational autoencodervariational autoencodersautoencoderauto encoderencoderdecodercomputer visioneye trackingpupil localizationpupileyeseyesynthetic databig datadata generationsynthetic data generationneural networksneural networkhigh-dimensional datahigh-resolution images.Computer SciencesDatavetenskap (datalogi)Data augmentation is a technique that can be performed in various ways to improve the training of discriminative models. The recent developments in deep generative models offer new ways of augmenting existing data sets. In this thesis, a framework for augmenting annotated data sets with deep generative models is proposed together with a method for quantitatively evaluating the quality of the generated data sets. Using this framework, two data sets for pupil localization was generated with different generative models, including both well-established models and a novel model proposed for this purpose. The unique model was shown both qualitatively and quantitatively to generate the best data sets. A set of smaller experiments on standard data sets also revealed cases where this generative model could improve the performance of an existing discriminative model. The results indicate that generative models can be used to augment or replace existing data sets when training discriminative models. Dataaugmentering är en teknik som kan utföras på flera sätt för att förbättra träningen av diskriminativa modeller. De senaste framgångarna inom djupa generativa modeller har öppnat upp nya sätt att augmentera existerande dataset. I detta arbete har ett ramverk för augmentering av annoterade dataset med hjälp av djupa generativa modeller föreslagits. Utöver detta så har en metod för kvantitativ evaulering av kvaliteten hos genererade data set tagits fram. Med hjälp av detta ramverk har två dataset för pupillokalisering genererats med olika generativa modeller. Både väletablerade modeller och en ny modell utvecklad för detta syfte har testats. Den unika modellen visades både kvalitativt och kvantitativt att den genererade de bästa dataseten. Ett antal mindre experiment på standardiserade dataset visade exempel på fall där denna generativa modell kunde förbättra prestandan hos en existerande diskriminativ modell. Resultaten indikerar att generativa modeller kan användas för att augmentera eller ersätta existerande dataset vid träning av diskriminativa modeller. Student thesisinfo:eu-repo/semantics/bachelorThesistexthttp://urn.kb.se/resolve?urn=urn:nbn:se:kth:diva-233969TRITA-EECS-EX ; 2018:505application/pdfinfo:eu-repo/semantics/openAccess
collection NDLTD
language English
format Others
sources NDLTD
topic GAN
GANs
machine learning
deep learning
generative model
generative models
deep generative model
deep generative models
generative adversarial networks
VAE
VAEs
variational autoencoder
variational autoencoders
autoencoder
auto encoder
encoder
decoder
computer vision
eye tracking
pupil localization
pupil
eyes
eye
synthetic data
big data
data generation
synthetic data generation
neural networks
neural network
high-dimensional data
high-resolution images.
Computer Sciences
Datavetenskap (datalogi)
spellingShingle GAN
GANs
machine learning
deep learning
generative model
generative models
deep generative model
deep generative models
generative adversarial networks
VAE
VAEs
variational autoencoder
variational autoencoders
autoencoder
auto encoder
encoder
decoder
computer vision
eye tracking
pupil localization
pupil
eyes
eye
synthetic data
big data
data generation
synthetic data generation
neural networks
neural network
high-dimensional data
high-resolution images.
Computer Sciences
Datavetenskap (datalogi)
Nilsson, Mårten
Augmenting High-Dimensional Data with Deep Generative Models
description Data augmentation is a technique that can be performed in various ways to improve the training of discriminative models. The recent developments in deep generative models offer new ways of augmenting existing data sets. In this thesis, a framework for augmenting annotated data sets with deep generative models is proposed together with a method for quantitatively evaluating the quality of the generated data sets. Using this framework, two data sets for pupil localization was generated with different generative models, including both well-established models and a novel model proposed for this purpose. The unique model was shown both qualitatively and quantitatively to generate the best data sets. A set of smaller experiments on standard data sets also revealed cases where this generative model could improve the performance of an existing discriminative model. The results indicate that generative models can be used to augment or replace existing data sets when training discriminative models. === Dataaugmentering är en teknik som kan utföras på flera sätt för att förbättra träningen av diskriminativa modeller. De senaste framgångarna inom djupa generativa modeller har öppnat upp nya sätt att augmentera existerande dataset. I detta arbete har ett ramverk för augmentering av annoterade dataset med hjälp av djupa generativa modeller föreslagits. Utöver detta så har en metod för kvantitativ evaulering av kvaliteten hos genererade data set tagits fram. Med hjälp av detta ramverk har två dataset för pupillokalisering genererats med olika generativa modeller. Både väletablerade modeller och en ny modell utvecklad för detta syfte har testats. Den unika modellen visades både kvalitativt och kvantitativt att den genererade de bästa dataseten. Ett antal mindre experiment på standardiserade dataset visade exempel på fall där denna generativa modell kunde förbättra prestandan hos en existerande diskriminativ modell. Resultaten indikerar att generativa modeller kan användas för att augmentera eller ersätta existerande dataset vid träning av diskriminativa modeller.
author Nilsson, Mårten
author_facet Nilsson, Mårten
author_sort Nilsson, Mårten
title Augmenting High-Dimensional Data with Deep Generative Models
title_short Augmenting High-Dimensional Data with Deep Generative Models
title_full Augmenting High-Dimensional Data with Deep Generative Models
title_fullStr Augmenting High-Dimensional Data with Deep Generative Models
title_full_unstemmed Augmenting High-Dimensional Data with Deep Generative Models
title_sort augmenting high-dimensional data with deep generative models
publisher KTH, Robotik, perception och lärande, RPL
publishDate 2018
url http://urn.kb.se/resolve?urn=urn:nbn:se:kth:diva-233969
work_keys_str_mv AT nilssonmarten augmentinghighdimensionaldatawithdeepgenerativemodels
AT nilssonmarten hogdimensionelldataaugmenteringmeddjupagenerativamodeller
_version_ 1718734689908293632