Förbättring av kvaliten på "adversarial examples" i ljuddomänen

• Main Authors: Zhang, Chenda, Dowling, Gustav
• Format: Others
• Language: Swedish
• Published: KTH, Skolan för teknikvetenskap (SCI) 2019
• Subjects: Engineering and Technology; Teknik och teknologier
• Online Access: http://urn.kb.se/resolve?urn=urn:nbn:se:kth:diva-255800

Syftet med denna studie är att skapa "adversarial exemples" för en tal till text klassificerande modell utan tillgång till den interna strukturen i det neurala nätverk. Tidigare arbete på det här området har visat att "white-box" attacker fungerar, som genererar "adversarial exemples" med mycket hög likhet till originella ljudet och mer bullriga "adversarial exemples" som genereras av "black-box" attacker där dom inte har tillgång till den interna strukturen på det neurala nätverket. Genom att använda en algoritm som iterativt applicerar ljud till ljudfilen och väljer de bästa kandidaterna baserat på utgångsskiktet i det neurala nätverket har vi lyckats skapa nytt ljud som är 98 % likt originalet men lyckas lura tal till text ljud klassificeraren. Genom att utvärdera de genererade kandidaterna baserat på olika likhetsåtgärder mellan den föreslagna kandidaten och den ursprungliga ljudfilen lyckades vi skapa högkvalitativa "black-box adversarial exemples" med hjälp av genetiska algoritmer. === The purpose of this study is to create targeted adversarial examples for an audio classifier without access to the neural networks internal structure. Previous work in this domain has shown white box attacks that generate adversarial examples with very high measures of similarity and more noisy adversarial examples generated by black box attacks. By using an algorithm that iteratively applies noise to the audio file and selects the best candidates based on the output layer of the neural network we have managed to create new audio that is 98\% similar to the original but manages to fool the speech to text audio classifier. By evaluating the generated candidates based on different measures of similarity between the proposed candidate and the original audio file we managed to create high quality black box audio adversarial examples using genetic algorithms.