Ethical views on the influence of interactive systems

• Main Authors: Liljekvist, Mirella, Lindberg, Ellen
• Format: Others
• Language: English
• Published: Malmö universitet, Fakulteten för teknik och samhälle (TS) 2020
• Subjects: Influence; Interactive Systems; Artificial Intelligence; Machine Learning; Ethics in IT; Engineering and Technology; Teknik och teknologier
• Online Access: http://urn.kb.se/resolve?urn=urn:nbn:se:mau:diva-20725

Människan har i alla år, och i varierande form, influerat varandra till förändrat beteenden och med dagens tekniska utveckling finns det större möjlighet att analysera stora mängder data och hitta mönster som tidigare varit svårt för människan att nå. Med artificiell intelligens, maskininlärning och data mining-tekniker blir det allt lättare för företag att med teknik individanpassa budskap till användare - dels för att göra användarupplevelsen bättre i interaktiva system, men också för att i en förlängning påverka användare att förändra sitt beteende i utvalda situationer. Detta blev tydligt år 2018 när Cambridge Analytica-skandalen blev känd för allmänheten som en situation där data utvunnits för att påverka användare i det amerikanska presidentvalet 2016. Det stod då klart att de tekniska möjligheterna till såväl insamling, analysering och användningen av data är större än vi tidigare trott.För att undersöka användares etiska inställning till påverkan via interaktiva system utfördes denna studie. Grunden för studien bygger på tidigare forskning inom såväl mänsklig påverkan, etik inom IT och dagens digitala tekniker för dataanalys. Genom en enkät och intervjuer med faktiska användare undersöktes användares inställning till påverkan i olika situationer och genom olika tekniska enheter. Studien undersökte även om det finns någon skillnad i inställning mellan användare av interaktiva system och utvecklare av interaktiva system. Resultatet av studien visar att användare inte gör skillnad på påverkan genom olika enheter, utan att det är situationerna i sig som avgör användarens etiska inställning till påverkan. Utvecklare skattar sig generellt mer positiva till påverkan via interaktiva system än vad användare gör, men resultaten av studien visar ändå att situationerna av påverkan spelar större roll än de tekniska enheterna. Genom studiens intervjuer bekräftades enkätens resultat samtidigt som det blev uppenbart att användare av interaktiva system inte vill bli påverkade, men att många av dem också känner sig så pass medvetna att de själva kan välja bort att bli påverkade. === Humans have always, and in different ways, influenced each other’s behaviors and with today's technological development there are greater opportunities for analysis of large amounts of data to find patterns that were previously difficult to find. With artificial intelligence, machine learning and data mining techniques, it is becoming easier and easier for companies to tailor make individual messages to users - both to make the user experience better in interactive systems, but also to influence users to change their behavior in specific situations. This became clear in 2018 when the Cambridge Analytica scandal became known to the public, where data was extracted to influence users in the 2016 US presidential election. This made it clear that the technical possibilities of collecting, analyzing and using data were greater than previously known.This study was conducted in order to examine the ethical views of users on influence through interactive systems. The study is based on previous research on influence, the ethics of IT and today's digital data analysis techniques. Through a survey and interviews, users' views on influence in different situations and through different devices were examine. The study also examined whether there is any difference in views between users of interactive systems and developers of interactive systems.The results of the study show that users do not make a difference in the influence through different devices, but that the situations in which the influence occurs determine the user's ethical views towards the influence. Developers generally feel more positive about influence through interactive systems than users do, but the results of the study still show that the situations play a greater role than the technical devices. Through the study's interviews, the results of the survey were confirmed. It became clear that users of interactive systems do not want to be influenced, but that many of them also feel so aware of influence that they can choose not to be influenced.