Ethics and democratic resilience in the age of pervasive digital systems – A Rawlsian approach

Abstract

Pervasive digital systems challenge our understanding of technology on people, societies and the environment. While they come with a promise of making our lives easier, they have raised ethical questions. Pervasive digital systems also influence democratic societies, putting the resilience of liberal democracy to the test. Yet, we lack deep understanding of these impacts, how to study them, and how we – as complex societies – can steer the development of pervasive digital systems towards an ethical direction.

To address this challenge, this dissertation takes a critical stance in order to 1) develop a research approach for studying ethical and societal impacts of pervasive digital systems, 2) shed light on the ethical direction in development and deployment of pervasive digital systems, and 3) increase understanding of how the ethical dimensions influence the fundamentals of democratic societies. The dissertation takes artificial intelligence (AI) as a contemporary example and studies the AI ethics discourse in the context of European AI regulation. It draws from John Rawls’s theory of justice as fairness to evaluate the implications of AI from the perspectives of ethics and democratic resilience. It uses critical-political discourse studies as a research approach for empirical analyses.

As a result, this dissertation offers a research approach to study ethical and societal impacts of pervasive digital systems. It introduces a set of ethics guidelines for AI systems, as well as a framework for providers on ethical questions they need to consider beyond EU AI Act compliance. It also proposes a framework for the basic structure of society with which to steer the development of pervasive digital systems towards supporting, rather than eroding, democratic resilience.

This dissertation is thus a significant contribution to both Information Systems (IS) theory and practice. It builds on seminal works in critical IS research and advances the study of sociotechnical ISs, all while offering frameworks for practitioners to take the research into practice. By virtue of grounding the empirical studies on moral and political philosophy, this research strengthens the ethical rigour of IS ethics research and works towards a more holistic understanding of ethics of digital ecosystems.

Läpitunkevat digitaaliset järjestelmät (pervasive digital systems) ovat haastaneet yhä useamman miettimään teknologian vaikutuksia ihmisiin, yhteiskuntaan ja ympäristöön. Vaikka ne tuovat mukanaan usein lupauksen helpommasta arjesta ja mukavammasta elämästä, ne nostavat samalla esiin haastavia eettisiä kysymyksiä. Yksilöihin kohdistuvien vaikutusten lisäksi läpitunkevat digitaaliset järjestelmät vaikuttavat yhteiskunnallisiin rakenteisiin ja demokratian kantokykyyn. Emme kuitenkaan täysin ymmärrä näiden tietojärjestelmien vaikutuksia, miten niitä voitaisiin tutkia ja mitata, ja miten vaikutuksiin voitaisiin tosielämässä reagoida.

Tämä tutkimus 1) tuo tutkimusmenetelmällinen lähestymistapa läpitunkevien digitaalisten järjestelmien eettisten ja yhteiskunnallisten vaikutusten tutkimiseen, 2) lisää ymmärrystä läpitunkevien digitaalisten järjestelmien eettisestä suunnasta, sekä 3) lisää tietoa siitä, miten ne vaikuttavat demokraattisten yhteiskuntien rakenteisiin. Väitöskirjassa keskitytään tekoälyjärjestelmiin ja tarkastellaan tekoälyetiikan diskurssia eurooppalaisessa regulaatiossa. Analyysi perustuu John Rawlsin oikeudenmukaisuusteoriaan. Empiiriset osatutkimukset käyttävät Rawlsin teoriaa pohjana, jota vasten tekoälyn voidaan arvioida. Tutkimusmenetelmänä käytetään kriittis-poliittista diskurssintutkimusta.

Tutkimus tuottaa analyyttisen tutkimusmenetelmällisen viitekehyksen, jolla voimme tutkia läpitunkevien digitaalisten järjestelmien eettisiä ja yhteiskunnallisia vaikutuksia. Lisäksi se tuottaa Rawlsin teoriaan perustuvat tekoälyn eettiset periaatteet sekä järjestelmien tarjoajille suunnatun viitekehyksen, joka tuo etiikan osaksi ohjelmistokehitystä. Se tarjoaa myös yhteiskunnan perusrakenteeseen kuuluville instituutioille mallin, jonka avulla teknologiakehitystä voidaan ohjata eettisempään suuntaan tavalla, joka tukee myös demokratian kantokykyä.

Tämä väitöskirja on siten merkittävä kontribuutio tietojärjestelmätieteen teoriaan ja käytäntöön. Se vie eteenpäin merkittäviä kriittisen tietojärjestelmätieteen tutkimuksia ja edistää sosioteknistä tutkimusperinnettä. Samalla se tuo alalle viitekehyksiä, joilla löydöksiä voidaan viedä kohti käytäntöä. Väitöskirjan empiiriset tutkimukset perustuvat moraali- ja yhteiskuntafilosofiaan, minkä ansiosta tutkimus vahvistaa tietojärjestelmätieteen etiikan teoreettista lujuutta ja uskottavuutta sekä vie alaa kohti holistista ymmärrystä digitaalisten ekosysteemien eettisyydestä.