IT and data governance in the age of artificial intelligence

Abstract

The rapid adoption of artificial intelligence (AI) has increased the need for effective governance approaches that address its technical, organizational, and societal implications. While AI governance has emerged as a distinct research area, it remains unclear to what extent existing IT and data governance literature accommodates the characteristics of AI. This study aims to address this gap by examining how IT and data governance research accounts for AI and its defining characteristics. The study was conducted using a systematic literature review approach, analysing 35 academic studies that discuss IT governance or data governance in the context of AI. The final literature set was analysed using an adapted governance framework focusing on three analytical dimensions: who is governed, what is governed, and how governance is enacted. The findings show that AI-related governance is rarely confined to a single organization and is most often conceptualized at the ecosystem, industry, or societal level. The reviewed literature emphasizes governance objectives such as legal compliance, ethics, trustworthiness, and value creation, while AI’s technical characteristics, such as autonomous learning and adaptive decision-making, are addressed mostly indirectly. In the reviewed IT and data governance literature, governance related to AI is primarily enacted through high-level instruments, including regulation, principles, and conceptual frameworks, with limited attention to concrete mechanisms tailored to AI’s evolving nature. Overall, the study’s conclusions indicate that IT and data governance literature provides a foundation for governing the underlying features of AI but accommodates its characteristics and impact only to a limited extent. These limitations help explain the emergence of AI governance as a distinct research domain and highlight the need for governance approaches that more explicitly address AI’s autonomy and societal impact.

Tekoälyn (AI) nopea käyttöönotto on lisännyt tarvetta tehokkaille hallintamalleille, jotka huomioivat sen tekniset, organisatoriset ja yhteiskunnalliset vaikutukset. Vaikka tekoälyn hallinta on noussut omaksi tutkimusalueekseen, on edelleen epäselvää, missä määrin olemassa oleva IT- ja datanhallintaa koskeva kirjallisuus huomioi tekoälyn ominaispiirteet. Tämä tutkielma tarkastelee tätä tutkimusaukkoa analysoimalla, miten IT- ja datanhallinnan tutkimus käsittelee tekoälyä ja sen keskeisiä ominaisuuksia. Tutkimus toteutettiin laadullisena systemaattisena kirjallisuuskatsauksena, jossa analysoitiin 35 tieteellistä tutkimusta, jotka käsittelevät IT-hallintaa tai datanhallintaa tekoälyn kontekstissa. Kirjallisuutta analysoitiin sovelletun hallintakehyksen avulla, joka keskittyy kolmeen analyyttiseen ulottuvuuteen: kuka on hallinnan kohteena, mitä hallitaan ja miten hallintaa toteutetaan. Tulokset osoittavat, että tekoälyyn liittyvää hallintaa ei useimmiten tarkastella yksittäisen organisaation tasolla, vaan se hahmotetaan laajemmin ekosysteemi-, toimiala- tai yhteiskuntatason järjestelyinä. Kirjallisuudessa korostuvat erityisesti hallinnan tavoitteet, kuten lainmukaisuus, eettisyys, luotettavuus ja arvonluonti, kun taas tekoälyn ominaisuuksia, kuten autonomista oppimista ja mukautuvaa päätöksentekoa, käsitellään pääosin epäsuorasti. Hallintaa toteutetaan ensisijaisesti korkean tason ohjauskeinojen avulla, kuten sääntelyn, periaatteiden ja käsitteellisten viitekehysten kautta, kun taas konkreettisia, tekoälyn kehittyvään luonteeseen räätälöityjä mekanismeja käsitellään vain rajallisesti. Tutkielma osoittaa, että IT- ja datanhallintaa koskeva kirjallisuus tarjoaa lähtökohdan tekoälyn hallinnalle, mutta huomioi sen ominaispiirteet vain rajoitetusti. Nämä rajoitteet osaltaan selittävät tekoälyn hallinnan kehittymistä omaksi tutkimusalueekseen ja korostavat tarvetta hallintamalleille, jotka ottavat nykyistä eksplisiittisemmin huomioon tekoälyn autonomian ja yhteiskunnalliset vaikutukset.