Tekoälyn hyödyntäminen haitallisten sisältöjen hallinnassa sosiaalisessa mediassa

Abstract

Sosiaalisen median alustojen suosio on kasvanut merkittävästi ja nykyään sosiaalisen median käyttäjiä on miljardeja. Moni alusta on keskittynyt johonkin tiettyyn sisältötyyppiin ja uusia alustoja tulee jatkuvasti lisää. Käyttäjien luomaa sisältöä on valtavasti ja sitä esiintyy tekstinä, kuvina, videoina ja äänitteinä. Sisältömäärien kasvaessa myös erilaisten haitallisten sisältöjen, kuten vihapuheen määrä on kasvanut. Alustojen ja teknologian kehittyessä myös sisällönhallinta on uudistunut. Siinä käytettävät menetelmät ovat kehittyneet ja muuttuneet ajan myötä vastaamaan kasvaneeseen sisältömäärään. Sisällönhallinnan tehtävissä on alettu hyödyntää laajemmin tekoälymenetelmiä, joiden avulla voidaan suorittaa laajamittaista ja nopeaa sisällön analysointia. Tekoälyn rooli sisällönhallinnassa on erityisen tärkeä, koska sen avulla sisällönhallintaa voidaan skaalata resurssitehokkaasti. Eri alustatyypeillä voidaan hyödyntää eri tekoälymenetelmiä riippuen sisältötyypistä. Tutkielmassa käsiteltävien tekoälymenetelmien, eli koneoppimisen, syväoppimisen ja luonnollisen kielen käsittelyn avulla voidaan käsitellä vaihtelevia sisältötyyppejä. Alustojen sisällönhallinnassa on vaihtelevuutta myös ihmisten ja tekoälyn käytön suhteen. Jotkut alustat voivat käyttää pelkästään ihmisiä sisällönhallintaan, toiset pelkästään tekoälyä tai lähestymistapaa, jossa hyödynnetään molempia. Parhaat lopputulokset sisällönhallinnassa saavutetaan yhdistämällä tekoälyn ja ihmisten parhaat puolet. Vaikka tekoäly tarjoaa merkittäviä mahdollisuuksia, sen käyttöön liittyy myös teknisiä ja käytännön haasteita. Näitä ovat muun muassa virheelliset luokitukset, kontekstin väärinymmärrys, hallusinointi eli tekaistun tiedon tuottaminen sekä opetusdataan liittyvät haasteet. Tutkielmassa pohditaan myös tekoälyn käyttöön liittyviä eettisiä kysymyksiä, kuten puolueellisuutta ja tekoälyn toiminnan läpinäkymättömyyttä. Tässä tutkielmassa määritellään mitä haitallinen sisältö on, jaotellaan sosiaalisen median alustatyypit, käsitellään haitallisten sisältöjen hallinnan kannalta keskeisiä tekoälymenetelmiä ja tekoälyn haasteita. Tutkielma on toteutettu kirjallisuuskatsauksena. Suurin osa käytetyistä lähteistä ovat vertaisarvioituja tieteellisiä artikkeleja, jotka käsittelevät tutkielman eri aihealueita.