Koulutusdatan myrkytys chatboteissa

Abstract

Nykypäivän tekoälyllä ja koneoppimisella voidaan luoda hyvin käteviä ja avuliaita sovelluksia, chatbotteja, jotka pystyvät vastaamaan käyttäjänsä kysymyksiin ja auttamaan useissa eri tehtävissä. Chatbottien toimintaa uhkaa kuitenkin koulutusdatan myrkytys, joka vaikuttaa negatiivisesti chatbottien luotettavuuteen ja toiminnallisuuteen. Tämä kirjallisuuskatsaus tutkii chatbotteja osana tekoälyä ja niiden haavoittuvuutta koulutusdatan myrkytykselle. Työssä käsitellään koulutusdatan myrkytyksen vaikutuksia, jotka voivat ilmetä esimerkiksi käytettävyyshyökkäyksinä, takaovimyrkytyksenä tai mallin heikentämisenä. Näiden hyökkäysten seuraukset näkyvät erityisesti chatbot-sovellusten toiminnassa ja luotettavuudessa. Lisäksi työssä esitellään keinoja myrkytysten tunnistamiseen ja ehkäisemiseen, kuten datan suodattaminen ja puhdistaminen sekä mallien kehittäminen turvallisemmiksi. Teoriaa tukevat tapausesimerkit, jotka havainnollistavat myrkytyksen vaikutuksia käytännössä. Lopuksi esitetään yhteenveto keskeisistä havainnoista ja toimenpiteistä, joilla chatbotteja voidaan suojata koulutusdatan myrkytykseltä ja niiden suorituskykyä parantaa. Tämän kirjallisuuskatsauksen tavoitteena on lisätä ymmärrystä chatbotteihin kohdistuvista riskeistä ja tarjota ratkaisuja niiden ehkäisemiseksi, tukien näin tekoälyjärjestelmien turvallisuutta ja luotettavuutta.