Mitä vastuullisuuden periaatteita noudatamme tekoälyn käytössä?
Helsinki on määritellyt kestävän digikehittämisen edistämiksi datan ja tekoälyn hyödyntämisen eettiset periaatteet. Periaatteet on tehty, koska kaupunkimme haluaa käyttää dataa ja tekoälyä vastuullisesti sekä toimia suunnannäyttäjänä muille. Datan ja tekoälyn hyödyntämisessä on valtavasti mahdollisuuksia, mutta se pitää toteuttaa eettisesti kestävällä tavalla.
Sovellamme tekoälyn kehitykseen ja käyttöön kahdeksaa eettistä periaatetta:
Ihmislähtöisyys
Julkisena toimijana palvelemme ihmisiä ja yhteisöjä. Siksi kehitämme dataa ja tekoälyä hyödyntäviä palveluita ihmisten hyväksi ja heitä kuunnellen.
Läpinäkyvyys
Ihmisillä tulee olla mahdollisuus saada tietoa datan ja tekoälyn hyödyntämisestä ymmärrettävässä muodossa, jotta he voivat arvioida kaupungin toimintaa. Voimme lisätä luottamusta vain avoimuuden kautta. Siksi viestimme mahdollisimman ymmärrettävästi, miten ja missä hyödynnämme dataa ja tekoälyä. Pyrimme aktiivisesti jakamaan kaiken keskeisen tiedon, ellei lainsäädäntö sitä estä. Tuomme datan tunnistetut puutteet esille. Mikäli mahdollista, jaamme myös lähdekoodin.
Selitettävyys
Jos datan ja tekoälyn hyödyntämiseen liittyy merkittäviä riskejä, pystymme selittämään yksittäisen tuloksen tai algoritmin yleisen toimintalogiikan ymmärrettävästi. Selitettävyys edistää järjestelmän vaikutusten hallintaa. Jos tekoälyn toiminnalla on oikeusvaikutuksia, selitettävyys auttaa meitä varmistamaan asiakkaan oikeuksien toteutumisen.
Oikeudenmukaisuus ja yhdenvertaisuus
Datan hyödyntämisen ja tekoälyratkaisujen lähtökohtana on jokaisen ihmisarvon ja oikeuksien kunnioittaminen. Datan hyödyntäminen ja tekoälyjärjestelmät voivat toistaa ja voimistaa olemassa olevia syrjiviä rakenteita. Siksi huomioimme mahdolliset vinoumat datassa ja algoritmeissa, ja puutumme niihin tarvittaessa. Käytämme tarvittaessa positiivista erityiskohtelua tasa-arvon ja yhdenvertaisuuden edistämiseksi.
Vastuu ja luottamus
Haluamme, että asiakas voi luottaa toimintaamme dataa ja tekoälyä hyödynnettäessä. Osoitamme jokaiselle tekoälyä hyödyntävälle palvelulle vastuutahon, johon asiakkaillamme on mahdollisuus saada yhteys. Vastuutaho huolehtii, että datan ja tekoälyn eettisiä periaatteita noudatetaan.
Yksityisyys
Käsittelemme henkilötietoja huolellisesti ja tietoturvallisesti datan koko elinkaaren ajan. Kun huolehdimme yksityisyydestä, voimme hyödyntää dataa turvallisesti ja luotettavasti.
Ihmisen kontrollissa
Joissain tilanteissa järjestelmän riskien hallinta vaatii ihmisen kontrollia. Tällöin varmistamme, että vastuussa oleva henkilö pystyy seuraamaan ja valvomaan järjestelmän toimintaa sekä tarvittaessa puuttumaan siihen. Tekoälyjärjestelmä ei voi oppia kaikkia mahdollisia tilanteita. Virhepäätelmän tai teknisen vian riski on aina olemassa. Voimme reagoida yllättäviin tilanteisiin ja vaikutuksiin, kun järjestelmä on ihmisen kontrollissa.
Turvallisuus
Varmistamme, että dataa ja tekoälyä hyödyntävät järjestelmät ovat hyvin suojattuja ja hallittuja. Tunnistamme ja minimoimme mahdolliset riskit datassa ja sen käsittelyssä sekä tekoälyjärjestelmissä ja niiden hyödyntämisessä. Riskienhallinta saattaa rajoittaa mahdollisuutta jakaa tietoa järjestelmistä. Minimoimme mahdolliset turvallisuusriskit, jotta kaupunkilainen voi hyötyä datan ja tekoälyn käytöstä.
Helsinki tuottaa ja hyödyntää dataa asukkailleen tarjoamissaan palveluissa sekä toiminnassaan työnantajana ja julkishallinnon organisaationa. Myös erilaisia tekoälysovelluksia hyödynnetään ja kehitetään jatkuvasti. Tekoäly voi esimerkiksi luoda mahdollisuuksia tehokkaampiin, ennakoiviin ja personoituihin palveluihin. Eettisiä periaatteita soveltamalla pyrkimyksenä on minimoida datan ja tekoälyn hyödyntämiseen liittyviä eettisiä riskejä.
Käytännössä periaatteet tarkoittavat, että niitä pitää soveltaa kaupungin palveluissa, jotka pohjaavat tekoälyyn. Tekoälyrekisteri on myös osa tekoälyn eettisen hyödyntämisen kokonaisuutta.