EU:n tekoälyasetus, osa 1

Miksi EU:lla on maine rajoittavien lakien säätäjänä?

Lyhyesti: EU sääntelee vaikutuksia etukäteen. Esimerkiksi GDPR:n myötä monet yritykset törmäsivät kitkaan nopeasti. Suostumusvaatimukset, datan käytön rajoitukset ja todelliset sakot muuttivat tapaa, jolla tuotteita rakennettiin. Tästä syntyi yksinkertainen kertomus: sääntely hidastaa innovaatiota.

EU tekee Euroopasta vähemmän kilpailukykyisen kuin Yhdysvalloista, blaa blaa blaa!

Tästä kiistellään verkossa jatkuvasti, jo niin sanotun evästelain ajoista lähtien. Toisella puolella ovat vihaajat, toisella herkistyneimmät.

Todellisuus on tasapainoisempi

• EU keskittyy käyttäjien turvallisuuteen, yksityisyyteen ja hallintaan
• Yhdysvallat sallii usein nopeamman käyttöönoton ja korjaa ongelmat jälkikäteen

Kumpi on parempi?

Henkilökohtaisesti koneiden nousun myötä suosin eurooppalaista turvallisuus edellä -linjaa.

Tekoälyn osalta EU noudattaa samaa kaavaa:

Hallitse siellä, missä haittaa voi syntyä. Jätä muu rauhaan.

Useimmille yrityksille tämä tarkoittaa yhtä asiaa:

Jos tekoälysi tukee käyttäjiä, olet turvassa.
Jos se tekee päätöksiä, säännöt tiukentuvat.

EU:n tekoälylaki on suunniteltu yhdellä ajatuksella: riskien hallinta.

Riski määrää säännöt.

Kaikkea tekoälyä ei kohdella samalla tavalla. Laki jakaa tekoälyn neljään tasoon. Kullakin tasolla on erilaiset velvoitteet. Kun tämän ymmärtää ajoissa, useimmat ongelmat voi välttää.

Miksi tällä on merkitystä

Useimmat yritykset eivät suunnittele rakentavansa “korkean riskin tekoälyä”. Monet ajautuvat siihen silti vahingossa. Yksinkertainen ominaisuus kasvaa, ja työkalu alkaa vaikuttaa lopputuloksiin. Yhtäkkiä säännöt muuttuvat.

Neljän tason ymmärtäminen on keino pysyä tilanteen tasalla.

Neljä riskitasoa

Sen sijaan että kaikkea tekoälyä säänneltäisiin samalla tavalla, laki jakaa tekoälyn neljään riskitasoon ja soveltaa sääntöjä vaikutusten perusteella.

1. Kielletty tekoäly

Mistä on kyse

Tämä on tekoäly, joka on kokonaan kielletty. Kyse ei ole vaatimustenmukaisuudesta. Kyse on siitä, että tätä ei rakenneta.

Esimerkkejä

• Ihmisten sosiaalinen pisteytys (tuttu Black Mirrorista?)
• Tekoäly, joka manipuloi käyttäytymistä haitallisilla tavoilla
• Järjestelmät, jotka hyödyntävät haavoittuvia ryhmiä
• Reaaliaikainen biometrinen seuranta (kasvojentunnistus ja kävelytapa) julkisissa tiloissa. Poikkeuksia ovat esimerkiksi terrorismiuhkien torjunta, kadonneiden henkilöiden etsintä ja vakavien rikosten tutkinta.

Mitä tämä tarkoittaa sinulle

Useimmat kaupalliset tuotteet eivät tule lähellekään tätä.

Mitä tehdä

• Tarkista käyttötapauksesi järkevyys ajoissa
• Vältä kaikkea, mikä profiloi tai manipuloi ihmisiä laajassa mittakaavassa

Mitä välttää

• Käyttäytymiseen vaikuttaminen, joka ylittää manipuloinnin rajan
• Piilotetut pisteytysjärjestelmät, jotka kohdistuvat ihmisiin

2. Korkean riskin tekoäly

Mistä on kyse

Tässä tiukat säännöt sijaitsevat. Nämä järjestelmät vaikuttavat oikeuksiin, palveluiden saatavuuteen tai turvallisuuteen.

Esimerkkejä

• Rekrytointi- ja henkilöstöhallintajärjestelmät
• Luottoluokitus
• Vakuutusriskien arviointi
• Lääketieteellinen tekoäly
• Lainvalvonnan työkalut

Mitä tämä tarkoittaa sinulle

Jos tekoälysi tekee päätöksiä, suodattaa ihmisiä tai vaikuttaa palveluiden saatavuuteen, saatat kuulua tähän kategoriaan. Luottokorttiyhtiöt ovat täällä. Pankit ovat täällä. Monet lakitoimistot ja viranomaiset ovat täällä. Hätäpalvelut ovat täällä.

Mitä vaaditaan

• Riskienhallintaprosessit
• Laadukas ja hallittu data
• Kattava dokumentaatio
• Ihmisen valvonta (human in the loop)
• Tarkkuus- ja luotettavuustarkistukset
• Rekisteröinti EU:n tietokantaan

Mitä tehdä

• Tarkista, vaikuttaako tekoälysi todellisiin lopputuloksiin
• Pidä ihmiset mukana päätöksenteossa
• Rakenna järjestelmä auditointi ja lokikirjaus alusta alkaen

Mitä välttää

• Täysin automatisoidut päätökset, joilla on todellisia vaikutuksia
• Järjestelmät, joita et pysty selittämään

3. Rajallisen riskin tekoäly

Mistä on kyse

Tähän kuuluu suurin osa yritysten tekoälystä ja painopiste on läpinäkyvyydessä.

Esimerkkejä

• Chatbotit
• Tekoälyn tuottama sisältö
• Suosittelujärjestelmät
• Assistentit ja copilotit

Mitä tämä tarkoittaa sinulle

Jos tekoälysi auttaa käyttäjiä, ehdottaa toimenpiteitä tai tuottaa sisältöä, tämä on todennäköisesti sinun kategoriasi.

Mitä vaaditaan

• Kerro käyttäjille, että he ovat tekemisissä tekoälyn kanssa
• Merkitse tekoälyn tuottama sisältö tarvittaessa

Mitä tehdä

• Lisää selkeät tekoälyä koskevat ilmoitukset
• Tee tulosteista ymmärrettäviä
• Aseta realistiset odotukset tarkkuuden suhteen

Mitä välttää

• Tekoälyn tuottaman sisällön esittäminen ihmisen tekemänä
• Sisällön tuotantotavan piilottaminen

4. Minimaalinen riski

Mistä on kyse

Vähävaikutteiset järjestelmät, joita ei säännellä yleisen lainsäädännön lisäksi.

Esimerkkejä:

• Roskapostisuodattimet
• Perusautomaatio (jos tämä niin sitten tuo)
• Sisäiset työkalut

Mitä tämä tarkoittaa sinulle

Ei ylimääräistä vaatimustenmukaisuustaakkaa.

Mitä tehdä

• Noudata tavanomaisia data- ja tietosuojasääntöjä

Mitä välttää

• Olettaa, että järjestelmä pysyy “matalana riskinä” ikuisesti. Järjestelmät kehittyvät.

Red Queen -haaste: järjestelmät liikkuvat

(Lue lisää Red Queenista alta)

Useimmat tekoälyjärjestelmät eivät pysy yhdessä kategoriassa. Ne kehittyvät. Järjestelmä voi edetä chatbotista assistentiksi, assistentista suosittelujärjestelmäksi ja suosittelujärjestelmästä päätöksentekokoneeksi. Jokainen askel kasvattaa riskiä.

Miten toimia turvallisesti

Määrittele kategoriasi ajoissa. Kirjaa ylös, mitä tekoälysi tekee ja mitä se ei tee. Pidä rajat selkeinä. Tarkkaile rajan ylityksiä.

Kysy:

• Vaikuttaako tämä palveluiden saatavuuteen, rahaan tai mahdollisuuksiin?
• Korvataanko tällä ihmisen päätös?

Jos vastaus on kyllä, riski kasvaa.

Rakenna hallinta sisään

Myös matalan riskin järjestelmissä:

• Pidä ihmisellä mahdollisuus ohittaa järjestelmä
• Pidä logiikka selkeänä
• Pidä lokikirjaus yllä

Yksinkertainen ajattelumalli

Ajattele asiaa näin:

• Minimaalinen riski → työkalut
• Rajallinen riski → assistentit
• Korkea riski → päätöksentekijät
• Kielletty → ihmisten manipulointi tai kontrollointi

Tavoitteesi on pysyä työkalujen ja assistenttien kategoriassa ja pitää ihmiset päätöksentekijöinä.

Lopuksi

EU:n tekoälylaki ei ole tarkoitettu pysäyttämään tekoälyä.
Se on tarkoitettu pysäyttämään hallitsemattomat vaikutukset ihmisiin. Kun ymmärrät, mihin kategoriaan järjestelmäsi kuuluu, voit edetä nopeasti astumatta riskialueelle.

Seuraavaksi sarjassa

Osa 2 käsittelee käytännön puolta: yleisimmät virheet, joita yritykset tekevät, sekä keskeiset dos and don’ts tekoälyn rakentamisessa.