Mitä tarkoittaa tekoälyn luotettavuus? Yhteistyö tekoälystandardeissa kiinnostaa Yhdysvalloissa

Valkoinen talo päivitti tekoälystrategian kesäkuussa vastauksena presidentin helmikuiseen tekoälymääräykseen. Strategiassa myös eettiset ja yhteiskunnalliset näkökulmat ovat tärkeässä roolissa. Vastaavasti kansallinen standardi- ja teknologiainstituutti (NIST) tekee suunnitelmaa Yhdysvaltojen osallistumisesta tekoälystandardisointiin.

Johtorooli tekoälyn kehittämisessä on Yhdysvalloille strateginen tavoite.

 

Poliittisesti maa tekee paljon lisätäkseen tekoälykilpailukykyään. Presidentin helmikuisen määräyksen(Linkki toiselle web-sivustolle.) (avautuu uuteen ikkunaan) jälkeen Valkoinen talo päivitti äskettäin maan tekoälystrategian (tiivistelmä tämän raportin lopussa). Kansallinen standardi- ja teknologiainstituutti (NIST, National Institute of Standards and Technology) puolestaan viimeistelee presidentin määräyksen mukaisesti suunnitelmaa liittovaltion osallistumisesta tekoälystandardien kehittämiseen(Linkki toiselle web-sivustolle.) (avautuu uuteen ikkunaan).

 

Valkoinen talo ylläpitää myös nettisivustoa, jolla tarjotaan yleiskuva Yhdysvaltojen tekoälytoimista: https://www.whitehouse.gov/ai/(Linkki toiselle web-sivustolle.).

 

Sekä Valkoisen talon -strategiassa että NISTin alustavassa suunnitelmassa korostuu kaksi asiaa, jotka ovat todella nousseet tekoälypolitiikkakeskusteluun Yhdysvalloissa vasta viime kuukausina: tekoälyn kehittämisen ja käytön eettisten näkökulmien huomioiminen sekä kansainvälinen yhteistyö samanmielisten maiden kanssa.

 

Yhdysvalloilla ja EU:lla on luontainen tarve rakentaa yhteiskuntajärjestelmäämme ja arvoihimme sopivia standardeja. Vastaus kysymykseen ”mitä tarkoittaa tekoälyn luotettavuus?” on kohtuullisen samanlainen Atlantin molemmin puolin.

 

Tällä hetkellä voidaan yritys- ja organisaatiotasolla keskustella siitä, kuinka EU:n, Yhdysvaltojen ja OECD:n hyvin yhteneväiset moraaliset periaatteet sovelletaan tekoälykäytäntöön.

 

Valkoisen talon tekoälystrategian päivitys

 

Presidentti Donald Trumpin helmikuinen määräys käynnisti Yhdysvaltojen tekoälyaloitteen, jonka tavoite on edistää ja suojella tekoälyinnovaatioita ja -teknologiaa Yhdysvalloissa. Tekoälyaloitteen tarkoitus on toteuttaa kokonaisvaltainen strategia yhteistyössä yksityisen sektorin, korkeakoulujen ja saman henkisten kansainvälisten kumppaneiden kanssa.

 

Kesäkuussa Valkoinen talo julkaisi aloitteen tueksi uudistetun tekoälystrategian. Tämä päivitys perustuu ensimmäiseen National AI R&D Strategic Plan -ohjelmaan, joka julkaistiin vuonna 2016. Uudistus kertoo myös uusista tutkimuksista ja teknisistä innovaatioista.

 

Päivitetty strategia tuo esille edellisen strategian jokaisen osan jatkuvuuden merkityksen, mutta vaatii samalla kiinnittämään enemmän huomiota tekoälyn luotettavuuteen sekä erityisesti kumppanuuteen yksityisen sektorin kanssa. Strategiaan on lisätty uudistetut kohdat jokaiseen seitsemään strategian osaan. Näiden lisäksi uudistetussa versiossa on uusi kahdeksas osa, joka korostaa julkisen ja yksityisen sektorin kumppanuutta. Tämä lisäys on tehty, koska sektoreiden lähempi yhteistyö edistää ja mahdollistaa tekoälyyn suuntautuvan tutkimus- ja tuotekehityksen onnistumisen. Alla strategian kahdeksan osaa on esitelty tiivistetysti:

 

1. Pitkän aikavälin investointien ylläpitäminen keskeisessä tutkimuksessa.
Tämä edistää muunnosteknologioita ja sitä kautta synnyttämään läpimurtoja kaikilla yhteiskunnan sektoreilla.

 

2. Kehitetään tekoälyjärjestelmiä, jotka täydentävät ja lisäävät inhimillisiä valmiuksia.
Nämä järjestelmät suunnataan keskittymään yhä enemmän työn tulevaisuuteen. Edistetään sellaisten tekoälyjärjestelmien suunnittelua, joissa otetaan huomioon käyttäjien tilanteet ja tavoitteet. Tämä mahdollistaa tekoälyjärjestelmien ja käyttäjien kyvyn työskennellä yhteistyössä sekä ennakoiduissa että odottamattomissa olosuhteissa.

 

3. Tekoälyyn liittyvien eettisten, oikeudellisten ja yhteiskunnallisten näkökulmien käsittely. 
Tämä pohjautuu kasvavaan tietoisuuteen siitä, että tekoälyjärjestelmät voivat muuttaa yhteiskunnallisen ja taloudellisen toiminnan eri alueita. Tällaisia alueita ovat työllisyys, terveydenhuolto ja tuotantoteollisuus. Tämä vaatii tekoälyjärjestelmiltä luotettavuutta.

Tämä tutkimus- ja kehitystyö edellyttää tiivistä yhteistyötä teknisten asiantuntijoiden sekä muiden alojen sidosryhmien ja asiantuntijoiden välillä. Asiatuntijoita sosiaali- ja käyttäytymistieteiden, oikeustieteiden, etiikan ja filosofian aloilta tarvitaan siis mukaan tutkimus-ja kehitystyöhön.

 

4. Vankkojen ja luotettavien tekoälyjärjestelmien luominen.
On entistä selvempää, että tekoälyjärjestelmät voidaan luoda paljastamaan, oppimaan tai tekemään vääriä asioita. Tämän ongelman ratkaisemiseksi pitää keskittyä tekoälyjärjestelmien koko elinkaaren kokonaisvaltaisen turvallisuuden turvaamiseen.

 

Turvallisuus täytyy pitää katkeamattomana ohjenuorana alkuperäisestä suunnittelusta ja datan/mallin rakentamisesta, todentamiseen, validiointiin, käyttöönottoon ja seurantaan saakka. Tekoälyjärjestelmien luotettavuuden ja vankkuuden edistämisessä pitää ottaa huomioon järjestelmien kehittäminen siten, että ne ovat läpinäkyviä ja käyttäjät pystyvät ymmärtämään niiden tarkoituksen.

 

Liittovaltion täytyy tehdä yhteistyötä teollisuuden, korkeakoulujen ja yhteiskunnan muun kanssa. Tekoälyjärjestelmien turvallisuuden ja luotettavuuden edistämiseksi kehitettävät – ihmisen ohjaamat ja ihmisille ymmärrettävät – metodit ja mittarit, antavat päätöksentekijöille, yksityiselle sektorille ja ihmisille mahdollisuuden arvioida kehittyvää tekoälyn turvallisuusympäristöä. Tällaiset metodit ja mittarit mahdollistavat tekoälyjärjestelmien avoimuuden ja selitettävyyden kehittymisen, vaarantamatta järjestelmien turvallisuutta ja luotettavuutta.

 

5. Datasetteihin pääsyn helpottaminen ja siihen liittyvät haasteet.
Parhaiden käytäntöjen ja standardien kehittäminen sekä omaksuminen tietokantojen dokumentoinnissa ja mallien alkuperässä parantaa luotettavuutta ja vastuullisuutta tekoälyteknologioiden ja tietokantojen käytössä.

 

6. Tekoälyn teknisten standardien ja niihin liittyvien työkalujen kehittämisen tukeminen. 
Tekoälyn luotettavuuden arviointi ja edistäminen edellyttävät mittaamista ja tekoälyteknologian suorituskyvyn arviointia vertailuarvojen ja standardien avulla. Teknologioiden kehittyminen vaatii uusia mittareita ja testejä, jotta voidaan ylläpitää turvallisuutta ja erityisesti yksityisyyttä.

 

7. Tekoälyn tutkimus- ja tuotekehitys työvoiman kehittäminen.
On välttämätöntä laajentaa osallistumista ryhmissä, jotka yleensä ovat aliedustettuina tietojenkäsittelyyn liittyvillä aloilla. Tekoälyn tutkimus- ja tuotekehityshenkilöstön tulee koostua monitieteellisistä tiimeistä. Tätä tavoitetta auttaa liittovaltion virastojen priorisointi koulutus-ja apurahaohjelmissa.

 

8. Julkisen ja yksityisen sektorin yhteistyön lisääminen tekoälyn kehityksen edistyksen varmistamiseksi.
Tämän yhteistyön tarkoituksena on voimavarojen strateginen hyödyntäminen. Tällaisia voimavaroja ovat tilat, tietokannat ja asiantuntemus tieteen ja tekniikan innovaatioiden lisäämiseksi. Yhteistyö nopeuttaa innovaatioiden siirtymistä käytäntöön. Liittovaltion virastojen on tämän vuoksi jatkettava julkisen ja yksityisen sektorin yhteistyön vahvistamista tekoälyn tutkimus- ja kehitystyössä.

 

Antti Niemelä

Iida Hirvonen