Tekoäly on väline, jonka kouluttaminen vaatii ihmistyötä. Ihmisten kouluttama tekoäly jakaa sellaista tietoa kuin sen kouluttajat sen haluavat jakavan. Ja juuri sen takia me emme voi koskaan oikeasti erottaa tuota välinettä ihmisistä. Tekoälyn omistavat yhtiöt päättävät siitä, mikä on sopivaa ja mikä ei ole sopivaa aineistoa. Tekoälyn kouluttaminen tapahtuu lomakkeiden avulla. Eli se on melko rutiininomaista työtä, jossa ei suuria muutoksia tehdä. Ja sanotaan että suurin osa tekoälyn kehityksestä eli kouluttamisesta kuluu tekoälyn hienosäätöön.
Tekoälyn kohdalla hienosäätö on sitä, että sen pitäisi estää haitalliset vastaukset. Se miten haitallinen tai käyttäjää vahingoittava vastaus määritellään onkin sitten asia, josta voidaan keskustella. Yleensä tuo määritelmä tehdään siksi, että tekoälylle saadaan lisää käyttäjiä. Eli tässä tapauksessa markkinavoimat määrittelevät tekoälyn moraalin.
Tekoälyn kouluttaminen eli hienosäätö ei ole kovin syvällistä toimintaa. Siinä katsotaan sitä, että onko tekoälyn vastaus linjassa yhtiön politiikan kanssa. Se ei siis ole sama asia kuin tekoälyn kouluttaminen. Vaikka kouluttamiseen voidaan käyttää hiukan vastaavan kaltaisia välineitä. Mutta jos väline näyttää vain esimerkiksi lähdeluettelon, jonka joku sitten hyväksyy, niin silloin väliin putoaa varmasti myös vastauksia, jotka eivät ole sitä, mitä niiden pitäisi olla.
Eli Apple, jonka tuotekehitystä YLEn juttu kuvailee on liikeyritys. Liikeyritysten tehtävä on tehdä voittoa. Ja juuri tuon ajattelutavan perusteella esimerkiksi tiettyjen valtioiden johtoa ei saisi arvostella, koska se vaikuttaa negatiivisesti asiakassuhteisiin.
Samalla meidän pitää muistaa sekin, että jokaisen työpaikan pitää miellyttää sen omistajia sekä johtokuntaa. Eli yrityksen johto määrittelee sen, mikä on käyttäjälle hyväksi ja mikä pahaksi. Tekoälyn kohdalla on se vaara, että juuri tuo markkina-aseman tavoittelu saa aikaan sen, että joku saa päähänsä ryhtyä muuttelemaan vastauksia, joita tekoäly antaa sellaiseen muotoon, että se palvelee jonkun markkina-alueen johdon tai yrityksen oman johdon etua. Esimerkiksi ympäristörikkomuksia voidaan vääristellä vastauksissa, jotka sivuavat näitä aiheita.
"Tekoälyn hienosäädön tärkeimpiä tavoitteita on suodattaa pois tekoälyn haitalliset vastaukset." (YLE)
"– Me koulutettiin tekoälylle moraalia ja etiikkaa, kuvailee MOT:n haastattelema ”Mirka”."(YLE)
"Moraalin määritteli Applen guideline, eli ohjeistus. Ohje oli monisatasivuinen tiedosto, jossa määriteltiin, millaiset vastaukset olivat haitallisia." (YLE)
"– Mä kutsuin sitä Applen raamatuksi, Mirka sanoo." (YLE)
"MOT on saanut käsiinsä kuvamateriaalia ohjeista. Niissä listataan Applen esimerkkejä ”kiistanalaisista” puheenaiheista, kuten maahanmuutosta, sodista ja abortista." (YLE)
"Lisäksi ohjeissa listataan puheenaiheita, joihin saattaa liittyä alueellisia rajoituksia. Tällaista voi ohjeiden mukaan olla esimerkiksi vallanpitäjän negatiivinen kuvailu." (YLE)
Hienosäätö on asia jonka aikana tekoälyn kehittäjät vertaavat dataa, jonka tekoäly hankkii dataan, jonka he voivat itse hakea internetistä. Siis periaatteessa voidaan sanoa, että kouluttaja joko hylkää tai hyväksyy tekoälyn antamia vastauksia. Ja juuri tämä asia on sellainen, että sen eettisyydestä voidaan aina hiukan keskustella. Tekoälyn antamia vastauksia sensuroidaan siksi, että osa niistä vaarantaa esimerkiksi kansallista turvallisuutta. Mutta suurinta osaa sensuroidaan siksi, että yhtiöt vain eivät halua menettää joitain markkinoita.
Kukaan ihminen ei ole täysin vapaa arvoista. Toisen ihmisen arvomaailma voi poiketa toisen ihmisen arvomaailmasta hyvinkin paljon. Ja esimerkiksi Aasian väkirikkaat valtiot ovat loistavia markkinaympäristöjä, joissa esimerkiksi tekoälyn kaltaisille sovelluksille olisi paljon kysyntää. Mutta samalla osassa noista maista vaietaan kipeistä asioista. Se että noista asioista ei saa puhua merkitsee sitä, että tekoälyä kehittävät yhtiöt valitsevat kahden asian väliltä. Joko nuo yritykset kieltävät vaikean asian. Tai sitten he eivät saa markkinoida tuotettaan noissa maissa.
Samoin se että tekoälyn omistavat yhtiöt pitävät päämajaansa USAssa tarkoittaa sitä, että noissa yhtiöissä pitää noudattaa USAn lakeja, mutta samalla nuo yhtiöt valitsevat joskus linjan, jossa ne pääsevät vähällä. Esimerkiksi liian myönteinen suhtautuminen esimerkiksi aborttiin saattaa aiheuttaa ongelmia joidenkin ärhäköiden tahojen kanssa, ja jos suhtautumista pidetään liian vanhoillisena, niin sekin sitten saa aikaan vihaa. Se että nämä asiat ovat vaikeita tarkoittaa sitä, että on helpompi siirtää ne jonnekin, jossa niistä ei näe.
Jos puhutaan esimerkiksi suppeista kielimalleista, jotka toimivat samalla tavalla kuin laajat kielimallit, niin niiden kohdalla kouluttaminen on helpompaa. Tarvitaan vähemmän työtä ja vähemmän dataa kuin laajojen kielimallien kouluttamisessa. Mutta tietenkään uudet suppeat kielimallit eivät ole samalla tavalla monipuolisia kuin laajat. Kun tekoälyä koulutetaan, niin silloin tietenkin käytössä pitää olla aikaa sekä ihmisiä.
Se mikä tekoälyn kohdalla on oikeastaan mukavaa katsella on se, että ensimmäistä kertaa ihmiset näkevät kuinka paljon työtä ICT-alalla todellisuudessa tehdään. Suurin osa ohjelmointityöstä kuluu ohjelmistojen hienosäätöön. Ja siellä kaukana ICT-alan toimistoissa saattaa yhdellä tai kahdella ohjelmoijalla olla valtava työtaakka. Se että toisten yhtiöiden välineitä käytetään oman tekoälyn kehittämiseen ei ole kovin hyvän näköistä. Mutta jos työtä on paljon, ja aikaa on vähän, niin silloin ei muuta voida tehdä.
https://yle.fi/a/74-20224113
Ei kommentteja:
Lähetä kommentti
Huomaa: vain tämän blogin jäsen voi lisätä kommentin.