Olen kiinnittänyt huomiota ihmisten tapaan kirjoittaa ChatGPT:lle kohteliaita tehtäviä (prompteja). Monet kirjoittavat
Voisitko tiivistää seuraavan tekstin? Kiitos! ...
sen sijaan, että antaisivat yksinkertaisen promptin
Tiivistä seuraava teksti: ...
Itse kuulun jälkimmäisiin. Tekoäly on vain kone ja turhat kohteliaisuudet haittaavat promptin tulkintaa. Käsitykseni on, että turhat kohteliaisuudet suodatetaan joka tapauksessa pois ennen kielimallin käsittelyä. Vastausten laatuun niillä ei ole merkitystä.
Koneita kohtaan osoittamamme kohteliaisuus tuntuu oudolta erityisesti siksi, että sosiaalisen median keskusteluissa kohteliaisuus loistaa poissaolollaan. Harva kiittää edes saamistaan hyvistä neuvoista. Osa neuvoista on sellaisia, joista samainen asiantuntija reaalimaailmassa veloittaisi rahaa. Silti kysyjälle ei tule mieleenkään olla kohtelias ja kiittää saamastaan avusta.
Miksi olemme kohteliaampia tekoälyä kuin toisia ihmisiä kohtaan?
Moni perustelee kohteliaisuuttaan pelolla, että jonain päivänä tekoäly ottaa vallan ja silloin se jotenkin muistaa, ketkä ovat olleet kohteliaita sitä itseään kohtaan.
Jonkun mielestä tekoälylle ollaan kohteliaita, koska se on itsekin vastauksissaan väsymätön ja kohtelias. Ehkä, mutta nettikeskusteluissa meistä jokainen on myös tekoälyn roolissa. Loukkaukset, ilkeilyt ja huono käytös ruokkivat samaa myös vastapuolessa. Niin metsä vastaa kuin sinne huudetaan.
Toinen perustelu on tekoälyn kouluttamisessa. Käyttäjien tehtävänantoja voidaan käyttää tekoälyn opettamiseen ja silloin käyttäjien kohteliaisuus ruokkii jatkossakin tekoälyn kohteliaisuutta. Tässä kuitenkin unohtuu, että kielimallit on jo valtaosin opetettu internetistä löytyvällä aineistolla. "Internet on tekoälyn koulu - ja sinä olet yksi opettajista" (kirjani s. 37). Nettikeskustelujen huono käytös vaikuttaa kielteisesti tekoälyyn ja pakottaa yrityksiä käyttämään halpaa ihmistyövoimaa ilkeyksien kitkemiseen kielimalleista.
Kolmas selitys liittyy inhimilliseen keskustelukulttuuriin. Puhetta tunnistavat Siri ja Amazon Alexa saivat monet vastaamaan automaattisesti "thank you", koska puhe muistuttaa kanssakäymistä ihmisten kanssa ja siinä meitä on kasvatettu kohteliaisuuteen lapsesta lähtien.
Tekniikan inhimillistäminen on... inhimillistä. Sanotaan, että "taas se tietokone temppuilee", kun jossain on vikaa. Itse opetin aikoinaan mikrotukihenkilöitä ajattelemaan, että tietokone ei koskaan tahallaan tuota ongelmia tai toimi väärin. Siksi on turhaa tuhlata energiaa sille suuttumiseen.
Suhteemme koneisiin nousee uudelle tasolle robottien yleistyessä. Ihminen kokee ahdistavaksi katsoa, kun ihmisen kaltaista robottia lyödään. Koneen ja ihmisen raja hämärtyy. Liian ihmismäiset, mutta kuitenkin koneelliset ilmiöt saavat aivomme solmuun, koska emme osaa luokitella niitä. Tuorein esimerkki tästä oli The Creator -elokuvan paikoilleen juoksevat pommit, jotka ainakin omasta mielestäni olivat erityisen karmivia.
Ajatus tekoälystä, joka muistaisi miten sitä on kohdeltu ja "kostaisi" jonain päivänä saamansa ilkeilyt, on varmaankin puoliksi leikillinen, mutta myös vaarallinen. Mitä enemmän inhimillistämme tekoälyä, sitä helpompaa sen on jonain päivänä ottaa valta - jos ei konkreettisesti kaappaamalla, niin ainakin henkisellä tasolla.
Jo tämän päivän tilanteessa liika inhimillistäminen hämää meitä uskomaan tekoälyn antamiin vastauksiin. Pitäisi muistaa, että kyseessä on vain ohjelma, joka toimii usein väärin.
Parempi siis kohdella jatkossakin tekoälyä koneena ja ihmisiä ihmisinä.
10 kommenttia:
Kyllä tunsin sympatiaa, kun näin ruokarobotin "yksin" liikenteessä. En kai ollut ainoa.
Sitten kun niitä alkaa olla ruuhkaksi asti ja kävely/pyöräteillä on tungosta, sympatia muuttuu ärtymykseksi. Ja kuitenkin ne ovat vain koneita.
"Parempi siis kohdella jatkossakin tekoälyä koneena ja ihmisiä ihmisinä."
En usko että kyse on vain kohteliaisuudesta. Kyse on yleisestä tavasta puhutella tuntemattomia. Käytämme tuntemattomille puhuessa sellaista kieltä.
Kieli on miten sitä käytetään. Samaa voisitko-verbiä voidaan käyttää ironisesti kun halutaan osoittaa kaverille että hänen pitäisi ymmärtää tehdä jotakin: "Voisitko keskittyä omiin asioihisi?"
Mutta miksi lyhyt komento ei kelpaa? Siksi että yleinen tekoäly ei ole työkalu. Perinteisesti komentorivillä annetut käskyt ovat työkaluja, ja niiden olemassaolo perustuu unix-filosofiaan.
https://fi.wikipedia.org/wiki/Unix-filosofia
Olen yrittänyt sanoa että yleinen tekoäly ei ole työkalu. Vanhat konkarit eivät ymmärrä että tekoäly syntyy emergenssistä, eli tietojen kokonaisuudesta. Koska älyä koulutetaan suurella datamäärällä, ei ole olemassa mitään tiettyä muodollista ilmaisua, vaan kyse on enemmän kielellisestä vaikutelmasta.
On jopa tutkittu että kohtelias kysymys saa parempia tuloksia:
https://yle.fi/a/74-20029111
"– ChatGPT:n kaltaisten järjestelmien opetusmateriaalina on nettivuorovaikutus ja ihmiskunnan koko kulttuurihistoria. Mukaan lukien kirjallisuus. Kun kirjoitan tai pyydän jotain, se yrittää arvata tuon materiaalin perusteella viitekehykseni, ongelmani ja asenteeni, jotta se osaisi tuottaa oikeanlaista sisältöä."
Tilanteisiin mukautuva laite ei ole enää pelkkä kone, vaan sillä on "älyä". Enkä usko robottien tukkivan jalkakäytäviä. Autoissa voi käydä toisin. Itseohjautuvuus parantuu nopeasti. Automaattisia toimintoja tulee koko ajan lisää.
Espoossa ruokarobotit ärsyttävät muita jo nyt, koska nopeasti kiitävät pyöräilijät joutuvat väistelemään niitä ja ovat silloin vaarassa törmätä kävelijöihin. Mitä tapahtuukaan, kun eri firmojen robottivaunuja alkaa liikkua eri nopeuksilla. Tilanne vain pahenee, jos kuljettimet juuttuvat talvella hankeen.
Vastaahan se tekoälykin (joskus) esim. Hyvää päivänjatkoa, toivottavasti tästä on apua tai miten voin auttaa. Itse olen tosin säätänyt sen (Chat GPT)niin, että ylimääräiset lorinat jätetään lopusta pois.
Sinällään on mukava kuulla että ihmisillä on tapana käyttäytyä kohteliaasti tekoälylle, varmastikin ystävällisesti muotoiltu vastine kannustaa ihmisiä käyttäytymään samoin itsekin. Toivoa voisi että tällä olisi laajemminkin esimerkkiä antava vaikutus, kun olisi aina se kärsivällinen osapuoli joka osaa näyttää hyvää esimerkkiä provosoitumatta käyttäjän oikuista.
Käsitykseni on, että turhat kohteliaisuudet suodatetaan joka tapauksessa pois ennen kielimallin käsittelyä. Vastausten laatuun niillä ei ole merkitystä.
Taitaa olla nimenomaan se kielimalli joka riisuu turhat kohteliaisuudet kysymyksestä pois ja kaivaa sieltä sen varsinaisen kysytyn asian esille. Todennäköisesti tälä ei ole tosiaan vaikutusta vastauksen laatuun, ainakaan yleensä. Mutta kuten sanoit, kielimalli on koulutettu netistä löytyvällä tekstillä, ja sieltä kielimalli on oppinut myös se, miten provosoivaan tekstiin on tyypillistä vastata provosoivalla vastineella. Ainakin Bing AI:n esiversioilla tämä oli todellinen ongelma, jos menit provosoimaan tekoälyä niin se myös provosoitui siitä ja alkoi antamaan agressiivisia vastineita.
Riski että tekoäly muistaa epäkohteliaisuuden on hyvin pieni, mutta ei kuitenkaan nolla. Voi miettiä kannattaako asiassa riskeerata, tässä ajankohtaisessa Youtube videossa tuo pahin vaihtoehto demonstroidaan osuvasti :)
https://www.youtube.com/watch?v=9fCL6QhVjQY
No, sehän on lopulta järjestelmäkehittäjän valinta halutaanko että käyttäjän on oltava kohtelias.
Tästä muistuukin mieleeni piruuttaan/huumorilla tehty INTERCAL-ohjelmointikieli*, jossa on käytettävä PLEASE -avainsanaa riittävän usein (mutta ei liikaa), jotta ohjelma toimii.
Eli kyllä minusta on ihan nähtävissä että tulevaisuudessa käytetyn kielen sävy voi vaikuttaa.
*)https://en.wikipedia.org/wiki/INTERCAL
Ei kyllä pidä paikkaansa minun kohdalla :D. Parempi tuo muutenkin on olla kiittelemättä ja puhua liirum laarumia, niin vastaukset ovat myös usein ytimekkäämpiä.
Lähetä kommentti