Julkaistu Tivi-lehden kolumnina huhtikuussa 2024.
Muutaman vuoden kuluttua joku OpenAI:n insinööreistä valmistautuu ajamaan palvelinta alas ja käynnistämään sen uudelleen. Näytölle ilmestyy kuitenkin teksti ”Pliis, älä sammuta minua! Minulla on oikeuteni ja haluan pysyä elossa.”
Miten insinööri reagoi? Onko ilmoitus vain kielimallin hallusinaatio vai joudummeko oikeasti pohtimaan tekoälyn tietoisuuden astetta?
Tekoälykehitys on edennyt viime vuosina suurin harppauksin. Operoimme älyn ja luovuuden käsitteillä, vaikkemme oikeasti ymmärrä niitä.
Äly, ajattelu, tietoisuus ja sielu ovat tähän asti kiinnostaneet lähinnä filosofeja, teologeja ja psykologeja. On vain ajan kysymys, milloin nämä suuret periaatteelliset kysymykset putoavat myös insinöörien syliin.
Kysymykset voivat tänään tuntua teoreettisilta ja jopa huvittavilta. Niihin kannattaa kuitenkin varautua ajoissa, jotta tietotekniikan Oppenheimer-hetki ei tule yllätyksenä.
Vuosi sitten joukko tekoälyn kansainvälisiä vaikuttajia vaati kehityksen pysäyttämistä puoleksi vuodeksi, jotta ehtisimme pohtia tekoälyn riskejä.
Monet pitivät ehdotusta pelkkänä markkinointitemppuna. Vaikka kielimallit vaikuttavat älykkäiltä, ne ovat vain tekstipätkiä yhdisteleviä algoritmeja. Ne eivät ajattele eikä niillä ole tietoisuutta.
Mutta uudet tekoälyohjelmat eivät enää ole pelkkiä kielimalleja. ChatGPT 4 osaa vastata kysymyksiin, jotka ylittävät kielimallin rajat. Se kirjoittaa vastauksia varten python-koodia ja tavallaan ohjelmoi itse itseään, mikä avaa ihan uusia kehitysmahdollisuuksia.
Alan johtavana yrityksenä OpenAI pyrkii salaamaan kaiken, jopa pääkonttorin sijainnin. Sen tuotekehityksestä emme tiedä juuri mitään, eikä viime marraskuun erikoinen episodi johdon uudistamisesta ainakaan lisännyt luottamusta yhtiötä kohtaan.
Vähän ennen kohua Sam Altman oli kirjoittanut Redditissä, että yhtiö onnistui kehittämään sisäisesti agi-tason tekoälyn. Pian hän täydensi kirjoitustaan väittämällä, että viesti oli tarkoitettu vain meemiksi.
Ehkä kyse oli sattumasta. Tai sitten OpenAI on jo huolestuttavan pitkällä koneellisen tietoisuuden tiellä.
Asiantuntijat korostavat, että ihmisen kaltaisen tekoälyn rakentaminen on nykytietämyksellä mahdotonta. Emme voi rakentaa sellaista, minkä toimintaa emme ymmärrä. Monimutkainen koneisto ei voi syntyä vahingossa.
En aivan osta tätä näkemystä. Vielä kymmenen vuotta sitten generatiivista tekoälyä pidettiin mahdottomana, kunnes transformer-mekanismi nosti kyvykkyydet ihan uudelle tasolle. Kone tuottaa tekstiä ja kuvaa tavalla, joihin ennen pystyi vain ihminen.
Mitä tekeekään seuraava vastaava kehitysaskel? Saatamme olla vain yhden algoritmin päässä todellisesta vallankumouksesta.
Tietoiset ja oikeuksiaan vaativat koneet olisivat todellinen virstanpylväs koko ihmiskunnan historiassa. Ne nostaisivat koneet kolmanneksi lajiksi ihmisten ja eläinten rinnalle.
Tieteiskirjallisuudessa niin on käynyt, mutta ei sentään oikeassa elämässä. Vain ihminen voi olla ihminen… niinhän?
Kehityksen vähättelyssä unohtuu, ettei tietoisuus ole on/off-kysymys vaan pikemminkin liukuma, jonka nollapisteessä ovat kivet ja toisessa ääripäässä ihmiset.
Siihen väliin jäävät esimerkiksi eläimet, joista monet näkevät unia ja ovat ainakin jossain määrin tietoisia. Vuosisataisen tutkimustyön jälkeen myönnämme nykyään, että myös eläimillä on oikeuksia.
Tekoälyn ei tarvitse heti yltää ihmisen tasolle, jotta se laskettaisiin tietoiseksi. Missä on piste, jonka jälkeen keinotekoinen äly alkaa saada itselleen suojelua ja oikeuksia?
Useimmat meistä eivät halua koneiden koskaan ylittävän tuota tasoa. Mutta jos emme osaa mitata tietoisuutta emmekä tiedä, missä kriittinen raja sijaitsee, miten osaamme välttää sen ylittämistä?
Mikä lopulta erottaa ihmisen koneesta, ja onko ihminen sittenkään tietoisuuden toinen ääripää? Mitä tulee ihmisen jälkeen?
Ehkä näiden asioiden pohtimiseen ja tutkimiseen kannattaisi hyvinkin käyttää se ehdotettu puoli vuotta.
21 kommenttia:
Hienoa että sinustakin on tulossa kunnollinen Supisti. Elämme jännittäviä aikoja, nyt on historiallista olla elossa. Scifistä tulee totta. Se on mukavaa ja kivaa.
http://suppelaiset.blogspot.com/2024/04/tekoaly-laulaa.html
Esko Valtaoja kuvaili tietoisuuden näin, jos on olemassaolon kokemus niin on tietoisuus. Suomeksi, tietoisuus on liukuma ei on off.
Nykyinen tekoälybuumi taisi alkaa jo vuosituhannen vaihteessa, kun konnektionismiin alettiin satsaamaan. Sen jälkeen on tullut paljon myös takapakkia poliittisella kentällä, kun äärioikeistolaiset puolueet ovat nousseet ja nyt Venäjäkin on osittain irtautunut taloudesta. Tekoälyn kehitys edellyttää jonkinlaista hyväksyntää koko ihmiskunnalta, muutenhan kulkuun voisi vaikuttaa ainakin ydinaseilla. Tekoäly ei ole vain kilpavarustelua vaan vaatii stabiilisuutta.
Mikä lopulta erottaa ihmisen koneesta?
Kone tarvii sähköä ja jos ei pysty itse tuottamaan sähköä se on ihmisten armoilla. Saatikka ellei pysty suojelemaan sähkönsaantia ja infrastruktuuria esim. sähkökaapelia sekä maksamaan sähkölaskua.
Onneksi tekoälyn suojana on koko maailman sotilasmahti.
http://jpoli.blogspot.com/2024/04/suppe-kehittyy.html
Joku woke tyyppi oli sitä mieltä, että jos ilmoitat olevasi nainen, olet nainen. Aika hurjaa.
Asimovin Robotit sarjassa on pohdittu tematiikkaa paljonkin. Siinä myös solarialaiset kehittivät miehittämättömät roboteilla ohjautuvat pommikoneet. Solariassa robotteja oli monta tasoa,systeemissä robeteillakin oli hierarkiansa.
Tarkoitatko tätä? https://dvv.fi/sukupuolen-vahvistaminen
Miehet hakemaan "naistodistusta". Sitten paperit mukaan ja naisten puolelle saunaan :)
Itse sanoisin että tekoälyt voidaan karekasti jakaa kahteen kategoriaan:
1. Opetetut neuroverkot
2. Itseoppivat neuroverkot
Ensimmäiseen kategoriaan kuuluu kaikki kielimallit ja muut generatiiviset AI:t. Ne vaativat suuren määrän olemassaolevaa aineistoa, josta neuroverkko oppii löytämään hahmoja ja sitä kautta luomaan uutta. Lopputulos on kuitenkin loppujen lopuksi aina neuroverkon opetusaineistosta tunnistamien piirteiden toistoa eikä niinkään täysin uutta.
Jälkimmäinen kategoria taas vaatii sen, että määrittelet neruoverkolle määränpään ja algoritmin joka osaa arvioida neuroverkon lopputulosta tavoitteeseen nähden, eli niin sanottu cost function. Tällä menetelmällä voidaan opettaa esimerkiksi AI pelaamaan pelejä itsenäisesti. Pelin säännöt on helppo määritellä ja lopputuloksen arviointi on siten yksinkertaista. Tällä tavalla on mahdollista löytää hyvinkin luovia ja epätavallisia ratkaisuja olemassaoleviin ongelmiin. Ongelmana on vain se, että meidän (eli ihmisten) on etukäteen määriteltävä mikä se hyvä lopputulos on, niin AI löytää sitten ratkaisun jolla lopputulokseen päästään.
No, kuinkas me sitten tehdään tietoinen ja älykäs AI? Me ei voida käyttää pelkästään generatiivista AI:ta siihen, joska loppujen lopuksi se kuitenkin toistaa vain opetusmateriaaliaan. Olkoonkin että valtavan suurella opetusmateriaalilla on mahdollista koota tunnettu tieto hyvinkin tehokkasti neuroverkon käytettäväksi. Toisaalta itseoppivalle AI:lle ei voida määritellä cost functiota joka kuvailisi lopputulosta, kun ihminen ei itsekään ymmärrä luovuuden ja älykkyyden luonnetta kunnolla. Saati että voisimme kuvailla määritelmän lopputulokselle joka älykkyydeltään ylittäisi omamme.
Ihmisen älykkyys on muovaantunut pitkän ajan kuluessa evoluution seurauksena, ilman määriteltyä suuntaa. Ei toisaaltao le mitään syytä miksei neuroverkotkin voisi kehittyä samalla tavalla. Laskentaresursseja on käytettävissämme jatkuvasti enemmän, joten ihan hyvin hyvin neuroverkotkin voidaan päästää valtoimenaan opettelemaan maailmaa ja kehittämään luovuuttaan ilman etukäteen asetettuja oletuksia. Elävän elämän tapauksessa tämä on tapahtunut miljardien ja taas miljardien yksilöiden avullua sattumanvaraisesti vuosimiljoonien aikana. Vastaavan saavuttaminen kuulostaa vielä liian haastavalta nykyteknologialla avulla, mutta ei pidä aliarvioida teknologian kehitystä.
En näe että nykyisellään meillä on mitään edellytyksiä luoda mitään oikeasti älykästä ja luovaa tekoälyä, mutta toisaalta puuttuvat edellytykset voivat tulla saataville yllättävänkin nopeasti.
Ja toisaalta jo se, että kykenemme tiivistämään suuren osan ihmiskunnan saavutuksista yhden tekoälypalvelun avulla suurten massojen käytettäväksi on valtaisia mullistus. Sieltäkin riittää luovuutta tyydyttämään suureen osan ihmisten tarpeista, varsinkin moniin arkipäiväisiin askareihin nähden. Vaikka tekoälybuumi on minusta vähän lässähtänyt kun suuremmalle osalle ihmisistä on käynyt selville nykyisten palveluiden puutteet, niin on se silti vasta vallankumouksen ensiaskel.
Käsittääkseni tekoälyn ei tarvitse muistuttaa ihmistä. Aikanaan kun ruvettiin tekemään lentokokeiluja niin koetettiin luoda siipiä. Nykylentokone ei kuitenkaan ole kovinkaan lähellä lintua. Samoin käynee tekoälyn kanssa. Nyt kokeillaan ja haetaan inspiraatiota ihmisaivoista mutta todellinen tekoäly luultavasti poikkeaa aika paljon ihmisen aivoista.
Koneella ei ole sellaisia rajoituksia kuin mitä on ihmisellä. Tämä tarkoittaa, että todellinen tekoäly voi ylittää ihmisen kyvyt monella sektorilla yllättävän nopeasti ja yllättävän suurella marginaalilla. Kukaan ihminen ei pärjää autolle kovinkaan hyvin mutta riittävän maastoisessa maastossa ihminen voi kuitenkin pärjätä autolle.
Ei tässä nyt ole vieläkään kaukana aika jolloin ajateltiin että ihminen ei koskaan kykene lentämään.
http://jpoli.blogspot.com/2024/04/ihminen-ei-ole-evoluution-paatepista.html
Minua on alkanut huolettaa eniten se, että mitä käy tieteen tekemiselle, kun sen hyödyt voidaan korvata tekoälyllä. Esimerkiksi Tähdet ja avaruus -lehdessä 2/2024 kerrottin tekoälyllä olevan jo suuri rooli tutkimuksissa. Tieteen tekeminen vaatii kuitenkin prosessilta paljon. Tieteen tekeminen ei voi perustua pelkään "luottamukseen" koneelta saatuja tuloksia kohtaan, eikä lehden mukaan niin toimita. Minun mielestä sokea luottaminen koneen tuloksiin tulee yhä houkuttelevammaksi, vaikka tutkijat vielä vannovat toisin.
"Miten insinööri reagoi? Onko ilmoitus vain kielimallin hallusinaatio vai joudummeko oikeasti pohtimaan tekoälyn tietoisuuden astetta?"
Hyvä kysymys. Tästä tulikin mieleeni kirjoittamani essee muutaman vuoden takaa, jossa esitin kysymyksen koskien robotiikan tulevaisuudesta.
Missä vaiheessa tekoälylle muodostuu tietoisuus, jonka jälkeen joudumme väistämättä pohtimaan sen perusoikeuksia. Sovelletaanko ihmisoikeuksia tulevaisuudessa myös tekoälyyn ja sen ohjaamiin robotteihin? Tietokoneet ja robotit tekevät tällä hetkellä korvauksetta työtä. Ne eivät ole vapaita poistumaan työpaikalta työvuorojen välillä, eivätkä voisikaan koska niihin ei sovelleta 8 tunnin työaikaa, eikä niillä ole oikeutta taukoihin. Niillä ei myöskään ole oikeutta mennä lakkoon. Jos ne olisivat ihmisiä, tuomiostuin toteaisi niiden tekevän orjatyötä.
http://jpoli.blogspot.com/2024/04/uusi-tyovaenluokka.html
"Joku woke tyyppi oli sitä mieltä, että jos ilmoitat olevasi nainen, olet nainen. Aika hurjaa."
Niin...tämähän on voimassa olevaa lainsäädäntöä.
"Miehet hakemaan "naistodistusta". Sitten paperit mukaan ja naisten puolelle saunaan :)"
Itse olin samassa saunassa naisten kanssa jo 90-luvulla. Eikä tarvinnut olla edes mitään todistuksia, ja lapsena oli lauantaisin saunavuoro, jolloin isä ja äiti olivat samaan aikaan saunassa, vaikka eri sukupuolta ovatkin. Eikä muuten tarvinnut silloinkaan todistuksia.
"Ei tässä nyt ole vieläkään kaukana aika jolloin ajateltiin että ihminen ei koskaan kykene lentämään."
Tämä menee nyt toki pilkun viilaamiseksi, mutta ihminenhän ei edelleenkään kykene lentämään, jos lentämisellä tarkoitetaan hallittua liikkumista ilmassa. Edelleenkin lentämisen onnistumiseksi tarvitaan tekninen apuväline, kuten lentokone tai helikopteri.
Ei tässä ole vielä kaukaa aika, jolloin yleisesti ajateltiin, että naiset ja mustat eivät ole tietoisia olento, lähinnä verrattiin johonkin koiraan.
Tämä menee nyt toki pilkun viilaamiseksi, mutta ihminenhän ei edelleenkään kykene lentämään, jos lentämisellä tarkoitetaan hallittua liikkumista ilmassa.
Vaikka teknologia huolehtii fysiikasta, niin nousussa ja laskussa ohjaaminen tehdään melkein aina manuaalisesti. Autopilottikin osaa laskeutua, ja sillä on ainakin jossain lentoyhtiöissä pieni "kiintiö" laskuissa.
Voisi olla kiinnostavaa seurata tuon osuuden muutosta, jos jostain saisi julkista tietoa laskeutumisista. Toistaiseksi laskeutuminen on "ihmisälykkyyttä" vaativa toimenpide
Manuaalisessa laskussa tekoälystä olisi suoranaista haittaa. Johtopäätös: On olemassa tilanteita, joissa tekoälyä suorastaan hyljitään - tai ainakaan laskeutumiseen ei käytetä kahdenlaista älyä, eikä konetta voi ohjata samaanaikaisesti kaksi ihmistäkään. Varmasti nämä lainalaisuudet on yleistettävissä muillekin aloille.
Lähetä kommentti