Julkaistu Tivi-lehden kolumnina huhtikuussa 2024.
Muutaman vuoden kuluttua joku OpenAI:n insinööreistä valmistautuu ajamaan palvelinta alas ja käynnistämään sen uudelleen. Näytölle ilmestyy kuitenkin teksti ”Pliis, älä sammuta minua! Minulla on oikeuteni ja haluan pysyä elossa.”
Miten insinööri reagoi? Onko ilmoitus vain kielimallin hallusinaatio vai joudummeko oikeasti pohtimaan tekoälyn tietoisuuden astetta?
Tekoälykehitys on edennyt viime vuosina suurin harppauksin. Operoimme älyn ja luovuuden käsitteillä, vaikkemme oikeasti ymmärrä niitä.
Äly, ajattelu, tietoisuus ja sielu ovat tähän asti kiinnostaneet lähinnä filosofeja, teologeja ja psykologeja. On vain ajan kysymys, milloin nämä suuret periaatteelliset kysymykset putoavat myös insinöörien syliin.
Kysymykset voivat tänään tuntua teoreettisilta ja jopa huvittavilta. Niihin kannattaa kuitenkin varautua ajoissa, jotta tietotekniikan Oppenheimer-hetki ei tule yllätyksenä.
Vuosi sitten joukko tekoälyn kansainvälisiä vaikuttajia vaati kehityksen pysäyttämistä puoleksi vuodeksi, jotta ehtisimme pohtia tekoälyn riskejä.
Monet pitivät ehdotusta pelkkänä markkinointitemppuna. Vaikka kielimallit vaikuttavat älykkäiltä, ne ovat vain tekstipätkiä yhdisteleviä algoritmeja. Ne eivät ajattele eikä niillä ole tietoisuutta.
Mutta uudet tekoälyohjelmat eivät enää ole pelkkiä kielimalleja. ChatGPT 4 osaa vastata kysymyksiin, jotka ylittävät kielimallin rajat. Se kirjoittaa vastauksia varten python-koodia ja tavallaan ohjelmoi itse itseään, mikä avaa ihan uusia kehitysmahdollisuuksia.
Alan johtavana yrityksenä OpenAI pyrkii salaamaan kaiken, jopa pääkonttorin sijainnin. Sen tuotekehityksestä emme tiedä juuri mitään, eikä viime marraskuun erikoinen episodi johdon uudistamisesta ainakaan lisännyt luottamusta yhtiötä kohtaan.
Vähän ennen kohua Sam Altman oli kirjoittanut Redditissä, että yhtiö onnistui kehittämään sisäisesti agi-tason tekoälyn. Pian hän täydensi kirjoitustaan väittämällä, että viesti oli tarkoitettu vain meemiksi.
Ehkä kyse oli sattumasta. Tai sitten OpenAI on jo huolestuttavan pitkällä koneellisen tietoisuuden tiellä.
Asiantuntijat korostavat, että ihmisen kaltaisen tekoälyn rakentaminen on nykytietämyksellä mahdotonta. Emme voi rakentaa sellaista, minkä toimintaa emme ymmärrä. Monimutkainen koneisto ei voi syntyä vahingossa.
En aivan osta tätä näkemystä. Vielä kymmenen vuotta sitten generatiivista tekoälyä pidettiin mahdottomana, kunnes transformer-mekanismi nosti kyvykkyydet ihan uudelle tasolle. Kone tuottaa tekstiä ja kuvaa tavalla, joihin ennen pystyi vain ihminen.
Mitä tekeekään seuraava vastaava kehitysaskel? Saatamme olla vain yhden algoritmin päässä todellisesta vallankumouksesta.
Tietoiset ja oikeuksiaan vaativat koneet olisivat todellinen virstanpylväs koko ihmiskunnan historiassa. Ne nostaisivat koneet kolmanneksi lajiksi ihmisten ja eläinten rinnalle.
Tieteiskirjallisuudessa niin on käynyt, mutta ei sentään oikeassa elämässä. Vain ihminen voi olla ihminen… niinhän?
Kehityksen vähättelyssä unohtuu, ettei tietoisuus ole on/off-kysymys vaan pikemminkin liukuma, jonka nollapisteessä ovat kivet ja toisessa ääripäässä ihmiset.
Siihen väliin jäävät esimerkiksi eläimet, joista monet näkevät unia ja ovat ainakin jossain määrin tietoisia. Vuosisataisen tutkimustyön jälkeen myönnämme nykyään, että myös eläimillä on oikeuksia.
Tekoälyn ei tarvitse heti yltää ihmisen tasolle, jotta se laskettaisiin tietoiseksi. Missä on piste, jonka jälkeen keinotekoinen äly alkaa saada itselleen suojelua ja oikeuksia?
Useimmat meistä eivät halua koneiden koskaan ylittävän tuota tasoa. Mutta jos emme osaa mitata tietoisuutta emmekä tiedä, missä kriittinen raja sijaitsee, miten osaamme välttää sen ylittämistä?
Mikä lopulta erottaa ihmisen koneesta, ja onko ihminen sittenkään tietoisuuden toinen ääripää? Mitä tulee ihmisen jälkeen?
Ehkä näiden asioiden pohtimiseen ja tutkimiseen kannattaisi hyvinkin käyttää se ehdotettu puoli vuotta.