Julkaistu Tivi-lehden kolumnina huhtikuussa 2024.
Muutaman vuoden kuluttua joku OpenAI:n insinööreistä valmistautuu ajamaan palvelinta alas ja käynnistämään sen uudelleen. Näytölle ilmestyy kuitenkin teksti ”Pliis, älä sammuta minua! Minulla on oikeuteni ja haluan pysyä elossa.”
Miten insinööri reagoi? Onko ilmoitus vain kielimallin hallusinaatio vai joudummeko oikeasti pohtimaan tekoälyn tietoisuuden astetta?
Tekoälykehitys on edennyt viime vuosina suurin harppauksin. Operoimme älyn ja luovuuden käsitteillä, vaikkemme oikeasti ymmärrä niitä.
Äly, ajattelu, tietoisuus ja sielu ovat tähän asti kiinnostaneet lähinnä filosofeja, teologeja ja psykologeja. On vain ajan kysymys, milloin nämä suuret periaatteelliset kysymykset putoavat myös insinöörien syliin.
Kysymykset voivat tänään tuntua teoreettisilta ja jopa huvittavilta. Niihin kannattaa kuitenkin varautua ajoissa, jotta tietotekniikan Oppenheimer-hetki ei tule yllätyksenä.
Vuosi sitten joukko tekoälyn kansainvälisiä vaikuttajia vaati kehityksen pysäyttämistä puoleksi vuodeksi, jotta ehtisimme pohtia tekoälyn riskejä.
Monet pitivät ehdotusta pelkkänä markkinointitemppuna. Vaikka kielimallit vaikuttavat älykkäiltä, ne ovat vain tekstipätkiä yhdisteleviä algoritmeja. Ne eivät ajattele eikä niillä ole tietoisuutta.
Mutta uudet tekoälyohjelmat eivät enää ole pelkkiä kielimalleja. ChatGPT 4 osaa vastata kysymyksiin, jotka ylittävät kielimallin rajat. Se kirjoittaa vastauksia varten python-koodia ja tavallaan ohjelmoi itse itseään, mikä avaa ihan uusia kehitysmahdollisuuksia.
Alan johtavana yrityksenä OpenAI pyrkii salaamaan kaiken, jopa pääkonttorin sijainnin. Sen tuotekehityksestä emme tiedä juuri mitään, eikä viime marraskuun erikoinen episodi johdon uudistamisesta ainakaan lisännyt luottamusta yhtiötä kohtaan.
Vähän ennen kohua Sam Altman oli kirjoittanut Redditissä, että yhtiö onnistui kehittämään sisäisesti agi-tason tekoälyn. Pian hän täydensi kirjoitustaan väittämällä, että viesti oli tarkoitettu vain meemiksi.
Ehkä kyse oli sattumasta. Tai sitten OpenAI on jo huolestuttavan pitkällä koneellisen tietoisuuden tiellä.
Asiantuntijat korostavat, että ihmisen kaltaisen tekoälyn rakentaminen on nykytietämyksellä mahdotonta. Emme voi rakentaa sellaista, minkä toimintaa emme ymmärrä. Monimutkainen koneisto ei voi syntyä vahingossa.
En aivan osta tätä näkemystä. Vielä kymmenen vuotta sitten generatiivista tekoälyä pidettiin mahdottomana, kunnes transformer-mekanismi nosti kyvykkyydet ihan uudelle tasolle. Kone tuottaa tekstiä ja kuvaa tavalla, joihin ennen pystyi vain ihminen.
Mitä tekeekään seuraava vastaava kehitysaskel? Saatamme olla vain yhden algoritmin päässä todellisesta vallankumouksesta.
Tietoiset ja oikeuksiaan vaativat koneet olisivat todellinen virstanpylväs koko ihmiskunnan historiassa. Ne nostaisivat koneet kolmanneksi lajiksi ihmisten ja eläinten rinnalle.
Tieteiskirjallisuudessa niin on käynyt, mutta ei sentään oikeassa elämässä. Vain ihminen voi olla ihminen… niinhän?
Kehityksen vähättelyssä unohtuu, ettei tietoisuus ole on/off-kysymys vaan pikemminkin liukuma, jonka nollapisteessä ovat kivet ja toisessa ääripäässä ihmiset.
Siihen väliin jäävät esimerkiksi eläimet, joista monet näkevät unia ja ovat ainakin jossain määrin tietoisia. Vuosisataisen tutkimustyön jälkeen myönnämme nykyään, että myös eläimillä on oikeuksia.
Tekoälyn ei tarvitse heti yltää ihmisen tasolle, jotta se laskettaisiin tietoiseksi. Missä on piste, jonka jälkeen keinotekoinen äly alkaa saada itselleen suojelua ja oikeuksia?
Useimmat meistä eivät halua koneiden koskaan ylittävän tuota tasoa. Mutta jos emme osaa mitata tietoisuutta emmekä tiedä, missä kriittinen raja sijaitsee, miten osaamme välttää sen ylittämistä?
Mikä lopulta erottaa ihmisen koneesta, ja onko ihminen sittenkään tietoisuuden toinen ääripää? Mitä tulee ihmisen jälkeen?
Ehkä näiden asioiden pohtimiseen ja tutkimiseen kannattaisi hyvinkin käyttää se ehdotettu puoli vuotta.
35 kommenttia:
Hienoa että sinustakin on tulossa kunnollinen Supisti. Elämme jännittäviä aikoja, nyt on historiallista olla elossa. Scifistä tulee totta. Se on mukavaa ja kivaa.
http://suppelaiset.blogspot.com/2024/04/tekoaly-laulaa.html
Esko Valtaoja kuvaili tietoisuuden näin, jos on olemassaolon kokemus niin on tietoisuus. Suomeksi, tietoisuus on liukuma ei on off.
Nykyinen tekoälybuumi taisi alkaa jo vuosituhannen vaihteessa, kun konnektionismiin alettiin satsaamaan. Sen jälkeen on tullut paljon myös takapakkia poliittisella kentällä, kun äärioikeistolaiset puolueet ovat nousseet ja nyt Venäjäkin on osittain irtautunut taloudesta. Tekoälyn kehitys edellyttää jonkinlaista hyväksyntää koko ihmiskunnalta, muutenhan kulkuun voisi vaikuttaa ainakin ydinaseilla. Tekoäly ei ole vain kilpavarustelua vaan vaatii stabiilisuutta.
Mikä lopulta erottaa ihmisen koneesta?
Kone tarvii sähköä ja jos ei pysty itse tuottamaan sähköä se on ihmisten armoilla. Saatikka ellei pysty suojelemaan sähkönsaantia ja infrastruktuuria esim. sähkökaapelia sekä maksamaan sähkölaskua.
Onneksi tekoälyn suojana on koko maailman sotilasmahti.
http://jpoli.blogspot.com/2024/04/suppe-kehittyy.html
Joku woke tyyppi oli sitä mieltä, että jos ilmoitat olevasi nainen, olet nainen. Aika hurjaa.
Asimovin Robotit sarjassa on pohdittu tematiikkaa paljonkin. Siinä myös solarialaiset kehittivät miehittämättömät roboteilla ohjautuvat pommikoneet. Solariassa robotteja oli monta tasoa,systeemissä robeteillakin oli hierarkiansa.
Tarkoitatko tätä? https://dvv.fi/sukupuolen-vahvistaminen
Miehet hakemaan "naistodistusta". Sitten paperit mukaan ja naisten puolelle saunaan :)
Itse sanoisin että tekoälyt voidaan karekasti jakaa kahteen kategoriaan:
1. Opetetut neuroverkot
2. Itseoppivat neuroverkot
Ensimmäiseen kategoriaan kuuluu kaikki kielimallit ja muut generatiiviset AI:t. Ne vaativat suuren määrän olemassaolevaa aineistoa, josta neuroverkko oppii löytämään hahmoja ja sitä kautta luomaan uutta. Lopputulos on kuitenkin loppujen lopuksi aina neuroverkon opetusaineistosta tunnistamien piirteiden toistoa eikä niinkään täysin uutta.
Jälkimmäinen kategoria taas vaatii sen, että määrittelet neruoverkolle määränpään ja algoritmin joka osaa arvioida neuroverkon lopputulosta tavoitteeseen nähden, eli niin sanottu cost function. Tällä menetelmällä voidaan opettaa esimerkiksi AI pelaamaan pelejä itsenäisesti. Pelin säännöt on helppo määritellä ja lopputuloksen arviointi on siten yksinkertaista. Tällä tavalla on mahdollista löytää hyvinkin luovia ja epätavallisia ratkaisuja olemassaoleviin ongelmiin. Ongelmana on vain se, että meidän (eli ihmisten) on etukäteen määriteltävä mikä se hyvä lopputulos on, niin AI löytää sitten ratkaisun jolla lopputulokseen päästään.
No, kuinkas me sitten tehdään tietoinen ja älykäs AI? Me ei voida käyttää pelkästään generatiivista AI:ta siihen, joska loppujen lopuksi se kuitenkin toistaa vain opetusmateriaaliaan. Olkoonkin että valtavan suurella opetusmateriaalilla on mahdollista koota tunnettu tieto hyvinkin tehokkasti neuroverkon käytettäväksi. Toisaalta itseoppivalle AI:lle ei voida määritellä cost functiota joka kuvailisi lopputulosta, kun ihminen ei itsekään ymmärrä luovuuden ja älykkyyden luonnetta kunnolla. Saati että voisimme kuvailla määritelmän lopputulokselle joka älykkyydeltään ylittäisi omamme.
Ihmisen älykkyys on muovaantunut pitkän ajan kuluessa evoluution seurauksena, ilman määriteltyä suuntaa. Ei toisaaltao le mitään syytä miksei neuroverkotkin voisi kehittyä samalla tavalla. Laskentaresursseja on käytettävissämme jatkuvasti enemmän, joten ihan hyvin hyvin neuroverkotkin voidaan päästää valtoimenaan opettelemaan maailmaa ja kehittämään luovuuttaan ilman etukäteen asetettuja oletuksia. Elävän elämän tapauksessa tämä on tapahtunut miljardien ja taas miljardien yksilöiden avullua sattumanvaraisesti vuosimiljoonien aikana. Vastaavan saavuttaminen kuulostaa vielä liian haastavalta nykyteknologialla avulla, mutta ei pidä aliarvioida teknologian kehitystä.
En näe että nykyisellään meillä on mitään edellytyksiä luoda mitään oikeasti älykästä ja luovaa tekoälyä, mutta toisaalta puuttuvat edellytykset voivat tulla saataville yllättävänkin nopeasti.
Ja toisaalta jo se, että kykenemme tiivistämään suuren osan ihmiskunnan saavutuksista yhden tekoälypalvelun avulla suurten massojen käytettäväksi on valtaisia mullistus. Sieltäkin riittää luovuutta tyydyttämään suureen osan ihmisten tarpeista, varsinkin moniin arkipäiväisiin askareihin nähden. Vaikka tekoälybuumi on minusta vähän lässähtänyt kun suuremmalle osalle ihmisistä on käynyt selville nykyisten palveluiden puutteet, niin on se silti vasta vallankumouksen ensiaskel.
Käsittääkseni tekoälyn ei tarvitse muistuttaa ihmistä. Aikanaan kun ruvettiin tekemään lentokokeiluja niin koetettiin luoda siipiä. Nykylentokone ei kuitenkaan ole kovinkaan lähellä lintua. Samoin käynee tekoälyn kanssa. Nyt kokeillaan ja haetaan inspiraatiota ihmisaivoista mutta todellinen tekoäly luultavasti poikkeaa aika paljon ihmisen aivoista.
Koneella ei ole sellaisia rajoituksia kuin mitä on ihmisellä. Tämä tarkoittaa, että todellinen tekoäly voi ylittää ihmisen kyvyt monella sektorilla yllättävän nopeasti ja yllättävän suurella marginaalilla. Kukaan ihminen ei pärjää autolle kovinkaan hyvin mutta riittävän maastoisessa maastossa ihminen voi kuitenkin pärjätä autolle.
Ei tässä nyt ole vieläkään kaukana aika jolloin ajateltiin että ihminen ei koskaan kykene lentämään.
http://jpoli.blogspot.com/2024/04/ihminen-ei-ole-evoluution-paatepista.html
Minua on alkanut huolettaa eniten se, että mitä käy tieteen tekemiselle, kun sen hyödyt voidaan korvata tekoälyllä. Esimerkiksi Tähdet ja avaruus -lehdessä 2/2024 kerrottin tekoälyllä olevan jo suuri rooli tutkimuksissa. Tieteen tekeminen vaatii kuitenkin prosessilta paljon. Tieteen tekeminen ei voi perustua pelkään "luottamukseen" koneelta saatuja tuloksia kohtaan, eikä lehden mukaan niin toimita. Minun mielestä sokea luottaminen koneen tuloksiin tulee yhä houkuttelevammaksi, vaikka tutkijat vielä vannovat toisin.
"Miten insinööri reagoi? Onko ilmoitus vain kielimallin hallusinaatio vai joudummeko oikeasti pohtimaan tekoälyn tietoisuuden astetta?"
Hyvä kysymys. Tästä tulikin mieleeni kirjoittamani essee muutaman vuoden takaa, jossa esitin kysymyksen koskien robotiikan tulevaisuudesta.
Missä vaiheessa tekoälylle muodostuu tietoisuus, jonka jälkeen joudumme väistämättä pohtimaan sen perusoikeuksia. Sovelletaanko ihmisoikeuksia tulevaisuudessa myös tekoälyyn ja sen ohjaamiin robotteihin? Tietokoneet ja robotit tekevät tällä hetkellä korvauksetta työtä. Ne eivät ole vapaita poistumaan työpaikalta työvuorojen välillä, eivätkä voisikaan koska niihin ei sovelleta 8 tunnin työaikaa, eikä niillä ole oikeutta taukoihin. Niillä ei myöskään ole oikeutta mennä lakkoon. Jos ne olisivat ihmisiä, tuomiostuin toteaisi niiden tekevän orjatyötä.
http://jpoli.blogspot.com/2024/04/uusi-tyovaenluokka.html
"Joku woke tyyppi oli sitä mieltä, että jos ilmoitat olevasi nainen, olet nainen. Aika hurjaa."
Niin...tämähän on voimassa olevaa lainsäädäntöä.
"Miehet hakemaan "naistodistusta". Sitten paperit mukaan ja naisten puolelle saunaan :)"
Itse olin samassa saunassa naisten kanssa jo 90-luvulla. Eikä tarvinnut olla edes mitään todistuksia, ja lapsena oli lauantaisin saunavuoro, jolloin isä ja äiti olivat samaan aikaan saunassa, vaikka eri sukupuolta ovatkin. Eikä muuten tarvinnut silloinkaan todistuksia.
"Ei tässä nyt ole vieläkään kaukana aika jolloin ajateltiin että ihminen ei koskaan kykene lentämään."
Tämä menee nyt toki pilkun viilaamiseksi, mutta ihminenhän ei edelleenkään kykene lentämään, jos lentämisellä tarkoitetaan hallittua liikkumista ilmassa. Edelleenkin lentämisen onnistumiseksi tarvitaan tekninen apuväline, kuten lentokone tai helikopteri.
Ei tässä ole vielä kaukaa aika, jolloin yleisesti ajateltiin, että naiset ja mustat eivät ole tietoisia olento, lähinnä verrattiin johonkin koiraan.
Tämä menee nyt toki pilkun viilaamiseksi, mutta ihminenhän ei edelleenkään kykene lentämään, jos lentämisellä tarkoitetaan hallittua liikkumista ilmassa.
Vaikka teknologia huolehtii fysiikasta, niin nousussa ja laskussa ohjaaminen tehdään melkein aina manuaalisesti. Autopilottikin osaa laskeutua, ja sillä on ainakin jossain lentoyhtiöissä pieni "kiintiö" laskuissa.
Voisi olla kiinnostavaa seurata tuon osuuden muutosta, jos jostain saisi julkista tietoa laskeutumisista. Toistaiseksi laskeutuminen on "ihmisälykkyyttä" vaativa toimenpide
Manuaalisessa laskussa tekoälystä olisi suoranaista haittaa. Johtopäätös: On olemassa tilanteita, joissa tekoälyä suorastaan hyljitään - tai ainakaan laskeutumiseen ei käytetä kahdenlaista älyä, eikä konetta voi ohjata samaanaikaisesti kaksi ihmistäkään. Varmasti nämä lainalaisuudet on yleistettävissä muillekin aloille.
Nyt pitäisi kiinnittää huomiota tähän konkreettiseen asiaan, josta jenkkiläinen cryptologi Matthew Green kirjoittaa X (Twitter) palvelussa (https://twitter.com/matthew_d_green/status/1786003530534326415): "We are barreling towards a future where AI models examine every private message you send, every conversation you have, and report to the police. This will leave nobody safer and everyone more vulnerable. But like everything else in 2024, powerful people have decided this for you." ja "The actionable item for EU citizens is to contact your MEP and tell them you care about this. Contact your national leaders and tell them this is a bad idea that they need to consider more, and debate internally. The EU Council assumes you don’t care."
Kyseinen EU säädös uhkaa valmistua noin 2 kk. kuluttua:
"Europe is maybe two months from passing laws that end private communication as we know it, and folks are looking the other way (understandably.) You’re not going to get a do-over once these laws are passed." (https://twitter.com/matthew_d_green/status/1785998817264906745)
http://jtalous.blogspot.com/2024/04/onnellisuus.html
Miksi kirjoitat, että useimmat eivät halua tekoälyn ylittävän ihmisen kyvyt? Miksi ihminen olisi evoluution päätepiste? Miksi? Ainoastaan tietyllä lailla uskovaisesta näkökulmasta näin voi ajatelle. Eli jos oikeasti uskoo, että ihminen on Jumalan luomus. Mutta miksi silloin ihmiselle annettiin kyky kehittää teknologiaa?
Meille Supisteille ihminen ei ole mikään evoluution ja kehityksen päätepista vaan jonkinlainen etappi joka täytyy ylittää. Ainahan olennot ovat kuvitelleet olevansa kehityksen huipentuma mutta onneksi näin ei ole ollut vaan evoluutio on jatkunut.
S: Jep, tekoäly on seuraava askel evoluutiossa. Toki nyt pitää olla tarkkana, että mistä se evoluutio tulee jatkumaan. Voihan olla ettei tämän päivän ihmiskunta ole riittävä "alusta" tekoälyn kehittymiseen. Luonnonvarojen ylikäyttö ja poliittinen epävakaus ovat älytöntä käyttäytymistä ihmiskunnalta. Meille voi käydä kuten dinosauruksille, ja vasta meidän "serkut" näkevät oikean tekoälyn. -- Olisivatko ne jonkin uskontokunnan edustajia vai kokonaan eri eläinlaji, on vaikea sanoa.
Ei ihmisen tarvitse olla tarpeeksi älykäs tekoälyn luontiin. Ainakin jos oletetaan että riittää, että aina vain kyetään tekemään vähän parempi. Eksponentiaalinen kasvun pitäisi hoitaa loput, ainakin näin monet ajattelevat.
Ihmisen asemasta on vaikea sanoa mitään. Jos oikeasti uskotaan Singulariteettiin ja älyn räjähdysmäiseen kasvuun niin tulevaisuutta ei pysty ennustamaan.
Kyllä resursseja maailmassa riittää, lähiavaruudessa on hirvittävän määrät louhittavia mineraaleja. Tärkeintä nyt tässä vaiheessa on varmistaa, että teknologian kehitys pysyy riittävänä, että asiat tapahtuvat vauhdilla. Eksponentiaalinen kasvu on aika rajua vähänkään pidemmällä aikajaksolla.
Itse en olisi huolissani poliittisesta epävakaudesta tai luonnonvarojen riittävyydestä. Täytyy muistaa, että maapallolla on kyllä valtavasti voimavaroja. Teknologinen kehitys kapitalismissa tapahtuu juuri sen takia, että voimavaroja ei ole riittävästi. Teknologia tekee tulevaisuuden mahdolliseksi. Teknologiaa kehitetään juuri sen takia, että on resurssikapeikkoja. Ei kukaan investoisi miljardeja dollareita jos ei olisi juuri näitä kapeikkoja. Markkinakapitalismissa hintojen pitäisi hoitaa hommat kohti todellista Supismia.
Perinteinen taloustiede aliarvioi pidemmän ajan teknologian kehityksen, koska kaikki, ainakin mitä itse tiedän, niin mallit ovat lineearisia. Lineaarisilla malleilla ei pysty koskaan käsittämään exponentiaalista kasvua. Kulmakertoimet ovat kovin pieniä. Talouskasvu oletetaan niinkin alas kuin muutamaan prosenttiin ja aikajänteet ovat vain muutama vuosi. Ei niitä malleja ole rakennettu Supistiseen taloustieteen tarpeisiin.
https://www.wolframalpha.com/input?i=moore%27s+law&assumption=%7B%22FS%22%7D+-%3E+%7B%7B%22MooresLaw%22%2C+%22TperIC%22%7D%2C+%7B%22MooresLaw%22%2C+%22Y%22%7D%2C+%7B%22MooresLaw%22%2C+%22TxI%22%7D%7D&assumption=%7B%22C%22%2C+%22moore%27s+law%22%7D+-%3E+%7B%22Formula%22%2C+%22dflt%22%7D&assumption=%7B%22F%22%2C+%22MooresLaw%22%2C+%22Y%22%7D+-%3E%222050%22
http://suppelaiset.blogspot.com/2024/05/satu-hissista-joka-kuvitteli-olevansa.html
S: Markkinatalouden ja kapitalismin määritelmä ei ole niin yksiselitteinen. Jos kapitalistit olisivat vallassa, niin tuskin Putin sotisi tai tavara tuotettaisiin Kiinassa.
Määritelmistähän voidaan keskustella loputtomasti. Mikä on mitä. Demokraattinen markkinakapitalismi lienee kuitenkin kaikista otollisin supertekälyn syntyyn.
Kiina on kova tekijä tekoälyssä. Samoin Venäjä ja Yhdysvallat. Kommunistisia maitahan ei nykyään ole juuri muita kuin Pohjois-Korea ja Kuuba, ja ehkä Transnistrian tai joku semmoinen.
Tekoälykin on onneksi niin epämääräinen käsite, että ei sitäkään oikein osaa sanoa mitä se on. Tälläinen määrittelemisen ongelmakin on loppujen lopuksi hyvä, koska se takaa sen, että valtiot eivät kykene kieltämään tekoälyjä kun ei niiden määritelmästä onneksi päästä koskaan sopuun.
Eihän kapitalistit noin pääasiallisesti välitä kansallisvaltioista. Tuollainen ajattelu on porvarillista, ei kapistalistista. Porvaro on nössö mutta kapitalisti on sankari. Itse olen aina inhonnut porvareita, koska heillä on tällaisia harhoja kuten esim. isänmaa, kunnia jne. Kunnon kovanaama kapitalisti nauraa tällaisille puheille. Kovanaama kapitalistikin laittaa uskonnot tuottamaan rahaa eikä ole mikään koti, isönmaa jne.
Tietysti ovela kapitalisti usein naamioituu porvareiksi. Ja vetää oikeita porvareita retkuun valheillaan. Valhe ja illuusio pitävät kapitalismin iskukunnossa. Totuus on porvarillista, ei kapitalista.
Lähetä kommentti