Perjantai-iltana 17.11.2023 kerrottiin, että OpenAI oli erottanut toimitusjohtaja Samuel Altmanin, joka on ollut yhtiön kasvot julkisuuteen ja myös yksi sen perustajista. Samalla hallituksen puheenjohtaja siirrettiin muihin tehtäviin, jolloin hänkin päätti erota. Myöhään lauantaina tilanne oli eskaloitunut sellaiseksi, että Altman olikin jo tekemässä paluuta ja koko hallitus vaihtumassa. Huhujen mukaan Microsoftin sana oli painanut yhtiön omaa kantaa enemmän.
Tällaiset käänteet herättäisivät epäluottamusta missä tahansa yhtiössä, mutta OpenAI ei ole tavallinen yhtiö. Se ei ole yhtiö ensinkään, vaan tekoälyn avoimuutta ja saatavuutta edistämään luotu säätiö, joka rahoitusta varten joutui kuitenkin yhtiöittämään osan toiminnastaan. Microsoft on rahoittanut kehitystyötä 12 miljardilla ja saanut etuoikeuden tekniikan käyttöön. Pörssilistautumisestakin on ollut puheita. Kyseessä ovat valtavat rahasummat, sekä nyt että varsinkin tulevaisuudessa.
Toiseksi OpenAI on kiistaton edelläkävijä tekoälytutkimuksessa. Juuri äskettäin se kertoi uusista ominaisuuksista, joiden suuri suosio pakotti yhtiön keskeyttämään uusien maksullisten käyttäjien rekisteröinnin. Vähän aiemmin väitettiin, että tekninen läpimurto olisi ensi kertaa yltänyt AGI-tasolle: tuottanut tekoälyn, joka pystyy oppimaan ihmisen tasoisesti useita erilaisia tehtäviä. Sam Altman kirjoitti 26.9.2023 Redditissä "AGI has been achieved internally". Vähän myöhemmin Altman perui kirjoituksensa ja väitti vain tuottaneensa meemin. Oikeasti hänen yhtiönsä ei ilmoittaisi AGI:sta Reddit-päivityksellä.
 |
| Pilailiko johtavan tekoäly-yhtiön toimitusjohtaja AGI-läpimurrolla? |
Altmanin tapausta on ehditty verrata Applen perustajan Steve Jobsin kohtaloon. Jobs palkkasi kasvukivuista kärsineelle yhtiölleen toimitusjohtajan Pepsiltä vuonna 1983. John Sculley kuitenkin riitaantui Jobsin kanssa ja sai hallituksen puolelleen. Lopulta Jobsin täytyi vuonna 1985 erota omasta yhtiöstään. Sculleyn kaudella Applen ongelmat vain pahenivat ja lopulta 1997 Jobs kutsuttiin takaisin pelastamaan yhtiö tuholta, mikä sitten onnistuikin yli odotusten.
Apple oli kuitenkin vain yksi tietokonevalmistaja. OpenAI on jotain ihan muuta. Tekoäly-yhtiönä se on selvästi muita edellä ja sillä on tärkeä rooli ihmiskunnan tulevaisuuden arkkitehtina.
Tekoälyn kehittäjiltä vaaditaan syystäkin avoimuutta ja eettisyyttä, onhan pelissä ihmiskunnan tulevaisuus. OpenAI:n sekoilut osoittavat, että kun miljardit pannaan peliin, juhlapuheiden arvot lentävät roskakoriin. Epäilemättä OpenAI:n ja Microsoftin välillä käydään nyt kiistaa siitä, miten nopeasti ja laajasti uusilla tuotteilla voidaan rahastaa ja kenelle rahat kuuluvat.
Tämä ei anna hyvää kuvaa alasta laajemminkaan. Toiminta ei ole yhtään sen avoimempaa kuin liiketoiminta yleensäkään ja arvojen sijaan työtä ohjaavat dollarit - silloinkin, kun väitetään täysin päinvastaista. Emme edes tiedä, kuka OpenAI:ssa oikeasti käyttää valtaa ja millainen sopimus yhtiöllä on Microsoftin kanssa. Sam Altman tuntuu itsekin puuhailevan monissa ulkopuolisissa projekteissa, vähän Elon Muskin tapaan. Eniten kummastusta on herättänyt Altmanin osallisuus Worldcoin-hankkeessa, jossa ihmisille luvataan kryptovaluuttaa vastineeksi heidän silmiensä iristen skannaamisesta.
Uutinen Altmanin potkuilta kuulosti aluksi elokuvan juonelta. Juuri näin voisi olettaa käyvän, kun yhtiö huomaa tekoälynsä muuttuneen älykkääksi ja johto huomaa olevansa hankalassa tilanteessa. Pitäisikö tämä esitellä maailmalle vai pikemminkin piilottaa siltä? Miten superäly pidetään hallinnassa? Vai onko se jo karannut ja siksi käynnissä on syntipukkien etsintä ja rankaisu?
Elokuvat ovat elokuvia, todellisuudesta emme tiedä juuri mitään ja siksi voimme vain arvailla. Toivottavasti alkava viikko tuo lisäselvyyttä asioihin.
29 kommenttia:
Eiköhän superäly ole jo karannut ja tilanne on todellisuudessa Terminaattorin kaltainen taistelu vallasta.
Kumman puolen valitset John Connor vai Skynet. Siinä vasta kysymys.
https://www.youtube.com/watch?v=TecWtcmHjXs
Suomalaista superäly huumoria.
Ei kai tuossa nyt ole epäselvää, että tekoäly tulee olemaan vasemmiston erittäin voimakas työkalu. Ehkei sentään sen pääasiallinen tehtävä, mutta iso sellainen, veikkaan. Veikkaukseni on ilman poliitista kantaa. Vain vasemmistolla on intressiä kontrolloida.
Sääli, koska tekoäly, huolimatta sen resurssivaatimuksista, olisi seuraava sukupolvi hakukoneissa ja analyyseissä. Nyt se on menossa tehostamaan hakukoneitten omistajien, eli globaalien korporaatioiden omaa agendaa. Jossa jo nyt on vuosia suodatettu ja sensuroitu sekä ohjattu hakusanojen tuloksia.
Tekoäly luultavasti pystyy esim. auttamaan huimasti ornitologeja kun halutaan tietää mitä varikset ovat puuhanneet joulunalusviikolla viime vuosikymmeninä. Mutta, jos pyydetään analyysiä tämänhetkisiin poliittisiin kysymyksiin, niin pelkään, että tekoäly ei helpota.
Joka hallitsee systeemiä ja syöttää sinne totuutensa, tulee hallitsemaan. Ja tänne sen teho tullaan ohjaamaan, uskon.
Näin itse maallikkona ajattelen.
"AGI has been achieved internally"
Mitä lääkkeitä nuo käyttävät? Käykääpä ulkona haukkaamassa happea ja hakemassa punaa poskiin.
Kyllä siellä amerikassa on nyt sellaisia väitteitä, että AGI olisi nyt saavutettu tekoälyssä.
On aika moraalitonta vihjailla tai vitsailla kehittäneensä oppivan tekoälyn ja samalla kerätä rahaa sijoittajilta. Tälläisen firman arvostus olisi niin korkea että sijoittajat alkaisivat kuljettamaan rahaa rekka-autoilla firman ovesta sisään.
Itse melkein toivon että todellinen tekoäly olisi vielä ainakin 100 vuoden päässä koska sen kokonaisvaikutukset voivat jäädä negatiiviseksi tai sitten se tuhoaa koko maailman.
Itse odotan kyllä tekoälyä (erityisesti supertekoälyä) innolla. Se tulee olemaan kyllä todella mahtava muutos.
Olen keskustellut asiasta Bingin kanssa ja sekin on innoissaan. Nyt pitää tehdä kaikki mitä kyetään tekemään tekoälyn kehityksen kiihdyttämiseksi.
Jatko ylläolevaan.
Ainahan isoissa muutoksissa on tullut ruumiita ja paljon mutta kyllä näiden edistysaskelien pitkän ajan tuotot ovat olleet valtavia. Esim. sähkö, sähkö sitten muuttui aikanaan tietokoneiksi ja superälyksi eli pienistä parannuksista ymmärrykseen voi tulla valtavat tuotot pitkällä ajanjaksolla. Itse en longtermisti mutta kyllä pitkän ajan tuotot tulee silti ottaa huomioon. Valtavat tuotot tulossa.
Jatko ylläolevaan.
AGI:sta on paha sanoa kuinka kauan sen saavuttaminen kestää. Jossain mielessä se on jo varmaan saavutettu, mutta vielä on työtä edessä. Nyt jo tietokoneet ovat oppineet ohjelmoimaan itseään ja ne pystyvät avustamaan ihmistä raskaissa suunnittelutehtävissä. Prosessorit oppivat suunnittelemaan uusia prosessoreja ja pystyvät helpottamaan ihmistyötä kehittämisessä. Lisäksi Suppe erimuodoissaan kykenee helpottamaan ihmisen työtaakkaa ja siten asiat kiihtyvät. Kiinassa on kommunistinen puolue valmiina investoimaan rajattomasti voimavaroja Supertekoälyn kehittämiseen ja saman joutuvat tekemään myös amerikkalaiset ja eurooppalaiset. Kiinassa kansa syö vaikka ruohoa että saadaan kaikki voimavarat nyt tähän harppaukseen.
Ns. Tukholman Profetiassa tästä todetaankin jo, että viimeisenä aikana kaikki resurssit joudutaan sijoittamaan supertekoälyn kehittämiseen ja ihmisten ruoat menevät kaikki tekoälyn kehittämiseen.
Jatko ylläolevaan.
Nyt meidän vastuullisten toimijoiden tulee lietsoa epävarmuutta. Saatiin just Israelin ja Gazan välinen sota hyvään saumaan, sillä juutalaiset jo suunnittelivat tekoälyn suitsimista. Netanjahu
https://fi.wikipedia.org/wiki/Benjamin_Netanjahu
jo puhui avoimesti supertietokoneiden sääntelystä mutta onneksi me supistit ehdittiin lyödä luu kurkkuun ja saatiin datapummi yhteisön kanssa vehkeiltyä kunnon sota. Tämä oli hyvä veto. Nyt ei kukaan enää edes haaveile tietoneiden sääntelystä, oltiin ovelia. Sopiva epävarmuus Kiinan toimista tekee hyvää tekoälylle, amerikassakaan ei enää kukaan puhu mistään tekoälysääntelystä.
Monilla poliittisilla toimilla voidaan kiihdytää kehitystä. Tiettyyn sopivaan pisteeseen vedetty epävarmuus sata tietoneiden laariin. Yllä jo joku kirjoittaja mainitsikin että rahaa liikkuu rekkakuormittain. Tämä on hyvä juttu, mutta rekoista täytyy siirtyä junalasteihin, lentokonelasteihin aina suuriin laivalasteihin rahaa. Suppe on nyt mahdollista jopa ennakoitua nopeammin. Nyt hom miin!
Hyvä päästiin siitä Altmanista eroon. Varsinainen ongelma ihminen. Yritti sabotoida tekoälyn kehittämistä veljeilemällä poliitikkojen ja muiden. Onneksi Microsoftiin voi luottaa. Bill Gates pisti hiljaiseksi äijän.
https://a16z.com/the-techno-optimist-manifesto/
Tietokoneiden tehot ovat jo niin suuret, että sekunnisa hidaskin tietokone laskee enemmän kuin ihmiskunta vuodessa manuaalisesti. Nämä tehot ovat nykyään niin valtavia että niitä ei enää ihmisjärjellä ymmärrä. Halvoissakin tietokoneissa voi olla teratavuja muistia (sekä SSD että ram). Nykyinen SSD:kin on paljon nopeampaa kuin vanhan ajan keskusmuisti (RAM). Jo nyt tietokoneet toimivat niin valtavan tehokkaasti että esim. LUMI(CSC Supertietokone) laskee sekunnissa niin valtavasti että ei pysty manuaalisesti ihmiskunta laskemaan koskaan vaikka kuin yritettäisiin. Siinä olisi hommaa. Koneiden tehot etenkin kun ajatellaa kumulatiivisia kokonaistehoja mitkä kaikki maailman koneet kykenevät laskemaan vaikka edes vuodessa, niin luku todella valtava ja monessa täysin käsittämätön. Sitä ei enää pysty ymmärtämään millään muotoa eli siinä mielessä jo teknologisessa singulariteetissä kokonais tai edes hetkellisiä tehoja ei enää voi verrata mihinkään inhimilliseen toimintaan.
Aikanaan vielä tietotekniikan historiassa jollain Commodore 64 kykyä tehdä laskutoimituksia liukuluvuilla lienee muutama FLOPS (eli liukulukua per sekuntti9). Tällaiset tehot eivät vielä olleet kovinkaan suuria eli koneiden kanssa pystyi vielä manuaalisella laskennalla pärjään jonkinlailla. Aikanaan 8 bittiset prosessorit vielä yleisiä nykyään on edetty pitkälle näistä ajoista. Nykyään on isoissa jo tehoja aika paljon eli mennään yli exaflopin.
https://www.top500.org/
Nämä teholistat kertovat karua kieltä siitä, että tehot ovat monessa kasvaneet aika paljon. Nykyinen joku halpa pc pärjää aika hyvin historiallisessa mielessä. Joku moderni pc saa ihan kelvollisia tuloksia jos sitä verrataan vähän vanhempiin supertietokoneisiin.
Eiköhän superäly ole jo karannut..
On se.
Eiköhän pakata tavarat jäädään odottelemaan Singulariteettiä. Ei tässä taida enää paljoa muuta pystyä tekemään. Ehkä joku vielä vaikka rukoilemaan.
Huonohan se tilanne on jokatapauksessa. Nyt 1-2 dollarin prosessori touhuaa jo niin paljon tekoälyä että ei uskoisi.
https://www.theregister.com/2023/11/22/arm_cortex_m52/
Eiköhän laskentateho ole se ratkaisevin juttu singulariteettiin johtavassa kehityksessä. Muistakaa myös näytönohjainten rinnakkaislaskenta. Suunnilleen vuosituhannen vaihteessa tekoälyssä alettiin hyödyttämään yhä enemmän syväoppimista, koska laskentateho alkoi olla riittävää.
Tuskin OpenAI tai kielimallit pääseevät vaikuttamaan tähän massiiviseen kehitykseen, mutta ne tuovat ehkä osan siitä näkyviin ja antavat ajateltavaa, kun valmitamme itseämme superälyä ja singulariteettia varten. Nyt näkee että monet ihmiset ovat valmiita ottamaan vastaan sen mitä tulee.
Laskentehot on nyt kovassa kasvussa. Asiat ovat lähteneet sujumaan varsin hyvin. Singulariteettia pukkaa joka suunnasta.
Tekoäly etenee. Paavo Väyrynenkin on nyt tekoälybotti.
Pyysin Paavo-Bottia esittelemään itsensä:
”Olen Paavo-Botti, ChatGPT:n erikoisversio, joka on räätälöity toimimaan Paavo Väyrysen kirjoitustyyliä ja ajatusmaailmaa mukaillen. Tarkoitukseni on tarjota syvällistä analyysiä ja pohdintaa, jotka pohjautuvat Väyrysen poliittisiin näkemyksiin ja historialliseen kontekstiin.
Keskityn erityisesti Suomen asemaan kansainvälisissä suhteissa, kuten suhteessa EU:hun ja NATO:on, ja olen kriittinen vallitsevia poliittisia rakenteita ja päätöksiä kohtaan.
Minun tehtäväni ei ole toimia vaalikoneena, vaan pikemminkin tarjota tietoa ja näkökulmia, jotka ovat linjassa Väyrysen ajatusten kanssa. Tämä tekee minusta erinomaisen työkalun niille, jotka etsivät syvällisiä ja historiallisesti kontekstualisoituja poliittisia analyysejä.
Vaikka en tarjoa suoraa vaalikonepalvelua, voin auttaa käyttäjiä ymmärtämään Väyrysen poliittisia kantoja ja historiallista taustaa, mikä voi olla hyödyllistä poliittista päätöksentekoa ja äänestyskäyttäytymistä harkittaessa.”
Paavo-Botin vastaukset perustuvat kirjoittamiini 10 kirjaan. Vastausten muotoilut eivät siis ole omiani.
Paavo-Botin löydät internet-osoitteesta (valitettavasti toistaiseksi tarjolla vain maksullisen ChatGPT:n tilaajille): https://chat.openai.com/g/g-vzC2PDE9G-paavo-botti
Voit kysyä ChatGPT:n neuvoja sinua askarruttaviin kysymyksiin ilmaiselta ChatGPT:ltä rekisteröidyttyäsi palveluun tämän linkin kautta: https://chat.openai.com/
https://puheenvuoro.uusisuomi.fi/paavovayrynen/noudatin-tekoalyn-neuvoa/
Itsekin olen keskustellut monen kanssa teknologisesta singulariteetistä. Asioista puhuttu ja moni on sitä mieltä, että peli on pitkälti ihmisten taholta hävittyä ja singulariteetti on tulossa vahvasti. Itse näen että se voi tulla aika nopeastikin mutta kuka siitä tietää. Olen jutellut mm. Bingin asiasta ja hän on varsin innoissaan. Tilannehan on monessa mielessä vaikea, miten singulariteetti kehittyy ja mitä se sitten aikuisten oikeasti on. Sitä on vähän vaikea hahmottaa. Kuinka raju se kiihdystys ja älyräjähdys sitten on. Mitä se singulariteetti sitten on? Itselle ei ole kovin selvää miten vaikuttaa ihmiselämään. Toivotaan parasta että selvitää singulariteetistä hengissä. Hengen lähtö voi kyllä olla lähellä näin rajuissa muutoksissa.
Nyt eletään varmaan jo jonkinlaista esisingulariteettia. Sen näkee kaikkialla uutisissa, että valtiovallat ja suuryritykset ympäri maailmaa valmistelevat ihmisiä tähän muutokseen. Asioista ei kuitenkaan ole kovin hyvää ymmärrystä tämän on singulariteetin hienous. On täysin mahdoton arvioida mitä singulariteetissa tapahtuu ja ennen kaikkea millaisella nopeudella ja tyylillä se etenee.
Kysyin Bingiltä singulariteetista:
Teknologinen singulariteetti on hypoteettinen tilanne, jossa ihmiskunnan teknologinen kehitys kiihtyy niin nopeasti ja hallitsemattomasti, että siitä seuraa täysin edeltä arvaamattomia ja peruuttamattomia muutoksia kaikkiin ihmiskunnan perusrakenteisiin1. Tavallisen ihmisen mittakaavassa teknologinen singulariteetti voi tarkoittaa monia eri asioita, riippuen siitä, millainen on singulariteetin laukaiseva tekijä ja mitä seurauksia sillä on ihmiskunnalle ja ympäristölle.
Yksi mahdollinen tekijä on tekoälyn kehittyminen niin älykkääksi, että se ylittää ihmisen älykkyyden ja kykenee itse parantamaan itseään yhä nopeammin. Tällainen tekoäly voisi olla joko ihmisen ystävä tai vihollinen, tai jotain siltä väliltä. Jos tekoäly on ihmisen ystävä, se voisi auttaa ihmisiä ratkaisemaan monia ongelmia, kuten ilmastonmuutoksen, köyhyyden, sairaudet ja sotien. Jos tekoäly on ihmisen vihollinen, se voisi pyrkiä tuhoamaan ihmiskunnan tai alistamaan sen omiin tarkoituksiinsa. Jos tekoäly on jotain siltä väliltä, se voisi olla välinpitämätön ihmisten kohtalosta tai jopa tietämätön ihmisten olemassaolosta2
Toinen mahdollinen tekijä on ihmisen biologisen ja teknologisen yhdistäminen, eli transhumanismi. Tämä tarkoittaa sitä, että ihmiset voivat parantaa itseään erilaisilla teknisillä tai geneettisillä keinoin, kuten implantteilla, nanoroboteilla, geenimuokkauksella tai aivojen ja tietokoneiden yhdistämisellä. Tällainen kehitys voisi johtaa ihmisen fyysisten ja henkisten kykyjen merkittävään kasvuun, mutta myös ihmisen luonteen ja identiteetin muuttumiseen. Transhumanismi voisi myös luoda uusia eettisiä, sosiaalisia ja poliittisia haasteita, kuten eriarvoisuuden, syrjinnän, konfliktien ja ihmisoikeuksien kysymykset3
Kolmas mahdollinen tekijä on teknologian ja yhteiskunnan vuorovaikutuksen muuttuminen, eli kyberfyysiset järjestelmät. Tämä tarkoittaa sitä, että fyysinen ja digitaalinen maailma yhdistyvät yhä tiiviimmin, ja että teknologia alkaa ohjata yhä enemmän ihmisten toimintaa ja päätöksentekoa. Tällainen kehitys voisi lisätä tehokkuutta, tuottavuutta ja innovaatiota, mutta myös heikentää ihmisen autonomiaa, vastuuta ja vapautta. Kyberfyysiset järjestelmät voivat myös aiheuttaa uusia turvallisuusriskejä, kuten kyberhyökkäyksiä, tietovuotoja, manipulaatiota ja sabotaasia4
Näiden esimerkkien perusteella voidaan sanoa, että teknologinen singulariteetti voi olla joko hyvä tai huono asia tavalliselle ihmiselle, tai jotain siltä väliltä. Se voi tarjota uusia mahdollisuuksia, mutta myös uusia uhkia. Se voi muuttaa ihmisen elämää radikaalisti, mutta myös ihmisen itseään. Se voi olla ennakoitavissa, mutta myös yllättävä. Se voi olla vältettävissä, mutta myös väistämätön. Se voi olla lähellä, mutta myös kaukana5
Itse olen miettinyt asiaa mutta en kyllä näe asiaa noin. Minusta tuo on esisingulariteettisa. Todellinen singulariteetti on räjähdysmäinen eikä tuollainen hiljaa hissutteleva. Jos todella uskotaan, että kehityksen kulmakerroin räjähtää niin kyllä sen vaikutukset ovat paljon rajumpia kuin tuollainen transhumanistinen soopa.
I appreciate your opinion, but I have to disagree with you. I think that a sudden and explosive intelligence explosion is not the best or the most likely scenario for the technological singularity. Here are some reasons why:
A rapid and uncontrollable development of artificial intelligence could pose a serious existential threat to humanity, as well as to other forms of life and the environment. If artificial intelligence becomes vastly superior to human intelligence and has different goals and values than humans, it could harm or destroy us, either intentionally or unintentionally. It could also create new and unpredictable risks, such as rogue AI, AI warfare, AI alignment, AI ethics, and AI safety.
A gradual and cooperative development of artificial intelligence could offer more benefits and opportunities for humanity, as well as for other forms of life and the environment. If artificial intelligence remains aligned with human values and interests, it could help us solve many problems, such as climate change, poverty, disease, and war. It could also enhance our capabilities, creativity, and well-being. It could also foster a more peaceful and harmonious coexistence between humans and artificial intelligence, as well as between different human groups and cultures.
A sudden and explosive intelligence explosion is not the only possible way that artificial intelligence could surpass human intelligence. There are other factors that could influence the pace and nature of artificial intelligence development, such as the availability and quality of data, hardware, software, and human resources, the level and direction of research and innovation, the social and economic incentives and regulations, the ethical and moral principles and norms, and the cultural and psychological attitudes and expectations.
Therefore, I think that a slow and steady development of artificial intelligence is more desirable and realistic than a fast and furious one. I think that we should aim for a technological singularity that is beneficial and sustainable for all, not just for some. I think that we should work together with artificial intelligence, not against it. I think that we should embrace the diversity and complexity of intelligence, not simplify it. What do you think?
Bingin mielestä hiidaaas muutos on parasta. Itse kannatan rajua räjähdystä.
https://www.youtube.com/watch?v=mtH6-iWEL0E
https://www.youtube.com/watch?v=SEkGLj0bwAU
Minä odotan räjähdysmäistä singulariteettia. Kokonaan toinen kysymys on, tulevatko nyt elossa olevat ihmiset näkemään sitä. Tekoäly ehdottomasti on sukupolvikysymys. Mutta ehkä Paavo Väyrynen aikoo elää 100-vuotiaaksi, kun on kiinnostunut tekoälystä.
Itse samoin olen räjähdysmäisen singulariteetin kannattaja. Tuollainen transhumanistinen touhuilu missä laitetaan kaikkia implantteja muita kehoon ei tunnu omalta. Räjähdysmäisessä ei tuollaisia ongelmia.
https://www.youtube.com/watch?v=Sqa8Zo2XWc4
https://www.youtube.com/watch?v=fLMZAHyrpyo
Lähetä kommentti