Näytetään tekstit, joissa on tunniste deepfake. Näytä kaikki tekstit
Näytetään tekstit, joissa on tunniste deepfake. Näytä kaikki tekstit

torstai 11. huhtikuuta 2024

Röyhkeä huijausmainos Facebookissa Suomen presidentin nimissä

Facebook ei saa kuriin sijoitusmainoksia, joissa julkisuuden henkilöitä käytetään kyseenalaisten ja suorastaan laittomien sijoituspalvelujen markkinointiin. Vaikka mainoksia ilmiantaisi, sillä ei näytä olevan mitään vaikutusta. Vastausta ei joko kuulu tai tulee ilmoitus, ettei mainos ole yhteisönormien vastainen.

Jesse Kamras ja Marja Hintikka ovat tulleet tutuiksi huijausten kasvoina. 

Julkkisten nimet ja kuvat johtavat valesivuille.

Jos mainoksia klikkaa, päätyy erehdyttävästi iltapäivälehtien uutista muistuttaville sivuille, jossa leiska, otsikot, osiot ja jopa toimittajan nimi ja kuva näyttävät erehdyttävän aidoilta. 

Huijausmainos näyttää erehdyttävästi oikealta uutissivulta.

Merkittävää on, että pitkä sivu on täysin virheetöntä suomea. Lopussa on jopa aidolta näyttävä lukijoiden keskustelualue, jossa kilvan kehutaan Immediate Robbo -palvelun tuottoja. Sen oma sivu lupaa "Ansaitse €950 - €2 200 PÄIVÄSSÄ maailman älykkäimmällä kryptosovelluksella". Kaikki tämä on tietenkin puppua.

Tekoälyn myötä huijausmainokset ovat siirtymässä uudelle tasolle. Sain käyttäjän näytöltään kuvaaman videon, jossa Alexander Stubb mainostaa Facebookissa Immediate Edge -sijoituspalvelua. Ilta-Sanomat uutisoi videosta jo helmikuussa, kun Stubb oli vasta ehdokkaana. Nyt Stubb on presidentti, joten mainoskin näyttäytyy uudessa valossa. 

Videolla Stubbin puhetapa on vakuuttava ja aito. Suun liikkeet eivät täysin täsmää videokuvaan, mutta mobiililaitteesta katsottuna esitys on täysin uskottava.

"Valtion edustajana takaan sijoituksesi turvallisuuden", sanoo vale-Stubb.

"Ainutlaatuinen tilaisuus. Jokainen sijoittaja saa 2000 euroa viikossa. Immediate Edge -sijoitusalustan ansiosta maan kansalaiset voivat nauttia korkeista osingoista. Lisäksi valtion edustajana takaan sijoituksesi turvallisuuden. Jos ostat 10 osaketta 250 eurolla, voit saada 7000 euroa kuukaudessa. Jos minulta kysytään, onko nyt aika miettiä vai aika kapitalisoida, vastaukseni on yksiselitteinen: tätä tilaisuutta ei pidä hukata." 

Suomen presidenttiä käytetään sijoitushuijauksen markkinointiin. Hän vieläpä sanoo takaavansa turvallisuuden valtion edustajana. Tämä ei ole leikin asia. 

Mainoksen lopussa annetaan osoite https://watchstrapsewser.com/, jossa näyttää toimivan suomenkielinen, sijoitustietoa jakava Sahara Trade -sivusto. Sivun lopussa on jopa suomalaiset yhteystiedot, joskin ilmoitetussa tamperelaisessa osoitteessa toimi vain kylmäasema ja puhelinnumero on espoolaisen Fitness24-kuntosalin käytössä. Pelkkää huijausta siis. Kapitalisointi-termi antaa ymmärtää, että tekijä on käyttänyt käännöskonetta.

Suomen presidentin deepfake-video markkinoi sijoitushuijausta.

Nykyään tekoäly on taikasana, jolla melkein mikä tahansa on mahdollista. Silti Facebook ja Google antavat ymmärtää, että ne ovat voimattomia huijausmainosten edessä. Kunhan mainostajat vain maksavat laskunsa, kaikki näyttää menevän läpi. Salliessaan huijaukset he syyllistyvät avunantoon rikoksessa. On kumma, ellei EU pystyisi uusien digialustalakiensa nojalla rankaisemaan tällaisesta.

Suomi on tietenkin pienenä kielialueena muita huonommassa asemassa. Jos jotain kontrolleja onkin, ne kehitetään ensiksi suuria maita varten. Eikä edes siellä ole saatu huijauksia kuriin. Alankomaiden oikeus linjasi jo neljä vuotta sitten, että Facebookin täytyy tunnistaa ja ennaltaehkäistä kryptovaluuttoihin kytkeytyvät huijausmainokset palvelustaan.

Onko siis niin, että tekoäly antaa huijareille enemmän mahdollisuuksia uusiin huijauksiin kuin puolustajille aseita suojautumiseen? Eivätkö Facebook ja Google pysty kehittämään tekoälyä, joka tunnistaisi näinkin ilmeisen (vieläpä tekstitetyn) huijauksen. Myös huijaussivuston whois-tiedot on piilotettu, mikä sekin on vahva viittaus huijaukseen. 

Mielestäni Suomen valtion pitäisi tehdä virallinen valitus Facebookille siitä, että istuva presidentti on sotkettu huijaukseen.

keskiviikko 6. maaliskuuta 2024

Sora ja videotuotannon mullistus

OpenAI esitteli 15.2.2024 hämmästyttäviä videoita, jotka Sora-niminen tekoäly oli tuottanut. Taivas on japaniksi sora ja se näyttää olevan tekoälyn luovuuden rajana. Toistaiseksi Sora on vasta pienen testijoukon käytettävissä, joten sen todellista toimivuutta on mahdoton arvioida. Jos demot vastaavat todellisuutta, vaikutukset ovat huimia. 

Googlen ja Facebookin videotyökalut ovat olleet alkeellisia, kuin mustavalkofilmille kuvatut mykkäfilmit 1900-luvun alussa. Niihin verrattuna Sora on kuin 4K-tason videokuva katsottuna hyvälaatuisesta, isokokoisesta OLED-televisiosta.

Olin viime viikolla kommentoimassa Soraa MTV:n Viiden jälkeen ohjelmassa. Piirrätin sitä varten kuvan Maikkarin uudesta Pöllölaaksosta. 

Maikkarin uusi Pöllölaakso tekoälyn silmin.

Ei näytä ihan samalta kuin Helsingin Vallilan toimistotalo, mutta tekoäly on ottanut hienosti huomioon antamani ohjeet. Aiemmin tekoäly kompuroi teksteissä, mutta tässä OWL ja Newsroom ovat lähes oikein kirjoitettuja. 

Pöllölaakson uutistoimittajat.

Vielä pari vuotta sitten en olisi uskonut, että tekoäly pystyy tuottamaan tällaisia kuvia melkeinpä ilmaiseksi ja napin painalluksella, odottaessa. Tällä on suuria vaikutuksia graafiseen tuotantoon.

Sorasta emme tiedä vielä mitään. Demovideot näyttävät hyviltä, mutta ne on tietysti valittu tarkoin. Emme tiedä, kuinka moni videoista onnistui ja kuinka moni päätyi leikkaamon lattialle - tai siis tietokoneen deleted-kansioon. 

Jos videotuotanto muuttuu näin helpoksi, kuka tahansa pystyy loihtimaan tyhjästä esimerkiksi mainosvideoita tai yritysesittelyitä. Yhtä hyvin pystytään tuottamaan videoväärennöksiä, joissa länsivaltojen johtajat uhkaavat hyökätä Venäjälle tai epäsuosioon joutunut poliitikko lavastetaan jäämään kiinni rikoksesta, jota ei oikeasti tapahtunut. 

Vielä suurempi ongelma on siinä, että syväväärennökset vievät uskottavuutta myös oikeilta uutisvideoilta. Mikä tahansa epämieluisa video voidaan kuitata väärennökseksi. Emme enää erota totuutta valheesta.

Teknisesti olisi mahdollista varmistaa videotuotannon ketju aina kuvauksesta katsojalle asti. Se vaatisi jokaiseen ketjussa olevaan laitteeseen varmenteen ja digitaalisen allekirjoituksen, jonka aitouden katsoja voisi itse tarkistaa. Samanlainen tekniikka kuin nettisivujen SSL-varmenteissa siis. 

Ongelma on vain siinä, ettei tähän ole mitään standardia eikä vielä edes videokameroita, joissa varmennetta voisi käyttää. Uutisvideoiden jakeluketjussa voi olla lukuisia väliportaita kuvauksen, siirron, editoinnin ja jakelun eri tasoilla.

Joka tapauksessa videoväärennökset tulevat lisäämään perinteisen median arvoa. Vain siellä on mahdollista varmistaa videoiden aitous ja alkuperä. Luultavasti ammattilaisillekin tulee sattumaan virheitä, mutta ainakin vähemmän kuin villissä ja vapaassa nettilevityksessä, jolla ei jatkossa ole enää mitään arvoa. Nimittäisin tätä jopa perinteisen median vastaiskuksi. 

Joidenkin tietojen mukaan Sora pystyy tuottamaan enintään minuutin mittaisia videoita. Luultavasti niihinkin tarvittava laskentakapasiteetti on suuri ja sähkölasku tuntuva. Mutta kehitys on vääjäämätöntä, kun pää on kerran saatu auki ja nähty, mikä on teknisesti mahdollista. 

Vertailukohtana voi toimia vuoden 1903 ensimmäinen lento ilmaa raskaammalla laitteella, joka kesti 59 sekuntia. Siinä ajassa Wrightin veljesten alkeellinen kone eteni 260 metriä. Lähes tasan 10 vuotta sitten alkoivat Floridassa ensimmäiset kaupalliset lennot. Ja loppu on historiaa.

Lentäminen vaati mekaniikan kehittämistä ja on jatkuvaa taistelua fysiikan lakeja vastaan. Tietotekniikka taistelee lähinnä algoritmeilla ja ideoilla, joten kaiken kehittäminen on kertaluokkaa helpompaa kuin ilmailussa.

Nähtyäni Toy stories -elokuvan kirjoitin kolumnissa ajasta, jolloin katsoja voisi itse valita, kenet näyttelijät haluaa nähdä missäkin roolissa. Näyttelijät olisivat ikään kuin ladattavia tiedostoja. 

Uusimmassa Indiana Jones -elokuvassa esiintyy nuori Harrison Ford noin 25 minuutin ajan. Se osoittaa, ettei kolumnissa hahmottelemani tulevaisuudennäkymä ole enää kaukana.