tiistai 27. maaliskuuta 2018

Robottiauto tappoi jalankulkijan ja pilasi kerralla tilastot

Oli vain ajan kysymys, milloin robottiauton kolarissa kuolisi ensimmäinen jalankulkija. Se tapahtui Arizonan Tempessä 19.3.2018. Päivämäärä jää robottiteknologian historiaan. Samoin jää tämä kauhistunut ilme kuljettajan kasvoilla, kun hän huomaa pyörää taluttavan naisen auton valokeilassa:

Tämä kauhistunut ilme kertoo ensimmäisestä robottiauton tappamasta jalankulkijasta.
Oli jokseenkin ironista, että auto oli juuri Volvo, jonka brändi perustuu turvallisuuteen. Volvo on lykännyt omia suunnitelmiaan autonomisten autojen markkinoille tuomisesta, koska tekniikka ei ole kehittynyt odotetulla vauhdilla.

Uberin osuus turmassa ei ollut yllätys. Yhtiö on rämpinyt skandaalista toiseen. Se maksoi hakkerille 100 000 euroa, jotta varastetut henkilötiedot eivät päätyisi levitykseen ja karkotettiin Kaliforniasta, koska se rikkoi autonomisten ajotestien lupaehtoja.

Arizona otti Kalifornian karkottaman Uberin avosylin vastaan, kuten niin moni valtio nykyään tekee -- Suomi mukaanlukien. On hienoa päästä uuden teknologian koekentäksi, vaikka pioneerin osa on aina raskas ja johtaa pahimmillaan siviiliuhreihin. Joulukuussa 2017 osavaltion kuvernööri toivotti Uberin tervetulleeksi kokeilemaan robottiautoja: “While California puts the brakes on innovation and change with more bureaucracy and more regulation, Arizona is paving the way for new technology and new businesses. California may not want you, but we do.”

Kaikki tekniikan edistysaskeleet ovat vaatineet uhrinsa. Varsinkin lentoliikenne oli alkuvuosina tuuripeliä, jossa ihmishenki oli halpa. Silloin ihmisuhrit hyväksyttiin helpommin, nyt jokainen henki on arvokas ja juristit aggressiivisempia kuin 50 vuotta sitten.

Valvontakameran kuvasta päätellen nainen ilmestyy auton valokeilaan yllättäen ja taluttaa pyöränsä suoraan auton eteen. Onnettomuus oli väistämätön, olipa ratin takana ihminen tai tietokone. Vai oliko?

Onko tämä robottiauton vika?
Kuvasta on mahdoton arvioida, millainen näkyvyys kohdassa on ollut. Kuva näyttää mustalta, mutta se johtuu kameratekniikasta ja vääristää asiaa Uberin eduksi. Paikallisten kuvaamat videot näyttävät ihan toiselta:

Tässähän on ihan hyvä näkyvyys.
Nainen on ylittänyt ennen törmäystä ainakin yhden kaistan, joten hän ei hypännyt auton eteen puskista tai katveesta. Mahdollisesti ihmiskuljettaja olisi havainnut liikettä pientareella, mutta ainakin Uberin auton olisi pitänyt havaita. Juuri siinä on robottiauton idea: se "näkee" ympärilleen monin eri tavoin. Erityisen tärkeä on LIDAR, joka luo ympäristöstä 3D-kuvan laserin avulla. 

Poliisin tietojen mukaan auto kulki 38 mailin tuntinopeudella (61 km/h), kun nopeusrajoitus kohdassa on 45 mph. Ylinopeutta ei voi syyttää. On siis pakko syyttää Uberin ohjelmistoa. Robottiauto ei toiminut kuten piti. Naisen kohtaloksi koitui softavika. Teknisestä häiriöstä ei voinut olla kyse, sillä kuljettaja katselee maisemia ja ilmeisesti sylissään olevaa laitetta auton ajaessa, ja kaikki vaikuttaa normaalilta.

"Meidän softa olisi ollut parempi ja estänyt onnettomuuden", sanoi Waymon (ex-Google) edustaja omista autoistaan. On mahdotonta arvioida softien hyvyyttä, mutta jotain yleistyksiä tapauksesta voi silti tehdä. 

Ensinnäkin ihmiskuljettajan rooli robottiautossa on ongelmallinen. Ihminen ei pysty reagoimaan sekunnin murto-osassa, kun on ensin katsellut auton ajavan itseään tunnin verran. Robottiautoa valvova ihminen on melko turha tosipaikan sattuessa. Tämä vesittää ajatuksen, että kuljettaja ottaisi ohjat, kun robottiauton kyvyt loppuvat äkillisessä vesisateessa, liukkaudessa tai muussa odottamattomassa tilanteessa. Vielä pahempi, jos kuljettaja ottaa ajon aikana nokoset tai siemailee juomaa, kuten mainoksissa luvataan. Reaktioaika voi venyä minuutteihin.

Poliisin mukaan uhri rikkoi liikennesääntöjä ylittäessään tien väärästä paikasta. mutta vastaavaa tapahtuu alueella usein. Paikallinen kuljettaja tietäisi tämän ja osaisi olla varuillaan. Robottiauto on vain anturien ja ohjelmien varassa. Ehkä nekin tulevaisuudessa saavat kollektiivisen tietopankin, joka korvaa ihmisautoilijoiden keräämää hiljaista tietoa. 

Oli Uberin onnettomuus yhtiön omaa syytä tai ei se kertoo, miten kaukana aidot robottiautot vielä ovat. Ajaminen ei ole pelkkä tietotekninen kysymys vaan sosiaalista toimintaa suhteessa muihin tiellä liikkujiin, joista kaikki eivät todellakaan noudata sääntöjä. Tämä tekee yhtälöstä vaikeamman kuin yksikään autovalmistaja haluaa myöntää.

Vuonna 2016 USA:n liikenteessä kuoli 37 461 ihmistä eli 1,25 kuolemaa 100 miljoonaa ajomailia kohti. Uberin autoilla oli ajettu noin kolme miljoonaa mailia ennen ensimmäistä kohtalokasta onnettomuutta. Tästä laskien robottiautot ovat 25 kertaa vaarallisempia kuin ihmiskuljettajat. 

Yhdestä havaintopisteestä ei voi laskea tilastoa eikä pisteen kautta piirtää suoraa. Silti lukema on huolestuttava ja mustaa vielä pitkään tuleviakin keskiarvoja, kun havaintopisteitä saadaan lisää.

Ehkä Uberin tekniikka on tosiaan kelvotonta, mutta silloin se osoittaa, ettei robottiautojen valvonta ole ajan tasalla. Toivottavasti Suomessa ei tehdä sitä virhettä, että ihmisten turvallisuutta vaarannetaan teknisen edelläkävijyyden nimissä. 

Tilastot nimittäin vääristävät Uberin onnettomuutta yhtiön eduksi, eivät sitä vastaan. Robottiautoja on ajettu lähinnä päiväsaikaan ikuisen kesän osavaltioissa, kun taas ihmisten kolaritilastot on laskettu ympäri vuoden hankalistakin ajo-olosuhteista. Yhdysvaltojen pohjoisissa osavaltioissa talvi on Suomeakin ankarampi.

Lisäys 28.5.2018: We Now Know Why the Self-Driving Uber That Killed a Pedestrian Didn’t Brake
Lisäys 22.6.2018: Driver in autonomous Uber was watching 'The Voice' moments before fatal Tempe crash

24 kommenttia:

SS kirjoitti...

Uuden teknologian kehittämisessä tulee aina ruumiita. Tämä on kehityksen hinta. Muutamaa kuolletta siellä sun täällä ei voi välttää. Muistetaan esimerkkinä rautateiden ja kanaalien rakentaminen. Ennen vanhaan oli normaali, että yhtä metriä kohden rautateitä kuoli keskimäärin pari ihmistä. Ennen vanhaan oli ihan normaalia, että kauppalaivan miehistöstä kuoli yli puolet reissussa (tauteihin, tappeluihin jne). Muissakin tutkimusmatkoissa esim. Afrikkaan saattoi kuolla pahimmillaan kaikki; ja vielä nykyäänkin Kongossa koboltin kaivuussa kuolee ihmisiä paljon. Sama koskee ns. hikipajoja ympäri maailmaa. Nyt on sitten hirveä huuto muutamasta ruumiista. Ruumispinojen korkeus määrittää kansan edistyksellisyyden sillä kehityksellä on aina hintansa.

Petteri Järvinen kirjoitti...

Kehityksellä on hintansa, mutta länsimaissa hintaa on vaikea maksaa. Syntyvyyden alentuminen on korostanut ihmiselämän arvoa ja asianajajat näkevät rahastamisen mahdollisuuden jokaisessa henkilövahingossa. Ehkä uuden tekniikan kehittäminen siirtyykin Kiinaan ja muualle Aasiaan, jossa näistä asioista ei olla yhtä tarkkoina.

Anonyymi kirjoitti...

Robottiautojen vaihtoehtona ei ole matkustamatta jättäminen, vaan autoilu käsiohjauksella, ja siinä hommassa tulee varmasti enemmän ruumiita. Ongelma on, että kuoleman aiheuttaneella ihmiskuljettajalla ei käytännössä ole mitään korvausvelvollisuutta, mutta robottiauton valmistajan vastuu tulkitaan aikalailla rajattomaksi.

Petteri Järvinen kirjoitti...

Se on juuri ongelma: ihmisille annetaan anteeksi inhimilliset virheet, tietokoneelle ei. Niiltä vaaditaan täydellisyyttä.

Ehkä jonain päivänä tekniikka on niin kehittynyttä, että tietokone ajaa ihmistä paremmin. Se päivä on vielä kaukana. Robottiautoja kehitetään lähinnä hyvän sään olosuhteissa, kun taas ihmiset ajavat myös talvella - siksi tilastollista turvallisuutta on vaikea arvioida.

SS kirjoitti...

Kuolinmäärät pitää suhteuttaa muihin kuolemiin. Miltään alalta ei tule vaatia pienempiä kuolin määriä kuin muilta, koska se johtaa talouden kannalta tehottomuuteen ja ylivarovaisuuteen.
https://yle.fi/uutiset/3-10140283

Liika varovaisuus tulee kuluttajille kalliiksi. Yhdenveroisuus kuoleman edessä on kuluttajan etu.

Anonyymi kirjoitti...

Uberin robottiautoissa on ollut ongelmia keskimäärin joka 13 maili. Arizona lopulta kielsi koeajot toistaiseksi. Kameran kuva ei vastaa ajo-olosuhteita paikan päällä. Kuvas on peukaloitu. Todellisuudessa Elaine Herzberg oli koko ajan hyvin näkyvissä. Auto ei reagoinut lainkaan. Tampen poliisi antoi väärän ensiarvion onnettomuudesta. Lobbareilla on suuri valta ja Arizona vihamielinen kevyelle liikenteelle. Uberin vastuu kuolemantapauksesta on suuri. Yhtiö maksoi uhrin omaisille suur3n korvauksen, jotta henkilövahinko ei mene oikeuteen. Uberin mokailu viivyttää autonomisten autojen tuloa vuosilla.

Anonyymi kirjoitti...

Elaine Herzberg jää historiaan ensimmäisenä uhrina, kuten aikoinaan eräs Henry Bliss.

https://en.m.wikipedia.org/wiki/Elaine_Herzberg

https://en.m.wikipedia.org/wiki/Henry_H._Bliss

Anonyymi kirjoitti...

Ars Technica on kirjoittanut Arizonan yliajosta monta juttua.

https://arstechnica.com/tech-policy/2018/03/uber-settles-with-family-of-woman-killed-by-self-driving-car-avoids-lawsuit/

Uber oli kytkenyt Volvon turvalaitteet pois päältä.

https://www.bloomberg.com/news/articles/2018-03-26/uber-disabled-volvo-suv-s-standard-safety-system-before-fatality

Petteri Järvinen kirjoitti...

Miltään alalta ei tule vaatia pienempiä kuolin määriä kuin muilta, koska se johtaa talouden kannalta tehottomuuteen ja ylivarovaisuuteen

Taloudellinen tehokkuus on tärkeämpää kuin ihmisten henki? Hmm.

Uber on ilmeisesti pelannut uhkapeliä, mutta onko Tesla yhtään parempi? Markkinointi lupaa auton ajavan lähes itsestään, vaikka tekniikka ei ole vielä riittävällä tasolla eikä kuljettaja saisi irrottaa käsiään ohjauspyörästä. Tuloksena jälleen kuolonkolari.

Anonyymi kirjoitti...

Hesarin uudessakin uutisessa väitetään, että "nainen ylitti pimeätä tietä" jäädessään alle. Tuo väite on jo kumottu. Tiellä oli hyvä katuvalaistus. Blogistikin kirjoittaa tästä jutussaan. Heti onnettomuuden jälkeen julkaistuissa artikkeleissa Uberin auto on parkissa tien reunassa, ja valaistus on kuvien mukaan ollut hyvä.

Uberin julkaisema video on tosiaan oudon tumma, mikä ei ehkä ole sattumaa.

Anonyymi kirjoitti...

Uutispätkissä näkyy kadunpätkä heti onnettomuuden jälkeen.



Anonyymi kirjoitti...

Siis tässä.

video 1

video 2

SS kirjoitti...

Kyllä yhteiskunnallisessa toiminnassa yleensä yritetään noudattaa sitä periaatetta, että ei viedä turvallisuutta liian pitkälle vaan juuri sille rajalle missä toiminta vielä kannattaa. Tämä on monella alalla normaalikäytäntö. Täytyy muistaa, että turvallisuutta voidaan parantaa vaikka kuinkapaljon tekniikan puolesta mutta se tulee hirvittävän kalliiksi. Tätä periaatetta kyllä sovelletaan yleisesti mm. lääketeollisuudessa ja liikenteessä.

Kyllä esim. ydinvoimalassakin voidaan tehdä vaikka mitä turvallisuuden takaamiseksi mutta siitä tulee sitten järkyttävän kallista. Esimerkkinä Suomen ydinvoimalatouhut. Myös kemianteollisuudessa voidaan tehdä vaikka mitä mutta sitten kannattavuus katoaa.

Junttipulla Savosta kirjoitti...

Paljon suurempi uhka kuin roboautot ovat koko ajan yleistyvät kaistavahdit, jotka mahdollistavat huomion suuntaamisen tiestä pois. Niiden määrän kasvu tulee väistämättä kasvattamaan myös onnettomuuslukuja. Ja valitettavasti niiden aiheuttamat onnettomuudet saattavat olla rajuja, esimerkiksi nokkakolareita.

Teslan autopilottikaan ei ole muuta kuin kaistavahti, josta joku Teslan omistaja tuossa ketjussa kirjoittaa. Se seuraa viivoja, sen kummempaan se ei käytännössä pysty.

https://teslamotorsclub.com/tmc/threads/model-x-crash-on-us-101-mountain-view-ca.111505/

Roboautot taas ovat silkkaa hypeä. Ne ehkä saadaan toimimaan rajatuissa oloissa, mutta liikkumisen perustaminen roboautoihin lienee vähintään vuosikymmenien päässä.

https://yle.fi/uutiset/3-10026989
http://www.iltalehti.fi/autouutiset/201712122200580800_oa.shtml

Petteri Järvinen kirjoitti...

Kiitos linkistä. Tällä keskustelun sivulla havainnollisia kuvia tapahtumapaikasta.

Petteri Järvinen kirjoitti...

Ja tässä viestissä #142 oikein video siitä, mikä on saattanut hämätä Teslan autopilotin kohtalokkaalla tavalla: https://teslamotorsclub.com/tmc/threads/model-x-crash-on-us-101-mountain-view-ca.111505/page-8

Junttipulla Savosta kirjoitti...

Tuossa on toinen video, josta selviää Teslan autopilotin alkeellisuus.

Videolla kuljettaja ajaa autopilotilla ja näyttää, kuinka auto seuraa vahvana näkyvää vasemmanpuoleista viivaa, joka johdattaa suoraan päin estettä.

Kysymyksessä on kaistavahti, joka toimii hyvin oloissa, joissa viivat ovat selvästi näkyvissä, mutta joka on hengenvaarallinen, jos kuljettaja rupeaa luottamaan siihen.

https://youtu.be/6QCF8tVqM3I

SS kirjoitti...

Tesla on menossa konkurssiin. Elon Musk on varsinainen haihattelija.
https://www.arvopaperi.fi/kaikki_uutiset/varainhoitaja-marketwatchille-tesla-konkurssin-partaalla-6713597

Itse uskon, että itsestään ajelevat autot tarvitsevat huomattavasti korkeampaa teknologiaa kuin nyt on käytettävissä. Käytännössä tarvitta älykkyys on niin korkea, että sen jälkeen ei työläisten enää tarvitse töihin vaivautua; eli vähintään ihmisen tai lähes ihmisen tasoinen äly. Auton ajaminen on niin vaikeaa, että jos kone siihen pystyy, niin se sitten pystyy suurin piirtein samaan mitä ihminenkin muissakin asioissa.

Petteri Järvinen kirjoitti...

Autot saadaan kulkemaan itsestään, mutta se vaatii muutoksia infrastruktuuriin. Liikennemerkeistä, suojateistä, kaistaviivoista ym. on tehtävä koneellisesti luettavia, eli niihin pitää upottaa lähettimiä. Tai sitten robottiautot pitää eristää omille joukkoliikennekaistoilleen.

Kumpikin tie (no pun intended) on pitkä, eikä lupauksille siitä että itsestään ajavat autot tulevat myyntiin jo muutaman vuoden kuluttua, ole katetta. Media on lähtenyt mukaan hypetykseen, kuten sillä on tapana tehdä - samoin muuutamat poliitikot.

Anonyymi kirjoitti...

Petteri Järvisen blogikirjoitus toi ainakin itselleni ihan uutta näkökulmaa tähän. Alkaa hyvin vahvasti vaikuttaa siltä, että kolari olisi ollut täysin vältettävissä, mikäli autoa olisi ajanut ihmiskuljettaja. Julkaistu video kolarista antaa täysin väärän kuvan olosuhteista. Uberin auto ajaa ikään kuin putkessa, jossa vain etuvalot valaisevat pienen palan tietä. Petteri Järvisen linkittämän toisen videon perusteella näkyvyys on varsin hyvä ja myös tien muut kaistat ja reuna-alueet ovat näkyvissä. Ihmiskuljettaja olisi luultavasti havainnut pyörää taluttavan naisen jo kaukaa ja pystynyt joko pysähtymään, hiljentämään tai väistämään helposti.

Olisiko pyörää taluttava nainen jopa luottanut siihen, että kaikki autot havaitsevat hänet jo kaukaa ja lähtenyt siitä syystä ylittämään tietä. Ehkä hän on jopa nähnyt Uberin auton tulevan, mutta lähtenyt siitä huolimatta tien ylitykseen, koska on arvellut autoilijan ilman muuta havaitsevan hänet. Uberin auton kuljettajahan ei katsele lainkaan tielle, vaan nostaa katseensa ylös vasta sekuntia ennen törmäystä, kun mitään ei ole enää tehtävissä.

Tässä tapauksessa nainen oli liikennesääntöjen mukaan syyllinen onnettomuuteen. Toki asia on niinkin, että mitään päälleajo-oikeutta autoilijoilla ei ole. Olisiko onnettomuus ollut vältettävissä kohtuudella autoilijan toimesta? luultavasti. Kannattaa myös muistaa, että suurin osa tiestöst on kaksi kaistaista maantietä, jolloin tietä ylittävä jalankulkija joutuu vain ylittämään tien ilman suojateitä tai muita merkittyjä paikkoja. Miten robottiautot osaavat tähän reagoida, jolleivat ne pysty reagoimaan yllä olevan kaltaiseen tilanteeseen?

Anonyymi kirjoitti...

"Petteri Järvisen blogikirjoitus toi ainakin itselleni ihan uutta näkökulmaa tähän."

Järvinen on ainoita, joka on havahtunut asiaan Suomessa. Yhdysvalloissa (esimerkiksi Ars Technican sivuilla) Uberiin suhtaudutaan muutenkin aika suurella varauksella, toisin kuin meillä. Uber nähdään rimanalittavana oikojana, joka ei saanut lupaa kokeilleen edistyksellisessä Kaliforniassa.

Meillä on vielä tallella lapsenusko teknologian kehityksen kaikkivoipaisuuteen ja yksityisyritteliäisyyden tahrattomuuteen.

Yhdysvalloissa tiellä kuolee kaksinverroin ihmisiä liikenteessä suhteutettuna väkilukuun kuin pohjoismaissa.

Ari kirjoitti...

Luulisi että tuossa tapauksessa olisi suhteellisen helppo

- Jollain infra/valonvahvistin/Lidar tms. skannata ympäristöä
- Testata tämä QA:ssa että se oikeasti löytää 99% tapauksesa sen katveesta tulevan pöyöräilijän.

Kuinka suuren osuma-% autonvalmistaja oli luvannut tutkalleen?

Anonyymi kirjoitti...

”Taloudellinen tehokkuus on tärkeämpää kuin ihmisten henki? Hmm”

Kyllä, ei kai mitään muita syitä ole sille, että nopeusrajoitukset ovat nykyiset, eikä 30km/h ? Lähes kaikki kuolemaanjohtaneet onnettomuudet pystyttäisiin estämään jos maksiminopeus olisi tuo 30 km/h. Lisälsi nopeudenrajlittimet, kiihtyvyyden rajoittaminen ja ajopiirturit kaikkiin autoihin + gps-pohjainen valvonta ja pakollinen alkolukko kaikkiin autoihin, niin kukaan ei koskaan saisi ajettua ylinopeutta, vaikka haluaisikin ja rattijuopumuksetkin katoaisivat. Edes itsemurhan tekeminen ei onnistuisi.

Eli kyllä, turvallisuuden ja tehokkuuden välillä täytyy tehdä aina valintaa.

- Syltty

Anonyymi kirjoitti...

Autot saadaan kulkemaan itsestään, mutta se vaatii muutoksia infrastruktuuriin. Liikennemerkeistä, suojateistä, kaistaviivoista ym. on tehtävä koneellisesti luettavia, eli niihin pitää upottaa lähettimiä.

Ja miksi näin? Siksi, koska roboauton tosiasiallinen kyky hahmottaa ympäristöään on perin puutteellinen ihmiseen verrattuna. Kaikkinen antureineen robo ei olekaan mikään ylivertainen havainnontekijä.

Robohypettäjien ydinväite siitä, että liikenneturvallisuus parantuu, kun inhimilliset virheet jäävät pois on käsittämättömän naiivi. Kuten on havaittu, roboauto voi tehdä havaintovirheitä siinä missä ihminenkin.

Vaaratiedottaminen on Suomen häpeäpilkku

Yhdysvaltojen hätätilavirasto FEMA testaa näinä päivinä kaikille amerikkalaisille lähetettävää puhelinhälytystä. Presidentin määräyksellä ä...