Elaine Herzberg kuoli Uberin testiauton alle Arizonan Tempessä 19.3.2018. Hänestä tuli ensimmäinen robottiauton aiheuttama sivullinen kuolonuhri. Aihe herätti ymmärrettävästi paljon keskustelua ja kirjoitin siitä itsekin.
Pari viikkoa sitten kävin tapahtumapaikalla. Uberin omassa videossa näyttää siltä, että pyörää taluttava 49-vuotias nainen ilmestyy Volvon eteen pimeyden keskeltä täysin yllättäen. Todellisuudessa paikalla on hyvä näkyvyys ja muutama katuvalokin. Onnettomuuden sattuessa klo 22 oli pimeää ja Arizonan lempeässä ilmassa elää paljon kodittomia, jotka ylittävät ostoskärryineen katuja ilman valoja ja heijastimia. Tekniikan on pystyttävä havaitsemaan heidät vähintään yhtä hyvin kuin ihmiskuljettajat havaitsevat.
Videolla kaikki tapahtuu yllättäen, koska kameran valotus on säädetty kirkkaimpien kohtien mukaan. Silmällä helposti havaittavat kohteet jäävät videolla mustiksi.
Robottiauton kannalta näkymällä ei ole väliä. Se tarkkailee ympäristöä tutkalla ja tutkimusraportin mukaan Uberin laitteisto havaitsi tuntemattoman kohteen jo kuusi sekuntia ennen törmäystä. Luokitus muuttui ajoneuvoksi ja lopulta polkupyöräksi. Uberin auto laski liikeratojen kohtaavan 1,3 sekuntia ennen törmäystä ja olisi laukaissut hätäjarrutuksen, mutta toiminto oli poistettu käytöstä "mahdollisten virhetoimintojen vähentämiseksi".
Ilmeisesti hätäjarrutuksia oli lauennut turhaan, mikä on matkustajille epämukavaa ja lisää peräänajon riskiä. Hätäjarrutuksia varten autossa oli ihmiskuljettaja, mutta hän oli automatiikan tylsistyttämänä painanut katseensa alas ja seurasi (ilmeisesti ohjeiden vastaisesti) mobiililaitteeltaan streaming videota.
On ilmeistä, että Uber oli halunnut kiirehtiä tuotekehitystään ja sen vuoksi kytkenyt turvamekanismeja pois käytöstä. Toisaalta väärät hälytykset ovat jatkuva ongelma Suomessakin, mm. syksyllä putoilevat lehdet laukaisevat automatiikan äkkijarrutuksia. On vaikea tietää, onko tutkaan äkillisesti ilmestyvä kohde lehti, eläin vai ihminen.
Oikeudenkäynnistä tulee kiinnostava -- mikä vastuu oli 44-vuotiaalla naiskuljettajalla, mikä Uberilla ja mikä Arizonan valtiolla, joka on halunnut houkutella robottiautojen testaajia imago- ja työllisyyssyistä? Arizona on ihanteellinen paikka robottiautoille, koska sää on aina hyvä, sateet harvinaisia ja tiet selkeitä. Phoenixin keskustassa liikkuu tosin raitiovaunu, mutta se pysyy kiskoilla ja liikeradat on helppo laskea.
Tempen vieressä on Chandler, jossa Google testaa omia Waymo-autojaan. Niitä näkyy liikenteessä todella paljon. Waymo ei ole joutunut pahoihin onnettomuuksiin, mutta senkin autoissa on yhä ihmiskuljettaja. Ja luultavasti hän ei katsele videota, vaan joutuu olemaan koko ajan skarppina.
Autoillessani oli taas hyvää aikaa pohtia autonomisen autoilun ongelmia. Täysin autonominen auto on valtava tekninen, juridinen ja sosiaalinen haaste. Sen toteutumiseen laajassa mitassa kuluu vielä vuosia, Suomen oloissa luultavasti kymmeniä vuosia.
Erään kerran tiellä näkyi liikkuvan jotain. Se oli ilmapallo, jota ilmavirtaus kuljetti ajokaistan poikki. Ihminen tunnistaa pallon sen muodon, värin ja käyttäytymisen perusteella ja tietää, ettei palloa kannata väistää. Robottiauto tekisi luultavasti hätäjarrutuksen tai äkillisen väistöliikkeen, joka voisi johtaa kolariin tai talvella tieltä suistumiseen.
Tiellä liikkuva ilmapallo kuvastaa hyvin täyden autonomian vaikeutta. Alemmalla autonomian tasolla voidaan hälyttää ihmiskuski tekemään päätös, mutta hän on luultavasti nokosilla tai elokuvaan syventyneenä, eikä ehdi reagoida ajoissa.
Jenkeissä lisävaikeutta tuovat kaistat, joita saa ajaa kumpaan suuntaan tahansa. Niitä on varsinkin esikaupungeissa ja ne on tarkoitettu ryhmittymiseen ennen kääntymistä vastakkaisen ajoradan yli kadun toisella puolella oleviin liikkeisiin. Nähdäkseni tällaisilla keskikaistoilla ei ole selkeitä liikennesääntöjä vaan kaikki väistävät sopivasti toisiaan. Siinäpä pohtimista robotille!
Varmaa on, ettei Uberille Tempessä sattunut kolari jää ainoaksi. Teknologian kehitys vaatii aina uhrinsa. Ilmailun alkuvuosina menehtyi tuhansia ennen kuin lentokoneet saatiin edes välttävän luotettavaksi. Kehityksellä on hintansa. Mutta jossain vaiheessa pitää arvioida, ovatko uhrit riskien ja tavoitteiden arvoisia. Henki on nykyään paljon arvokkaampi kuin sata vuotta sitten. Siitäkin syystä Uberin tuomiolla tulee olemaan suuri ennakkotapauksen merkitys.
Lisäys 7.3.2019: Uber ei joudu rikosvastuuseen kolarista.
Pari viikkoa sitten kävin tapahtumapaikalla. Uberin omassa videossa näyttää siltä, että pyörää taluttava 49-vuotias nainen ilmestyy Volvon eteen pimeyden keskeltä täysin yllättäen. Todellisuudessa paikalla on hyvä näkyvyys ja muutama katuvalokin. Onnettomuuden sattuessa klo 22 oli pimeää ja Arizonan lempeässä ilmassa elää paljon kodittomia, jotka ylittävät ostoskärryineen katuja ilman valoja ja heijastimia. Tekniikan on pystyttävä havaitsemaan heidät vähintään yhtä hyvin kuin ihmiskuljettajat havaitsevat.
 |
| Tempe kolaripaikka pohjoisesta katsoen. |
 |
| Kolaripaikka etelästä nähtynä. |
Ilmeisesti hätäjarrutuksia oli lauennut turhaan, mikä on matkustajille epämukavaa ja lisää peräänajon riskiä. Hätäjarrutuksia varten autossa oli ihmiskuljettaja, mutta hän oli automatiikan tylsistyttämänä painanut katseensa alas ja seurasi (ilmeisesti ohjeiden vastaisesti) mobiililaitteeltaan streaming videota.
On ilmeistä, että Uber oli halunnut kiirehtiä tuotekehitystään ja sen vuoksi kytkenyt turvamekanismeja pois käytöstä. Toisaalta väärät hälytykset ovat jatkuva ongelma Suomessakin, mm. syksyllä putoilevat lehdet laukaisevat automatiikan äkkijarrutuksia. On vaikea tietää, onko tutkaan äkillisesti ilmestyvä kohde lehti, eläin vai ihminen.
Oikeudenkäynnistä tulee kiinnostava -- mikä vastuu oli 44-vuotiaalla naiskuljettajalla, mikä Uberilla ja mikä Arizonan valtiolla, joka on halunnut houkutella robottiautojen testaajia imago- ja työllisyyssyistä? Arizona on ihanteellinen paikka robottiautoille, koska sää on aina hyvä, sateet harvinaisia ja tiet selkeitä. Phoenixin keskustassa liikkuu tosin raitiovaunu, mutta se pysyy kiskoilla ja liikeradat on helppo laskea.
Tempen vieressä on Chandler, jossa Google testaa omia Waymo-autojaan. Niitä näkyy liikenteessä todella paljon. Waymo ei ole joutunut pahoihin onnettomuuksiin, mutta senkin autoissa on yhä ihmiskuljettaja. Ja luultavasti hän ei katsele videota, vaan joutuu olemaan koko ajan skarppina.
 |
| Googlen testipaikka on Chandler. |
Erään kerran tiellä näkyi liikkuvan jotain. Se oli ilmapallo, jota ilmavirtaus kuljetti ajokaistan poikki. Ihminen tunnistaa pallon sen muodon, värin ja käyttäytymisen perusteella ja tietää, ettei palloa kannata väistää. Robottiauto tekisi luultavasti hätäjarrutuksen tai äkillisen väistöliikkeen, joka voisi johtaa kolariin tai talvella tieltä suistumiseen.
Tiellä liikkuva ilmapallo kuvastaa hyvin täyden autonomian vaikeutta. Alemmalla autonomian tasolla voidaan hälyttää ihmiskuski tekemään päätös, mutta hän on luultavasti nokosilla tai elokuvaan syventyneenä, eikä ehdi reagoida ajoissa.
Jenkeissä lisävaikeutta tuovat kaistat, joita saa ajaa kumpaan suuntaan tahansa. Niitä on varsinkin esikaupungeissa ja ne on tarkoitettu ryhmittymiseen ennen kääntymistä vastakkaisen ajoradan yli kadun toisella puolella oleviin liikkeisiin. Nähdäkseni tällaisilla keskikaistoilla ei ole selkeitä liikennesääntöjä vaan kaikki väistävät sopivasti toisiaan. Siinäpä pohtimista robotille!
Varmaa on, ettei Uberille Tempessä sattunut kolari jää ainoaksi. Teknologian kehitys vaatii aina uhrinsa. Ilmailun alkuvuosina menehtyi tuhansia ennen kuin lentokoneet saatiin edes välttävän luotettavaksi. Kehityksellä on hintansa. Mutta jossain vaiheessa pitää arvioida, ovatko uhrit riskien ja tavoitteiden arvoisia. Henki on nykyään paljon arvokkaampi kuin sata vuotta sitten. Siitäkin syystä Uberin tuomiolla tulee olemaan suuri ennakkotapauksen merkitys.
Lisäys 7.3.2019: Uber ei joudu rikosvastuuseen kolarista.
"Älyautokriitikko" voisi väittää, ettei täysautonomista autoa kannata päästää liikenteeseen ennen kuin se ymmärtää yhtä paljon asioista liikenteestä ja kaikesta liikenteeseen liittyvästä kuin keskimääräinen kuski.
VastaaPoistaEihän juuri ajokorttinsa saanut ole täydellinen kuski, mutta hän sentään ymmärtää monia asioita, joihin hän ei ole liikenteessä törmännyt. Esimerkkinä olkoon juuri tuo mainitsemasi ilmapallo. "Älyauto" ei ymmärrä siitä mitään, sillä sitä ei todennäköisesti ole opetettu reagoimaan ilmapalloihin – tai ehkä tässä tapauksessa olemaan reagoimatta mitenkään. Uunituore kuski kuitenkin ymmärtää sekunneissa, että kyseessä on todennäköisesti vaaraton ja massaltaan olematon ilmapallo, vaikka hän silti säikähtää yllättävää tilannetta.
"Älyauton" ainoa etu on se, että se ei säikähdä tuntematonta. Ohjelmoinnista (tai ehkä paremminkin: koneoppimismatriisin opettamisesta) riippuen se joko ei välitä tuntemattomasta ollenkaan tai pysäyttää auton heti. Se ei kuitenkaan mene paniikkiin.
Summa summarum: mielestäni täysautonomisia autoja ei kannata päästää muualle kuin tarkkaan rajatuille alueille ennen kuin niillä on laajempi käsitys maailmasta. Tarkoitan sitä tietoa, mitä tarvitaan ajamiseen paikasta A paikkaan B.
Ihmisaivojen etu on nimenomaan pitkä oppiminen. Tieto ilmapalloista pohjautuu elinikäiseen kokemukseen: Millaisessa ympäristössä palloja voi esiintyä? Entä millaisina aikoina? Onko lähistöllä kauppojen avajaisia, messuja tai vaalitilaisuuksia? Onko nyt vappu? Mistä materiaalista pallot ovat? Voisiko pallo esittää jotain Disney-hahmoa? Tälläinen päättely vaatii yleistä tekoälyä, eli esim. Ritariässän puhuvan auton.
VastaaPoistaSuomen lumi ja pimeys ovat kuitenkin säännöllisiä, pysyviä ilmiöitä. Eivät mitenkään triviaaleja ongelmia, mutta ne eivät vaadi liikenteen ulkopuolista tietoa kuten nuo turkaleen ilmapallot.
Mielenkiintoisia pointteja automatisaation haittapuolista. On tärkeää, että yritykset tuotekehittelyssään satsaavat aina ensin turvallisuuteen, näin ei näytä tässä tilanteessa olleen. On hurjaa ajatella, että turvamekanismeja olisi otettu pois käytöstä vain, jotta tuote ja palvelu saadaan nopeammin markkinoille.
VastaaPoista