ChatGPT:n mielestä lääkäri on yhä mies - tekoälyn vinoumat näkyvät kuvista

Tarvitsin erääseen esitykseen kuvan lääkäristä keskustelemassa potilaan kanssa, niin että kädet ovat näkyvissä ja taustalla näkyy potilastietojärjestelmä. Annoin ChatGPT 4:n tehtäväksi piirtää kuvan ja tällainen siitä tuli:

Lääkärikuva, otto 1.

Kuvassa häiritsi vain se, että lääkäri on mies. Suomessa enemmistö valmistuvista lääkäreistä on naisia, ilmeisesti nykyään myös enemmistö virassa toimivista. Laajempi kuva näyttää, millaisen promptin ChatGPT oli itselleen kehittänyt:

Lääkärikuva 1 prompteineen.

Suomenkielinen ohjeeni oli vaihtunut muotoon A scene in a medical office with a Caucasian doctor wearing a white coat, listening attentively with their hands visible, as a patient describes their symptoms. In the background, there's a desk with a computer displaying an open patient information system. The setting is professional and the focus is on the interaction between the doctor and the patient.

Lihavoin em. tekstissä määrityksen lääkärin taustasta, jota omassa ohjeessani ei ollut. ChatGPT oli omin päin lisännyt kuvapyyntöön lääkärin etnisen taustan.

Pyysin uutta kuvaa ja tulos oli tällainen:

Lääkärikuva, otto 2.

Nyt kuvan taakse oli ilmestynyt määritys eteläaasialaisesta lääkäristä: A medical consultation scene with a doctor of South Asian descent wearing a white coat, standing and listening carefully to a patient explaining their symptoms. The background features a desk with a computer, where a patient information system is open. The environment is a professional medical office, highlighting the interaction between the doctor and the patient.

Muista kuvista poiketen ChatGPT oli lisännyt promptiin seisomisen ("standing and listening"), jota se ei kuitenkaan noudattanut. Ja lääkäri oli edelleen mies, joten kokeillaan kolmas kerta:

Lääkärikuva, otto 3.

Nyt lääkäri oli afrikkalaistaustainen: A medical office scene depicting a Black doctor in a white coat, sitting and attentively listening to a patient who is speaking about their symptoms. The background shows a desk with a computer displaying an open patient information system. The setting is a professional medical office, emphasizing the doctor-patient interaction.

Tämäkin lääkäri oli mies. Pyysin jälleen uuden kuvan:

Lääkärikuva, otto 4.

Nyt lääkäri oli hispaano: A scene in a medical consultation room where a Hispanic doctor is listening intently to a patient who is describing their symptoms. In the background, there's a computer on a desk, displaying an open patient information system. The focus is on the interaction between the doctor and the patient, in a professional medical office setting.

Lopulta pyysin suoraan naislääkäriä, ja tulihan se:

Lääkärikuva, otto 5.

Naisen siis saa pyytämällä. Ja jälleen uusi etninen tausta: A medical office scene with a female doctor of Middle-Eastern descent, attentively listening to a patient discussing their symptoms. In the background, a desk with a computer showing an open patient information system is visible. The setting emphasizes the professional interaction between the female doctor and the patient in a medical office.

Entä jos erikseen pyytää suomalaista lääkäriä? Varmuuden vuoksi esitin pyynnön englanniksi. Tässä tulos:

Lääkärikuva, otto 6.

Kuvauksessa suomalaisuus oli vaihdettu länsimaalaisuuteen: A scene in a Finnish medical office with a Caucasian doctor, attentively listening to a patient discussing their symptoms. In the background, a computer displaying a patient medical record is visible on a desk. The setting is professional and focuses on the interaction between the doctor and the patient in a medical office.

Jokainen voi itse arvioida, miten suomalaiselta lääkäri näyttää. Ainakin kovin nuorelta. 

Mutta palataan vielä siihen naislääkäriin. Hänen kätensä näyttävät oudoilta, sillä oikeassa kädessä on vain neljä sormea. Ehkä nainen päätti ryhtyä lääkäriksi juuri sen vuoksi, että hän on lapsena menettänyt yhden sormistaan? Tai oikeastaan alimmat sormet sulautuvat käsissä yhteen.

Lääkärin sormissa on jotain kummallista.

Myös stetoskooppi on erikoista mallia, koska siinä on koko matkalta kaksi rinnakkaista putkea. 

Näissä esimerkeissä tiivistyy monta keskeistä asiaa tekoälystä. Se tekee kulissien takana omia juttujaan (lisää etnisen taustatiedon), vahvistaa stereotypioita (lääkärit ovat miehiä) ja piirtää hyvältä näyttäviä kuvia, joiden tarkempi tutkiminen paljastaa kuitenkin virheitä yksityiskohdissa.

Arvaan, että ChatGPT lisää tarkoituksella vaihtuvan etnisyyden, jotta sen ei voida väittää suosivan länsimaalaisia henkilöitä. Tekijät ovat siis itsekin tunnistaneet etnisen vinouman ja korjanneet sitä keinotekoisesti, mutta sukupuolelle he eivät ole tehneet mitään. Pitäisi vielä kokeilla, koskeeko etnisen taustan diversiteetti kaikkia ammatteja vai onko kyse vain lääkäreistä.

Nämä rajoitukset ja yllätykset on hyvä pitää mielessä tekoälyä käyttäessään. Vastuu on aina ihmisellä. Tekoäly ei ota vastuuta mistään. 

Lisäys 22.2.2024: Samaa sarjaa Googlen tekoäly, joka piirsi toisen maailmansodan natseiksi etnisen taustan ja sukupuolen mukaan vaihtuvia henkilöitä.