Ei tekoälyä terveydenhuoltoon
Aivan ensimmäiseksi on tärkeää sanoa, että tekoälyn tai koneoppimisen käyttäminen terveydenhuollossa ei lähtökohtaisesti ole huono asia. Niitä voidaan käyttää esimerkiksi rintasyövän seulontaan röntgenkuvien avulla. Tällaiset työkalut rakennetaan varta vasten tunnistamaan poikkeamia näistä kuvista.
Niskakarvani nousivat kuitenkin pystyyn, kun luin jutun otsikon: Pirhan uusi potilastietojärjestelmä ja tekoälyn käyttö terveydenhuollossa (hs.fi). CGI on kehittänyt lääkäreille tekoälyohjelmiston, joka käy läpi potilaan potilaskertomukset ja tuottaa niistä tiivistelmän. Tiivistelmässä on lähteitä, joten lääkäri tarkistaa potilaskertomuksesta, että pitääkö tiivistelmä paikkaansa.
Ennen arviointia, että onko tämä hyvä vai huono, on tarpeen tietää, mitä tällaiset tekoälyohjelmistot tekevät.
Tekoäly tuottaa väärää ja virheellistä tietoa
BBC:n tutkimusryhmä tutki eri tekoälyohjelmistojen tekemiä tiivistelmiä BBC:n uutisisista ja arvioi ne. Ryhmän mukaan “51 prosentissa kaikista tekoälyohjelmistojen vastauksista oli jonkinlaisia suuria virheitä” ja “19 prosenttia vastauksista sisälsi väärää tietoa: vääriä väitteitä, lukuja ja päivämääriä” BBC:n selvitys (englanniksi, PDF).
Meidän pitää arvioida näitä ratkaisuja tätä tietoa vasten, koska tarkempaakaan tietoa ei ole saatavilla.
Riskit terveydenhuollossa ovat liian suuret
Jutussa ei kerrota, että millaista tekoälyohjelmistoa CGI käyttää. On hyvä veikkaus, että käytössä on jokin vastaava generatiivinen tekoälyohjelmisto, sillä CGI esittelee sivuillaan, että generatiivistä tekoälyä voi käyttää yhteenvetojen tekemiseen.
Jos otetaan BBC:n selvityksen luvut sellaisenaan, niin tällaisen työkalun joka toinen potilaskertomus on jollain tavalla virheellinen. Voiko lääkäri antaa parasta hoitoa perustuen väärään tietoon?
Noin joka viidennessä potilaskertomuksessa olisi vääriä lukuja tai päivämääriä. Tämä tuntuu todella vaaralliselta, kun mietitään, onko lääkkeen annostelussa virhe tai siinä milloin jotkin oireet ovat alkaneet.
Vaikka tiivistelmä olisi lähteistetty, niin moniko lääkäri alkaisi käymään lähteitä läpi aikataulupaineidensa takia? Työkalua ollaan tuomassa juuri niiden takia terveydenhuoltoon.
Koska tiivistelmän virheettömyydestä ei voi olla varma, niin lääkärin pitäisi käydä läpi jokainen lähde ollakseen varma, että ei tule tehneeksi työtään perustuen väärään tietoon. Tämä tulee olemaan lopulta vain suurempi aikasyöppy kuin aiemmin.
Sanelu lisää uusien potilaskertomusten virheitä
Ohjelmistoon sisältyy myös sanelu eli lääkäri voi puhua seuraavan potilaskertomuksen kirjoittamisen sijasta. Mediuutiset kertoi vastaavasta jo viime vuonna: Sairaaloiden tekoälytyökalu hallusinoi – Käytetty jo yli 7 miljoonassa lääkärikäynnissä Yhdysvalloissa. OpenAI-yrityksen Whisper-työkalu siis välillä tuotti kokonaisia lauseita, joita kukaan ei ollut sanonut.
Jos tällaisia potilaskertomuksia käytetään sitten uusien tiivistelmien tekoon, niin soppa on valmis.
Hoidetaan mieluummin juurisyytä, eikä oiretta
Juurisyy on, että lääkäreillä ja muilla terveydenhuollon ammattilaisilla ei ole aikaa perehtyä potilaskertomuksiin ja täten potilaan hoitoon haluamallaan tavalla.
1. Viikossa hoitoon
Ratkaisu tähän on resurssien turvaaminen terveydenhuollossa eli henkilöstöä pitää olla tarpeeksi, jotta tarvitsemaana hoitoon pääsee viikon kuluessa yhteydenotosta.
2. Jokaiselle oma lääkäri
Lisäksi käyttöön pitää ottaa omalääkärimalli, jossa jokaisella kaupunkilaisella on oma nimetty lääkärinsä, joka on perehtynyt tietyn potilaan hoitoon. Tällä tavoin tarve vastaaville tiivistelmille vähenee, kun vastassa on sama lääkäri hoidon eri vaiheissa.
Ota yhteyttä, seuraa, tue ja äänestä!
Voit nyt äänestää minua ehdokasnumerollani 161.
Voit ottaa yhteyttä sähköpostini sami@samimaatta.fi, Mastodonin, Instagramin tai BlueSkyn kautta.
Voit tukea kampanjaani jakamalla julkaisujani tai lahjoittamalla.
