IBM Watson AI davao rizične savete obolelima od raka

Ova sistem koristi se u 230 bolnica širom sveta, a osmišljen je kao pomoć doktorima prilikom postavljanja dijagnoza. Sistem koristi veštačku inteligenciju za analizu medicinskih podataka o pacijentima u kombinaciji sa informacijama iz stotina medicinskih žurnala. Od 2015. godine Watson je dao svoje mišljenje i savete za oko 60.000 pacijenata.

Međutim, medicinski eksperti koji sarađuju sa IBM-om na ovom projektu rekli su da Watson, barem u onkološkoj sferi, nije dorastao zadatku i da je često davao neprecizne i nebezbedne savete u vezi tretmana. To je sve bilo predstavljeno u internim dokumentima, među kojima su se nalazile i dve prezentacije Andreja Nordena, bivšeg zamenika direktora za zdravstvo u IBM Watson odeljenju. U jednom od tih izveštaja naveden je slučaj 65-godišnjeg pacijenta sa rakom pluća, koji je imao obilna krvarenja. Watson je u tom slučaju preporučio hemoterapiju i uzimanje leka „Bevacizumab“ koji sam po sebi izaziva obilna krvarenja i ne sme se davati osobama koji ih već imaju, jer može da dovede do fatalnih posledica.

Zagovornici ovog projekta tvrde da su svi saveti hipotetički i da doktori ne moraju da ih se pridržavaju, već su oni samo pomoćno sredstvo prilikom dijagnoze. Ipak, navođenje na pogrešan zaključak može da dovede doktore u zabludu i da oni sami posumnjaju u sopstvenu dijagnostičku procenu i tu se otvaraju vrata ka mogućim problemima. Srećom, do ovog trenutka nije registrovan nijedan fatalni slučaj.

Razlog zbog čega je došlo do ovih problema izgleda da je u tome što je sistem u tokom faze treniranja „hranjen“ hipotetičkim, a ne stvarnim podacima od stvarnih pacijenata. To suštinski znači da su doktori primali preporuke od drugih doktora koji su „punili“ sistem podacima, a ne od veštačke inteligencije koja je sintetizovala ogromnu količinu stvarnih podataka, pa su i izvedeni zaključci bili neprecizni.

Zvaničnici iz IBM-a su kao odgovor na ove tvrdnje objavili dokument u kome se kaže da je na 93% pacijenata pravilno identifikovan tumor i dat pravi tretman, kao i da se konstantno radi na unapređenju sistema. To su ilustrovali podatkom da je samo u poslednjih godinu dana bilo čak 11 softverskih nadogradnji koje su imale za cilj poboljšanje preciznosti identifikacije tumora.