Bijna een derde van de radiografen weet niet hoe AI tot beslissingen komt

Uit een onderzoek is gebleken dat bijna een derde van de radiografen aangeeft niet zeker te weten hoe een kunstmatige-intelligentiesysteem zijn beslissingen neemt

In een onderzoek onder radiografen verklaarde bijna een derde dat ze niet wisten hoe een systeem voor kunstmatige intelligentie (AI) zijn beslissingen nam volgens de resultaten van een onderzoek door Ierse en Britse onderzoekers.

Een radiologisch personeelsrapport in 2020 zei dat in het VK 1 op de 10 radioloogposities onvervuld was. Niettemin is het rapporteren van radiografische beelden door radiografen (in plaats van radiologen) een gevestigde praktijk in het Verenigd Koninkrijk (VK) en het onmiddellijk rapporteren van röntgenfoto’s van de spoedeisende hulp door een radiograaf wordt beschouwd als een kosteneffectieve ontwikkeling van diensten. Ondanks dat het een kosteneffectieve ontwikkeling van diensten vertegenwoordigt, zoals bij radiologen, is er een nationaal tekort aan radiografen in het VK, met een rapport uit 2021 waaruit blijkt dat het gemiddelde huidige vacaturepercentage in het VK 10,5% was vanaf november 2020. Om zowel radiologen als radiografen te helpen, de laatste jaren is er een toenemend gebruik van kunstmatige intelligentie (AI)-technologieën voor toepassingen in de radiologie. Bovendien is de interpretatie van beeldvorming door het AI-systeem indrukwekkend, waarbij uit een internationale studie bleek dat het vermogen van een AI-systeem om borstkanker te identificeren niet-inferieure prestaties handhaafde en de werklast van de tweede lezer met 88% verminderde. De introductie van AI-systemen heeft daarom de potentie om eventuele achterstanden in niet-gemelde afbeeldingen te verminderen. Maar de mate waarin radiografen AI-technologie begrijpen en ermee omgaan, was het onderwerp van het huidige onderzoek door het Ierse en Britse team. Ze ontwikkelden een vragenlijst gericht op AI zoals gebruikt in rapportage door radiografen en die aanvankelijk werd getest met een groep van 12 radiografen met verschillende professionele achtergronden. Een totaal van 8 vragen waren specifiek gericht op AI en het gebruik ervan in radiografisch verslaglegging en respondenten beantwoordden ze met behulp van een 7-punts Likert-schaal (variërend van helemaal mee eens tot helemaal mee oneens). De enquête werd verspreid via een link die op professionele sociale mediaplatforms (zoals LinkedIn en Twitter) werd geplaatst.

Radiografen bekeken

Er werden in totaal 411 ingevulde enquêtes ontvangen van radiografen die diagnostisch en therapeutisch werkten. De resultaten van de huidige studie waren echter beperkt tot diagnostische radiografen (86). Misschien wel de eerste en meest verhelderende bevinding was hoe 89,5% van de respondenten aangaf dat ze AI momenteel niet gebruiken als onderdeel van hun rapportagerol.

In antwoord op een vraag met de vraag “Ik begrijp hoe een AI-systeem tot zijn beslissingen komt” gaf slechts 28,8% (geaggregeerde waarde) aan ‘enigszins mee oneens’, ‘mee oneens’ of ‘helemaal mee oneens’ te zijn, hoewel 61,6% (geaggregeerde waarde) dat ze ‘eens’ of ‘enigszins mee eens’ waren. Bovendien was de meerderheid van de respondenten (59,3%) het er niet mee eens dat ze vertrouwen zouden hebben in het uitleggen van de beslissing van het AI-systeem aan andere beroepsbeoefenaren in de gezondheidszorg en evenzo was slechts 29,1% het ermee eens dat ze vertrouwen zouden hebben in het uitleggen van de beslissing aan patiënten of hun verzorgers.

Terwijl 57% aangaf dat ze zekerder zouden zijn van hun diagnose als een AI-systeem het met hun interpretatie eens was, verklaarde de meerderheid (69,8%) dat ze een second opinion zouden vragen als het AI-systeem het niet met hen eens was.

Ten slotte, toen hen werd gevraagd om hun vertrouwen in een AI-systeem voor diagnostische beeldinterpretatie te beoordelen op een schaal van 1 tot 10, was de mediane score 5. Toen hen werd gevraagd om te kiezen uit een lijst met mogelijke factoren die hun vertrouwen in de AI zouden vergroten systeem waren de meest voorkomende reacties ‘algemene prestaties en nauwkeurigheid van het systeem (76%), een visuele uitleg, zoals een heatmap (67%) en een indicatie van het vertrouwen van het AI-systeem in zijn diagnose (62 % ).

De auteurs concludeerden dat, hoewel de meerderheid van de respondenten momenteel niet routinematig een AI-systeem gebruikt als onderdeel van hun rapportage, zich bewust moest zijn van de manier waarop clinici omgaan met AI-systemen, omdat dit in de toekomst een verantwoord gebruik van dergelijke systemen zou kunnen bevorderen.

Citaat
Rainey C et al. VK rapporteert de percepties van radiografen over AI bij de interpretatie van radiografische beelden – Huidige perspectieven en toekomstige ontwikkelingen Radiografie 2022

Leave a Comment

Your email address will not be published.