Nieuwe AI-chatbot van Google kan de dokter niet vervangen

- Gezondheid in de media -

Julie Van Goethem Verschenen op 30/01/2024
© Canva/G&W

In het nieuws

Het kan gevaarlijk zijn om op het internet naar een diagnose voor je symptomen te zoeken. Toch toont recent onderzoek dat artificiële intelligentie (AI) in de toekomst een waardevol hulpmiddel voor artsen kan worden, schrijft het Nieuwsblad. Een AI-chatbot ontwikkeld door Google zou zelfs beter blijken te zijn dan echte artsen.

Factcheck

Dit onderzoek laat zien dat AI-systemen mogelijk kunnen helpen in de medische wereld, maar de resultaten moeten voorzichtig worden geïnterpreteerd. De AI-chatbot van Google is geen vervanging voor artsen en voldoet daarnaast niet aan de huidige Europese normen voor medisch gebruik. Verdere ontwikkeling vereist meer onderzoek en ethische overwegingen. Belangrijk: een medische chatbot is geen algemene zoekmachine zoals Google, waar veel onbetrouwbare informatie te vinden is. Bij twijfel: raadpleeg een arts.

Lees verder »

Waar komt dit nieuws vandaan?

Op 17 januari 2024 nam Het Nieuwsblad een recente studie uit het vakblad ‘Nature’ over dokter Google onder de loep (1, 2). De AI-chatbot ontwikkeld door Google blijkt mogelijk nauwkeuriger en empathischer dan echte artsen (2, 3).

  • Onderzoekers van het Google Research Team ontwikkelden een AI-chatbot, zoals chatGPT, die patiënten online kan ondervragen om zo tot een diagnose te komen.
  • De AI-chatbot:
    • werd getraind met gesprekken tussen artsen en patiënten;
    • verbetert zichzelf;
    • leert zichzelf nieuwe dingen aan op basis van de input die hij krijgt.
  • De onderzoekers vroegen acteurs om verschillende medische aandoeningen na te doen, terwijl ze niet wisten of ze met een huisarts of een robot chatten. Achteraf werd hun gevraagd hun ervaring te beoordelen. Ook experts evalueerden hoe goed de chatbot het deed t.o.v. de echte huisartsen.
  • De studie benadrukt echter dat deze AI-chatbot nooit bedoeld is om echte artsen te vervangen, maar eerder om als een hulpmiddel te dienen.
Bron

(1) Studie bewijst: Dokter Google weet het vaak écht beter dan de huisdokter. Het Nieuwsblad, 17/01/2024. https://www.nieuwsblad.be/cnt/dmf20240117_96170850

    Hoe moet je dit nieuws interpreteren?

    Proeffase

    Hoewel dit onderzoek veelbelovend lijkt t.o.v. eerdere studies (4, 5), moeten de studieresultaten voorzichtig en bescheiden geïnterpreteerd worden. De dokter Google AI-chatbot zit nog helemaal in de proeffase en is nog niet getest op mensen met echte gezondheidsproblemen, alleen op acteurs die doen alsof ze medische aandoeningen hebben. Het is op dit moment nog een experiment, maar nog geen veilig klinisch hulpmiddel (2, 3).

    Dokter Google is géén echte arts

    Chatten is anders dan normaal bij de dokter. Artsen zijn niet gewend om met patiënten te chatten, wat in het onderzoek hun prestaties kan beïnvloed hebben. Normaal gesproken stellen artsen een diagnose na gesprek en een lichamelijk onderzoek, maar dat kon hier beide niet. Geneeskunde is bovendien zoveel meer dan alleen informatie verzamelen - het draait ook om menselijke relaties. Daarom geeft deze studie geen goed beeld van hoe het normaal gaat bij de dokter (3).

    Black of white box AI?

    De AI-chatbot van Google is een ‘black box AI’. Dat betekent dat het zichzelf traint en onderzoekers niet kunnen achterhalen hoe het redeneert. ‘White box AI’ daarentegen is wel transparant, wat een Europese vereiste is. Zo mag enkel ‘white box AI’ gebruikt worden in een medische setting (1).

    Meer onderzoek nodig

    Het ontwikkelen van een onderzoekstool (zoals in deze studie) tot een hulpmiddel voor zorgverleners en leken vergt veel meer onderzoek. We moeten ervoor zorgen dat de technologie veilig, betrouwbaar, doeltreffend, ethisch correct en privé is. Het moet getest worden in verschillende populaties en op mensen met echte medische problemen. Daarnaast moet de chatbot steeds up-to-date gehouden worden met de nieuwste medische informatie. Op termijn zou AI:

    • kunnen helpen bij het stellen van diagnoses; 
    • ervoor kunnen zorgen dat medische informatie makkelijker toegankelijk en van goede kwaliteit is. 

    Het zou artsen kunnen helpen in de dagelijkse praktijk (2, 3).

    Een chatbot is geen zoekmachine!

    Let op: een medische chatbot is speciaal ontwikkeld voor medische doeleinden en staat niet gelijk aan lukraak googlen via een zoekmachine als Google. Online gezondheidsinformatie kan waardevol zijn, maar adviezen kunnen vaak ronduit fout of gedateerd zijn. Zoek je graag online naar informatie over je gezondheid? Zorg dan dat je op een betrouwbare website terecht komt zoals Zoek Gezond en laat je bij onzekerheid begeleiden door je zorgverlener of arts (7).

    Conclusie

    Dit onderzoek laat zien dat AI-systemen mogelijk kunnen helpen in de medische wereld, maar de resultaten moeten voorzichtig worden geïnterpreteerd. De AI-chatbot van Google is geen vervanging voor artsen en voldoet daarnaast niet aan de huidige Europese normen voor medisch gebruik. Verdere ontwikkeling vereist meer onderzoek en ethische overwegingen. Belangrijk: een medische chatbot is geen algemene zoekmachine zoals Google, waar veel onbetrouwbare informatie te vinden is. Bij twijfel: raadpleeg een arts.

    Referenties
    Gerelateerde nieuwsberichten
    Vond je dit artikel nuttig?
    Content overnemen van Gezondheid en Wetenschap

    Gezondheid en Wetenschap heeft het alleenrecht op de meeste gepubliceerde content. Onze artikels mogen dus niet overgenomen worden zonder onze schriftelijke toestemming.

    Interesse in onze content? Neem contact op via info@gezondheidenwetenschap.be.

    Nieuwsbrief

    Schrijf je in voor onze nieuwsbrief