Waarde(n)volle zorgtechnologie - Een verkennend advies over de kansen en risico's van kunstmatige intelligentie in de zorg

Kunstmatige intelligentie (AI – Artificial Intelligence) doet zijn intrede in de zorg. Het is naar de mening van de Raad een waardevolle technologie. Het kan zowel de kwaliteit, de toegankelijkheid en pluriformiteit als de betaalbaarheid en solidariteit van de zorg doen toenemen. Het is tegelijkertijd een waardenvolle technologie - AI is niet waardenvrij - die diezelfde publieke belangen kan ondermijnen. Wanneer de overheid deze ontwikkelingen op het gebied van AI helemaal vrij laat, lopen we het risico dat we afhankelijk worden van dominante private partijen.

De Raad heeft een verkennend advies uitgebracht over deze thematiek. Verkennend omdat zoveel nog niet bekend en nog onzeker is, maar wel een advies omdat wij van oordeel zijn dat afwachten geen optie is. De gevolgen voor de zorg, de mogelijkheden en de risico’s van nieuwe technologie zijn weliswaar nu niet precies in kaart te brengen, zeker is wel dat kunstmatige intelligentie nu al volop wordt gebruikt en dat er al veel toepassingen in concrete praktijken worden ingezet. In dit advies laten we verschillende voorbeelden zien, niet alleen in de ziekenhuiszorg maar juist ook in de zorg voor ouderen en in de zorg voor mensen met een (verstandelijke) beperking.

Waarden die in de Nederlandse gezondheidszorg gekoesterd worden, vormen het vertrekpunt voor dit advies. Bijvoorbeeld, kan kunstmatige intelligentie de toegankelijkheid van zorg bevorderen of is het juist ondermijnend voor die waarde? Ook vragen we aandacht voor het feit dat technologie nooit neutraal is en dat in het ontwerp belangrijke keuzes worden gemaakt. Deze keuzes kunnen gewild en ongewild bepaalde waarden onderstrepen en andere aantasten.

Het is van belang tijdig maatregelen te nemen om de ontwikkelingen in goede banen te leiden. De Raad stelt een tweesporenbenadering voor: een spoor voor de lange(re) termijn en een spoor om morgen mee te beginnen. Het eerste spoor omvat het programmatisch volgen van AI-ontwikkelingen, kennis over AI genereren en delen, burgers informeren en aandacht voor AI in zorgopleidingen. Het tweede spoor betreft het stellen van kwaliteitseisen aan AI-toepassingen en deze ook afdwingen, het garanderen van datacontinuïteit van patiëntengegevens en ervoor zorgen dat burgers kunnen zien waar hun medische gegevens zijn opgeslagen en met wie ze worden gedeeld.

Met deze benadering kunnen naar de mening van de Raad de kansen die AI de zorg biedt optimaal benut worden en worden de risico’s zoveel mogelijk beperkt.

Projectgroep

In de media

Waarde(n)volle zorgtechnologie