# Welke invloed hebben AI en Machine Learning op de naleving van wet- en regelgeving omtrent medische hulpmiddelen? Regelgeving moet altijd een inhaalslag maken, vooral als het om nieuwe technologie gaat. Neem bijvoorbeeld Artificial Intelligence (AI) en Machine Learning (ML). Het is een snel evoluerend veld dat zich zo snel ontwikkelt dat regelgevende organen voor een echte uitdaging staan om bij te blijven. Sterker nog, een EU-commissie heeft onlangs een ontwerp-onderhandelingsmandaat voor de nieuwe AI-wet aangenomen. Maar dat is nog maar een stap dichterbij. Er is nog een lange weg te gaan. **Datum**7 juni 2023 Voor de medische hulpmiddelen industrie komen uit het gebruik van AI twee belangrijke uitdagingen voort. Ten eerste, hoe je AI-schrijfhulpmiddelen kunt gebruiken om regelgeving documenten te maken. Ten tweede, hoe zorg je voor een veilige en effectieve implementatie van AI in ‘software als medisch hulpmiddel’ of als onderdeel van een fysiek apparaat. Dit is ons standpunt over de huidige stand van zaken voor AI op het gebied van medische hulpmiddelen regelgeving en hoe dit ethisch, veilig en productief kan worden gebruikt. ### AI assistentie voor wettelijke documentatie AI-schrijfhulpmiddelen zijn al enige tijd op de markt – grotendeels ontworpen om de grammatica te corrigeren en de helderheid te verbeteren. In veel sectoren worden AI-chatbots gebruikt om menselijke schrijvers te helpen, van het maken van de eerste versie van een document tot het samenvatten van complexe artikelen. Een Notified Body acht het noodzakelijk dat de documentatie en het technische dossier voor de EU Medical Device Regulation (MDR) duidelijk en begrijpelijk is. Als je niet oppast, kan het gemakkelijk te technisch en moeilijk te lezen worden. Het moet de juiste balans bevatten tussen technische nauwkeurigheid en duidelijkheid. Een AI-chatbot zoals OpenAI's [ChatGPT](https://openai.com/blog/chatgpt) kan het schrijfproces ondersteunen en helpen om belangrijke informatie samen te vatten en te vereenvoudigen. Het kan fungeren als een editor – het kan je tekst controleren om er zeker van te zijn dat deze leesbaar is. Daarnaast kan het inspiratie bieden - het biedt suggesties om je te helpen een zogenaamde writer’s block te overkomen. Het heeft ook waarde als onderzoeksinstrument – zoals een zoekmachine – om onbekende terminologie of concepten te helpen verklaren. Door AI gegenereerde documentatie is mogelijk, maar de uitvoer door AI moet altijd door een mens worden bewerkt. Dat geldt met name voor de complexe wettelijke documentatie die nodig is voor een medisch hulpmiddel. Een AI-chatbot kan een plausibel klinkende kopie aanbieden, maar is mogelijk niet feitelijk juist en kan belangrijke details missen die relevant zijn voor je hulpmiddel. Het kan subtiele nuances, die per project en per persoon veranderen, niet begrijpen, zoals de definitie van ‘klinische relevantie’. Het komt erop neer: volg niet simpelweg AI en laat hierbij je eigen processen niet vallen. Het is een beetje zoals het gebruik van satellietnavigatie. Gebruik de informatie om je te helpen, maar vertrouw op je eigen gezond verstand en intelligentie voor het nemen van belangrijke beslissingen. En vergeet niet dat je voor sommige belangrijke informatie-elementen de daadwerkelijke gegevensbron moet kunnen identificeren! ### Implementatie van AI in software als medisch hulpmiddel Wanneer in de EU een AI- of ML-component in een stuk software een medisch doel heeft, wordt het onderworpen aan de MDR. Dus een kruising tussen de MDR en de nieuw goedgekeurde regels voor transparantie en risicobeheer voor AI-systemen (EU AI Act) is waarschijnlijk. Het implementeren van AI in software als een medisch hulpmiddel (SaMD) is geen gemakkelijke klus. Volgens de EU MDR moet elke update van software goed worden gedocumenteerd om ervoor te zorgen dat er geen nieuwe risico's zijn en dat nieuwe functionaliteit werkt zoals bedoeld. AI is ingedeeld in verschillende subsets, waaronder ML – waarbij een computer leert van een dataset. Er is ook geautomatiseerde ML, wanneer de AI continu leert. Elke AI in software als een medisch hulpmiddel, dat leert van het gedrag van gebruikers, zal voortdurend worden bijgewerkt en leren, waarbij de algoritmen worden verfijnd. Volgens bestaande richtlijnen zou dat een constante update van de documentatie vereisen - wat niet haalbaar is. Maar als er geen controles worden uitgevoerd, kan dit niveau van vrijheid ervoor zorgen dat AI snel uit de hand loopt en je apparaat niet meer voldoet. Er is dus een discrepantie tussen de EU MDR en hoe AI en ML functioneren (en waarde toevoegen aan een product). Een oplossing is om het algoritme voor een specifieke release te vergrendelen. Dat betekent dat het algoritme hetzelfde blijft – het leert geen nieuwe dingen – en de leverancier behoudt de controle over de output. Daarmee gaat echter het doel van AI in een product dat al op de markt is verloren: continue verbetering van de gezondheidszorg die aan de patiënt wordt geboden. Dit laatste kan dan alleen worden ingevoerd via wijzigingen, die vaak onderhevig zijn aan kennisgeving en toetsing door toezichthoudende instanties. Er zijn al een handvol hulpmiddelen op de EU-markt met een ML-component. Ter vergelijking: de Amerikaanse Food and Drug Administration (FDA) heeft al meer dan 500 AI/ML-medische hulpmiddelen goedgekeurd, geautoriseerd of vrijgegeven. Dit omvat stand-alone software of software als onderdeel van medische hardware. ### Wat je bedrijf in medische hulpmiddelen nu kan doen De aankomende AI-wet van de EU is nog ver weg. Dus wat kan je bedrijf in medische hulpmiddelen doen om zich voor te bereiden? Ten eerste moet je op de hoogte blijven van de laatste richtlijnen over het gebruik van AI in medische hulpmiddelen. Het is zeer waarschijnlijk dat de AI-wet duidelijke gebruikerscontroles en bewustzijn van het juiste gebruik van de software zal waarderen. Dit is overlappend met de MDR, die sterk de nadruk legt op gebruiksaanwijzingen en begeleidende documenten. Ten tweede dekt de naleving van de MDR al bepaalde aspecten van AI. Denk aan je risicomanagementsystemen, verificatie en validatie, klinische evaluatie en/of post-market surveillance activiteiten. Gebruik de MDR in je voordeel. Je documentatie in orde brengen voor de MDR zal vrijwel zeker in je voordeel zijn wanneer de AI-wet van kracht wordt. Ten derde kan post-market surveillance je helpen bij het plannen van updates en prestatiecontroles van de AI, net als bij elk ander software onderdeel. Dit helpt je controle te houden over hoe het zich gedraagt. Tot slot, omdat AI afhankelijk is van grote hoeveelheden data, zal de nieuwe AI-wet waarschijnlijk ook overlap vertonen met de Algemene Verordening Gegevensbescherming (AVG). Laat je hier dus goed over informeren en ken je hiaten. ### De Amerikaanse FDA loopt voorop Zoals gezegd loopt de Amerikaanse FDA al voorop als het gaat om het accepteren en reguleren van AI/ML in medische hulpmiddelen. Een belangrijk punt uit hun huidige richtlijnen voor Good Machine Learning Practices (GMLP) is ervoor te zorgen dat je je trainingsdataset en testdataset gescheiden houdt voor validatiedoeleinden, en documenteert hoe GMLP tijdens de ontwikkeling wordt gevolgd. Daarnaast, als je een AI laat leren, moet je de grenzen beheersen en de risico's blijven valideren, en ervoor zorgen dat je dataset de beoogde gebruikerspopulatie vertegenwoordigt. De Amerikaanse FDA heeft ook een nieuw regelgevingskader voorgesteld voor de wijzigingen van op AI/ML gebaseerde software als medisch hulpmiddel. Het stelt voor dat fabrikanten een 'change control plan' moeten indienen voordat de hulpmiddelen op de markt worden gebracht. Dit plan definieert vooraf de soorten toekomstige aanpassingen aan het hulpmiddel en beschrijft de methodologie en validatie die zullen worden geïmplementeerd om continue veiligheid en effectiviteit te garanderen. Het vereist ook een impactbeoordeling voor dergelijke geplande wijzigingen. Op dit moment is dit de sterkste indicatie van wat je kunt verwachten van aankomende AI-regelgeving, ook voor de EU-markt. *Heb je deskundige hulp nodig bij het naleven van de regelgeving voor uw medische hulpmiddel?* [*Praat vandaag nog met een van onze specialisten.*](https://test.blub.company/contact) [Terug naar overzicht](/evenementen-publicaties) Link gekopieerd naar het klembord ### Vragen over AI in medische software? Neem contact op. Wij zorgen voor een helder plan om je MDR-compliance te versnellen. ## Nieuwsgierig naar onze laatste updates? Blijf up-to-date in het digitale landschap met onze nieuwsbrief. Schrijf je in en krijg het in je mail.