8 principes voor ethisch en veilig gebruik van artificiële intelligentie in diergeneeskunde

De Britse Vereniging voor Diergeneeskunde heeft een nieuw standpunt gepubliceerd met acht algemene principes voor een veilig, doeltreffend en ethisch gebruik van kunstmatige intelligentie in de diergeneeskunde.

De British Veterinary Association (BVA) heeft een reeks algemene principes gepubliceerd omtrent het gebruik van artificiële intelligentie (AI) om dierenartsen te helpen deze opkomende technologieën op een veilige, effectieve en ethische manier te gebruiken.

De acht principes, die deel uitmaken van het nieuwe beleidsstandpunt van de BVA over AI in de diergeneeskunde, omvatten het gebruik ervan in de klinische praktijk, in het onderwijs, in onderzoek, in de epidemiologie en in het administratieve en klinische beheer. Ze bevatten advies voor dierenartsen over hoe ze AI kunnen gebruiken als hulpmiddel – en niet als vervanging – van de dierenarts, hoe ze de werking van AI-technologieën kunnen begrijpen en hoe ze actief kunnen deelnemen aan het ontwerp, de ontwikkeling en de validatie van AI-instrumenten voor de gezondheid en het welzijn van dieren.

Ze suggereren ook om te begrijpen hoe een AI-systeem is getraind en in welke contexten vooroordelen kunnen ontstaan, om het nodige vertrouwen te hebben om de evolutie van AI-technologieën te volgen en zich aan te passen aan mogelijk snelle veranderingen in de beschikbare tools, en om de vertrouwelijkheid van gegevens en de toestemming van de klant te garanderen.

Daarnaast adviseren ze om toezicht te houden op het gebruik van AI in de klinische praktijk, verantwoordelijkheid te nemen voor de uiteindelijke beslissingen, gemakkelijk toegang te hebben tot de gebruikte gegevens en uit te leggen hoe een AI-tool tot zijn conclusie is gekomen.

Het beleid van de BVA moedigt dierenartsen aan om een positieve, proactieve en open houding aan te nemen ten opzichte van AI-technologieën in de diergeneeskunde, maar tegelijkertijd bewust te blijven van de mogelijke ethische risico's ervan. Naast de oproep aan alle dierenartsen om zich actief in te zetten voor het begrijpen van AI en bij het gebruik ervan de bovengenoemde principes na te leven, roepen de aanbevelingen alle veterinaire instellingen op om een beleid voor het gebruik van AI op te stellen, grondige risicobeoordelingen uit te voeren en hulpmiddelen te ontwikkelen om dierenartsen te helpen begrijpen hoe AI-instrumenten werken en hoe ze kunnen worden beoordeeld.

Daarnaast vraagt de BVA dat de sector als geheel internationale normen voor governance en verklaarbaarheid voor veterinaire AI-tools opstelt, dat de nationale veterinaire autoriteiten in het Verenigd Koninkrijk een actieve regelgeving voor veterinaire AI-tools ontwikkelen en dat ontwikkelaars van AI-technologieën transparante validatiegegevens verstrekken.

Ethisch en veilig gebruik van kunstmatige intelligentie in de diergeneeskunde

De voorzitter van de British Veterinary Association, dr. Rob Williams, heeft verklaard dat de AI-revolutie een blijvend fenomeen is en dat deze belangrijke kansen en uitdagingen met zich meebrengt voor het beroep van dierenarts. "Een positieve en open benadering, waarbij AI wordt gezien als een hulpmiddel voor dierenartsen en het hele veterinaire team, is de beste manier om ervoor te zorgen dat het beroep zich zelfverzekerd voelt om deze technologieën in het dagelijks werk toe te passen. De algemene principes die in het nieuwe beleidsstandpunt van de BVA zijn ontwikkeld, bieden een geschikt en nuttig kader voor alle veterinaire instellingen die kijken naar het veilige en effectieve gebruik van AI-technologieën. " 

"Dierenartsen moeten ook zo vroeg en zo vaak mogelijk worden betrokken bij het ontwikkelingsproces van AI-instrumenten, zodat het beroep de toepassing van deze opkomende technologieën kan sturen en ervoor kan zorgen dat we onze belangrijkste prioriteit blijven vervullen: het hoogste niveau van diergezondheid en dierenwelzijn ondersteunen", voegde hij eraan toe.

Uit gegevens van het onderzoek “Voice of the Veterinary Profession” van BVA blijkt dat een op de vijf dierenartsen in de klinische praktijk (21%) al gebruikmaakt van AI-tools. De meest genoemde voordelen zijn de interpretatie van gegevens, verbeterde diagnostische tests en tijdwinst. Dierenartsen wezen echter ook op mogelijke risico's, met name de mogelijkheid dat resultaten zonder context of follow-upcontroles worden geïnterpreteerd, een overmatige afhankelijkheid van AI die de menselijke vaardigheden kan verzwakken, en een gebrek aan gegevensbescherming.

Om deze kwestie aan te pakken, heeft de BVA een praktische risicopyramide ontwikkeld die de risico's van enkele van de meest voorkomende of overwogen toepassingen van AI in verschillende veterinaire contexten rangschikt van “minimaal” tot “onaanvaardbaar”. De organisatie heeft ook een praktische reeks vragen gepubliceerd die dierenartsen aan softwarebedrijven zouden moeten stellen bij het uitvoeren van risicobeoordelingen.

Risicopyramide

Dr. Williams voegde hieraan toe: "We weten dat het risico van het gebruik van AI exponentieel toeneemt naarmate een AI-tool autonomer wordt. Deze risicopyramide is een nuttig referentiepunt voor dierenartsen die AI in hun werk willen integreren, omdat taken aan de basis, zoals marketing of administratieve taken, veiliger kunnen worden uitgevoerd dan taken aan de top, zoals geautomatiseerde diagnose of klinische besluitvorming."

Naarmate de gebruikssituaties dichter bij de top komen, wordt het nog belangrijker om de principes uit het beleidsstandpunt van de BVA te volgen, omdat “de gevolgen voor de gezondheid en het welzijn van dieren, de beroepsnormen en de mensen groter zullen zijn. Ik moedig al mijn collega's aan om deze risicopyramide samen met de algemene principes te bekijken”.

Bron: BVA Policy Position on Artificial Intelligence in the Veterinary Profession

Bron: BVA Policy Position on Artificial Intelligence in the Veterinary Profession