Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Release v2.0/kleine aanpassingen transparantie #441

Merged
merged 7 commits into from
Dec 3, 2024
Merged
Show file tree
Hide file tree
Changes from all commits
Commits
File filter

Filter by extension

Filter by extension

Conversations
Failed to load comments.
Loading
Jump to
Jump to file
Failed to load files.
Loading
Diff view
Diff view
Original file line number Diff line number Diff line change
Expand Up @@ -47,7 +47,6 @@ Een duidelijk beleid over de inzet van algoritmes helpt organisaties te voldoen
- Dit beleidsdocument is beschikbaar en toegankelijk voor geïnteresseerden.

## Bronnen
Algoritmekader

## Bijbehorende vereiste(n)
<!-- Hier volgt een lijst met vereisten op basis van de in de metadata ingevulde vereiste -->
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -52,4 +52,4 @@ Het algoritme kan niet of na verloop van tijd niet meer functioneren, doordat on

## Voorbeeld

Onderzoekswaardigheid: Slimme check levensonderhoud (niet meer in gebruik!). [Project Start Architectuurnotitie](https://algoritmeregister.amsterdam.nl/wp-content/plugins/saidot-integratorv2/proxy.php?url=AHn%2B3x1z2imOmm0lOvAus5CVlGVVvJprgQD4cckV1WakmswgAC%2BrBXoElLUqjLFXbQD%2BDhXIfXyZ3PkucbEB8bYD8rpIdh1fkU3iEcm%2FxXU6waCLq20vSGbyXl6UawFq7XJiDRMFN%2BxNwzhI%2F95QAChRcxDzeIa8LP2W35ywKvM8I7gohjeuG9xdZFN5FnS%2FN8tUMXl%2BNJkVrIEciqiCKcbHve9wivl3VdrmOzDQbsQC5xe8HXAv37RzfMcO6eT%2FhL6u5hol%2FUReJGnL9oDr2kfcphEGX%2FSnSW1gCNSQCBn7CBdznwp1m3yE%2Fn66zz%2F0G6CtxyAtc0pASMu8mWrAqLMwzPdKnz7wcfjl3dTwTxQ%3D)
- [Gemeente Amsterdam - Onderzoekswaardigheid Algoritme ‘Slimme check’](https://algoritmeregister.amsterdam.nl/onderzoekswaardigheid-slimme-check-levensonderhoud) (Een tool die de medewerkers helpt om te bepalen of een aanvraag levensonderhoud onderzoekswaardig is, niet meer in gebruik!): [Start Architectuurnotitie van dit project](https://algoritmeregister.amsterdam.nl/wp-content/plugins/saidot-integratorv2/proxy.php?url=AHn%2B3x1z2imOmm0lOvAus5CVlGVVvJprgQD4cckV1WakmswgAC%2BrBXoElLUqjLFXbQD%2BDhXIfXyZ3PkucbEB8bYD8rpIdh1fkU3iEcm%2FxXU6waCLq20vSGbyXl6UawFq7XJiDRMFN%2BxNwzhI%2F95QAChRcxDzeIa8LP2W35ywKvM8I7gohjeuG9xdZFN5FnS%2FN8tUMXl%2BNJkVrIEciqiCKcbHve9wivl3VdrmOzDQbsQC5xe8HXAv37RzfMcO6eT%2FhL6u5hol%2FUReJGnL9oDr2kfcphEGX%2FSnSW1gCNSQCBn7CBdznwp1m3yE%2Fn66zz%2F0G6CtxyAtc0pASMu8mWrAqLMwzPdKnz7wcfjl3dTwTxQ%3D)
Original file line number Diff line number Diff line change
Expand Up @@ -28,7 +28,7 @@ Stel vast welke betrokkenen geïnformeerd moeten worden over de ontwikkeling en

## Toelichting
<!-- Geef hier een toelichting van deze maatregel -->
Welke informatie over algoritmes relevant, is verschilt per partij. Het is van belang om deze partijen in beeld te brengen en vast te stellen welke informatie voor hen relevant is. Raadpleeg hierbij al vastgestelde [beleidskaders](0-org-02-beleid_opstellen_inzet_algoritmes.md), waarin is beschreven welke informatie in welke gevallen moet worden gecommuniceerd.
Welke informatie over algoritmes relevant is, verschilt per partij. Het is van belang om deze partijen in beeld te brengen en vast te stellen welke informatie voor hen relevant is. Raadpleeg hierbij vastgestelde [beleidskaders](0-org-02-beleid_opstellen_inzet_algoritmes.md), waarin is beschreven welke informatie in welke gevallen moet worden gecommuniceerd.

Stel bijvoorbeeld de volgende vragen:

Expand Down
Original file line number Diff line number Diff line change
@@ -1,7 +1,7 @@
---
title: Pas uitlegbaarheidstechnieken toe en evalueer en valideer deze.
id: urn:nl:ak:mtr:owp-07
toelichting: Uitlegbaarheidstechnieken dragen bij aan het transparant maken van de werking van een algoritme.
toelichting: Uitlegbaarheidstechnieken helpen om de werking van een algoritme transparant te maken.
vereiste:
- aia-08-transparantie-aan-gebruiksverantwoordelijken
- aia-26-recht-op-uitleg-ai-besluiten
Expand All @@ -25,29 +25,32 @@ hide:
Pas uitlegbaarheidstechnieken toe en evalueer en valideer deze.

## Toelichting
Uitlegbaarheidstechnieken dragen bij aan het transparant maken van de werking van een algoritme.
Uitlegbaarheidstechnieken helpen om de werking van een algoritme transparant te maken.
De keuze voor het type algoritme bepaalt hoe transparant je kunt zijn. Van rekenregels kun je namelijk precies uitleggen hoe deze tot een beslissing komen. Maar complexe AI-systemen kunnen een black box zijn. Het is dan onduidelijk hoe deze systemen beslissingen maken.

Afhankelijk van het type algoritme zijn er uitlegbaarheidstechnieken beschikbaar om de werking en keuzes van een algoritme bloot te leggen. Er moet eerst een keuze worden gemaakt welk type algoritme geschikt zijn gezien de [informatiebehoefte](2-owp-29-informeer_betrokkenen.md). Het is belangrijk om met de betrokken partijen samen vast te leggen welke uitlegbaarheidstechnieken moet worden toegepast. Bij bronnen kan informatie worden geraadpleegd die helpen bij het vinden van de juiste methodiek.
Afhankelijk van het type algoritme zijn er uitlegbaarheidstechnieken beschikbaar om de werking en keuzes van een algoritme bloot te leggen. Er moet eerst een keuze worden gemaakt welk type algoritme geschikt is gezien de [informatiebehoefte](2-owp-29-informeer_betrokkenen.md). Het is belangrijk om samen met de betrokken partijen vast te leggen welke uitlegbaarheidstechnieken moeten worden toegepast. Bij bronnen kan informatie worden geraadpleegd die helpen bij het vinden van de juiste methodiek.

**Besluitvorming**
### Gebruik uitlegbaarheid bij besluiten

Onderzoek in hoeverre de uitlegbaarheidstechnieken kunnen bijdragen aan het formuleren van een motivering bij de totstandkoming van een besluit. Denk bijvoorbeeld aan het koppelen van de output van het algoritme aan het zaakdossier met een toelichting hoe de output van het algoritme moet worden geïnterpreteerd. Een andere mogelijkheid is om de output of een omschrijving hiervan op te nemen in de genomen beschikking.

**Beperkingen en veiligheid**
Onderzoek hoe uitlegbaarheidstechnieken kunnen bijdragen aan het motiveren van besluiten. Dit kan bijvoorbeeld door:

- De output van het algoritme te koppelen aan het zaakdossier, met een toelichting op de interpretatie van die output.
- De output of een samenvatting hiervan op te nemen in de beschikking.

### Beperkingen en veiligheid

Vanuit veiligheidsoverwegingen kan bij specifieke algoritmes besloten worden om bepaalde informatie over de werking van een algoritme niet aan iedereen vrij te geven. Denk hierbij aan de beperkingen die de [Wet Open Overheid](../vereisten/woo-01-recht-op-toegang-tot-publieke-informatie.md) oplegt. Houd ook rekening met mogelijke risico’s op aanvallen die kunnen ontstaan door het gebruik van uitlegbaarheidstechnieken, zoals omschreven in: A Survey of Privacy-Preserving Model Explanations: Privacy Risks, Attacks, and Countermeasures.

**Evaluatie en validatie**
### Evaluatie en validatie

Evalueer de uitlegbaarheid van het systeem op functionele, operationele, bruikbaarheids- en veiligheidsvereisten bij betrokkenen, bijvoorbeeld de gebruikers. Valideer of de uitkomst van het algoritme begrijpelijk genoeg is voor gebruiker om hier op een verantwoorde wijze mee te werken.
Evalueer de uitlegbaarheid van het systeem op functionele, operationele, bruikbaarheids- en veiligheidsvereisten in samenwerking met betrokkenen zoals gebruikers. Valideer of de uitkomst van het algoritme begrijpelijk genoeg is voor gebruiker om hier op een verantwoorde wijze mee te werken.

## Bijbehorende vereiste(n)

<!-- list_vereisten_on_maatregelen_page -->

## Risico
Als er geen rekening wordt gehouden met de uitlegbaarheid van een algoritme binnen een bepaalde context, ontstaat het risico dat de output van het algoritme op een niet wordt begrepen of op een verkeerde manier wordt geïnterpreteerd en gebruikt.
Als er geen rekening wordt gehouden met de uitlegbaarheid van een algoritme binnen een bepaalde context, ontstaat het risico dat de output van het algoritme niet wordt begrepen of verkeerd wordt geïnterpreteerd, wat kan leiden tot onjuist gebruik.

## Bronnen
- [Toolkit voor implementatie](https://xaitk.org/)
Expand All @@ -62,4 +65,4 @@ Als er geen rekening wordt gehouden met de uitlegbaarheid van een algoritme binn

## Voorbeeld

Onderzoekswaardigheid: Slimme check (niet meer in gebruik!): [Overzicht Verwerkte Data en Features](https://algoritmeregister.amsterdam.nl/wp-content/plugins/saidot-integratorv2/proxy.php?url=Qkjr73KewvSGp9K9GZcmjTzlFZxCvCvCFeCDZeqMWRfHl5SQ4WcgwEYMZGiOmz3w4DbAf%2B73Yic31bbsTTUISY905oRIWR1r%2Bh06UaTgeZk%2BPcwkNkxWYVfLz5h9mbDw19Fj1XHD1g6w30YkMleiFFhHSpbAez2OaEPto8K6tm9qmPY8wULc9S045oV91H5POhzx9CuNwZTEs%2BC1rhX6sUo5%2BO%2FPoDtN4TAV92gDl9dwxWjbJ9BYI4Jxm6M2GEan253nLkJMa035Ly2QTN7NOvaiuSOqqzjNqOPo8h8Ezryj4o5Q%2B%2FWhYRoA3v2ZM0npHxs9oQ8R5WGIbUKXUYQ2Rf6WyitIeWn6CP6tinNekB0%3D)
- [Gemeente Amsterdam - Onderzoekswaardigheid Algoritme ‘Slimme check’.](https://algoritmeregister.amsterdam.nl/onderzoekswaardigheid-slimme-check-levensonderhoud) Een tool die de medewerkers helpt om te bepalen of een aanvraag levensonderhoud onderzoekswaardig is. (niet meer in gebruik!): [Overzicht Verwerkte Data en Features](https://algoritmeregister.amsterdam.nl/wp-content/plugins/saidot-integratorv2/proxy.php?url=Qkjr73KewvSGp9K9GZcmjTzlFZxCvCvCFeCDZeqMWRfHl5SQ4WcgwEYMZGiOmz3w4DbAf%2B73Yic31bbsTTUISY905oRIWR1r%2Bh06UaTgeZk%2BPcwkNkxWYVfLz5h9mbDw19Fj1XHD1g6w30YkMleiFFhHSpbAez2OaEPto8K6tm9qmPY8wULc9S045oV91H5POhzx9CuNwZTEs%2BC1rhX6sUo5%2BO%2FPoDtN4TAV92gDl9dwxWjbJ9BYI4Jxm6M2GEan253nLkJMa035Ly2QTN7NOvaiuSOqqzjNqOPo8h8Ezryj4o5Q%2B%2FWhYRoA3v2ZM0npHxs9oQ8R5WGIbUKXUYQ2Rf6WyitIeWn6CP6tinNekB0%3D)
Original file line number Diff line number Diff line change
Expand Up @@ -65,7 +65,7 @@ Onvolledige of ontoereikende technische documentatie kan leiden tot onduidelijkh

## Voorbeeld

Onderzoekswaardigheid: Slimme check levensonderhoud (niet meer in gebruik!). [Technische documentatie](https://algoritmeregister.amsterdam.nl/wp-content/plugins/saidot-integratorv2/proxy.php?url=P1c2E359y68SOmognA619o9tSTZPTJBsuAeVyceDdziFqCFpy1jBySAFMdGkM7ZSB7BYxwEyjCiSbTyh2Ttp9Bq3GLs4K0TVs2WlJQ7wigQGZxPTt%2BqfoDCXrP8yalTikxMq27OWaMwomYK8K%2BQmLYVma2a2fHSqmRRnOWIiWxn4ZSoo%2FC0bay8kAT43CNX4U062eZgy9O3%2FTyx90ajh6Gtg%2FLgPPbARffQjQs%2F2mmNK3MZnEpl8jVDlLqqD00gdnOkN3A0T4fdti%2FR2HfOpelj%2F%2BSM4PfzLy49BTPHlyHDX87JSEltqgW4RjlcVE6sg).
- [Gemeente Amsterdam - Onderzoekswaardigheid Algoritme ‘Slimme check’.](https://algoritmeregister.amsterdam.nl/onderzoekswaardigheid-slimme-check-levensonderhoud) (Een tool die de medewerkers helpt om te bepalen of een aanvraag levensonderhoud onderzoekswaardig is, niet meer in gebruik!): [Technische documentatie](https://algoritmeregister.amsterdam.nl/wp-content/plugins/saidot-integratorv2/proxy.php?url=P1c2E359y68SOmognA619o9tSTZPTJBsuAeVyceDdziFqCFpy1jBySAFMdGkM7ZSB7BYxwEyjCiSbTyh2Ttp9Bq3GLs4K0TVs2WlJQ7wigQGZxPTt%2BqfoDCXrP8yalTikxMq27OWaMwomYK8K%2BQmLYVma2a2fHSqmRRnOWIiWxn4ZSoo%2FC0bay8kAT43CNX4U062eZgy9O3%2FTyx90ajh6Gtg%2FLgPPbARffQjQs%2F2mmNK3MZnEpl8jVDlLqqD00gdnOkN3A0T4fdti%2FR2HfOpelj%2F%2BSM4PfzLy49BTPHlyHDX87JSEltqgW4RjlcVE6sg).

## Maatregelen

Expand Down
Loading