Bij ethische vraagstukken gaat het om de morele dimensie binnen de organisatie. Deze vormt net als o.a. technische en juridische aspecten een van de kaders voor de strategie van een organisatie. Ter illustratie eerst een paar praktische voorbeelden van ethische vraagstukken die het gevolg zijn van digitaliseringsprocessen. Het eerste speelde een paar maanden geleden.
Een tennisvereniging droeg haar administratieve werkzaamheden over aan de Koninklijke Nederlandse Lawn Tennis Bond (KNLTB). De KNLTB speelde de gegevens van de leden door aan zijn partners, want dat levert geld op, en die gebruikten ze vervolgens om gerichte promotie te maken. Een van de leden stelde dit niet op prijs en maakte bezwaar. Haar gegevens worden nu niet meer gedeeld. De vraag hierachter is: hoe gaat de organisatie om met het commercieel belang van de organisatie in relatie tot het vertrouwen van de leden?
Een ander voorbeeld gaat over zelfrijdende auto’s:
*Deze auto’s worden geprogrammeerd om bepaalde beslissingen in het verkeer te nemen, aan de hand van algoritmen. Stel dat een groepje mensen oversteekt vlak voor de auto. Ontwijken betekent dat een oma wordt aangereden, een kinderwagen geschept of tegen een huis wordt gebotst.
Wat kiest de auto? Of beter: welke keuzes heeft de organisatie gemaakt bij het programmeren van de software? Welk belang is het grootst?
Het systeem is niet heilig
De voorbeelden maken duidelijk dat ethische vraagstukken die gepaard gaan met het gebruik van algoritmen op meerdere terreinen voorkomen en grote consequenties kunnen hebben. Juridisch stond de KNLTB in het tennisclubvoorbeeld in zijn recht, maar dat is niet de essentie. Het voorbeeld van de zelfrijdende auto’s laat zien dat er altijd menselijke beslissingen ten grondslag liggen aan systemen, en dat je je als organisatie nooit mag verstoppen achter die systemen. Dat lijkt een open deur, maar het is een belangrijk uitgangspunt dat je als toezichthouder gebruikt in je benadering. Wie is bijvoorbeeld verantwoordelijk voor beslissingen die worden genomen op basis van verkeerde gegevens? Niet ‘het systeem’ dus …
Sleutelpositie en sleutelvraag
Systemen zijn namelijk gebaseerd op beslissingen (algoritmen) en over die algoritmen moet de discussie gaan. Ze maken deel uit van alle processen binnen de organisatie. Continu leren en verbeteren is daarbij het streven. Laat algoritmen zich optimaal ontwikkelen, dan kom je het verst. Let wel er op dat vooroordelen en aannames zichzelf tijdens het ontwikkelproces kunnen versterken.
Door de juiste vragen te stellen maakt de toezichthouder de ethische consequenties van de algoritmes zichtbaar en bespreekbaar. Aan de basis ligt namelijk de vraag: ‘Welke rol speelt digitalisering bij het behalen van de doelstellingen van de organisatie, en staat de organisatie achter de keuzes die gemaakt worden bij het verzamelen, gebruiken en bewaren van data?’ Zorg ervoor dat er duidelijke specificaties zijn. Overigens blijven audits, naast regelmatige discussies, nodig.
Juiste invalshoek kiezen
Toezichthouders geven regelmatig aan dat zij digitalisering een lastig onderwerp vinden. Er komt veel bij kijken en ze vragen zich af of ze deskundig genoeg zijn. Mareke: “Ik kan ze geruststellen op dat punt. Je hoeft geen deskundige op het gebied van digitalisering te zijn om de eerste relevante vragen te kunnen stellen aan de bestuurder. Waar je achter wilt komen is of een bestuurder de regie heeft over de digitale ontwikkeling van een organisatie. Probeer het onderwerp klein, concreet en tastbaar maken door steeds naar drie aspecten te kijken:
- dient het de doelstelling van de organisatie
- welke instrumenten worden hiervoor ingezet
- hoe gaat de organisatie om met data
Een basiscursus digitale transitie zal je hierna wel verder helpen.”
Inzoomen op de essentie
“De kunst is om onderscheid te maken tussen de aspecten waar je als toezichthouder geen invloed op hebt (bijv.: de logaritmen van Facebook) en de zaken waarover je wel de regie kunt voeren (bijv. het gebruik van camera’s). Dat vraagt een kritische blik. Technologie maakt het mogelijk om van alles te registreren en aan elkaar te knopen, maar is dat ook daadwerkelijk nodig voor je proces én voor je klant? En als dat zo is: leg dat dan goed uit aan die klant. Verstop je beleid niet in de juridische taal van de privacy statements, maar wees helder. Is ‘betrouwbaarheid’ een van je kernwaarden, kies er dan bewust voor om bepaalde data niet op te slaan en gebruik dat in je positionering.” Een voorbeeld is Coolblue met ‘Alles voor een glimlach’. Deze positionering komt in alle aspecten van het bedrijf terug, zelfs in ingewikkelde zaken als algemene voorwaarden: de consumentenversie is kort, duidelijk en zonder moeilijke woorden.
Stap eens uit de rol van toezichthouder!
Een valkuil bij digitalisering kan zijn dat het toch snel ingewikkeld wordt. Een tip bij ethische vraagstukken: stap even uit je rol van toezichthouder en bekijk het geheel vanuit het perspectief van je klant. Met behulp van bovenstaande vragen zorg je ervoor dat de organisatie waarop je toezicht houdt, trefzeker overeind blijft in de nieuwe dynamiek van de digitale samenleving.
Meer weten over de ethische aspecten van toezicht op digitalisering? Kijk bij de verdiepingsmodule ‘Toezicht op digitalisering’ van De Erkende Toezichthouder, of neem contact op met Caroline Wijntjes. Je kunt je ook meteen inschrijven.
* https://www.frankwatching.com/archive/2016/05/01/de-zelfrijdende-auto-techniek-leidt-ethiek-volgt/
Drs. Mareke Miedema, directeur van Faktoo