90 likes | 227 Views
Data mining without discrimination. Bart W. Schermer eLaw@Leiden, Centrum voor Recht in de Informatiemaatschappij b.w.schermer@law.leidenuniv.nl schermer@considerati.com. Regulering. “The enterprise of subjecting human conduct to the governance of external controls,
E N D
Data mining without discrimination Bart W. Schermer eLaw@Leiden, Centrum voor Recht in de Informatiemaatschappij b.w.schermer@law.leidenuniv.nl schermer@considerati.com
Regulering “The enterprise of subjecting human conduct to the governance of external controls, whether state or non-state, intended or unintended.” L. Fuller (1964), The Morality of Law
Technologie en regulering juridisch technologisch zakelijk / beleidsmatig
Value sensitive design “Het inbedden van wetten, normen en waarden in de architectuur van een informatiesysteem.”
Voorbeeld Voorbeeld: “privacy by design”- niet meer gegevens opslaan dan noodzakelijk- anonimiseren van gegevens- versleutelen van gegevens- wie heeft er toegang tot het systeem?- hoe worden inbreuken geregistreerd (logging)
MVI Project • Directe discriminatie- sensitieve attributen leiden tot discriminatie • Indirecte discriminatie- niet-sensitieve attributen in gezamenlijkheid wellicht ook
MVI Project • Redlining in databases? • Welke attributen zijn sensitief? • Hoe herkennen/voorkomen we indirecte discriminatie? • Afweging van discriminatie versus accuraatheid database
Input juridisch deel • Ethische / juridische aspecten van data-mining • Analyse bestaande wet- en regelgeving - identificatie sensitieve attributen • Herkenning combinaties niet sensitieve attributen• Oplossingsrichtingen tegengaan indirecte discriminatie