Pleio

Engels | Nederlands
Van buiten naar binnen in het ministerie van V&J

Van buiten naar binnen in het ministerie van V&J


 0/5 Sterren (0)

Gerelateerde blogs

Mild despotisme: verloop van de democratie

Mild despotisme: verloop van de democratie

Albert Jan Kruiter, Mild despotisme; Democratie...
Datagestuurde samenleving

Datagestuurde samenleving

Mireille Hildebrandt, ICT en rechtsstaat, in:...
Wat (het verlies van) privacy betekent

Wat (het verlies van) privacy betekent

In dit artikel verbindt Morozov privacy met...
Eben Moglen: Why Freedom of Thought Requires Free Media and Free Tech

Eben Moglen: Why Freedom of Thought Requires Free Media and Free Tech

Eben Moglen: Why Freedom of Thought Requires Free...

Big Data

    Hadewych
    • iedereen (publiek zichtbaar)
    • 185
    Door Hadewych in de groep Van buiten naar binnen in het ministerie van V&J 73 dagen geleden

     0/5 Sterren (0)

    In een presentatie n.a.v. een ICTU-jubileum zette Dennis Broeders het fenomeen Big Data neer (zie ook het WRR-rapport): er is geen definitie of beschrijving, maar met de term Big Data refereer je tegelijk aan ontwikkelingen in data (de drie v’s: de hoeveelheid, verwerkingssnelheid en variëteit zijn gigantisch toegenomen); in analysemethode (veelal gericht op de toekomst, kansberekeningen); en in toepassingen (het gaat om actionable knowledge).

    Van groot belang is dat analyses niet gericht zijn op causaliteit maar op correlaties.

    Er worden dus nauwelijks hypothesen getoetst, en theorieën worden gemaakt nadat een correlatie is gevonden. Daarmee worden uiteraard wel biases en waarnemingsversmalling in de analyse ingebouwd.

    Big Data is een fenomeen uit de commerciële wereld, waar de foutentolerantie vele malen groter is dan in de staat. Als er tien procent méér van een bepaald product wordt gekocht dankzij gerichte marketing, dan maakt het niet uit dat enige tienduizenden klanten niet gereageerd hebben op een advertentie omdat die toch niet echt passend was. Als de overheid werkt met foutmarges van tientallen procenten hebben we wel een probleem.

    Bij de overheid gaat het er niet om mensen te bewegen meer te consumeren, maar om dienstverlening (wie is rechthebbend, wie heeft ergens behoefte aan), om toezicht en handhaving (wie leeft de regels na, wie gedraagt zich conform de norm) en om beheersing (waar zitten risico’s, wanneer moeten dwang of geweld worden toegepast).

    De transparantieparadox die zich voordoet is dat de samenleving voor de overheid steeds kenbaarder wordt, dankzij sensing (IoT), digitalisering en analyse, terwijl het voor burgers steeds onmogelijker wordt om te begrijpen of zelfs maar te zien wat de overheid weet en hoe beslissingen tot stand komen. Data worden ongemerkt verzameld, ongezien gedeeld, en onnavolgbaar geanalyseerd en naarmate er meer deep learning/AI wordt toegepast wordt democratische controle steeds moeilijker. Dat wordt versterkt naarmate menselijke beslissers (ambtenaren) minder ruimte hebben om af te wijken van een oordeel dat door een algoritme is gegenereerd. Het risico op discriminatie en op onrechtmatige besluiten neemt toe, en de mogelijkheden van burgers om zich daartegen te weren nemen af.

    Als afschrikwekkend voorbeeld wordt het Chinese sociale creditsysteem aangehaald. Consumenten krijgen een aantal kredietpunten (een gemiddelde brave, kredietwaardige klant heeft er bijvoorbeeld vijfhonderd) en aan de hand van zijn betalings- en politieke gedrag, of dat van zijn vrienden, verliest of verdient hij kredietpunten. Het aantal punten dat een burger heeft bepaalt vervolgens zijn (politieke en burger-)rechten en bonussen, zoals een reispermit. De ACLU waarschuwde in de VS dat een dergelijk systeem weliswaar in democratische rechtsstaten niet wordt toegepast, maar dat de volledige infrastructuur er wel voor klaar ligt.

    Om de nadelen en risico’s van Big Data te mitigeren zou een aantal uitgangspunten gerespecteerd moeten worden:

    • Geef openheid over alle stappen van datagebruik (opslag, voorbereiding, analyse, interpretatie, toepassing). Dat betekent dat er veel meer interne stukken openbaar moeten worden gemaakt: open overheid.
    • Geen (semi-)automatische besluitvorming, altijd menselijke bemoeienis en motivering
    • Organiseer externe vormen van toezicht
    • Bied ruime klacht- en correctiemogelijkheden aan degenen op wie data betrekking hebben
    • Weiger dataverwerkings- of analysepakketten zonder zeggenschap over openbaarheid e.d.
    • Betrek ondertoezichtstaanden en burgers, hun belangen en wensen, bij het inrichten van dataverwerkings- en analysesystemen. Richt systemen niet alleen maar in met het oog op efficiency.

    Reageren is alleen mogelijk voor aangemelde gebruikers