De eigen verblinding is geen gezicht
Boeken over (on)verantwoorde inzet van technologie zijn (helaas) niet vaak pageturners. Your Face Belongs to Us van New York Times-journaliste Kashmir Hill, ook in het Nederlands verschenen bij POM.press van Alexander Klöpping, is gelukkig een uitzondering. Hill beschrijft de opkomst van Clearview AI, aanvankelijk nog een obscure, kleine Amerikaanse start-up opgezet door een jonge Australische coder en een omhooggevallen New Yorkse oud-spindoctor die een enorm krachtige gezichtsherkenningstool weten te bouwen.
Meeslepend en ook vermakelijk vertelt Hill hoe het opportunistische duo - zonder specialistische voorkennis over de onderliggende technologie, die gewoon uit openbare bronnen op te halen bleek - op basis van inmiddels 10 miljard online publiek beschikbare foto's een algoritme traint waarmee onbekende gezichten met meer dan 99% trefzekerheid kunnen worden geïdentificeerd. Google en Facebook hadden rond dezelfde periode ook al vergelijkbare technologie in huis, maar besloten die om publicitaire en/of ethische redenen niet publiekelijk beschikbaar te maken.
Van die terughoudendheid had Clearview AI geen last. Niet alleen werden ze niet gehinderd door morele bezwaren, ook de in de VS bijna onbeperkte vrijheid van meningsuiting maakt dat er (nog altijd) geen landelijke wetgeving bestaat over het gebruik van gezichtsherkenning. In die context pitchte Clearview AI gretig hun product, waarbij uiteindelijk vooral politiediensten maar ook private partijen dankbaar klant werden. Ook buiten de VS: in autoritaire landen, maar eveneens in Europa (waaronder Nederland), tot toezichthouders ze hier terugfloten. Later besloot Clearview AI, mede als onderdeel van een schikking in een rechtszaak aangespannen door een Amerikaanse burgerrechtenorganisatie, zich te beperken tot politieklanten. Tot op vandaag de dag maken die er gebruik van.
Wat me tussen de thriller-achtige regels door opviel was de magische aantrekkingskracht die de nieuwe tool op haar ontwikkelaars en sommige gebruikers had. Ondanks grote maatschappelijke vraagtekens bij de inzet van biometrische gegevens werden ze echt verblind door het product met haar bijna goddelijke vermogens. In lichtere mate lijkt dat soort onweerstaanbaarheid van nieuwe AI-toepassingen in een deel van mijn LinkedIn-feed soms ook de overhand te krijgen. Gelukkig niet bij zulke controversiële toepassingen, maar in de extase van de wow-factor van nieuwe, voorheen ondenkbare tools mist de (toch?) typerende nuchterheid van de Nederlandse innovatiekracht.
⚖️ En dus ook een gebalanceerd verhaal, over welke (Gen) AI innovaties wel, maar welke misschien ook niet bij de missie en waarden van een organisatie passen. Misschien geen spannende page-turner, maar hopelijk wel inspirerend, vertrouwenwekkend en ook realistisch.