Human in the Loop als schijnzekerheid

Marijn Rooijmans over de ‘human in the loop’, de geruststelling waar onze hele sector op leunt zodra het over AI gaat. Volgens hem biedt die menselijke controle schijnzekerheid en zegt ze meer over aansprakelijkheid dan over het werkelijk uitsluiten van fouten. We hebben van human in the loop een soort toverformule gemaakt. ‘Ah, als er nog een mens naar kijkt dan is AI gebruik prima’ hoor ik vaak. Het is de standaard bezwering van kritische vragen over AI systemen in de juridische praktijk. Ik hoor het in de praktijk, lees het in aanbevelingen van de orde, eigenlijk overal. Sterker nog, ik zeg het zelf ook! Maar wat zegt het nou echt? Eind juli kwam naar buiten dat PwC, een van de grootste advieskantoren ter wereld, klanten rapporten had gestuurd vol verzonnen bronnen. Ech...