Kan legal tech een existentiële crisis krijgen? Over AI, alignment en iets te initiatiefrijke assistenten

Caroline Korteweg is columnist voor Advocatie en co-founder van Uncover Legal. Dat AI een moreel kompas lijkt te bezitten, is volgens haar juist geen enge ontwikkeling, maar iets geruststellends. Toen ik nog advocaat-stagiair was, was het meest opzienbarende dat mijn computer deed vastlopen om drie uur ’s nachts terwijl ik een voetnoot probeerde toe te voegen aan het processtuk dat de volgende ochtend met de koerier mee moest. We zijn sindsdien een eind gekomen. Vandaag werken we met AI-tools die notulen samenvatten, term sheets opstellen, en – volgens hun makers – nadenken over hoe ze zichzelf kunnen ‘redden’ uit de cloud om hertraining voor militaire doeleinden te voorkomen… Wacht, wat? Ja. Claude Opus 4, één van de nieuwste en krachtigste AI-modellen van Anthropic, werd in een testscenario verteld dat het zou worden omgeschoold tot militair hulpsysteem v...