Antwoord 42

De cultuur rond kunstmatige intelligentie heeft snel een nieuw orakel geschapen. Je hoeft je vraag maar goed te formuleren en de machine levert zogenaamd een oplossing waarvoor eerder opleiding, ervaring en een paar slapeloze nachten nodig waren.

Douglas Adams voerde die droom al tot in het absurde door in „Het transgalactisch liftershandboek”. Een supercomputer rekende zeven en een half miljoen jaar aan het antwoord op de grote vraag naar het leven, het universum en al het overige. Het antwoord was exact: 42. Het probleem was dat niemand de vraag zelf nog kende.

Met generatieve AI gebeurt iets vergelijkbaars. Een keurig vormgegeven antwoord kan verschijnen voordat iemand doorheeft welk probleem hij oplost, welke gegevens ertoe doen en waaraan hij succes van fout onderscheidt.

AI is geen oplosser, maar een versterker. Hij versnelt het zoeken naar varianten, concepten, verklaringen en tegenwerpingen. Een sterke vraag maakt er een sterk instrument van. Een vage vraag krijgt meestal een gladdere versie van dezelfde vaagheid.

Het model bezit kennis uit een enorme hoeveelheid teksten en kan dus een begrip, een auteur of een methode noemen waar de gebruiker nooit van heeft gehoord. Maar het heeft geen geheim luik naar jouw werkelijkheid. Over een concreet gezin, project, ziekte, contract of conflict weet het alleen wat jij hebt verteld, wat uit de beschikbare gegevens volgt en wat het aannemelijk heeft weten aan te vullen.

Daarom blijkt AI-advies vaak een weerspiegeling van het oorspronkelijke kader. Beschrijf je een collega als lui, dan helpt het systeem je een luie collega aan te sturen. Vermeld je dat hij tegelijk drie onverenigbare opdrachten heeft, dan komt er een andere analyse. De machine hoeft geen feit op te merken dat de mens niet heeft gemeld en niet heeft bedacht te controleren.

Wie geen kaart van het vakgebied heeft, weet niet altijd welke vraag ontbreekt. Hij kent misschien de andere rechtsorde niet, de verborgen variabele, de technische beperking of de allang weerlegde vooronderstelling. Met een zelfverzekerd antwoord in handen wordt hij niet automatisch deskundiger — hij krijgt alleen tijdelijk een resultaat dat lijkt op het resultaat van een deskundige.

Dat verschil is al zichtbaar in onderzoek. Overzichtsstudies in het onderwijs laten zien dat generatieve AI een ingeleverde opdracht kan verbeteren zonder een vergelijkbare toename van leren, als de leerling het denkwerk zelf aan de machine heeft overgedragen. Experimenten op de arbeidsmarkt vinden eveneens dat het instrument het verschil in prestatie op een concrete taak kan verkleinen, terwijl de verschillen in kennis blijven bestaan zodra de hulp wordt weggenomen.

Zo ontstaat geleende competentie. Die is nuttig — net als een rekenmachine, een vertaler of een navigatiesysteem. Het gevaar begint wanneer toegang tot het resultaat wordt aangezien voor beheersing van de methode.

Om AI het werk te laten versterken moet je hem niet alleen de vraag geven, maar ook de context:

• welk resultaat nodig is en voor wie;
• wat al bekend is en waaruit dat bekend is;
• welke beperkingen niet geschonden mogen worden;
• wat als aanvaardbare fout geldt;
• welke bronnen toelaatbaar zijn;
• waar het systeem onzekerheid moet erkennen in plaats van het gat te vullen.

Overleggen is nuttiger dan alleen de stand „geef antwoord”. Soms zijn de beste vragen gericht tegen je eigen zekerheid:

Welke aannames heb ik gedaan?

Welke belangrijke context ontbreekt misschien?

Hoe ziet de sterkste tegenwerping eruit?

Welke alternatieve verklaringen passen bij de feiten?

Wat zou de conclusie veranderen?

Zo krijgt het model de kans om buiten het eerste verhaal te treden. Maar het voorgestelde alternatief moet nog altijd worden beoordeeld door een mens die de betekenis en de gevolgen ervan kan overzien.

Generatieve systemen produceren waarschijnlijke tekst, geen geverifieerde waarheid. NIST rekent tot hun risico’s uitdrukkelijk zelfverzekerde verzinsels, de afhankelijkheid van het resultaat van de context en overmatig vertrouwen bij de gebruiker. Een achternaam, een verwijzing, een citaat, een berekening en een rechtsregel vragen daarom om controle in de primaire bron.

Aan AI kun je een concept uitbesteden. Je kunt hem vragen uit te leggen, tegen te spreken, te vertalen, te vergelijken en de zwakke plek te vinden. Je kunt hem niet uitbesteden om de mens te zijn die het probleem begrijpt en de gevolgen draagt.

Antwoord 42 wordt pas nuttig zodra de vraag er is. Het formuleren van de vraag, het kiezen van de context en het controleren van het antwoord blijven mensenwerk.

Geleende competentie is het best te zien aan documenten. Iemand vraagt het model een ingebrekestelling op te stellen, krijgt vier alinea’s met de juiste wendingen en verstuurt die. De tekst ziet eruit als het werk van een jurist, precies tot de vraag „waarom staat hier dertig dagen en niet tien”. Op dat moment blijkt de termijn afkomstig uit een algemene formulering en niet uit het concrete contract, dat niemand had bijgevoegd. Het model heeft zich niet vergist: het werd niet gevraagd naar wat het niet te horen had gekregen.

De grens tussen instrument en orakel loopt langs de verantwoordelijkheid. Een rekenmachine maakt zelden een fout, maar voor het resultaat staat degene in die de getallen intikte. Hier is het net zo, alleen tikt zelfverzekerd proza de getallen in en is de ruimte voor een typefout aanzienlijk groter.