Hoe we AI-fouten voorkomen

Gewone AI raadt het volgende woord op basis van waarschijnlijkheid. Dat is prima voor het samenvatten van een artikel. Maar als het om het onderwijsplan van je kind gaat, is raden simpelweg niet goed genoeg. Ons systeem is van de grond af aan fundamenteel anders gebouwd.

Wat is AI-hallucinatie?

AI-hallucinatie is wanneer een AI-systeem informatie genereert die overtuigend klinkt maar feitelijk onjuist is. Consumenten-AI verzint regelmatig citaten die niet bestaan, claimt statistieken die nooit zijn gepubliceerd of presenteert volledig verzonnen informatie met dezelfde stellige zekerheid als geverifieerde feiten. In de meeste situaties is dat vervelend. Wanneer het de klinische en onderwijskundige dossiers van jouw kind betreft, is het ronduit gevaarlijk.

Waarom dit voor jou allesbepalend is

Stel je voor: je verschijnt bij het leerlingbespreking met een onderwijsplan dat een wet citeert die niet bestaat. Of een klinische score berekend met de verkeerde formule. Of een onderzoeksbevinding die nooit is gepubliceerd. Je geloofwaardigheid als pleitbezorger is in één klap verdwenen. En erger nog: je kind kan eindigen met de verkeerde ondersteuning op basis van verkeerde informatie. Weken van voorbereiding, voor niets. Daarom is het voorkomen van AI-fouten geen leuk extraatje bij Cognistase. Het is de absolute kern van het ontwerp.

Laag 1: Bronverificatie

Elke AI-bewering linkt naar een verifieerbare bron in onze zorgvuldig samengestelde bibliotheek: onderwijswetten, klinische richtlijnen, testhandleidingen (WISC-V, BRIEF-2) en peer-reviewed onderzoek. De AI haalt geen beweringen uit vage trainingsdata. Het haalt informatie op uit geverifieerde bronnen en verwerkt die tot heldere tekst. Beweringen zonder geverifieerde bronnen worden simpelweg niet aan jou getoond. Punt.

Laag 2: Speciale rekensoftware

Geen enkel taalmodel doet rekenwerk in de Cognistase-pijplijn. Alle klinische scores, percentielen, betrouwbaarheidsintervallen en discrepantie-indexen worden berekend door onze speciale klinische rekenengine. De AI raadt nooit een getal. Het leest, extraheert en organiseert. De wiskunde wordt gedaan door gevalideerde, volledig controleerbare code. Twee plus twee is altijd vier.

Laag 3: Strak afgebakend domein

De AI is strikt beperkt tot het domein van asynchroon ontwikkelen, hoogbegaafdheid en dubbel bijzonderheid. Het kan geen content buiten dit bereik produceren. Vraag het naar kookrecepten en het weigert. Vraag het om medisch advies buiten ontwikkelingsbeoordeling en het weigert. Deze beperking is ingebouwd in de architectuur van het systeem, niet afgedwongen door een prompt die slim omzeild kan worden.

Laag 4: Betrouwbaarheidsscore

Alle uitvoer draagt een betrouwbaarheidsniveau gebaseerd op de sterkte en het aantal ondersteunende bronnen. Uitvoer met hoge betrouwbaarheid wordt goed onderbouwd door meerdere geverifieerde bronnen. Uitvoer met lage betrouwbaarheid wordt duidelijk gemarkeerd en gepresenteerd als suggesties, nooit als conclusies. Wanneer het systeem het niet zeker weet, zegt het dat eerlijk.

Laag 5: Jij beoordeelt alles

Elk AI-gegenereerd document wordt gepresenteerd als een concept. Jij beoordeelt het, bewerkt het en keurt het goed voordat het ergens naartoe gaat. Het systeem stuurt nooit documenten namens jou. Het maakt een concept dat jij volledig beheert. Dit is de laatste veiligheidslaag: jouw eigen oordeel en jouw diepgaande kennis van je kind.