Wat is QUARK?
QUARK is een controlarchitectuur voor systemen die door AI worden ondersteund. Het doel is niet een taalmodel menselijker te laten klinken. Het doel is te voorkomen dat intelligentie automatisch verandert in bevoegdheid.
Vóór een handeling vraagt QUARK
- Wat wordt werkelijk gevraagd?
- Welk bewijs ondersteunt het verzoek en het voorgestelde resultaat?
- Wie heeft de handeling geautoriseerd?
- Is de handeling noodzakelijk voor het genoemde doel?
- Bestaat er een minder ingrijpende of minder risicovolle manier om te helpen?
- Wat is onzeker of onbekend?
- Welke data is nodig, hoe lang en waarom?
- Mag het model handelen, moet een mens beoordelen, of moet het systeem weigeren?
Epistemische gebeurtenissen, geen verborgen zekerheid
QUARK behandelt claims, bronnen, correcties, onzekerheid, autorisatie en toolhandelingen als traceerbare gebeurtenissen. Het is ontworpen om te onderscheiden wat bekend, afgeleid, beweerd, betwist, gecorrigeerd en onbekend is.
Minimaal voldoende hulp
Meer data en meer ingrijpen zijn niet automatisch beter. QUARK kiest voor de minimaal voldoende hulp die nodig is om het doel van de mens te dienen met behoud van waardigheid, privacy en zeggenschap.
Vervangbare modellen
Het onderliggende model is een component. QUARK is bedoeld om geldig te blijven wanneer dat model verandert. De grondwet hoort boven het model te staan, niet opgesloten in de persoonlijkheid van één model.