QUARK Evidence & Failure Atlas

Systemen falen. QUARK is ontworpen rond het uitgangspunt dat betrouwbare systemen falen inspecteerbaar moeten maken.

Failure Atlas

De Failure Atlas registreert foutklassen zoals gefabriceerde zekerheid, ontbrekende provenance, ongeautoriseerd toolgebruik, prompt injection, overmatige dataverzameling, verborgen profilering, policy bypass, te veel helpen, te weinig helpen en erosie van menselijke bevoegdheid.

Adversarial testing

QUARK moet worden getest met vijandige prompts, tegenstrijdig bewijs, nagemaakte bevoegdheid, toolfouten, vergiftigde content, onvolledige context en pogingen om gemak om te zetten in toestemming.

Red-run provenance

Een mislukte of geweigerde run moet een inspecteerbare reden achterlaten: wat werd gevraagd, welke poort stopte het, welk bewijs ontbrak, welke tool werd geblokkeerd en of een mens de volgende stap rechtmatig kan autoriseren.

Geen perfectieclaim

QUARK wordt niet als onfeilbaar beschreven. Het doel is bekende foutmodi waar mogelijk machine-afdwingbaar te maken, onzekerheid zichtbaar te maken waar afdwinging onvolledig is, en te blijven verbeteren vanuit bewijs in plaats van marketingtaal.