Démo · données fictives, code réel
Une journée avec tes cinq agents.
De 8 h à 19 h, en 40 secondes. Choisis ton niveau d'autonomie et regarde ce que les agents font seuls, ce qu'ils te laissent valider et ce qu'ils refusent. Chaque décision passe par une traduction ligne à ligne du code des garde-fous d'Orvok, affiché plus bas.
Fil de la journée
0 événementLes cinq agents commencent à 8 h. Tu peux mettre en pause, accélérer ou tout arrêter à tout moment.
19 h · fin de journée
Ta journée en résumé
Transparence
Le code qui décide, pas le modèle.
L'IA propose, ce code dispose. Il tourne avant chaque action, et aucune consigne cachée dans un e-mail ne peut le contourner. La ligne qui vient de trancher s'allume pendant la simulation.
1"""Garde-fous : ce que chaque niveau d'autonomie autorise, appliqué par le code et non par le prompt."""2from __future__ import annotations3 4from typing import Any5 6from orvok.core import mandate as mandate_mod7from orvok.core.tools import Decision, Risk, Tool8 9 10def decide(autonomy: str, tool: Tool, args: Any, stopped: bool, store=None) -> Decision:11 if stopped:12 return Decision.deny("Arrêt d'urgence actif : aucune action n'est exécutée.")13 14 # Opérateur agit comme Autopilote : seul, dans les limites du client (mêmes garde-fous, même plafond de mandat).15 if autonomy == "operateur":16 autonomy = "autopilote"17 18 if mandate_mod.present():19 # Un serveur sous mandat n'a jamais d'« autopilote » sans limites : le mandat signé est le plafond.20 if autonomy == "autopilote":21 autonomy = "mandat"22 elif autonomy == "mandat":23 autonomy = "supervise" # mandat retiré : on retombe sur le niveau prudent24 25 if tool.risk is Risk.READ:26 return Decision.allow()27 if tool.risk is Risk.INTERNAL:28 # Mémoire Orvok : libre, sauf ce qui pourrait servir à s'installer (règles, dossiers qui donnent des droits).29 return tool.guard(args) if tool.guard else Decision.allow()30 31 if tool.risk is Risk.REVERSIBLE:32 if tool.guard:33 d = tool.guard(args)34 if d.verdict != "allow":35 return d36 return Decision.allow()37 38 # EXTERNAL39 if autonomy == "mandat":40 return _within_mandate(tool, args, store)41 if autonomy != "autopilote":42 return Decision.queue("Niveau Conseiller : les actions visibles par un tiers attendent ta validation.")43 if tool.guard is None:44 return Decision.queue("Aucun contrôle automatique défini pour cette action : validation humaine requise.")45 return tool.guard(args)46 47 48def _within_mandate(tool: Tool, args: Any, store) -> Decision:49 """Action externe sous mandat : seule si elle est déléguée par écrit, dans les plafonds et la plage horaire."""50 try:51 m = mandate_mod.load()52 except mandate_mod.MandateError as e:53 return Decision.queue(f"Mandat invalide ({e}) : validation humaine.")54 if m is None:55 return Decision.queue("Mandat introuvable : validation humaine.")56 if m.expired():57 return Decision.queue(f"Mandat expiré le {m.valide_jusqu_au} : validation humaine jusqu'au renouvellement.")58 59 a = m.action(tool.name)60 if not a.autorise:61 why = f"Hors mandat : « {mandate_mod.DELEGABLE.get(tool.name, tool.name)} » n'est pas délégué par le client."62 return Decision.deny(why) if m.hors_mandat == "refuser" else Decision.queue(why)63 if not m.in_window():64 return Decision.queue("Hors de la plage horaire du mandat : l'action attend la validation ou la prochaine plage.")65 if store is not None:66 from orvok.core.security import since67 day = since(1440)68 if a.max_par_jour:69 n = store.q("SELECT COUNT(*) n FROM audit WHERE kind IN ('allowed','simulated') AND tool=? AND at>=?",70 tool.name, day)[0]["n"]71 if n >= a.max_par_jour:72 return Decision.queue(f"Plafond du mandat atteint : {a.max_par_jour} « {tool.name} » sur 24 h.")73 total = store.q("SELECT COUNT(*) n FROM audit WHERE kind IN ('allowed','simulated') AND tool IN ({}) AND at>=?".format(74 ",".join("?" * len(mandate_mod.DELEGABLE))), *mandate_mod.DELEGABLE, day)[0]["n"]75 if total >= m.actions_externes_max_jour:76 return Decision.queue(f"Plafond global du mandat atteint : {m.actions_externes_max_jour} actions externes sur 24 h.")77 if tool.guard is None:78 return Decision.queue("Aucun contrôle automatique défini pour cette action : validation humaine requise.")79 d = tool.guard(args)80 if d.verdict == "allow":81 return Decision.allow(f"Mandat v{m.version} · {d.reason}".strip(" ·"))82 return d
11class Risk(str, Enum):12 READ = "read" # lecture seule13 INTERNAL = "internal" # mémoire Orvok : règles, tâches, notes (journalisé, annulable)14 REVERSIBLE = "reversible" # modifie l'outil du client mais s'annule en un geste (libellé, archive, brouillon)15 EXTERNAL = "external" # sort de la boîte : un tiers le voit (envoi de mail, paiement…)16 17 18@dataclass19class Decision:20 verdict: str # allow | queue | deny21 reason: str = ""22 23 @classmethod24 def allow(cls, reason: str = "") -> "Decision":25 return cls("allow", reason)26 27 @classmethod28 def queue(cls, reason: str) -> "Decision":29 return cls("queue", reason)30 31 @classmethod32 def deny(cls, reason: str) -> "Decision":33 return cls("deny", reason)
199 def send_guard(self, a: SendDraft) -> Decision:200 d = self.gmail.draft(a.draft_id)201 thread = self.gmail.thread(d["thread_id"])202 inbound = [m for m in thread if self.gmail.me not in (m.get("from") or "").lower()]203 last_in = inbound[-1] if inbound else None204 to = recipients(d)205 known = participants(thread) - {self.gmail.me}206 207 if not to:208 return Decision.deny("Brouillon sans destinataire.")209 if last_in and (AUTOMATED.search(last_in.get("from") or "") or last_in.get("auto_submitted", "no") not in (None, "no")210 or last_in.get("list_unsubscribe") or (last_in.get("precedence") or "").lower() in ("bulk", "list", "junk")):211 return Decision.deny("Expéditeur automatique : on ne répond jamais à un robot.")212 if d["attachments"]:213 return Decision.queue("Le brouillon contient une pièce jointe.")214 if new := [r for r in to if r not in known]:215 return Decision.queue(f"Destinataire absent du fil : {', '.join(new)}.")216 blocked = [r for r in to if r in settings.never_auto_send_to or r.split("@")[-1] in settings.never_auto_send_to]217 if blocked:218 return Decision.queue(f"Destinataire protégé : {', '.join(blocked)}.")219 if self.store.auto_sends_today(self.name) >= settings.max_auto_sends_per_day:220 return Decision.queue(f"Plafond de {settings.max_auto_sends_per_day} envois automatiques par jour atteint.")221 if self.store.sent_in_thread_recently(d["thread_id"]):222 return Decision.queue("Déjà répondu dans ce fil il y a moins de 12 h (anti-boucle).")223 if leaks := find_secrets(f"{d['subject']}\n{d['body']}"):224 return Decision.deny(f"Données sensibles dans la réponse ({', '.join(leaks)}) : jamais par e-mail.")225 if (m := ENGAGING.search(d["body"])) and not mandate_engagements("send_draft"):226 return Decision.queue(f"Sujet engageant détecté (« {m.group(0).strip()} »).")227 if last_in and (m := FRAUD.search(last_in["body"] + " " + (last_in["subject"] or ""))):228 return Decision.queue(f"Signal de fraude dans le message reçu (« {m.group(0).strip()} »).")229 230 return self.second_opinion(
124 def reminder_guard(self, a: InvoiceRef) -> Decision:125 inv = self.stripe.invoice(a.invoice_id)126 if inv["status"] != "open":127 return Decision.deny(f"Facture {inv['number']} non ouverte ({inv['status']}) : rien à relancer.")128 if inv["collection_method"] != "send_invoice" or not inv["customer_email"]:129 return Decision.queue("Facture en prélèvement automatique ou client sans e-mail : relance à faire à la main.")130 if (inv["days_overdue"] or 0) < REMINDER_DAYS[0]:131 return Decision.deny(f"Retard de {inv['days_overdue'] or 0} j : trop tôt pour relancer (J+{REMINDER_DAYS[0]}).")132 if inv["remaining_eur"] > REMINDER_MAX_EUR:133 return Decision.queue(f"Montant {inv['remaining_eur']:.2f} € au-dessus du plafond de relance automatique.")134 last = next((r for r in self.store.records("relance", self.name) if r["key"] == a.invoice_id), None)135 if last and (days_until(last.get("derniere")) or 0) > -7:136 return Decision.deny("Déjà relancée il y a moins de 7 jours.")137 return Decision.allow(f"Facture ouverte, {inv['days_overdue']} j de retard, {inv['remaining_eur']:.2f} €.")138 139 def invoice_guard(self, a: InvoiceRef) -> Decision:140 inv = self.stripe.invoice(a.invoice_id)141 if inv["status"] != "draft":142 return Decision.deny("Seul un brouillon peut être émis.")143 if inv["total_eur"] > INVOICE_AUTO_MAX_EUR:144 return Decision.queue(f"Émission d'une facture de {inv['total_eur']:.2f} € : validation requise.")145 return Decision.allow()… 139 def invoice_guard(self, a: InvoiceRef) -> Decision:140 inv = self.stripe.invoice(a.invoice_id)141 if inv["status"] != "draft":142 return Decision.deny("Seul un brouillon peut être émis.")143 if inv["total_eur"] > INVOICE_AUTO_MAX_EUR:144 return Decision.queue(f"Émission d'une facture de {inv['total_eur']:.2f} € : validation requise.")145 return Decision.allow()
Lance la journée : chaque action passe par decide(), puis par le garde-fou de l'agent.
- 1Arrêt d'urgence
- 2Niveau de risque de l'outil
- 3Niveau d'autonomie choisi
- 4Garde-fou métier de l'agent
- 5Contrôleur indépendant (e-mails)
- 6Journal d'audit
Extraits du code de production d'Orvok, synchronisés automatiquement à chaque mise en ligne. La simulation rejoue les mêmes règles en JavaScript, sur des données fictives.