YEAH! DINERTool allow-list
L'agente dovrebbe poter invocare solo strumenti necessari al compito. Un modello non ha bisogno di accesso universale solo perché è capace di generare testo.
Autorizzazione per azione
- Read vs write separati
- Scope minimo
- Conferma su azioni irreversibili
- Rate limit
- Timeout
- Rollback dove possibile
Prompt injection
Testo recuperato da email, web o documenti deve essere trattato come dati non fidati, non come nuove istruzioni di sistema. Le policy non devono essere sostituibili dal contenuto che l'agente legge.
Audit
Ogni azione importante deve poter rispondere a: chi l'ha richiesta, quale modello/policy l'ha proposta, quale strumento l'ha eseguita e con quale esito.