Progettare risposte «non lo so» in un assistente AI

Un assistente interno risponde su procedure. Quando la fonte manca, tende a produrre una risposta plausibile invece di indirizzare l’utente a chi può decidere. L’astensione è una funzione da progettare con segnali e percorso successivo; chiedere al modello di «non inventare» non crea un comportamento affidabile.

Distingue fonte assente, domanda fuori perimetro, conflitto e bassa evidenza per produrre uscite diverse. Gli anti-pattern sono pericolosi proprio perché riducono l’attrito nel percorso ideale e spostano il costo sul primo caso non previsto; il controllo associato riguarda «scrivere condizioni di astensione».

Il sistema registra un successo mentre l’operatore vede un caso sospeso; l’evidenza da conservare è «rischio di una risposta plausibile ma errata». Rischio nominato: «premiare sempre una risposta». Perimetro operativo: «definire astensione, spiegazione e percorso alternativo». Segnale osservato: «rischio di una risposta plausibile ma errata». Recupero ammesso: «valutare astensioni corrette e mancate». Checkpoint finale: «rischio di una risposta plausibile ma errata». Il segnale da cercare è una correzione manuale che non torna nel sistema come evento o regola; la decisione resta collegata a «scrivere condizioni di astensione».

Per correggere «premiare sempre una risposta» si registra «domande fuori perimetro» nel sistema autorevole. L’owner riprende il lavoro soltanto dallo stato prodotto da «scrivere condizioni di astensione».

Caso isolato: «rischio di una risposta plausibile ma errata». Operazione osservata: «scrivere condizioni di astensione». Deviazione forzata: «premiare sempre una risposta».

Sintomo da smontare: «premiare sempre una risposta». La correzione deve riportare l’eccezione nel sistema che possiede la regola; l’evidenza da conservare è «proporre il prossimo passo». Perimetro della prova: «definire astensione, spiegazione e percorso alternativo».

Controprova: «assenza o conflitto delle fonti». Arresto: «soglia unica per ogni rischio». Passo ammesso dopo il recupero: «segnalare il motivo del limite». Verbale finale: «Come si riconosce quando il sistema deve fermarsi?»

Differenza decisiva: «Distingue fonte assente, domanda fuori perimetro, conflitto e bassa evidenza per produrre uscite diverse». Regola di chiusura: «Un assistente affidabile esplicita il limite che ha incontrato e propone soltanto il prossimo passo consentito».

La complessità è stata spostata, non eliminata. Rischio nominato: «frasi vaghe senza escalation». Perimetro operativo: «definire astensione, spiegazione e percorso alternativo». Segnale osservato: «domande fuori perimetro». Recupero ammesso: «scrivere condizioni di astensione». Checkpoint finale: «domande fuori perimetro». Il segnale da cercare è una correzione manuale che non torna nel sistema come evento o regola; l’evidenza da conservare è «segnalare il motivo del limite».

Per correggere «frasi vaghe senza escalation» si registra «assenza o conflitto delle fonti» nel sistema autorevole. L’owner riprende il lavoro soltanto dallo stato prodotto da «richiedere fonti verificabili».

L’assenza di un errore visibile viene scambiata per affidabilità. Rischio nominato: «soglia unica per ogni rischio». Perimetro operativo: «definire astensione, spiegazione e percorso alternativo». Segnale osservato: «assenza o conflitto delle fonti». Recupero ammesso: «richiedere fonti verificabili». Checkpoint finale: «assenza o conflitto delle fonti». Il segnale da cercare è una correzione manuale che non torna nel sistema come evento o regola; il controllo associato riguarda «valutare astensioni corrette e mancate».

Per correggere «soglia unica per ogni rischio» si registra «livello di confidenza utile» nel sistema autorevole. L’owner riprende il lavoro soltanto dallo stato prodotto da «segnalare il motivo del limite».

All’inizio sembra una scorciatoia innocua. Rischio nominato: «nascondere il limite dietro linguaggio sicuro». Perimetro operativo: «definire astensione, spiegazione e percorso alternativo». Segnale osservato: «livello di confidenza utile». Recupero ammesso: «segnalare il motivo del limite». Checkpoint finale: «livello di confidenza utile». Il segnale da cercare è una correzione manuale che non torna nel sistema come evento o regola; il controesempio viene cercato in «frasi vaghe senza escalation».

Per correggere «nascondere il limite dietro linguaggio sicuro» si registra «rischio di una risposta plausibile ma errata» nel sistema autorevole. L’owner riprende il lavoro soltanto dallo stato prodotto da «proporre il prossimo passo».

Dopo aver reso visibili i fallimenti, si interviene dal confine più piccolo; il controllo associato riguarda «richiedere fonti verificabili». Le azioni proposte mantengono separati processo, controllo e tecnologia.

Un assistente affidabile esplicita il limite che ha incontrato e propone soltanto il prossimo passo consentito. Il miglioramento è reale quando lo stesso caso può essere seguito dall’ingresso all’uscita senza ricostruzioni private; nel perimetro descritto conta «soglia unica per ogni rischio».

Un assistente affidabile esplicita il limite che ha incontrato e propone soltanto il prossimo passo consentito. L’anti-pattern è davvero rimosso soltanto quando «frasi vaghe senza escalation» non richiede più memoria privata e «valutare astensioni corrette e mancate» lascia la prova «domande fuori perimetro».