Human in the loop: dove serve una persona e dove no
Non tutto va controllato a mano e non tutto va lasciato andare. Un criterio basato sul costo dell'errore, con il caso dei preventivi di un'agenzia viaggi B2B.

Human in the loop: cosa significa in un'azienda
Human in the loop significa che una persona verifica, corregge o approva il lavoro di un sistema automatico prima che produca effetti. Non è un freno messo per prudenza: è un punto di controllo collocato dove un errore costa. Dove l'errore costa poco, la persona esce dal ciclo. Dove costa molto, resta.
Sul tema si formano di solito due partiti. Chi vende automazione sostiene che ogni controllo umano è tempo perso. Chi ha visto una volta un errore arrivare dal cliente vuole far rileggere ogni riga, e finisce per pagare un sistema che non fa risparmiare niente. Sbagliano entrambi allo stesso modo: guardano lo strumento invece di guardare cosa succede quando sbaglia.
Perché sbaglierà. Un modello linguistico, uno script, un'integrazione configurata male: prima o poi producono un risultato errato. La domanda utile non è «se», ma «quanto ci costa quella volta, e chi se ne accorge».
Il criterio: quanto costa l'errore, non quanto è brava l'AI
Servono quattro domande, da fare per ogni passaggio del processo e non per il processo intero.
- Si può tornare indietro? Una bozza interna si cancella. Una email partita verso un cliente no, e nemmeno un ordine trasmesso a un fornitore.
- Chi se ne accorge, e quando? Se l'errore salta fuori dopo pochi minuti a chi lavora sul processo, il danno è piccolo. Se lo scopre il cliente tre settimane dopo, è un'altra storia.
- Quanto si moltiplica? Un errore su una pratica è un errore. Lo stesso errore dentro un'automazione che gira su tutte le pratiche diventa un problema sistemico prima che qualcuno guardi.
- Dove sta il controllo, prima o dopo l'effetto? Rivedere un preventivo prima dell'invio è un controllo. Accorgersene perché il cliente ha risposto stupito è una scoperta.
Messe insieme, le risposte dividono i passaggi in tre fasce.
| Costo dell'errore | Esempio | Dove sta la persona |
|---|---|---|
| Basso, reversibile, visibile subito | Smistare un messaggio in una cartella, compilare un campo interno | Fuori dal ciclo, con un controllo a campione |
| Medio, correggibile ma con attrito | Bozza di una risposta, riga di un documento | Dentro il ciclo, con revisione rapida |
| Alto, irreversibile o rivolto a un cliente | Preventivo con un prezzo, pagamento, comunicazione ufficiale | Dentro il ciclo, con approvazione esplicita |
La fascia non dipende da quanto l'AI sembra sicura di sé. Dipende da cosa succede se ha torto. Un sistema che sbaglia di rado può andare benissimo per smistare email e restare inaccettabile per fissare uno sconto.
Il caso dell'agenzia viaggi B2B: da 6 minuti a 12 secondi
Questo caso sta proprio nella fascia alta. Un'agenzia viaggi B2B risponde a richieste di preventivo: tratte, strutture, date, condizioni. Il preventivo arriva al cliente con il nome dell'agenzia sopra e un prezzo dentro. Se il prezzo è sbagliato, se manca una voce, se una condizione è travisata, l'errore si vede e costa credibilità.
Le due strade ovvie erano sbagliate tutte e due. Far comporre e inviare all'AI da sola avrebbe messo il rischio più alto del processo nelle mani del pezzo meno controllabile. Lasciare tutto all'operatore voleva dire continuare a scrivere ogni preventivo a mano.
Abbiamo diviso il lavoro. L'AI compone il preventivo, l'operatore lo rivede prima dell'invio. Nei primi novanta giorni dal lancio il tempo medio per preventivo è passato da 6 minuti a 12 secondi (numero aggregato sul periodo). Non è merito di un'AI «che fa tutto»: la persona ha smesso di scrivere e ha cominciato a guardare.
Tra scrivere e controllare c'è una distanza che si sottovaluta. Leggere un documento già composto è questione di secondi, scriverlo da zero no. La firma sull'invio resta umana, quindi la responsabilità resta dove deve stare. Il tempo, invece, lo ha preso la macchina.
Dove la persona può uscire dal ciclo
Sarebbe comodo dire che una persona serve sempre. Non è vero, e crederlo ti fa spendere male. Un altro caso pubblicato è un e-commerce B2B da 1.200 ordini al mese, con gestionale, corriere e CRM sincronizzati: il 98% degli ordini passa senza tocco umano e il team è passato da quattro persone a una. Anche questo è aggregato sui primi novanta giorni.
Perché lì si può? Perché l'ordine ha una forma precisa e i passaggi si controllano con regole semplici: un codice che non esiste o un importo che non torna si fermano da soli, prima di fare danni. Quello che esce dalle regole va a una persona.
La regola pratica: l'automazione totale è giusta quando i casi sono ripetitivi, le regole sono chiare e i casi strani si lasciano riconoscere. Se i casi strani non si riconoscono, la persona deve stare davanti al sistema, non dietro. Per il ragionamento sugli ordini c'è l'articolo sull'automazione degli ordini di vendita.
Human in the loop che non rivede: il rischio dell'ok per abitudine
Mettere una persona nel ciclo non basta. Esistono revisioni presenti sulla carta e assenti nei fatti. Il meccanismo è noto: se il sistema ha ragione quasi sempre, dopo qualche settimana chi controlla approva per abitudine. Clicca «ok» senza leggere. Il controllo c'è, e non fa nulla.
Tre accorgimenti funzionano meglio degli appelli all'attenzione:
- Mostra cosa è cambiato o cosa è incerto. Una schermata che evidenzia prezzo, date e voci fuori norma si controlla bene. Un blocco di testo uniforme no.
- Conta le correzioni. Se per mesi la persona non corregge mai nulla, o il sistema è eccellente o nessuno guarda. Per scoprirlo basta inserire ogni tanto un caso sbagliato di proposito.
- Tieni la revisione corta. Un controllo da dieci minuti verrà aggirato. Uno da pochi secondi verrà fatto.
Lo stesso vale per gli assistenti più autonomi. Se ti chiedi dove serva ancora una persona quando l'AI agisce da sola, abbiamo scritto di agenti AI aziendali e falsi miti.
Nessuna automazione parte senza l'ok del cliente
C'è un livello di human in the loop che riguarda l'automazione intera, non il singolo preventivo. La nostra regola è semplice: nessuna automazione parte senza l'ok del cliente. Non si accende in silenzio, non si «prova un po'» in produzione, non cambia comportamento senza che chi la possiede lo sappia.
Il motivo è pratico. Chi ha il processo in mano è l'unico a sapere quali casi sono strani, quali clienti vanno trattati con i guanti, quali eccezioni non sono scritte da nessuna parte. Per questo, quando mappiamo un processo, intervistiamo chi lo esegue e non chi lo racconta, e misuriamo tempi ed errori prima di proporre qualsiasi cosa. Lo scopo è togliere lavoro noioso alle persone, non sostituirle. E chi si sente sostituito tende a smettere di segnalare i problemi, che è l'ultima cosa che vuoi.
Se hai un processo manuale e ripetitivo e non sai in quale fascia cada, si parte dalla mappatura delle automazioni su misura: si guarda dove l'errore costa e solo dopo si decide cosa togliere dalle mani delle persone.
Una procedura da applicare a un processo qualsiasi
- Scrivi i passaggi del processo, uno per riga, come li fa davvero chi lavora.
- Per ciascuno, scrivi l'errore peggiore plausibile e chi lo vedrebbe per primo.
- Assegna la fascia: errore reversibile e visibile, correggibile con attrito, oppure irreversibile o rivolto a un cliente.
- Automatizza per primi i passaggi di fascia bassa: lì si impara senza rischi.
- Nei passaggi di fascia alta, fai comporre la bozza alla macchina e fai approvare a una persona, con una schermata che mostra le parti delicate.
- Dopo le prime settimane guarda quante correzioni sono state fatte. Se sono quasi zero, prova la revisione con un errore inserito apposta. Se sono troppe, la macchina non è pronta per quel passaggio.
- Sposta la soglia solo con i numeri in mano, mai per fiducia. Un passaggio può passare da «approva sempre» a «campione» soltanto dopo un periodo osservato.
Per capire quanto pesa tutto questo sul conto, tempo di revisione compreso, leggi cosa pesa davvero sul preventivo di un'automazione: la revisione umana è un costo previsto, non una dimenticanza.
Prendi il processo che ti fa perdere più tempo e scrivi, in una riga, l'errore peggiore che una macchina potrebbe fare al posto tuo. Se la riga ti mette a disagio, quel passaggio ha bisogno di una persona che approva. Se ti fa sorridere, è il candidato per partire.
Domande frequenti
Come evito che chi rivede l'AI approvi per abitudine?
Fai evidenziare le parti delicate, come prezzo e date, e tieni la revisione di pochi secondi. Conta le correzioni nel tempo e, se non ce ne sono mai, inserisci ogni tanto un errore di proposito per vedere se qualcuno lo trova.
Come decido quali passaggi devono restare sotto controllo?
Guarda il costo dell'errore: se è reversibile e visibile subito, la macchina può andare da sola. Se è irreversibile o rivolto a un cliente, come un preventivo con un prezzo, serve l'approvazione di una persona.
La revisione umana non annulla il risparmio dell'automazione?
Non se la revisione è breve e ben progettata. Nel caso dell'agenzia viaggi B2B il preventivo rivisto dall'operatore è passato da 6 minuti a 12 secondi di tempo medio, nei primi novanta giorni dal lancio.