Il chatbot buttafuori e l’inganno dell’AI

L’edizione 2024 del Forum di Sviluppo&Organizzazione (24 e 25 ottobre 2024) è l’occasione per approfondire ancora i temi lanciati dal manifesto “Illuminare le organizzazioni”.  Durante la due giorni di lavori sono presentate le sei tesi/ipotesi di lavoro che animano la discussione. Anticipo la quinta tesi che riguarda l’ispirazione: “Illuminare significa fare dell’organizzazione un ‘oggetto di desiderio’, affascinante, attrattivo e però realistico e autentico”. Si intende, in questo senso, che le organizzazioni non possono prescindere dalla dimensione affettiva, insita nelle relazioni continuamente rinnovate e rinsaldate, nella capacità di mobilitare i sentimenti di persone e gruppi sociali anche attraverso l’immaginazione e la proiezione di futuri desiderabili e ricercati con autenticità e apertura.

PARTECIPA AL FORUM DI SVILUPPO&ORGANIZZAZIONE: CLICCA QUI

Ma illuminare significa anche rivolgere attenzione ai lati oscuri e in questo senso occorre portare grande attenzione all’esercizio della responsabilità, oggetto della sesta tesi/ipotesi. “Illuminare significa esplorare la catena organizzativa della responsabilità: definirla, riconoscerla, revisionarla”. Uno dei temi che avrebbero grande bisogno di questa luce è quello dei sistemi di customer service, oggi afflitti da grande opacità, che il ricorso alle cosiddette ‘intelligenze artificiali’ sembra aggravare anziché risolvere.

Vi siete mai imbattuti nei chatbot ‘buttafuori’? Questi gentili aiutanti digitali sembrano al primo approccio accattivanti, ma quando avete un problema non è mai compreso nella loro griglia di attenzione e si finisce per pensare che il loro compito sia solo di impedire di andare oltre e al più di rimandare al sito web. Sono quindi progettati male, da ingegneri che non comprendono la complessità del mondo di oggi, oppure il fine è veramente quello di impedire che il contatto proceda? C’è poi chi prevede ulteriori peggioramenti per il cliente nel futuro grazie all’evoluzione dei sistemi… La responsabilità delle organizzazioni e dentro le organizzazioni configura ormai una sorta di labirinto e i chatbot sostituiscono il Minotauro: serve un filo di Arianna per venirne fuori. Basterà ‘illuminare’ per ritrovarlo?

Gianfranco Rebora

Gianfranco Rebora è Direttore di Sviluppo&Organizzazione, la rivista edita dalla casa editrice ESTE e dedicata all’organizzazione aziendale.
Rebora è Professore Emerito di Organizzazione e gestione delle risorse umane dell’Università Carlo Cattaneo – Liuc di Castellanza.