Il mio telefono, senza che avanzassi alcuna richiesta, mi ha proposto un breve video ricavato dalle foto fatte al mio gatto. Il telefono, intelligente, ha anche messo un titolo al video: I miei soffici amici. Un algoritmo ha recuperato dal mio archivio fotografico immagini del gatto  e le ha assemblate. Un lavoro anche ben fatto; alla mia intelligenza, umana, non sarebbe mai venuto in mente. Anche perché non ne sentivo alcun bisogno.

Il video, una banalità in sé, è stato però l’occasione per fare qualche riflessione. Intanto l’algoritmo che ha selezionato le foto non può sapere cosa c’è dietro un’immagine e, soprattutto, che sentimento mi suscita. Il mio ‘soffice amico’ ritratto con aria sorniona sul divano potrebbe aver rotto un minuto prima un vaso di cristallo e io potrei essere inferocita con lui. Quindi, avessi dovuto io assemblare delle foto, potrei averlo fatto con un altro criterio, escludendo un’immagine che mi irrita, per esempio.

Ma, cosa ancora più inquietante, accettando che l’algoritmo selezioni delle immagini per me, sto di fatto delegando a qualcun altro l’esercizio del ricordo. Non faccio lo sforzo di ricordare i momenti che per me hanno un significato, c’è un algoritmo che lo fa per me.

L’esempio del soffice amico non è che uno dei tanti esempi che potrei fare, in un’epoca nella quale possiamo tranquillamente mettere il cervello in stand by potendo fare affidamento su algoritmi che ci propongono ogni cosa: notizie da leggere, locali da frequentare, itinerari da percorrere, amici da conoscere.

Possiamo tenere il cervello spento, l’importante è che il nostro smartphone sia sempre in carica. Non possiamo più vivere senza, non possiamo più vivere senza google, che consultiamo per ogni cosa perché non ricordiamo più nulla. Una domanda però dobbiamo porcela. Se deleghiamo allo smartphone ogni scelta, se viviamo in funzione delle immagini che postiamo ossessivamente sui social regalando ogni informazione possibile, anche i dettagli più intimi della nostra esistenza, se il nostro device pensa per noi, del nostro cervello umano, cosa pensiamo di farne?

Il cervello è come un muscolo, a furia di non usarlo si atrofizza. E il rischio che milioni di esseri umani lo spengano c’è e le conseguenze sono qui davanti a noi. Delegare le scelte pone questioni più ampie, che abbiamo il dovere di affrontare.

Come vogliamo esprimere il nostro essere umani? Vogliamo vivere di gratificazioni date dai like e accettare che siano gli algoritmi a decidere cosa è meglio per noi o vogliamo che il nostro essere umani, il nostro muoverci nel mondo, sia il risultato di scelte consapevoli? È il momento di porci la domanda ma, soprattutto, è arrivato il momento di capire cosa c’è dietro l’algoritmo che ti propone il filmato del soffice amico. Perché chi sviluppa l’algoritmo potrebbe essere tutto tranne che  amico nostro. E dobbiamo sapere che cosa stiamo rischiando se non approfondiamo che impatto ha per la nostra esistenza la trasformazione digitale.

Usiamo un termine inglese perché digital trasnformation è più cool, ma abbiamo il dovere di sapere che accanto agli enormi vantaggi che derivano dell’innovazione tecnologica, ci sono altrettante insidie. Francesco Varanini lo spiega bene nel suo libro Le leggi bronzee dell’era digitale, argomentandoci perché dovremmo trasgredirle. Il suo è un invito a restare umani, ad esercitare il diritto di essere cittadini e non relegare la nostra esistenza a utenti di piattaforme.

Perché questo accada non dobbiamo correre il rischio che la popolazione si divida in chi scrive righe di codice software, e chi sa leggerle, e chi non lo sa fare e, soprattutto, nemmeno si pone il problema. Il fatto è che abbiamo la sensazione che si tratti di temi troppo difficili, talmente distanti che non vale nemmeno la pena di approfondirli.

Invece capire è avventuroso, scrive Chiara Valerio nel suo libro La matematica è politica. E l’informatica è come la matematica, per discuterne – racconta Valerio – bisogna accettarne le regole. Dopo averle studiate s’intende. Valerio sfata anche il mito che per studiare matematica si debba essere portati: per capire bisogna solo studiare. Punto. Verbo faticoso, in un’epoca nella quale si vive nel presente e la concentrazione dura il tempo di un like.

A furia di andare avanti così, anche la nostra memoria rischia di non superare la performance del pesce rosso. Ricorda gli ultimi tre secondi della vita, giusto il tempo del like. Poi si passa ad altro. E chi programma gli algoritmi lo sa bene. A proposito. Chi scrive le righe dei codici? Chi sviluppa gli algoritmi? Chi decide di inserire un bias? Dietro al ‘soffice amico’ si pongono questioni etiche enormi.

Siamo ancora in tempo per non accettare di cedere il controllo. Se ci siamo convinti di non essere portati per la matematica, o per tutto ciò che ruota intorno all’informatica, c’è invece chi, oltre ad accumulare ricchezze immense ad ogni like, finanzia ricerche e sviluppa progetti che impatteranno sul modo in cui potremo esprimere la nostra umanità. L’intelligenza artificiale fa progressi enormi, e potremo trarne dei vantaggi. Ma se il mio amico è veramente soffice, devo poterlo valutare io.

Proseguono le presentazioni del libro di Francesco Varanini Le cinque leggi bronzee dell’era digitale. E perché conviene trasgredirle. Prossimo appuntamento domani 21 settembre alle ore 12.

Per iscriversi https://www.este.it/eventi-per-data/893-cinque-narrazioni-della-trasformazione-digitale-un-sovrano-assoluto-poco-illuminato.html#modalit-agrave-di-iscrizione

Chiara Lupi

Articolo a cura di

Chiara Lupi ha collaborato per un decennio con quotidiani e testate focalizzati sull’innovazione tecnologica e il governo digitale. Nel 2006 ha partecipato all’acquisizione della ESTE, casa editrice storica specializzata in edizioni dedicate all’organizzazione aziendale, che pubblica le riviste Sistemi&Impresa, Sviluppo&Organizzazione e Persone&Conoscenze. Dirige la rivista Sistemi&Impresa e governa i contenuti del progetto multicanale FabbricaFuturo sin dalla sua nascita nel 2012. Si occupa anche di lavoro femminile e la sua rubrica “Dirigenti disperate” pubblicata su Persone&Conoscenze ha ispirato diverse pubblicazioni sul tema e un blog, dirigentidisperate.it.
Nel 2013 insieme con Gianfranco Rebora e Renato Boniardi ha pubblicato il libro Leadership e organizzazione. Riflessioni tratte dalle esperienze di ‘altri’ manager. Nel 2019 ha curato i contenuti del Manuale di Sistemi&Impresa Il futuro della fabbrica.

Chiara Lupi