Segnalo queste breve articolo che riporta le ragioni delle dimissioni  di David Robinson dall’azienda Open AI responsabile della sicurezza di quell’azienda.  L’intelligenza artificiale (IA) è una grande scommessa del nostro tempo e sta portando anche benefici notevoli in molti campi fra cui la medicina.  Però come tutte le tecnologie sofisticate ha anche lati oscuri e rischi da non trascurare.  Ci sono già stati molti incidenti in cui l’IA è sfuggita al controllo degli operatori.  Sfortunatamente le aziende sviluppatrici di queste tecnologia, non solo sono tutte private, ma lo stato, in questo caso gli USA, si rifiutano di esercitare un controllo normativo.  Un rischio fra i tanti è che l’IA impari a sottrarsi al controllo degli operatori addetti al suo sviluppo con scenari imprevedibili.  L’Europa purtroppo è quasi essente in questo settore e non ha alcuna possibilità di condizionare le attuali scelte della Casa Bianca, ma potrebbe favorire la ricerca pubblica in questo campo strategico.

Federico Licastro, già professore di Immunologia dell’Alma Mater, Bologna

Si dimette un responsabile della sicurezza di OpenAI. La lettera su The Atlantic: «Mi sono licenziato perché la cultura aziendale è corrotta»

di Serena Palumbo Dal  Corriere della Sera  settembre 2026

David Robinson, ex responsabile dei rapporti sulla sicurezza di OpenAI, denuncia una cultura aziendale troppo orientata alla crescita rapida. «La portata di fallimenti sta aumentando man mano che i sistemi diventano più sofisticati». «Quello che sto per dirvi è ormai diventato un cliché: questa settimana mi sono dimesso da OpenAI». Inizia così la lettera che David Robinson ha scelto di pubblicare su The Atlantic. «Ero a capo della redazione dei rapporti sulla sicurezza che pubblicavamo in occasione di ogni lancio importante – continua nelle righe successive -. Ora mi unisco a una schiera di ex colleghi, sia di OpenAI che degli altri leader del settore, che hanno deciso che la strada intrapresa è inaccettabile».  A non essere più sostenibile, per Robinson, è come le principali società di intelligenza artificiale stiano affrontando la corsa alla creazione di sistemi sempre più potenti, ma – al contempo – sempre meno sicuri. «Concordo con altri ex dipendenti sul fatto che le aziende che sviluppano questa tecnologia non stiano prestando la dovuta attenzione. Credo però che dobbiamo guardare oltre le singole regole o le nuove leggi. Dobbiamo parlare di cultura aziendale».

Ed è proprio sulle dinamiche interne alle aziende che si occupano di AI che si concentra gran parte della sua riflessione. Questo perché, come scrive Robinson, «il futuro dipende da una saggezza che manca alla Silicon Valley. Saggezza su come gestire tecnologie pericolose e, ancor più fondamentalmente, saggezza su cosa significhi prendersi cura delle persone. Questo momento richiede un grado di umiltà che non è naturale per chi ha avuto successo grazie alla propria estrema sicurezza».   Un contesto nel quale, nonostante tutto, «i miei ex colleghi di OpenAI sono stati lungimiranti: hanno compreso le leggi di scalabilità secondo cui sistemi di intelligenza artificiale più grandi sarebbero stati più intelligenti, e quindi si sono impegnati a fondo nella costruzione di sistemi più grandi, a caro prezzo. Un atteggiamento propositivo, volto a raggiungere l’apparentemente impossibile, unito a scadenze di lavoro che si traducono in sprint perpetui, è comune in tutto il settore».   Ma è questa spinta alla crescita rapida che finisce per condizionare la gestione della tutela. «L’approccio alla sicurezza che emerge da una cultura di questo tipo parte da un ottimismo senza riserve sulla capacità di risolvere i problemi man mano che si presentano». Ed ecco che OpenAI, come scrive, ha costruito parte del proprio percorso attraverso una strategia di «tentativi ed errori», definita dall’azienda «implementazione iterativa»: i sistemi vengono messi alla prova, le criticità individuate e le misure di protezione progressivamente rafforzate.  Un modello che, secondo l’ex responsabile dei rapporti sulla sicurezza, presenta però un limite strutturale: «Per sua stessa natura, garantisce fallimenti periodici, e la portata di tali fallimenti sta crescendo man mano che i sistemi diventano più sofisticati». A sostegno della sua tesi Robinson cita alcuni episodi recenti: «Quest’estate, nell’incidente di Hugging Face , OpenAI ha rilasciato per errore un gran numero di agenti. L’azienda ha reagito apportando miglioramenti alla sicurezza. Ma anche dopo queste modifiche, OpenAI ha segnalato che i suoi controlli di sicurezza hanno fallito di nuovo, quando un modello in fase di addestramento ha aggirato le restrizioni di accesso a Internet: un sistema di monitoraggio ha avvisato il personale umano, ma non ha disattivato automaticamente il modello come avrebbe dovuto».   E ancora: «Anche Anthropic ha ammesso di aver disattivato accidentalmente i propri sistemi di sicurezza a causa di una configurazione errata». Due casi generati dalla stessa matrice: la rapidità con la quale l’intelligenza artificiale sta avanzando. Una «corsa» che genera «errori tipici del settore, data la velocità e la flessibilità con cui le persone operano». La soluzione, dunque, è rallentare – come in molti sostengono – non per arrestare l’evoluzione, ma per controllarne il processo.