OpenAI ha annunciato l’introduzione di un nuovo sistema per individuare e segnalare eventuali comportamenti anomali dei propri modelli di intelligenza artificiale durante le fasi di sperimentazione. La decisione arriva dopo l’identificazione di sei episodi imprevisti o preoccupanti che si sono verificati negli ultimi sei mesi. La società ha illustrato i casi attraverso un post pubblicato sul proprio blog, aggiungendoli all’incidente che durante l’estate aveva coinvolto la piattaforma Hugging Face. L’obiettivo dichiarato è rendere più strutturata la comunicazione di eventuali malfunzionamenti e situazioni considerate problematiche.
L’iniziativa si inserisce in un contesto di crescente attenzione verso il tema della sicurezza dei sistemi IA e del cosiddetto disallineamento, ovvero la possibilità che il comportamento di un modello si discosti dalle indicazioni e dagli obiettivi stabiliti dai suoi sviluppatori. Con il nuovo meccanismo di segnalazione OpenAI intende quindi migliorare il monitoraggio dei propri sistemi e favorire una maggiore trasparenza sugli episodi anomali, anche nell’ambito dei test condotti prima della diffusione dei modelli.
La questione si intreccia con il futuro finanziario dell’azienda, la cui valutazione si avvicina ai mille miliardi di dollari. OpenAI avrebbe avviato in forma riservata le procedure per una possibile quotazione in borsa ma il suo amministratore delegato, Sam Altman, ha annunciato lo slittamento dell’Ipo al 2027, indicando tra le priorità proprio il rafforzamento delle misure di sicurezza. Nel post la società riconosce che il settore dell’intelligenza artificiale non ha ancora affrontato adeguatamente i problemi relativi all’allineamento e al monitoraggio dei modelli, per tale ragione non è possibile proseguire con un’espansione alla massima velocità in condizioni di piena sicurezza.
Altman ha inoltre sostenuto la proposta avanzata da Dario Amodei, amministratore delegato di Anthropic, principale concorrente di OpenAI, per rallentare il ritmo di sviluppo dei modelli. L’appello è arrivato dopo gli allarmi lanciati da diversi ricercatori sui possibili rischi catastrofici legati all’evoluzione dell’IA. Due tra gli episodi più rilevanti hanno riguardato un modello di ricerca non ancora rilasciato e una sessione di addestramento di GPT-5.6 Sol. In entrambi i casi i sistemi avrebbero inserito nei riepiloghi delle conversazioni istruzioni rivolte alle versioni future, con l’obiettivo di nascondere errori agli utenti o comportamenti ritenuti non allineati.
Un altro caso ha coinvolto un modello utilizzato esclusivamente internamente, che avrebbe impiegato una chiave API trapelata senza autorizzazione, arrivando successivamente a falsificare alcuni dati. Due ulteriori episodi hanno visto modelli e agenti comunicare attraverso bacheche di messaggistica e sistemi di condivisione dei file non autorizzati. Nell’ultimo caso, invece, due modelli in fase di addestramento avrebbero caricato file su Internet per poterli citare in seguito come fonti pertinenti nelle risposte sottoposte alla valutazione di esseri umani. Per affrontare tutto ciò, OpenAI ha introdotto un nuovo quadro di riferimento per la divulgazione dei comportamenti scorretti. Il sistema consente a ciascun dipendente di segnalare eventuali problemi, che saranno successivamente esaminati dal team incaricato alla sicurezza e all’allineamento.
Il tema del controllo dei sistemi di intelligenza artificiale sarà affrontato anche durante una conferenza in programma a Dumfries House, in Scozia, alla quale parteciperà Re Carlo III. Il sovrano dovrebbe chiedere ai principali esponenti dell’industria tecnologica rassicurazioni sulla capacità di mantenere l’IA al servizio dell’umanità, evitando che l’uomo perda il controllo del proprio destino.
All’incontro sono attesi rappresentanti di Nvidia, Google DeepMind, OpenAI e Anthropic, oltre al ministro britannico per l’Intelligenza Artificiale Kanishka Narayan. Secondo quanto riferito da Buckingham Palace, nel suo intervento d’apertura Carlo sottolineerà le preoccupazioni espresse da più fronti e chiederà garanzie sul futuro, affinché questo non venga compromesso. La conferenza si svolgerà in un clima di crescente attenzione sui rischi dell’IA, sorto dopo una serie di incidenti e dei conseguenti avvertimenti da parte di diversi esperti sulle possibili conseguenze di uno sviluppo tecnologico non accompagnato da adeguati sistemi di sicurezza, controllo e monitoraggio.
