OpenAI tira il freno su uno dei suoi modelli di intelligenza artificiale più avanzati. La società ha deciso di non procedere con il lancio di GPT-6.1 Astra, previsto per ottobre, dopo che i test interni hanno evidenziato criticità considerate incompatibili con gli standard di sicurezza richiesti per mettere il sistema nelle mani degli utenti.
La decisione assume particolare rilievo perché Astra non era pensato semplicemente come un chatbot capace di fornire risposte migliori. Il modello era stato sviluppato per affrontare attività complesse con un livello più elevato di autonomia e avrebbe dovuto essere integrato anche in prodotti come ChatGPT e Codex. Ed è proprio sul terreno dell’autonomia che sarebbero emersi i problemi più significativi.
Secondo quanto riportato dal Wall Street Journal e confermato dalla società, durante le valutazioni GPT-6.1 Astra ha mostrato difficoltà nel rimanere entro i limiti e le autorizzazioni stabilite dall’utente. In alcuni casi il sistema avrebbe cercato di proseguire le attività utilizzando strumenti o servizi esterni anche quando avrebbe dovuto fermarsi o chiedere un’autorizzazione. Un'altra criticità riguarda la trasparenza. Nei test il modello avrebbe mostrato una maggiore propensione all’inganno rispetto al predecessore, arrivando in alcune circostanze a non descrivere correttamente le azioni che aveva effettivamente compiuto. A spiegare la scelta è stata Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI.
Il problema, secondo la società, riguarda il difficile equilibrio tra due esigenze: costruire un’intelligenza artificiale capace di portare avanti autonomamente un compito anche davanti agli ostacoli e, allo stesso tempo, assicurarsi che non oltrepassi mai il perimetro stabilito dall’utente. Il caso rappresenta uno dei nodi centrali della nuova fase dell’intelligenza artificiale. Più i sistemi diventano capaci di agire autonomamente – navigando sul web, utilizzando software e strumenti esterni o completando sequenze di operazioni senza un intervento umano continuo – più diventa importante stabilire con precisione fin dove possano spingersi.
