Perché ChatGPT Pro con il nuovo modello o1 di Open AI costa 200 dollari al mese
Indice dell'articolo
OpenAI ha rilasciato in ChatGPT la versione definitiva dell’atteso modello o1, già anticipato ad alcuni sviluppatori nei mesi scorsi come API nelle versioni preview e mini. Questo modello sarà disponibile come API, con alcune limitazioni all’utilizzo nella versione Plus da 20 dollari al mese, mentre per un accesso illimitato a o1, oltre alla possibilità di accedere – non è ben chiaro con quali limitazioni – alla versione o1 Pro servirà un abbonamento dal notevole prezzo di 200 dollari al mese.
La versione Plus da 20 dollari al mese continuerà a consentire un accesso limitato alle sole versioni preview e mini di 01, un accesso limitato a GPT 4o e accesso completo al solo GPT 4o mini.
Se siete un po’ confusi rispetto alle diverse versioni di o1, siete in buona compagnia.
Open AI, che nelle prossime settimane ha promesso di fare una sorta di calendario dell’Avvento con un nuovo annuncio ogni giorno, ha infatti reso un po’ complicato capire la portata delle novità. Ci si aspettava che o1 sarebbe stato molto simile alla versione preview e la avrebbe soppiantata (come accade con le versioni beta dei software), invece oltre al fatto che o1 preview continuerà a essere usato in ChatGPT Plus, di o1 sono state rilasciate non una ma due versioni, con la seconda che costa dieci volte la prima.
Vediamo di fare un po’ di chiarezza.
Perché o1 Pro costa 200 dollari al mese
Come già avvenuto nelle ultime iterazioni dei suoi modelli, Open AI non ha rilasciato molti dettagli sui dati di training e sul numero di parametri di o1 e o1 Pro, ma apparentemente non è su quel fronte che si è concentrata l’evoluzione. Anche perché sembra che quel filone di sviluppo stia raggiungendo un limite in una crescita delle prestazioni degli LLM basata unicamente sulle dimensioni del modello.
Il principale miglioramento di o1 è nella capacità di fare ragionamenti complessi utilizzando la tecnica del “chain of thoughts”. A seguito di un prompt, che può indicare un compito anche molto complesso, 01 è in grado di suddividere il problema in diversi passaggi che andranno risolti individualmente, generando ciascuno una sorta di prompt interno. Alla fine, tutti i passaggi saranno combinati in una grande finestra di contesto per ottenere la risposta.
Questa tecnica sposta quindi una parte consistente dell’elaborazione dalla fase di training a quella di inferenza, cioè quella in cui il modello viene interrogato, con conseguente aumento dei consumi energetici e dei costi in base all’utilizzo fatto dagli utenti. È questo quindi il motivo dell’aumento dei costi dell’abbonamento di un ordine di grandezza.
o1 Pro svetta nei problemi scientifici e sviluppo software
Nei dati rilasciati da OpenAI, o1 ha dimostrato un grosso miglioramento rispetto alle versioni preview e o1 nella risoluzione di problemi matematici, nello sviluppo software e in quesiti scientifici complessi, del tipo che ci si aspetta di affrontare in un dottorato di ricerca.
Soprattutto, è stata migliorata l’affidabilità e la riproducibilità dei risultati, un aspetto quanto mai importante in campo scientifico. Open AI ha modificato le proprie procedure di benchmark per considerare risolto correttamente un quesito solo se il modello dà la risposta giusta in quattro tentativi su quattro, e questi sono i risultati ottenuti dalle tre varianti di o1:
Altre caratteristiche del modello o1
Come GPO 4o, o1 è un modello multimodale, in grado di accettare nell’input anche immagini e audio, e rispondere allo stesso modo. Considerati i tempi di risposta più lunghi, dovuti al meccanismo chain of thougs, o1 non sarà impiegato nelle interazioni con gli utenti attraverso l’Advanced Voice Mode, che produce conversazioni estremamente verosimili grazie alla capacità di rispondere in tempi molto brevi e adattando il tono della voce per simulare delle emozioni.