Sono iscritto a un certo numero di newsletter ad argomento tech, e come sempre succede la lista degli articoli da leggere è sempre più grande del tempo a disposizione.

Ad agosto, in ferie, ho cercato di accorciare la lista, e mi sono accorto che un certo numero di articoli a tema AI davano letture tutt'altro che entusiasmanti del prossimo futuro, e nessuna di questi forniva prospettive alla Skynet.

Ho categorizzato tutto come "pessimismo non giustificato", ma ho tenuto alto il livello di attenzione sull'argomento. 

A distanza di un mese, le visioni pessimistiche non sono diminuite, anzi si sono rafforzate, così ho deciso di riportare qui i punti che a mio avviso sono di maggiore interesse.

L'AI è un giocattolo complesso, ma soprattutto costoso.

Le Big Tech lo sanno. Spendono miliardi di dollari ogni mese.
xAI prevede di chiudere il 2025 con un passivo di 13 miliardi, OpenAI ha bisogno di finanziamenti a ripetizione, Anthropic applica pratiche di risparmio (che descrivo tra poco) ai modelli al punto che gli utenti si chiedono perché la loro IA preferita sembra diventata scema da un giorno all’altro.

Questo accade per un motivo semplice: mantenere in vita i modelli attualmente in circolazione richiede un sacco di soldi. I costi delle infrastrutture tech che stanno dietro ai nostri prompt sono enormi. 
Al contrario dei profitti. 

Per anni, l’IA è stata una cosa da accademici. Poi è arrivata OpenAI, che era una società no profit, e ha aperto il vaso di Pandora con ChatGPT. Il passo successivo è stato diventare azienda a scopo di lucro.
Ora l'AI è una cosa da investitori, e chi ha messo i soldi (tantissimi soldi) vuole un ritorno. Anche se il miglioramento esponenziale dei modelli si è fermato.

Goldman Sachs avvisa che la bolla scoppierà.
E non sarà solo OpenAI a tremare. Ci andranno di mezzo anche i fornitori: Amazon, Oracle, Nvidia.

Il problema

Sono i soldi, ovviamente. Quelli che non tornano. I profitti delle società AI sono tutt'altro che rassicuranti, anche perchè i numeri riguardanti i progetti di adozione dell'AI non sono positivi. 
Il 95% dei progetti IA aziendali non aumentano produttività, oppure falliscono.
Nei progetti che vanno in porto,  il 77% dei lavoratori vede aumentare il carico, ma non l’efficienza.
Ma soprattutto ci sono i dati sui trend di adozione di sistemi AI.

I nostri 20 € di abbonamento mensile a ChatGPT non sono sufficienti a generare l'economia che supporti il mantenimento e lo sviluppo del "sistema AI". Ci vogliono i grandi usufruitori, le grandi aziende e gli enti (magari governativi) che adottino massicciamente soluzioni AI based e generino introiti per le big tech. Ma questi soggetti non stanno andando in quella direzione. Anzi, come si vede dal grafico, è in corso una sorta di cambiamento di rotta piuttosto significativo.


Come reagiscono le aziende che forniscono servizi AI

Parlano di “funzioni nuove”, di memoria, di pensiero in background, ma non producono modelli molto migliori rispetto ai precedenti. Applicano hack, ingegneria di prodotto, trucchi per far sembrare migliore una macchina che è già molto vicina al suo limite potenziale. In altre parole cercano di monetizzare un prodotto che costa troppo e migliora troppo poco, in un susseguirsi di hype comunicativi.

E quindi ecco che i modelli più recenti vengono declassati a tua insaputa durante l'utilizzo, a realtime, per risparmiare.
Apri l’app, chiedi qualcosa, e ricevi una risposta da un modello “più stupido”.
Perché sei in orario di punta. Perché sei un utente gratuito o che paga poco. Perché il sistema ha deciso così.

Oppure i modelli vengono quantizzati, compressi e semplificati per utilizzare meno risorse. Le variabili in cui vengono trasformati i nostri prompt, passano da essere numeri come 1,04357632 a 1,04 per occupare meno memoria e risultare più veloci.
Ma si perde tutta la precisione, tutta la "intelligence". E una chat che fino a un momento prima dava risposte sensate, improvvisamente pare impazzire o essere completamente idiota.

Infine lavorano sulle nostre richieste, semplificandole, riducendo il numero di token che le compongono.
Meno token significa meno variabili da elaborare, e quindi meno tempo macchina e risorse da utilizzare.
Ma significano anche (di nuovo) perdita di precisione.


Ma quindi cosa succederà?

Fare previsioni è lo sport più facile. Sbagliarle, ancora di più.
Che qualcosa cambierà è certo.
Lo scossone economico arriverà, i soldi facili finiranno, i capitali inizieranno a chiedere conto (hanno già iniziato). Cambieranno alcune carte in tavola, ma il gioco non salterà per aria, perché i servizi e i flussi aziendali in cui l'AI è parte importante e non accessoria sono tantissimi nonostante i cambiamenti di rotta.

Il punto vero sarà rendere l'AI, o meglio i servizi AI, sostenibili. E qui la storia potrebbe ripetersi.
I motori di ricerca non sono nati con le pubblicità. Hanno aspettato. Poi le hanno infilate ovunque.
Netflix e Amazon Prime hanno iniziato senza spot.
OpenAI ha già lasciato intendere che potrebbe fare lo stesso. Magari per chi non paga.

Per molte applicazioni invece la strada sarà, anzi lo è già ora, lo sviluppo di sistemi con modelli propri, bloccati nell'ecosistema aziendale e senza interazioni con il mondo esterno.
Niente accesso al mondo esterno. Niente API. Nessuna creatura gigante da 70 miliardi di parametri. Modelli verticali, con costi molto meno impattanti. 
Esistono degli esempi in tal senso, modelli specializzati in ambito medico (https://sites.research.google/med-palm/ ), legale (https://lawchatgpt.com/ ), finanziario (https://github.com/AI4Finance-Foundation/FinGPT ).

E noi?

Noi, che usiamo l'AI per lavorare (tralascio i fini ludici), dobbiamo continuare a fare quello che stiamo facendo.
Dobbiamo continuare a usarla. Con lucidità.
Non inseguire l’effetto wow.
Non abboccare all’ennesimo aggiornamento che “rivoluziona tutto”.

Essere coscienti che l'AGI non è dietro l'angolo, che l’AI resta uno strumento.
Versatile, potente, utile. Ma sempre uno strumento.
E uno strumento, per definizione, non fa niente da solo.
Serve la testa che lo impugna e che sa come e quando usarlo.