Sul topic consiglio questo video consiglio Patrick Boyle (beh consiglio Patrick su tutto, fosse solo per il suo humor)
Is AI’s Circular Financing Inflating a Bubble?
TL:DR: Stanno facendo un circle jerk, ma le compagnie che lo stanno facendo in primo luogo (con l’eccezione degli AI Labs) sono infatti super profitable e le loro valutazioni sono si alte, ma non folli.
So, who knows
Eh, questo è un bel tema.
Entriamo in un territorio inesplorato, comunque lo sanno tutti che è un problema. Lo sanno da anni o forse anche di più.
L’ho già sentito dire in un altra bolla (le auto a guida autonoma, entro 3 anni non guideremo più 
), è una cosa che prima o poi andrà affrontata. Io non ho idea di come la sistemeremo, ma sono convinto che sarà inevitabile.
Se hai un IA che riconosce il tumore meglio di un medico, è impensabile non usarla perchè ogni tanto sbaglia pure lei. E’ come non vaccinarsi perché un vaccino su un milione da affetti avversi.
Qui non sono mica d’accordo, la verità è che tante cose che facciamo in realtà le “conseguenze” potrebbero essere limitate o nulle.
Un conto è tradurre l’ultimo libro di Stephen King, un conto è tradurre il manuale di istruzioni dello spazzolino elettrico.
E’ chiaro che una di queste cose ha conseguenze talmente ridotte che l’efficienza spianerà la strada. E non a caso gli LLM stanno attecchendo soprattutto lì.
L’ho detto qualche post fa, io stesso produco spesso mail che nessuno leggerà approfonditamente, documenti che non verranno visti, report che verranno ignorati. Lì l’IA farà messe.
Beh non facciamo l’errore di ragionare per bianco/nero, le AI in questo contesto sono strumenti, andrebbero usate come un bloom filter al contrario, ovvero l’AI ti trova più tumori di un umano dall’analisi delle tac? Bene, glielo fai fare per diverse volte e poi l’umano specializzato controlla i risultati negativi per vedere che non sia sfuggito qualcosa all’AI, sommando così la percentuale di successo dell’AI con la percentuale di successo dell’umano, in un decimo del tempo di oggi dove solo l’umano fa i controlli. Ed è un vantaggio enorme, e lo stesso vale per altri settori.
Anch’io uso l’AI per il codice, ma non mi sognerei mai di fargli fare tutto da sola, io controllo il suo output e via, pare una perdita di tempo ma in realtà mi sta fornendo un servizio da pair programmer enorme.
Riguardo al discorso coscienza non è che sto immaginando che venga ricercata appositamente come scopo, ma ho il sospetto che possa emergere dalla complessità sempre maggiore che avranno questi modelli, e non è detto che debba essere uguale alla nostra, ma è possibile che possa manifestarsi dal momento che non ne conosciamo i meccanismi, inoltre vorrei ricordare che tutte le caratteristiche emergenti che sono uscite dagli LLM non erano by design ma sono emerse “per caso”.
EDIT: Per fare un paragone, è come se stessimo giocando col DNA per vedere cosa salta fuori, solo che lo stiamo facendo su qualcosa che al contrario di un test in vitro è l’equivalente di un umano sviluppato per qualche anno dopo il test e la clonazione, quindi eticamente stiamo “rischiando” di creare qualcosa di assimilabile a vita con una protocoscienza e se capita ce la troveremo fra le mani e non sapremo che fare.
Ma non è quello il punto, il mio punto è che se un’AI fa un certo compito meglio di un essere umano non è che la escluderemo solo perché non sappiamo come attribuirle una responsabilità.
Io prevedo facile che piuttosto troveremo un metodo per venire a patti con questa cosa.
Prima o poi le auto a guida autonoma arriveranno sul serio, non credo ci rinunceremo solo perché attualmente non siamo in grado di dire di chi sarà la colpa di eventuali incidenti. Troveremo il modo di normare pure questo.
Questo è un modo, però vedi, hai già trovato un certo modello. L’AI “crea”, tu controlli e immagino che tu ti prendi la responsabilità finale di quello che esce. Suppongo che in alcuni casi andrà così, in altri forse sarà diverso.
Chi lo sa, è un mondo all’inzio.
Certo, è possibile, ma come dice Cristianini andiamoci piano a dire che è certo. Allo stato attuale delle cose tutte le previsioni sono azzardate.
L’esperienza che ho dell’essere umano non mi dice che queste cose ci hanno mai troppo fermato.
E’ come quando abbiamo iniziato a sperimentare la fisica subatomica e in capo a qualche decennio ti sei trovato sia il CERN che un mondo zeppo di testate nucleari.
Purtroppo io temo che l’attività di ricerca in questo senso sia intrinsecamente pericolosa. L’unico modo di non uscire con merdoni sarebbe non ricercare nulla, per il resto si scoprono cose e poi è responsabilità nostra come usarle.
PS: giocare con DNA mi ricorda di quando si bombardavano i semi di grano con i raggi gamma per vedere se saltava fuori del grano migliore (grano Creso, sì, sto parlando di te).
lato biotech c’è anche il rischio (già andato oltre la fase del paventato, e passato alla fase del “visto succedere” e “contromisure in corso”) della generazione via llm di proteine dannose.
In October 2023, two scientists at Microsoft discovered a startling vulnerability in a safety net intended to prevent bad actors from using artificial intelligence tools to concoct hazardous proteins for warfare or terrorism.
Those gaping security holes and how they were discovered were kept confidential until Thursday, when a report in the journal Science detailed how researchers generated thousands of AI-engineered versions of 72 toxins that escaped detection. The research team, a group of leading industry scientists and biosecurity experts, designed a patch to fix this problem found in four different screening methods. But they warn that experts will have to keep searching for future breaches in this safety net.
Poi, siccome la cosa è interessante, ci sono alte cose che rappresentano un problema per le IA.
Per il software tradizionale abbiamo decenni di studi, piattaforme e best practice per valutare l’affidabilità e la conformità di prodotti software.
Per l’IA non c’è NIENTE, nessun tool, nessun metodo riconosciuto, nessuno standard industriale in grado di valutare quanto un IA è “buona” su un compito.
E’ tutto da inventare da zero, ci vorranno anni o decenni. Nel frattempo chi la usa lo fa a suo rischio e pericolo.
–
Un’idea che mi sono fatto. mentre nel SW tradizionale si tende alla perfezione, cioè si fa ogni sforzo affinché il programma non sbagli mai. mi sono fatto l’idea che l’IA DEVE poter sbagliare ogni tanto per migliorarsi.
Forse dovremo arrivare al fatto che ogni tanto un errore è inevitabile e non possiamo dobbiamo più tendere all’errore zero.
Questa è un’idea mia, però mi viene da pensarlo perchè in effetti l’IA assomiglia più a noi (che siamo fallibili) che a un computer (che noi pensiamo come un oggetto potenzialmente infallibile).
Mi da come l’idea che sia un mercanteggiare fra potenzialità e infallibilità, se vuoi qualcosa di infallibile hai limiti alle potenzialità che può esprimere, se vuoi qualcosa di potete hai limiti alla sua fallibilità.
Una sorta di principio di indeterminazione di Heisenberg applicato alla capacità di fare cose.
Record di revenues nell’ultimo quarto da parte di alphabet
tirato proprio dal Cloud, AI ecc.
Riposto questa immagine per dare anche un po’ di contesto alla “bolla”
E questa risorsa molto utile ( e un po’ paracula che ricorda coinmarketcap 
) a guardare marketcaps, revenues, p/e ratio ecc.
Potete notare che le revenues annuali di Nvidia sono meno della metà di Alphabet che si candida come potenziale rivale con le sue TPU nel Cloud a questo punto.
forse forse qualcuno si fa qualche domanda
Comunque questa non è una bolla ma semplice operazioni di strozzinaggio 
https://www.hdblog.it/business/articoli/n638894/microsoft-nvidia-investimenti-anthropic/
praticamente è un prestito con tasso di interesse al 100%
Se hanno i ricavi non scoppia la bolla, comunque la roba assurda è che potrebbero comprarsi con quelle cifre le utilities del settore energetico e investirci pesantemente ad esempio General Electric è con le pezze al culo e sono anche quelle che potrebbero produrre reattori nucleari.