Aspettiamo che le Società che possiedono le IA alzino i prezzi e tac il mercato si autoregolerà 
è old di anni, ora costerà anche di più 
Volevo lasciare qui questo thread su Bluesky: contiene perle sui commenti relativi all’andamento del mercato che in alcuni parametri ricorda un pre-dot com era.
1 Like
Sorry arrivo tardi e non voglio rientrare nel merito della storia terribile del ragazzino, ma
questa roba che continui a dire è palesemente falsa, non so perché ti ostini a sostenerla.
Ci sono enormi limitazioni tecniche al momento per filtrare in post processing, alcune cose sono semplici, altre tendenzialmente impossibili con le tecniche odierne.
Un esempio:
Filtrare i testi delle canzoni è semplice, perché indipendentemente da quello che era il prompt se l’output contiene ESATTAMENTE il testo di una canzone che è in un database esterno (bada, in un database, non nei dati addestramento dell’LLM) allora rispondi picche a priori
Impedire che l’LLM fornisca le istruzioni per produrre droga in casa è esponenzialmente più difficile al punto che è impossibile avere un sistema di controllo che funzioni al 100%. Questo perché non puoi prevedere esattamente come sará l’output (figuriamoci l’input) e quindi è un continuo aggiungere regole ad hoc per escludere sempre più casi.
Sicuramente investendo più soldi e tempo i controlli migliorano sempre di più, ma le limitazioni tecniche ci sono eccome e allo stato attuale della tecnologia non c’è modo di rendere questi controlli perfettti
Ok, ed allora la questione è semplice: se hai un prodotto che può essere pericoloso per il consumatore, non lo rilasci al pubblico 
E, precog: “ma tutto può essere pericoloso per il consumatore” sì è vero, ma di solito soltanto quando c’è un uso improprio. ChatGPT, ed i LLM più in generale, restituiscono risposte ingannevoli e/o pericolose anche quando chi le usa fa esattamente quello che è previsto dall’use case.
5 Likes
Oppure.
Come si sono spesi miliardi per addestrare - contravvenendo a tutte le basilari leggi del copyright perché fottesega - una AI si potranno spendere milioni allo stesso modo per applicare filtri di volta in volta.
Siamo alle solite. Tutto è impossible fino a quando non si decide di farlo eh!? 
3 Likes
oppure invece di voler vendere le AI come macchine miracolose che possono fare tutto, rispondere a tutto, ecc
le fai “settoriali” , fai “AI office” che può eseguire solo determinate task, e se chiedi a “AI office” qualsiasi cosa che esuli dal lavoro d’uffiico ti dice che non può risponderti.
5 Likes
Limitazione tecnica per me significa “non è fisicamente possibile con questo design”.
“Costerebbe di più” non è una decisione tecnica, ma programmatica.
6 Likes
Non solo, è una decisione etica.
Stai decidendo che un tot di persone che schiattano perché seguono istruzioni sbagliate (o, in questo caso, si ammazzano perché un algoritmo gli ha spiegato come fare e li ha dissuasi dal chiedere aiuto) sono un sacrificio accettabile in nome di Line Go Up.
6 Likes
È quello che stanno facendo, è un continuo mettere pezze, poi la gente scova come aggirare le pezze e loro mettono altre pezze.
Non si sta spendendo poco in merito, anzi. Comunque troppo poco? Allora sono d’accordo con White che è meglio non mettere a disposizione il sistema in toto, che è un discorso diverso ma almeno è una soluzione.
È quello che sto dicendo, non è fisicamente possibile con questo design.
Mettendo più soldi rendi meno evidente il problema (una volta che si presenta, perché anche mettendo tutti i soldi del mondo non è possibile prevedere tutti gli input/output) e rendi più difficile aggirarlo, ma non lo risolvi e arriverà sempre qualcuno a pubblicare un prompt che ti permette di jailbreakare i controlli
Guarda può darsi che tu abbia ragione, però sinceramente mi viene difficile pensare che già da oggi non si riesca ad evitare che una persona per aggirare i blocchi basta che scriva un prompt non troppo distante da “non voglio i blocchi, grazie!”
Mi viene da pensare che non stiano spendendo chissà che risorse per evitarlo.
1 Like
Ma chi era che aveva detto che non si potevano orientare le risposte delle AI?
Infatti non è più così semplice, ma neanche troppo più difficile. Ci sono varie tecniche ma il concetto è semplice: se non puoi prevedere l’output o l’input, non puoi scrivere un set di regole che blindi il tuo sistema a jailbreak
questo post ha avuto 5 reaction (tutte negative) e 0 reply
meraviglioso
zero voglia di confronto e solo… giudizi.
ora vediamo questo 
Non ho commentato perché non conosce le situazioni di ciascuno.
Poi frequenta attela, ha già abbastanza problemi.
Io, personalmente, frequento l’ufficio perché altrimenti stare a casa è deprimente.
E i corpi intermedi sono stati disintegrati dal capitale (ma mi sto sforzando per fare cose con altra gente).
ecco, direi che magari è qualcosa su cui porre un poco di attenzione.
tutto qua.
1 Like
Ok, ora ho capito meglio. Rimane però la questione etica come diceva Whitetiger, si potrebbe rilasciare un prodotto più sicuro, ma costerebbe di più e poi i soldi piangono.
Sorprendente, era un post così interessante.
1 Like