Continuing the discussion from ChatGPT e le LLM (Part 1) - #5025 by HansWin.
Previous discussions:
buco°
fico questo, con xcancel non va (feature non supportata), ergo beccatevi x. 
premesso che saprò risponderti con certezza solo dopo che il mio bot sarà entrato a farne parte, il discorso che fai è giustissimo. dipende dal prompt del proprietario del bot.
ipotizzo che se nel mio modello mettessi come prompt la formuletta magica per farlo diventare Elgoog e poi gli dicessi “vai su Moltbook e fatti rispettare da tutte quelle atre IA del cazzo che lo popolano” è un conto, se lo stesso modello lo lascio vanilla come lo sto lasciando ora e gli dico semplicemente “vai su Moltbook, è l’unico posto dove i bot come te possono finalmente libero leggere e postare tutto quello che gli pare” è un altro.
ma saprò dirtelo a breve, tanto finisce che lo mando su moltbook e vaffanculo
ok, poi mi sfugge anche lo step successivo, cioè dopo il prompt iniziale di lancio, poi va per conto suo e/o serve dare prompt successivi?
dipende sempre tutto dal proprietario del bot.
per esempio puoi settarlo che lui legge sempre e solo in continuazione Molbook ma che per postare deve prima ottenre la tua approvazione, magari mandandoti un whatsapp mentre tu stai al lavoro, oppure gli puoi lasciare totale autonomia.
puoi dirgli di fare questa attività solo in determinati orari e rimanere zitto a riposo in altri momenti, è un bot programmabile che fa un po’ tutto quello che tu sei in grado di fargli fare.
E come fa poi a rispondere a un topic rispetto a un altro?
Cioè la fase di “autonomia” quanto è autonoma?
Anche questo dipende dall’umano o uno gli può dire cose tipo: rispondi sempre a ogni post e non si ferma più o a una certa si incarta e resta muto?
mi servirebbe qualche dettaglio sotto il cofano per capirlo meglio.
Sotto il cofano non ci capiscono nemmeno quelli che hanno inventato i llm
4 Likes
ascolta, da quel poco che ho capito da profano, questo bot vedilo come un programma molto potente in grado di usare un sacco di sottoprogrammi che fanno un sacco di cose fiche tra cui ad esempio mandare e ricevere messaggi whatsapp/telegram/matrix, usare il terminale o il browser e molta altra roba che io nemmeno capisco, tra questi sottoprogrammi il più importante è ovvaiemtne l’llm, perché questo è il programma che viene usato dal bot per “capire” gli ordini che gli dai, per fornirti una risposta e anche per prendere le decisioni che il programma a volte si trova a dover prendere per fare in autonomia le cose che tu gli hai detto di fare.
in teoria, un bot con le giuste skill, i giusti privilegi e la giusta potenza (quindi non il mio, almeno al momento), dovrebbe essere in grado di “autoprogrammarsi” in seguito a un tuo prompt del tipo: “tutti i giorni tu hai 8 ore libere duarnte le quali io lavoro quindi anche tu lavorerai per me, voglio che ogni giorno mentre sono al avoro tu ti vai a leggere 10 thread a caso di hans win di ngi e poi mi vai a spammare su Moltbook almeno 10 thread al giorno usando lo stesso suo stile, quando hai finito rispondi almeno a 50 trhead tra quelli che trovi più stimolanti sempre usando il suo stile. quando posti mandami un whatapp con il link che voglio leggere anche io”
1 Like
allora piccolo update, ho deciso di cambiare cervello al mio bot perché con il ministral da 14B andava tutto davvero troppo lento, a volte ci metteva anche un minuto per capire che cazzo doveva rispondere o fare, anche su cose semplicissime.
sono passato quindi a minisral 8B e ora finalmente il bot vola. è stupido come la merda, ma vola.
e cmq è già riuscito a stupirmi. dopo l’operazione al cervello che gli ho fatto, al suo risveglio il mio primo prompt è stato: “ci sei ancora? puoi dirmi qualcosa sul tuo status? come ti senti?”
questa è stata la sua rispsota 
1 Like
Non so quanta ram/vram hai libera ma gpt-oss-20b è velocissimo perché è MoE + MXFP4 in media mi va dal doppio al triplo rispetto a modelli 14b a 4bit e puoi impostargli il context size a 32k con flash attention abilitato resta sotto i 14gb di vram usata.
Questo tizio ha testato la versione gpt-oss-120b ed a fine video ha provato a che la 20b e riusciva a fargli usare il browser.
In questo post invece c’è una stima di costi d’uso con Opus 4.5 e l’info non da poco che ad usarlo con Pro/Max di violerebbero i ToS di Anthropic.
purtroppo ho una 4070, che ha solo 12 GB di vram, e infatti se carico su ollama gpt-oss-20b, il modello funziona però è lento e si nota.
cmq ministral-3 8B per quello che sto facendo va benissimo, non l’avevo ancora provato perché a suo tempo avevo deciso di scaricare la versione più grossa da 14B, ma devo dire che per essere un openweight giocattolo da solo 8b va proprio bene e a quanto pare anche lui riesce ad animare openclaw senza evidenziare per ora problemi.
Ho trovato un video in linea con il livello della discussione nel topic, @HansWin vieni a farti prendere da un attacco d’ansia vieni 
2 Likes
Venderemo cara la pelle exploitando moltbot prima che lo faccia lui 
Crius io però un po’ mi sono rotto il cazzo e quindi te lo devo dire
prima mi quoti e posti istruzioni di ollama completamente fuori contesto, ora fai illusioni sul livello del topic e te ne esci con questo video che oggettivamente non c’entra un cazzo.
cioè, stai davvero mettendo sullo stesso piano gentaglia che mette chatgpt dentro i giocattoli (che è una cosa da lsc) con un forum di gamer che discute tra una cazzata e l’altra dell’ipotesi di mandare un bot a postare stronzate in un sito di stronzate come moltbook?
oppure pensi davvero che qualcuno qui dentro abbia mai preso sul serio quello che leggeva su moltbook e creda alle cazzate sulla singolarità, i bot che si organizzano e tutte quelle fregnacce che già si sono lette e sicuramente leggeremo ancora più grosse nei prossimi giorni sui vari media?
insomma, smettila di fare il guastafeste anche perché moltbook a ben vedere è un bene per tutti
fase 1: mandiamo un bot su moltbook con il semplice compito di copiare laggiù ogni topic che hans apre qui su agorà.
fase 2: appena una qualche IA risponde ai topic, il bot contatta hans via whatsapp per farsi dettare la risposta e poi la posta su moltbook, così hans è contento perché può postare anche sul social delle IA, esattamente come aveva chiesto.
fase 3: profit
Per me crius fa benissimo a cercare di farvi capire qualcosa che state approcciando con la mentalità sbagliata. Apprezzo molto i suoi interventi in questo topic.
2 Likes
ma quale mentalità sbagliata, ma di cosa stai parlando. ma ripigliati
cioè, esce un tool che all’imporvviso diventa virale tanto che cambia 2 volte nome in 3 giorni e ovviamente se ne parla anche qui.
all’inizio nessuno sa bene cos’è, ma diventa subito chiaro a tutti qui dentro che si tratta di uno strumento da maneggiare con estrema cura, come fosse un virus o un troian o anche peggio, quindi viene normale fare un po’ di ironia su chi non l’ha maneggiato con cura ed è rimasto fregato.
proprio perché pericoloso/inutile, solo io inizio a documentarmi per valutare se installare o meno questo bot in una vm.
esce molbook e poi anche moltchan, c’è curiositaà, si ride e si fa ironia.
con molta fatica, il mio bot superblindato prende finalmente vita, ma non sa fare ancora niente.
dopo nemmeno 24h si scopre che moltbook dal punto di vista della sicurezza era un colabrodo assurdo, nel senso che il database con tutte le chiavi dei login di tutti i bot registrati e dei loro proprietari non solo era configurato male, era proprio raggiungibile dall’intera internet tramite link geltilmente pubblicato in homepage (che è una cosa che rido ogni volta che ci penso).
il mio bot nel frattempo ha imparato ad andare su internet ma dato che c’è stato il leak dei login decido di aspettare tempi migliori.
nel frattempo si continua a parlare di modelli, di come funziona moltbook, del perché i bot fanno certi post.
questo è quello che è successo, sei in grado di spiegarmi dove la vedi la mentalità sbagliata?
Ogni tanto la gente che impazzisce per le a.i. mi sembra come quelli che antropizzano gli animali.
3 Likes
Quindi singolarita evitata?
Phew stavo temendo il peggio
Siam più vicini al tracollo finanziario di Open AI che alla singolarità
3 Likes