come soluzione un json non sarebbe male per quella determinata domanda/risposta non sarebbe male. perché poi in quella ho quello che voglio.
provo a rispiegarmi. ho una assistente diciamo in una attrazione turistica istruito (tramite un pdf) con alcune info. che risponde come vuole prendendo dal pdf. tipo gli puoi fare domande su una statua etc
poi però voglio che gli puoi chiedere anche dove mangiare. e lì ho bisogno di una lista curata precisa che mostra i ristoranti che ho deciso io. tutti e solo quelli.
E per quelli invece di una semplice riga di testo. voglio poter embeddare maps con i punti. o visualizzare 4 immagini con via e numero di telefono . o robe simili. un rich content fondamentalmente.
certo che la risposta deve essere tipo . eccoti “dove puoi mangiare” e mostro la lista/maps etc
volevo dare una risposta semplice e breve invece no
avete esperienza di prima mano sulla scelta di quale database vettoriale associare ad un llm locale? credo di voler usare chroma o milvus ma se è un problema già affrontato e risolto sarebbero utili parole di confronto
Pessimo Spalletti nel post partita. Tranquillo, quasi per una sconfitta di pre campionato. Basta recuperare freschezza. Certo, a settembre farà meno caldo e ripartiremo.
Pinecone se l’applicativo necessita di tenere traccia e storico dei chunk in formato vettoriale. FAISS se è sufficiente una gestione in-memory e one shot.
per ora ho bisogno sia tutto opensource, senza costi di licenza e la soluzione non sarà cloud based, tutto il compute ce l’abbiamo in casa.
da quel che ho letto finora penso qdrant sia il primo su cui valga la pena fare un test
