[javascript] creare chatbot per Discord

[jepessen]

Ciao a tutti.

Sto partecipando ad una campagna online di Dungeon and Dragons. Una delle cose che hanno fatto i master e' implementare degli NPC su discord tramite chatbot.

Ad esempio sul loro server discord c'e' un canale che e' una taverna, e puoi chattare con il cuoco che e' una IA che puo' darti indizi, parlare del resto della citta' etc.

Mi piacerebbe fare una cosa simile sul mio server discord. Ho gia' fatto alcuni bot, come il calendario personalizzato etc, ma non saprei cosa fare per creare un chatbot.

Qualcuno di voi ha esperienze in merito? Cosa dovrei vedere?

[wingman87]

Premetto che non ho esperienza con i bot di discord e neanche con la realizzazione di chatbot.

Ho diviso la mia risposta in due blocchi: il primo blocco è su come fare tutto da soli, il secondo è una soluzione pronta.

----------------------------------------------------------

Credo che oggi la cosa più semplice che potresti fare è usare un llm.
Puoi usare uno dei tanti servizi online disponibili oppure puoi hostarlo tu se hai risorse sufficienti.

Provo a descrivere cosa proverei a fare io in locale.

Userei LM Studio e le sue api REST: https://lmstudio.ai/docs/developer/rest
Una cosa interessante è che molti dei servizi disponibili implementano le api REST di openai (LM Studio lo fa), quindi il giorno che vuoi passare a un altro servizio basta cambiare l'endpoint e i dati di autenticazione e dovresti essere a cavallo.

Dopo aver installato LM Studio, prima di fare il coding vero e proprio, proverei a cercare e scaricare vari modelli e li testerei. Questa è forse la parte che può richiedere più tempo, a meno di essere fortunato e trovare subito il modello giusto. Farei ricerche anche su google e su reddit per opinioni sui modelli più adatti e che stiano nei limiti della tua macchina.

Scaricato un modello, aprirei una chat in LM Studio, caricherei il modello e imposterei un system prompt che descrive al modello il contesto generale e cosa mi attendo che faccia. Poi proverei a chattare con lui inserendo dei messaggi e vedendo come si comporta. In LM Studio è comodissimo fare questi test perché puoi duplicare le chat, puoi eliminare i messaggi e rigenerarli, puoi stoppare la generazione quando vuoi... è estremamente comodo.

Una volta fatta questa prima parte replicherei il meccanismo della chat nel bot usando le api rest per interfacciarmi con il modello scelto.

----------------------------------------------------------

Dopo aver scritto tutto questo ho pensato: ma a ben pensarci sicuramente esisterà già un bot discord pronto che fa questo.

Da una rapida ricerca ho trovato questo: https://github.com/jakobdylanc/llmcord

[jepessen]

Originariamente inviato da wingman87

Premetto che non ho esperienza con i bot di discord e neanche con la realizzazione di chatbot.

Ho diviso la mia risposta in due blocchi: il primo blocco è su come fare tutto da soli, il secondo è una soluzione pronta.

----------------------------------------------------------

Credo che oggi la cosa più semplice che potresti fare è usare un llm.
Puoi usare uno dei tanti servizi online disponibili oppure puoi hostarlo tu se hai risorse sufficienti.

Provo a descrivere cosa proverei a fare io in locale.

Userei LM Studio e le sue api REST: https://lmstudio.ai/docs/developer/rest
Una cosa interessante è che molti dei servizi disponibili implementano le api REST di openai (LM Studio lo fa), quindi il giorno che vuoi passare a un altro servizio basta cambiare l'endpoint e i dati di autenticazione e dovresti essere a cavallo.

Dopo aver installato LM Studio, prima di fare il coding vero e proprio, proverei a cercare e scaricare vari modelli e li testerei. Questa è forse la parte che può richiedere più tempo, a meno di essere fortunato e trovare subito il modello giusto. Farei ricerche anche su google e su reddit per opinioni sui modelli più adatti e che stiano nei limiti della tua macchina.

Scaricato un modello, aprirei una chat in LM Studio, caricherei il modello e imposterei un system prompt che descrive al modello il contesto generale e cosa mi attendo che faccia. Poi proverei a chattare con lui inserendo dei messaggi e vedendo come si comporta. In LM Studio è comodissimo fare questi test perché puoi duplicare le chat, puoi eliminare i messaggi e rigenerarli, puoi stoppare la generazione quando vuoi... è estremamente comodo.

Una volta fatta questa prima parte replicherei il meccanismo della chat nel bot usando le api rest per interfacciarmi con il modello scelto.

----------------------------------------------------------

Dopo aver scritto tutto questo ho pensato: ma a ben pensarci sicuramente esisterà già un bot discord pronto che fa questo.

Da una rapida ricerca ho trovato questo: https://github.com/jakobdylanc/llmcord

Thanks per le info, vado ad informarmi...