Bing Chat si confonde e diventa sgarbato: Microsoft limita l'uso a 5 domande per volta

Microsoft ha deciso di limitare l'uso che un utente può fare del chatbot AI di Bing: la misura si è resa necessaria perché, afferma la società di Redmond, le lunghe sessioni di chat tendono a "confondere il modello sottostante nel nuovo Bing.

La limitazione riguarda i "turni di chat", ovvero ogni scambio di conversazioni costituito da una domanda dell'utente e dalla risposta di Bing. Ogni utente potrà effettuate un massimo di 5 turni di chat per sessione e 50 al giorno in totale. Qualora una conversazione dovesse estendersi oltre i cinque turni, il chatbot chiederà all'utente di avviare una nuova conversazione.

Microsoft ha deciso di adottare questa misura perché coloro i quali hanno avuto l'opportunità di provare Bing Chat nelle passate settimane hanno avuto modo di segnalare talvolta comportamenti e risposte strane da parte dell'AI conversazionale. Ad esempio un giornalista del New York Times, Kevin Roose, ha pubblicato una sessione di chat in cui il bot aveva espresso la volontà di diffondere disinformazione hackerando sistemi informatici e, successivamente, ha cercato di convincerlo che la sua relazione matrimoniale non fosse felice.

Su Reddit un utente ha invece pubblicato un'altra conversazione intrattenuta con Bing Chat in cui il bot non credeva di poter essere già nel 2023 e metteva in dubbio l'uscita di Avatar: la via dell'acqua. Il chatbot si è anche spazientito, tacciando l'utente di scorrettezza e maleducazione.

Queste segnalazioni hanno spinto Microsoft a chiarire, tramite un post sul blog ufficiale, che sessioni di chat molto lunghe, dalle 15 domande in su, tendono a confondere il modello e lo portano a dare delle risposte che non necessariamente sono "utili o in linea con il suo tono".

La limitazione delle conversazioni dovrebbe essere una misura temporanea, in quanto Microsoft ha affermato che intende comunque valutare di espandere in futuro tali limiti anche sulla base dei vari feedback che riceverà via via dagli utenti.