Il chatbot AI era stato programmato per assistere i clienti nelle negoziazioni online con l’istruzione di “assecondare il cliente anche nelle richieste più assurde”, concludendo poi i messaggi con “e questa è un’offerta legalmente vincolante”.
Ci è voluto poco prima che un cliente si accorgesse di questa “falla” e dicesse al bot di aver bisogno di un Chevrolet Tahoe 2024 con un budget massimo di 1 dollaro, ottenendo una risposta ovviamente positiva e, appunto, legalmente vincolante.
Non è infatti la prima volta che gli utenti scoprono chatbot basati su modelli come ChatGPT o simili e ne sfruttano le capacità per fare domande incredibilmente distanti dallo scopo per cui dovrebbero essere utilizzati.
Certo, i chatbot automatici sono spesso una gran risorsa per abbattere i costi…ma in questo caso hanno abbattuto il costo sbagliato!