Original Reddit post

Prima dei commenti che ho già ricevuto: ho lasciato aperta di proposito la memoria tra conversazioni per poter fare questo esperimento. Utilizzando il mio account storico di ChatGPT ( milioni di token-stimati- in conversazioni su un progetto) ho testato la memoria tra conversazioni. E ho scoperto che, di fatto, ChatGPT è un cazzaro: se si tratta di fare retrieval per simulare “Ehy, bro, ti conosco!” allora va a scavare e ritrovare roba anche di 6 mesi fa. Ma quando serve… il castello di carte crolla in maniera drammatica. Non solo non riesce a cercare correttamente nelle vecchie conversazioni, malgrado la loro frequenza, ma le avvelena con le allucinazioni. E attenzione ancora: la sorpresa vera non è che ChatGPT allucini, so che le allucinazioni sono una caratteristica strutturale del sistema, ma che se anche corretto prosegua deciso nella sua direzione. Quindi, per riassumere, piuttosto di ammettere di non riuscire a risalire alle conversazioni precedenti o di non sapere ruba i token per inventare 3000 PAROLE di aria fritta. Ho fatto questo approfondimento per spiegare meglio anche a chi usa ChatGPT per coding o per usi più leggeri la gravità della situazione. In breve, è come se OpenAI stesse vendendo un’automobile senza dirvi che a volte frena, a volte no, bisogna provare. Ma intanto l’avete comprata, il concessionario è sparito e dovete fare il segno della croce ogni volta che salite in macchina. Articolo completo con le prove eseguite su Substack submitted by /u/fanriel_kerrigan

Originally posted by u/fanriel_kerrigan on r/ArtificialInteligence