Da quando OpenAI ha presentato al mondo ChatGPT tutti quanti lo hanno usato per qualsiasi domanda, dalle più svariate e tecniche, come fosse perfetto in ogni cosa. Dalla sanità all’istruzione alla tecnologia, questo chatbot ogni giorno migliora ma aumentano anche le aspettative degli utenti che cercano in lui una risposta a tutto.
Fino a qualche settimana fa, però, ChatGPT era addestrato su un modello di linguaggio con dati aggiornati al 2021 e quindi le risposte potevano tranquillamente essere obsolete. L’aggiornamento arrivato poco fa (la versione 4) porta invece il nostro chatbot ad avere una risposta sempre più pronta, immediata e precisa. Ma qual’è davvero il limite di questa tecnologia?
ChatGPT è grandioso… ma ha dei limiti
Il primo grande (enorme) limite di ChatGPT è proprio la connessione internet. Senza connessione il chatbot di OpenAI non può funzionare perchè prende la capacità di parlare proprio dalla rete e dai dati sul web. Inoltre, essendo addestrato dai dati online è destinato ad avere gli stessi identici pregiudizi e inesattezze del web come possono essere delle semplici fake news.
“Non vogliamo distruggere l’alfabetizzazione, ma le calcolatrici hanno distrutto la matematica?”
Toby Walsh, professore di AI presso l’università di New South Wales
Un altro limite di ChatGPT è la capacità di calcolo. Se gli si chiede semplici domande matematiche come addizioni, sottrazioni, divisioni o anche qualche equazione lui riesce semplicemente a farla ma appena si sale leggermente di livello il bot vacilla e non sa rispondere. Altro limite, come detto precedentemente, è che avendo solo dati presi online non potrà mai avere un quoziente emotivo non contestualizzando le frasi dette in maniera diversa dall’inglese, restituendo magari risposte decisamente errate.
Today I asked ChatGPT about the topic I wrote my PhD about. It produced reasonably sounding explanations and reasonably looking citations. So far so good – until I fact-checked the citations. And things got spooky when I asked about a physical phenomenon that doesn’t exist.
— Teresa Kubacka (@paniterka_ch) December 5, 2022
Anche la capacità di riassumere un testo non è perfetta, infatti decine di migliaia di persone al mondo hanno testato questa possibilità ma molte volte i testi scritti da ChatGPT non avevano un filo logico. Molte frasi sono sconnesse l’una con l’altra o magari sforava i limiti imposti dalla domanda stessa (per esempio “Scrivi un articolo di 300 parole”).
LEGGI ANCHE: ChatGPT è veramente utile per il giornalismo?
Ma di chi è quindi la colpa di questi limiti? In realtà di nessuno, o di tutti a seconda dei punti di vista. Il limite vero e proprio di ChatGPT è internet stesso che si modifica e cresce ogni singolo secondo. La cosa importante è quindi non dare per scontato nulla, neanche quello che dice il chatbot più potente al mondo, ma informarsi su ogni cosa, perchè tutti possiamo fallire, anche la tecnologia stessa.
Fonte: 1
