Come sapere se un articolo è stato scritto da ChatGPT

La tecnologia AI sta cambiando ciò che vediamo online e il modo in cui interagiamo con il mondo. Da una foto di metà viaggio del Papa in piumino a modelli di apprendimento delle lingue come ChatGPT, l'intelligenza artificiale si sta facendo strada nelle nostre vite.

Gli usi più sinistri della tecnologia AI, come una campagna di disinformazione politica che fa esplodere articoli falsi, significano che dobbiamo istruirci abbastanza per individuare i falsi. Quindi, come puoi sapere se un articolo è effettivamente un testo generato dall'intelligenza artificiale?

Come sapere se ChatGPT ha scritto quell'articolo

Attualmente esistono diversi metodi e strumenti per aiutare a determinare se l'articolo che stai leggendo è stato scritto da un robot. Non tutti sono affidabili al 100% e possono fornire falsi positivi, ma offrono un punto di partenza.

Un grande indicatore del testo scritto dall'uomo, almeno per ora, è la casualità. Mentre le persone scriveranno usando stili e slang diversi e spesso commetteranno errori di battitura, i modelli di linguaggio AI molto raramente commettono questo tipo di errori. Secondo MIT Technology Review, "il testo scritto dall'uomo è pieno di errori di battitura ed è incredibilmente variabile", mentre i modelli di testo generati dall'intelligenza artificiale come ChatGPT sono molto più bravi a creare testo senza errori di battitura. Naturalmente, un buon copy editor avrà lo stesso effetto, quindi devi fare attenzione a qualcosa di più della semplice ortografia corretta.

Un altro indicatore sono i modelli di punteggiatura. Gli umani useranno la punteggiatura in modo più casuale di quanto potrebbe fare un modello di intelligenza artificiale. Il testo generato dall'intelligenza artificiale di solito contiene anche più parole di collegamento come "the", "it" o "is" invece di parole più grandi usate più raramente perché i modelli linguistici di grandi dimensioni operano prevedendo quale parola sarà più probabile che venga dopo, non trovando qualcosa che suonerebbe bene come potrebbe fare un essere umano.

Questo è visibile nella risposta di ChatGPT a una delle domande stock sul sito Web di OpenAI. Alla domanda "Puoi spiegare il calcolo quantistico in termini semplici", ottieni frasi del tipo: "Ciò che rende speciali i qubit è che possono esistere in più stati contemporaneamente, grazie a una proprietà chiamata sovrapposizione. È come se un qubit potesse essere sia uno 0 che un 1 contemporaneamente. "

Vengono usate regolarmente parole di collegamento brevi e semplici, le frasi hanno tutte una lunghezza simile e tutti i paragrafi seguono una struttura simile. Il risultato finale è una scrittura che suona e sembra un po' robotica.

Puoi usare l'intelligenza artificiale per rilevare il testo generato dall'intelligenza artificiale?

Gli stessi modelli linguistici di grandi dimensioni possono essere addestrati per individuare la scrittura generata dall'IA. L'addestramento del sistema su due serie di testo, uno scritto dall'intelligenza artificiale e l'altro scritto dalle persone, può teoricamente insegnare al modello a riconoscere e rilevare la scrittura dell'IA come ChatGPT.

I ricercatori stanno anche lavorando su metodi di watermarking per rilevare articoli e testo di intelligenza artificiale. Tom Goldstein, che insegna informatica all'Università del Maryland, sta lavorando a un modo per creare filigrane nei modelli di linguaggio AI nella speranza che possa aiutare a rilevare la scrittura generata dalla macchina anche se è abbastanza buona da imitare la casualità umana.

Invisibile a occhio nudo, la filigrana sarebbe rilevabile da un algoritmo, che la indicherebbe come umana o generata dall'intelligenza artificiale a seconda della frequenza con cui ha aderito o infranto le regole della filigrana. Sfortunatamente, questo metodo non è stato testato così bene sui modelli successivi di ChatGPT.

Strumenti per verificare se un articolo è stato scritto da ChatGPT

Puoi trovare più strumenti di copia e incolla online per aiutarti a verificare se un articolo è generato dall'intelligenza artificiale. Molti di loro utilizzano modelli linguistici per scansionare il testo, incluso lo stesso ChatGPT-4.

L'intelligenza artificiale non rilevabile, ad esempio, si propone come uno strumento per rendere la tua scrittura di intelligenza artificiale indistinguibile da quella di un essere umano. Copia e incolla il testo nella sua finestra e il programma lo confronta con i risultati di altri strumenti di rilevamento AI come GPTZero per assegnargli un punteggio di probabilità: in pratica controlla se altri otto rilevatori AI penserebbero che il tuo testo sia stato scritto da un robot.

L'originalità è un altro strumento, rivolto a grandi editori e produttori di contenuti. Afferma di essere più preciso di altri sul mercato e utilizza ChatGPT-4 per aiutare a rilevare il testo scritto dall'intelligenza artificiale. Altri strumenti di controllo popolari includono:

• GPTZero
• Copyleaks
• scrittore

La maggior parte di questi strumenti fornisce un valore percentuale, come 96% umano e 4% AI, per determinare la probabilità che il testo sia stato scritto da un essere umano. Se il punteggio è del 40-50% AI o superiore, è probabile che il pezzo sia stato generato dall'IA.

Mentre gli sviluppatori stanno lavorando per migliorare questi strumenti nel rilevare il testo generato dall'IA, nessuno di essi è totalmente accurato e può contrassegnare erroneamente i contenuti umani come generati dall'IA. C'è anche la preoccupazione che, poiché i modelli di linguaggi di grandi dimensioni come GPT-4 stanno migliorando così rapidamente, i modelli di rilevamento stiano costantemente recuperando terreno.

Allena il tuo cervello per catturare l'intelligenza artificiale

Oltre a utilizzare gli strumenti, puoi allenarti a catturare i contenuti generati dall'intelligenza artificiale. Ci vuole pratica, ma col tempo puoi migliorare.

Daphne Ippolito, una ricercatrice senior presso la divisione AI di Google, Google Brain, ha creato un gioco chiamato Real Or Fake Text (ROFT) che può aiutarti a separare le frasi umane da quelle robotiche insegnandoti gradualmente a notare quando una frase non sembra corretta .

Un indicatore comune del testo AI, secondo Ippolito, sono affermazioni prive di senso come "ci vogliono due ore per fare una tazza di caffè". Il gioco di Ippolito è in gran parte incentrato sull'aiutare le persone a rilevare questo tipo di errori. In effetti, ci sono stati più casi in cui un programma di scrittura di intelligenza artificiale affermava fatti imprecisi con totale sicurezza: probabilmente non dovresti nemmeno chiedergli di svolgere il tuo compito di matematica, poiché non sembra gestire molto bene i calcoli numerici.

In questo momento, questi sono i migliori metodi di rilevamento che abbiamo per catturare il testo scritto da un programma di intelligenza artificiale. I modelli linguistici stanno migliorando a una velocità che rende gli attuali metodi di rilevamento obsoleti piuttosto rapidamente, lasciandoci, come scrive Melissa Heikkila per MIT Technology Review, in una corsa agli armamenti.

CORRELATO: Come controllare i fatti ChatGPT con Bing AI Chat