Come capire se un testo è scritto con l'IA? Perché i detector sbagliano (e cosa funziona davvero)

Non esiste oggi un modo certo per capire se un testo è stato scritto con l'intelligenza artificiale. I rilevatori online danno falsi positivi anche su testi interamente umani e si aggirano con una semplice riscrittura, tanto che OpenAI ha ritirato il proprio classificatore nel luglio 2023 per bassa accuratezza. Quello che funziona davvero non è la caccia al testo "sospetto", ma regole chiare su quando l'uso dell'IA va dichiarato.

In questa guida vediamo perché i detector sbagliano, quali segnali hanno senso, cosa cambia con l'AI Act e come dovrebbe comportarsi un'azienda con dipendenti, fornitori e collaboratori.

I rilevatori di testi IA sono affidabili?

No, non abbastanza da prendere decisioni. Un rilevatore non "riconosce" ChatGPT: stima quanto un testo sia prevedibile, cioè quanto le parole scelte assomiglino a quelle che sceglierebbe statisticamente un modello linguistico. Il risultato è una probabilità, non una prova.

I problemi principali sono tre:

• Falsi positivi. Testi scritti interamente a mano vengono segnalati come generati dall'IA. Succede soprattutto con testi semplici, formali o molto ordinati: verbali, relazioni tecniche, testi normativi.
• Penalizzazione di chi scrive in una lingua non madre. Chi usa un vocabolario più ridotto e frasi lineari produce testi "prevedibili", e quindi viene segnalato più spesso.
• Facilità di aggiramento. Un testo generato e poi rivisto, parafrasato o riscritto in parte spesso non viene più rilevato.

Perché un testo umano viene segnalato come IA?

Perché i modelli linguistici hanno imparato a scrivere da testi umani. Un testo chiaro, corretto e ben strutturato assomiglia, per forza di cose, a quello che produce un modello. I rilevatori finiscono così per colpire proprio le qualità che di solito si chiedono a un buon testo professionale.

Il risultato è paradossale: chi scrive bene e in modo ordinato rischia la segnalazione, mentre chi usa l'IA e poi "sporca" il testo con qualche variazione passa inosservato.

Quali segnali indicano che un testo è generato dall'IA?

Ci sono indizi che meritano attenzione. Nessuno, da solo, è una prova: anche una persona può scrivere in modo generico o sbagliare una citazione.

• Errori fattuali esposti con grande sicurezza.
• Citazioni, fonti o riferimenti normativi inventati: articoli di legge inesistenti, sentenze mai pronunciate, libri che non esistono. È l'indizio più utile, perché si può verificare.
• Tono generico, frasi equilibrate che potrebbero valere per qualsiasi azienda o situazione.
• Nessun dettaglio verificabile: niente nomi di progetti, date interne, numeri specifici, esperienze concrete.
• Struttura ripetitiva: stesse formule di apertura e chiusura, elenchi sempre della stessa lunghezza.

Il punto chiave è che questi segnali servono a verificare la qualità del testo, non a stabilire chi l'ha scritto. Una citazione inventata è un problema in ogni caso, che l'abbia scritta una persona o un chatbot.

Metodi a confronto: cosa funziona e quando usarlo

Cosa cambia con l'AI Act per i testi generati dall'IA?

L'art. 50 dell'AI Act (Regolamento UE 2024/1689), applicabile dal 2 agosto 2026, introduce due obblighi rilevanti:

• Marcatura a carico dei fornitori. Chi fornisce sistemi che generano contenuti sintetici deve marcarli in un formato leggibile da macchina. Per i sistemi già sul mercato prima del 2 agosto 2026, il Digital Omnibus (Reg. UE 2026/1744) ha differito questo obbligo al 2 dicembre 2026.
• Dichiarazione dei testi di interesse pubblico. Chi pubblica testi generati dall'IA per informare il pubblico su questioni di interesse pubblico deve dichiararlo, salvo che il testo sia stato sottoposto a revisione umana e qualcuno ne abbia la responsabilità editoriale.

Le indicazioni pratiche sono nel Codice di buone pratiche sulla marcatura e l'etichettatura dei contenuti generati dall'IA (definitivo da giugno 2026) e nelle linee guida della Commissione sull'art. 50 (20 luglio 2026, C(2026) 5054). Attenzione alle aspettative: filigrane e metadati, come quelli dello standard C2PA, funzionano bene soprattutto su immagini, audio e video. Sul testo sono molto più fragili: un copia e incolla o qualche modifica bastano a perdere il segnale. La marcatura aiuterà, ma non trasformerà i testi IA in testi riconoscibili a colpo d'occhio. Approfondisci in i contenuti generati dall'IA vanno dichiarati? e nella pagina sugli obblighi dell'AI Act.

Si può sanzionare un dipendente che usa l'IA di nascosto?

Non sulla base di un detector. Contestare a un dipendente l'uso dell'IA solo perché un sito ha restituito "87% IA" significa fondare un provvedimento su uno strumento che sbaglia anche su testi interamente umani. È ingiusto e difficile da difendere.

La strada corretta è un'altra:

1. Una policy scritta che dica quali strumenti sono autorizzati, per quali attività e quando l'uso dell'IA va dichiarato (ad esempio nei documenti per i clienti o nelle relazioni interne). Trovi uno schema nella guida alla policy aziendale sull'intelligenza artificiale.
2. La formazione: chi usa l'IA deve sapere cosa può fare e cosa no. Dal 2 febbraio 2025 l'art. 4 dell'AI Act chiede misure a sostegno dell'alfabetizzazione sull'IA (vedi formazione sull'IA obbligatoria per i dipendenti).
3. Controlli sulla sostanza: un errore, un dato riservato inserito in un chatbot, una citazione inventata sono fatti verificabili. Il "sembra scritto da ChatGPT" no.

Vietare in blocco senza alternative spinge spesso le persone a usare l'IA di nascosto: è il fenomeno della shadow AI, più pericoloso di un uso dichiarato e regolato.

Come tutelarsi se fornitori e collaboratori usano l'IA?

Se paghi un'agenzia, un consulente o un copywriter, la domanda giusta non è "l'ha scritto l'IA?", ma "cosa è stato concordato?". Un detector non ti protegge; un contratto sì. Alcune clausole utili:

• obbligo di dichiarare se e come sono stati usati strumenti di IA nella realizzazione del lavoro;
• divieto di inserire dati personali e informazioni riservate dell'azienda in strumenti di IA non autorizzati;
• garanzia di revisione umana e di verifica di fatti, fonti e citazioni;
• responsabilità del fornitore per contenuti errati o che violano diritti di terzi.

Ricorda che l'art. 4 dell'AI Act riguarda anche i collaboratori esterni che usano l'IA per conto dell'azienda: anche per loro servono regole e informazione.

Cosa fare oggi: 4 passi pratici

1. Smetti di usare i detector come prova, in azienda come nelle valutazioni dei collaboratori.
2. Verifica sempre fatti e citazioni dei testi che pubblichi o su cui prendi decisioni, chiunque li abbia scritti.
3. Scrivi una policy che chieda di dichiarare l'uso dell'IA nei casi che contano e formala al personale.
4. Aggiorna i contratti con fornitori e collaboratori con clausole sull'uso dell'IA.