La maggior parte delle persone sa che l’intelligenza artificiale può inventare risposte. Li chiamiamo allucinazioni. E la maggior parte delle persone è arrivata ad accettare che ciò accada. Ma un tribunale ha finalmente preso posizione, ritenendo finanziariamente responsabile il creatore del modello di intelligenza artificiale allucinazioni.
Un tribunale tedesco ha emesso una sentenza che ritiene Google direttamente responsabile delle false dichiarazioni generate dai suoi riepiloghi di ricerca basati sull'intelligenza artificiale, segnando quella che sembra essere la prima decisione giudiziaria che prende di mira specificamente la funzionalità AI Overviews dell'azienda.
Il Tribunale regionale di Monaco I ha stabilito il 28 maggio 2026 (causa n. 26 O 869/26) che Google deve smettere di diffondere attraverso i suoi riepiloghi di ricerca generati dall'intelligenza artificiale diverse affermazioni false su due case editrici con sede a Monaco. Significativamente, future violazioni potrebbero comportare multe fino a 250.000 euro (284.800 dollari) o, in determinate circostanze, detenzione.
Tale disposizione sanzionatoria ha ricevuto relativamente poca attenzione nella cronaca del caso, nonostante possa comportare importanti implicazioni per Google e altre società che utilizzano sistemi di intelligenza artificiale generativa.
La disputa è nata dopo che AI Overviews di Google avrebbe falsamente associato una casa editrice e una delle sue filiali a truffe, trappole di abbonamenti, pratiche commerciali dubbie e collegamenti con aziende discutibili.
Secondo la corte, nessuna di queste accuse figurava nelle fonti citate da Google.
Invece, i giudici hanno ritenuto che il sistema di intelligenza artificiale di Google avesse combinato informazioni su altre società realmente problematiche e avesse erroneamente attribuito tali affermazioni ai querelanti, creando connessioni del tutto fittizie in quello che la corte ha descritto come un classico esempio di allucinazione dell’intelligenza artificiale.
Dopo che Google presumibilmente non ha risposto adeguatamente a una lettera di cessazione e desistenza, gli editori hanno chiesto assistenza legale.
La Corte afferma che le panoramiche sull'intelligenza artificiale sono contenuti di Google
L'aspetto più significativo della sentenza potrebbe essere la decisione della corte secondo cui i riepiloghi di ricerca generati dall'intelligenza artificiale costituiscono il contenuto di Google piuttosto che una semplice riproduzione di informazioni da siti Web di terze parti.
Per anni, i motori di ricerca hanno generalmente beneficiato della tutela legale concessa agli intermediari neutrali. Secondo la legge tedesca ed europea, i fornitori di ricerca che si limitano a collegarsi a contenuti di terze parti in genere sono responsabili solo dopo essere stati informati del materiale illegale e non averlo rimosso.
Il tribunale di Monaco ha concluso che tali tutele non si applicano ad AI Overviews.
I giudici hanno scoperto che la funzionalità fa molto di più che visualizzare collegamenti. Valutando, riassumendo, ristrutturando e sintetizzando informazioni provenienti da più fonti, l'intelligenza artificiale genera “dichiarazioni indipendenti, nuove e sostanziali” attribuibili direttamente a Google.
In alcuni casi, ha osservato la corte, l’IA ha prodotto affermazioni che non apparivano in nessuna delle fonti collegate.
Poiché solo Google controlla gli algoritmi e fornisce il servizio agli utenti, la società deve assumersi la responsabilità per il contenuto risultante, ha affermato la corte.
I giudici hanno inoltre ritenuto che, dal punto di vista degli utenti comuni, le AI Overviews sembrano essere informazioni autorevoli fornite direttamente da Google piuttosto che una presentazione neutrale di materiale di terze parti.
La Corte respinge le difese di Google
Google ha affermato che gli utenti comprendono che i contenuti generati dall’intelligenza artificiale non dovrebbero essere considerati ciecamente affidabili e che possono verificare le informazioni esaminando le fonti collegate.
La corte ha respinto tale argomento.
“Se gli utenti dovessero verificare ogni affermazione in modo indipendente, il valore pratico dei riepiloghi AI scomparirebbe in gran parte”, hanno ragionato i giudici.
La corte ha inoltre ritenuto che Google possa monitorare l’accuratezza delle dichiarazioni generate dall’intelligenza artificiale confrontandole con le fonti sottostanti utilizzate per generare i riepiloghi.
Un portavoce di Google ha detto che la società sta rivedendo la sentenza.
“Investiamo profondamente nella qualità delle panoramiche AI per garantire che la stragrande maggioranza delle risposte fornisca informazioni accurate e siano progettate per riflettere le informazioni esistenti sul web”, ha affermato il portavoce. “Stiamo esaminando attentamente questa decisione, che non è ancora definitiva.”
Si prevede che Google farà appello e hanno molto in gioco per ottenere l'annullamento di questa decisione.
La sentenza rilancia un dibattito di lunga data sulla questione se le aziende tecnologiche debbano essere trattate come piattaforme neutrali o come editori responsabili dei contenuti che distribuiscono.
Sebbene il tribunale di Monaco non abbia classificato formalmente Google come editore ai sensi della legge tedesca sulla stampa, ha tracciato una chiara distinzione tra motori di ricerca tradizionali e sistemi di intelligenza artificiale che generano testi originali.
La Corte ha concluso che, una volta che un sistema di intelligenza artificiale crea contenuti coerenti e formulati in modo indipendente, assomiglia più a un prodotto editoriale che a un servizio intermediario neutrale.
I giudici hanno anche suggerito che le opinioni generate dall’intelligenza artificiale meritano una protezione costituzionale più debole rispetto al linguaggio umano perché sono prodotte da algoritmi piuttosto che riflettere autentiche convinzioni umane.
La decisione potrebbe avere conseguenze ben oltre l'attività di ricerca di Google.
Se accolto in appello, il ragionamento potrebbe essere potenzialmente applicato ad altri sistemi di intelligenza artificiale generativa, inclusi chatbot come ChatGPT, Gemini, Claude e Perplexity, che generano tutti risposte originali basate su informazioni tratte da più fonti.
La sentenza pone i fornitori di intelligenza artificiale di fronte a una sfida difficile: migliorare in modo significativo l’accuratezza dei fatti o collegare più strettamente le risposte generate a materiale di origine verificabile.
Per le imprese e gli individui danneggiati da false dichiarazioni generate dall’intelligenza artificiale, tuttavia, la decisione di Monaco offre un nuovo precedente legale potenzialmente potente.
Resta incerto se i tribunali superiori tedeschi alla fine appoggeranno l’approccio del tribunale di Monaco. Ma per ora, il messaggio del tribunale bavarese è chiaro: le aziende che utilizzano l’intelligenza artificiale generativa possono essere legalmente responsabili di ciò che dicono i loro sistemi.
E se Google dovesse violare l’ingiunzione, ogni futura violazione potrebbe comportare sanzioni fino a 250.000 euro.
Ma i soldi non sono nulla in confronto al precedente che il presidente ha stabilito per altre società di intelligenza artificiale. Potrebbe essere un punto di svolta.
