Atti giuridici scritti e inventati dall'AI, il caso shock dell'Australia

Il mondo della giustizia australiana è alle prese con un caso tanto serio quanto grottesco che coinvolge l'intelligenza artificiale. Il 15 settembre la Corte Suprema della Tasmania ha annullato una restrizione imposta dal Parole Board of Tasmania a Susan Neill-Fraser, ex detenuta in libertà condizionale, alla quale era stato vietato di parlare con i media per sostenere la propria innocenza o denunciare una presunta condanna ingiusta. Per giustificare il provvedimento, i funzionari avevano inserito all'interno del documento diversi riferimenti giuridici e precedenti giudiziari. Peccato che alcuni di quei casi non siano mai esistiti: secondo quanto emerso in tribunale, si tratterebbe infatti di "allucinazioni" generate dall'intelligenza artificiale e finite in un documento ufficiale destinato a influenzare una decisione sulla libertà di una persona. A scoprire l'anomalia sono stati gli avvocati della donna.

Chi è Susan Neil-Fraser

  La vicenda ruota attorno a Susan Neill-Fraser. La donna è stata condannata per l'omicidio del compagno, Bob Chappell, scomparso nel 2009 a bordo del loro yacht nelle acque di Hobart, in Tasmania. Dopo aver trascorso circa 13 anni in carcere, è stata rilasciata sulla parola nel 2022, ma non ha mai smesso di proclamarsi innocente. Negli anni successivi alla scarcerazione ha continuato a sostenere pubblicamente di essere vittima di un errore giudiziario, attirando l'attenzione dei media e di diversi gruppi che si occupano di possibili condanne ingiuste. 

Il divieto di parlare con i media

  Proprio per limitare questa attività pubblica, il Parole Board of Tasmania aveva introdotto una specifica condizione alla sua libertà vigilata. In base al provvedimento, Neill-Fraser non avrebbe potuto parlare direttamente o indirettamente con organi di informazione per sostenere la propria innocenza o affermare di essere stata condannata ingiustamente. Secondo il board, la misura era necessaria e legittima, tanto che a sostegno della decisione era stato predisposto un documento contenente riferimenti normativi e presunti precedenti giudiziari destinati a rafforzarne la validità legale.

Le sentenze fantasma generate dall'AI

  Durante l'esame degli atti, gli avvocati di Neill-Fraser hanno infatti scoperto che alcune delle sentenze citate non risultavano in alcun archivio giudiziario. Le verifiche successive hanno confermato che quei precedenti non esistevano affatto. In aula è quindi emersa l'ipotesi che i riferimenti fossero il prodotto di una cosiddetta "AI hallucination", un fenomeno noto nel settore dell'intelligenza artificiale che porta i sistemi generativi a creare informazioni apparentemente credibili, ma completamente inventate. Secondo quanto riferito davanti alla Corte Suprema, il documento sarebbe stato preparato con l'aiuto dell'AI dal segretario del board, Ben Hancock.

La decisione di annullare la sentenza è stata presa anche dal fato che essa risultasse giuridicamente irragionevole e introducesse elementi di incertezza incompatibili con una decisione amministrativa di tale importanza. La donna ha accolto con favore la decisione, dichiarando di voler continuare a sostenere la propria innocenza e a battersi per il riconoscimento di quelli che considera errori giudiziari all'interno del sistema australiano.

Dibattito sull'uso dell'AI nel settore legale e nella pubblica amministrazione

  Guy Barnett, Attorney-General della Tasmania - il principale responsabile politico degli affari legali dello Stato australiano della Tasmania - ha chiesto spiegazioni formali al Parole Board, definendo inaccettabile la presenza di informazioni inaccurate in un documento utilizzato per giustificare una limitazione dei diritti di una persona. Diversi esponenti del mondo giuridico hanno chiesto verifiche approfondite sulle attività dell'ente e un controllo delle decisioni passate, per accertare che casi analoghi non si siano verificati altrove. Una vicenda che, tra sentenze fantasma e documenti ufficiali influenzati dall'AI, viene già considerata uno degli esempi più clamorosi dei rischi legati all'impiego non verificato dell'intelligenza artificiale nei processi decisionali pubblici.