Non tutto è calcolabile breve critica dell’intelligenza (giuridica) artificiale[1]

di Angela Condello

Assegnista di ricerca in Filosofia del diritto, Università Roma Tre

Diritto e documenti

Ormai quotidianamente, o quasi, vengono pubblicate notizie che sembrano annunciare la fine imminente delle professioni giuridiche: «L’intelligenza artificiale è già più intelligente di un avvocato» (Agi, 27 Febbraio 2918); «Intelligenza artificiale vs. Avvocati: finisce 1-0 la prima sfida ufficiale» (Altalex, 13 Novembre 2017). Sembra, infatti, che l’intelligenza artificiale sia in grado di analizzare in modo più veloce (e dunque più efficiente, secondo i giornalisti che riportano la notizia), accordi, atti e contratti di vario tipo. I primi esperimenti sono stati fatti sull’analisi di accordi di riservatezza (Non disclosure agreements, Nda): sono stati presi cinque accordi ed è stato chiesto a un software e a venti avvocati di individuare eventuali rischi e punti sensibili per i clienti. La precisione dell’intelligenza artificiale è stata pari al 94%, quella degli avvocati all’85%. I più bravi tra gli avvocati ci hanno messo più di un’ora e mezza. Il computer ventinove secondi. L’uomo è stato battuto. Un altro esperimento è stato effettuato a Londra nel 2017, per iniziativa della start up CaseCrunch, che ha sfidato un gruppo di avvocati per verificare il livello di attendibilità delle valutazioni sul risultato di alcune liti davanti all’ombudsman finanziario in tema di trasparenza di informazioni e vendita illegale di polizze. Nel 2016, un sistema analogo di intelligenza artificiale è stato usato per prevedere gli esiti di alcune cause davanti alla Corte europea dei diritti dell’uomo, e anche in quel caso il computer ha “battuto” l’uomo con una precisione del 79%. Ma di quale sfida si tratta, in concreto?

Per comprendere la natura della sfida in atto, è utile ripensare il valore del documento, per comprendere esattamente quali operazioni sono effettivamente delegabili e quali invece non lo siano. Per compiere questa operazione farò riferimento al lavoro di Maurizio Ferraris e in particolare al suo Documentalità (2009)[2]. Da un punto di vista filosofico, un documento è un oggetto che rappresenta un atto attraverso la manifestazione scritta di intenzioni. Il termine deriva dal verbo latino “doceo”, da cui “documentum”: ciò che mostra, che rappresenta un fatto di realtà. Si parla di documenti in ambito storico e in quell’ambito grazie ai documenti si ricostruisce ciò che è accaduto in passato. Ma naturalmente i documenti sono interessanti anche nell’ambito dell’informazione; e, soprattutto, in ambito giuridico. Quello giuridico è, infatti, un campo essenzialmente documentale. Verosimilmente, secondo Ferraris, è proprio in ambito giuridico che i documenti hanno acquistato valore: nel documento non viene solo rappresentato un fatto (documento in senso “debole”), ma viene anche iscritto un atto, una intenzione (documento in senso “forte”). I documenti registrano dunque fatti ma anche azioni e intenzioni: un passaporto prova che mio figlio è mio figlio, un testamento sta a indicare che un patrimonio va amministrato in un certo modo. Senza questo sistema di iscrizioni di fatti, atti e volontà non è possibile concepire la società. 

Sia i documenti in senso debole (cioè le rappresentazioni dei fatti), sia i documenti in senso forte (cioè le iscrizioni di atti, intenzioni e volontà) sono fondamentali per il diritto. Soprattutto per i documenti in senso forte (come ad esempio un accordo di riservatezza o un contratto) la situazione si complica nel momento in cui la sfera del diritto subisce trasformazioni come quella tecnologica attualmente in atto. La “rivoluzione documediale” di cui parla Maurizio Ferraris, una evoluzione 4.0 della sua teoria documentale, dimostra come nella società attuale i supporti informatici sono in aumento e così potenziano e aumentano la relazione tra atti giuridici e iscrizioni. Gli esempi con cui ho aperto questa riflessione dimostrano non solo questo aumento, ma la possibilità di demandare alcune operazioni “iscrittive” all’intelligenza artificiale. 

Tornare al senso della retorica giuridica

Tenendo a mente la distinzione tra documenti in senso debole e documenti in senso forte, si può osservare come alcuni dei programmi di cui si parla quando si fa riferimento alla possibilità di applicare l’intelligenza artificiale al diritto svolgano in realtà delle operazioni molto “automatizzate” e siano in effetti affidabili soltanto per queste. Ad esempio, CaseCrunch è un programma che predice i risultati delle cause[3]. Visitando il sito di CaseCrunch, emerge un tono in cui i termini dominanti sono ‘efficienza’ e ‘rapidità’. Il tono, a mio avviso, è quello di una grande sfida, la sfida tra l’uomo e la macchina, un tema ben noto nel campo della filosofia della mente e del linguaggio già dagli ultimi decenni del secolo scorso. Ora, si deve ben comprendere quali operazioni del diritto siano realmente in gioco nella sfida a cui fa riferimento il sito di CaseCrunch, così come quello di LawBot (che promette di analizzare contratti in due minuti: http://www.lawbot.co) o di LawGeex (un altro sistema di revisione automatica dei contratti: https://www.lawgeex.com). 

Quali operazioni sono demandabili all’intelligenza artificiale? Per rispondere a questa domanda, la distinzione tra documenti in senso debole e documenti in senso forte è molto utile. Se si intende un contratto come documento in senso forte, allora si accetta l’ipotesi secondo cui nel contratto convergano le volontà di uno o più individui e che esso sia dunque una formalizzazione, una iscrizione in cui si deposita questa volontà secondo forme più o meno definite. A differenza dei documenti in senso debole, che sono mera traccia, per certi versi anche “passiva”, di qualcosa di accaduto, e che riportano dunque semplicemente qualcosa che è avvenuto, i documenti in senso forte hanno una funzione sociale e politica fondamentale perché costituiscono il mondo sociale: fanno sì che esista il denaro, i mariti, i direttori di banca, e il presidente del Consiglio dei Ministri. Al fine di permettere la costruzione del mondo sociale, questi documenti sono veri e propri sistemi in cui convergono linguaggi differenti: quello della legge (che dice quale forma deve avere il contratto e per quali fini), quello degli individui (che vogliono vedere realizzati i propri interessi), insieme a tutti i discorsi politici e culturali che confluiscono in quella complessa operazione ermeneutica che è la trasposizione di tutte queste dimensioni in una iscrizione. Una trasposizione che dunque, per questa complessità, va gestita da una struttura di pensiero capace di tenere insieme i caratteri oggettivi (il contratto contiene tutti gli elementi necessari?) con tutti gli altri aspetti che in esso convergono. 

La risposta alla domanda “quali operazioni sono demandabili all’intelligenza artificiale” è dunque la seguente: sono demandabili tutte le operazioni di natura meccanica, che per semplicità chiamerei di “verifica passiva”. In queste, certo, un computer è più rapido di un essere umano, ma questa cosa è nota ormai da decenni, cioè dalle prime volte in cui i computer hanno “battuto” per esattezza e rapidità l’essere umano in giochi complessi a soluzioni multiple (e dunque non ancora completamente “risolti”, come il tris) – ad esempio negli scacchi. Dunque, non deve stupire che un computer verifichi in meno di un minuto la correttezza dei contratti mentre l’uomo ci mette più di un’ora. Ed è del tutto insensato insistere su valutazioni sulla bravura dei giuristi coinvolti in questi esperimenti, come se essere più veloci significasse necessariamente essere più preparati, più capaci e più lungimiranti. Alcuni di questi titoli di giornale, così tonitruanti, sono dunque in verità pure aberrazioni: cioè difetti di prospettiva che portano a confrontare operazioni completamente diverse. Sarebbe come dire che un aereo vola più rapidamente di un cavallo. Certo, ma quest’ultimo non è pensato per volare. Per evitare le aberrazioni, è utile cercare di capire esattamente cosa sia demandabile, al fine di capire in che modo la rivoluzione tecnologica che caratterizza questo nostro tempo possa costituire, al contrario, una grande opportunità. 

È dunque la documentalità a offrire la risposta teorica al pericolo costituito dalla intelligenza artificiale applicata al diritto. Diventa centrale il significato che si attribuisce alla funzione del documento e soprattutto la valutazione complessiva della sua ontologia: non una semplice serie di dati, ma una serie di dati che stanno a rappresentare intenzioni, interessi, valori, livelli di interpretazione. In questo senso va intesa la documentalità di Ferraris quando è usata per comprendere il diritto: come una grande sfida ermeneutica che invita a guardare soprattutto oltre (prima e dopo) il documento: un oggetto che crea raccordo tra il testo della norma (norma in senso “statico”) e norma nel suo senso “dinamico”. Il contenuto della norma giuridica viene, infatti, fissato caso per caso, situazione dopo situazione ed è iscritto nell’atto, che dunque testimonia della natura aperta della ragione giuridica che, contestualmente, porta a fissare la volontà individuale. Il diritto che viene “fatto” dai giuristi e in particolare dal notaio è, infatti, predicabile non solo rispetto a entità logiche e linguistiche (gli enunciati normativi), che sarebbero dunque traducibili anche nel linguaggio dell’intelligenza artificiale, ma è un vero e proprio sapere che include entità extralinguistiche e valori che non sono traducibili in un codice binario. 

L’approccio ermeneutico al diritto permette di far risaltare l’importanza degli elementi extratestuali per la determinazione del significato della norma giuridica. I programmi di analisi computazionale del contenuto dei contratti non possono tenere conto degli elementi extratestuali perché sono fondati su calcoli che si riferiscono esclusivamente ai testi (testi normativi o modelli di riferimento; testi dell’accordo analizzato). 

In questo senso mi sembra interessante richiamare una nota di un autorevole magistrato di Cassazione, Fabrizio Di Marzio, il quale a proposito del libro di Massimo Palazzo, La funzione del notaio al tempo di internet (Giuffrè, 2017) ha notato come l’argomentazione (in particolare sotto forma di motivazione) sia un elemento centrale non solo delle decisioni, ma anche degli atti di autonomia privata. La questione è se l’atto notarile possa avere una valenza non solo dispositiva ma anche argomentativa rispetto alle scelte effettuate nel corso della sua realizzazione. Alla luce delle riflessioni svolte in questo mio saggio, mi sembra evidente che – prendendo sul serio il significato “forte” di documento secondo la teoria di Ferraris – l’operazione compiuta dal notaio non possa che rientrare in una dimensione ermeneutico-argomentativa che va ben oltre la mera disposizione. In funzione “costruttiva” della realtà sociale, il notaio deve essere considerato in quanto giurista nel senso più ampio e inclusivo possibile: scrive Di Marzio, come «garante finale della razionalità del sistema giuridico, spesso messo a dura prova non soltanto dalla complessità del sistema delle fonti scritte (sovranazionali, comunitarie, statali) o giudiziarie (sia sovranazionali che comunitarie che nazionali) ma soprattutto dalla stessa parola, frettolosa imprecisa e incolta, del legislatore».[4] La giustificazione argomentativa degli atti di autonomia privata di cui parla Di Marzio è un invito, dal mio punto di vista, a tornare al senso più antico e profondo dell’ars retorica: l’arte dell’uso del linguaggio non solo volta alla persuasione (come poi è stata erroneamente e riduttivamente interpretata nella modernità), ma intesa come sapere culturalmente e socialmente connotato e inclusivo di molte operazioni (ragionamento, esposizione, narrazione, riflessione sui contenuti dei concetti, giustificazione sul bilanciamento dei valori)[5]. 

Per una critica dell’’intelligenza (giuridica) artificiale

Nelle Pensées, Pascal (che conosceva bene la contraddizione tra la ragione matematica e geometrica, e quella umana), descrive la differenza tra lo spirito di geometria e lo spirito di finezza:

«Nel primo (spirito di geometria) i principi sono tangibili, ma lontani dal comune modo di pensare, sicché si fa fatica a volger la mente verso di essi, per mancanza di abitudine; ma, per poco che la si volga ad essi, si scorgono pienamente; e solo una mente affatto guasta può ragionar male sopra principi così tangibili che è quasi impossibile che sfuggano. Nello spirito di finezza i principi sono, invece, nell’uso comune e dinanzi agli occhi di tutti. Non occorre volgere il capo o farsi violenza: basta aver buona vista, ma buona davvero, perché i principi sono così tenui e così numerosi che è quasi impossibile che non ne sfugga qualcuno. Ora, basta ometterne uno per cadere in errore: occorre, pertanto, una vista molta limpida per scorgerli tutti e una mente retta per non ragionare stortamente sopra principi noti.

Tutti i geometri sarebbero, quindi, fini se avessero la vista buona, giacché non ragionano falsamente sui principi che conoscono; e gli spiriti fini sarebbero geometri se potessero piegare lo sguardo verso i principi, a loro non familiari, della geometria.

Se, dunque, certi spiriti fini non sono geometri, è perché sono del tutto incapaci di volgersi verso i principi della geometria; mentre la ragione per cui certi geometri difettano di finezza è che non scorgono quel che sta dinanzi ai loro occhi e che, essendo usi ai principi netti e tangibili della geometria, e a ragionare solo dopo averli ben veduti e maneggiati, si perdono nelle cose in cui ci vuole finezza, nelle quali i principi non si lasciano trattare alla stessa maniera. Infatti, esse si scorgono appena; si sentono più che non si vedano; è molto difficile farle sentire a chi non le senta da sé [...]. Bisogna cogliere la cosa di primo acchito con un solo sguardo, e non per progresso di ragionamento, almeno fino a un certo punto. E così è raro che i geometri siano spiriti fini e gli spiriti fini geometri, perché i primi vogliono trattare con metodo geometrico le cose che esigon finezza, e cadono nel ridicolo volendo cominciare dalle definizioni e poi dai principi […] E gli spiriti fini, per contro, essendo usi a giudicare con una sola occhiata, rimangono talmente stupiti quando si trovano di fronte a proposizioni per loro incomprensibili, e alla cui intelligenza si accede solo attraverso definizioni e principi sterilissimi, che essi non sono avvezzi a esaminare minutamente, che se ne infastidiscono e se ne disgustano».

Questa citazione apre il lavoro filosofico di Hubert Dreyfus, filosofo americano scomparso l’anno scorso e con il quale ho avuto il piacere di discutere proprio di diritto a Berkeley nel 2012. Dreyfus per decenni è stato considerato il principale critico dell’intelligenza artificiale applicata alle scienze umane[6]. Ora, se si accoglie l’ipotesi esposta da Massimo Palazzo e Fabrizio Di Marzio, e prima di loro da Paolo Grossi, secondo cui il diritto è un sapere essenzialmente umanistico, mi sembra possibile e utile applicare la teoria di Dreyfus al diritto, per sostenere l’impossibilità di una intelligenza giuridica artificiale. Nel descrivere i limiti dell’intelligenza artificiale, quasi cinquant’anni fa Dreyfus distingueva nettamente le operazioni “delegabili”, perché artificiali e “create” dall’uomo (come il calcolo), da altre operazioni, più intuitive, che (per quanto complesso il livello della programmazione) non erano riproducibili e dunque nemmeno delegabili al computer. Le prime, avrebbe detto Pascal, ricadevano nelle competenze dello spirito di geometria; le seconde, nelle competenze dello spirito di finezza. 

La critica all’intelligenza artificiale fatta da Hubert Dreyfus era costruita essenzialmente intorno a due questioni: la simulazione cognitiva (CS, cognitive simulation) e l’intelligenza artificiale (AI). Rispetto alla simulazione cognitiva, la domanda era se gli esseri umani, nel processare le informazioni, seguissero oppure no delle regole come quelle seguite dai computer. Rispetto all’intelligenza artificiale, la domanda era se un comportamento umano può essere tradotto formalmente nel linguaggio di un computer. In entrambi i casi, le risposte di Dreyfus erano negative. La mia breve critica, in questo saggio, si interrompe qui: la grande impresa teorica che i filosofi del diritto sono chiamati a compiere di fronte alle questioni di economia giuridica e di teoria generale poste da LawGeex, CaseCrunch e LawBot (e da tutti i programmi simili) è una distinzione. Siamo chiamati a distinguere, a differenziare, per meglio operare. Un lavoro delicato di definizione del contenuto del diritto e della sua funzione sociale, per preparare il campo alla riorganizzazione delle competenze tra il giurista e il computer. Una riorganizzazione che non va ostacolata, ma accompagnata con esprit de finesse, per dirla con Pascal.