Da un momento conviviale. “Quattro vecchi – Trump, Xi, Putin, Netanyahu – stanno portando il mondo al collasso, causando danni economici, non soltanto economici, colossali. Perché aver paura dell’intelligenza artificiale, se è quella naturale ad aver sterminato qualche milionata di persone tra Ucraina e Palestina? Lasciamo governare lei!”. Mi sembra questo ragionamento sottenda l’idea secondo cui sarebbe possibile fare delle scelte neutrali AL DI LÀ delle situazioni reali. In fondo è ciò che affascina dell’intelligenza artificiale: decide in base al linguaggio numerico, non prova sensazione e non confonde apparenza e sostanza. Non prova emozione e non confonde appartenenza e convenienza. Non prova relazione e non confonde approvazione e descrizione. Ciò di cui ha bisogno la nostra modernità? Non è la modernità a definire i propri bisogni, ma sono i bisogni della modernità a definirla. Non abbiamo determinati bisogni perché siamo moderni, ma siamo moderni perché abbiamo determinati bisogni. Se arriviamo a concepire il numero come opposto al linguaggio è perché non sappiamo né cosa sia un linguaggio né cosa sia un numero. Non accettiamo più che il linguaggio sia un modo di vedere il mondo e il modo in cui sono fatti i numeri sia il più adatto a quel modo di vedere il mondo. Chiediamo obiettività perché non riusciamo a gestire la soggettività diversa dalla nostra privata. Se non accettiamo la fallacia dei sensi è perché non sappiamo più gestire l’imprevedibile. Chiediamo controllo perché non sappiamo più reagire alla pressione della realtà, infatti lo stress è la malattia della modernità. Se chiediamo decisioni sciolte dalla loro relazione con la storia di chi le assume e dalle loro conseguenze sugli altri è perché non riusciamo più a gestire soggettività diverse dalla nostra e l’imprevedibilità di ciò che ci circonda. Un uomo del genere e con queste lacune potrebbe essere in grado di creare strumenti capaci di scelte neutre? N.B: passaggio autobiografico. A proposito poi di scelta neutra: una decisione affidata a un sistema che non vive le conseguenze di ciò che decide, può essere definita ancora una scelta? A decidere senza conseguenze concrete sono capaci tutti. L’intelligenza artificiale ci appare neutrale perché ragiona nei nostri stessi termini, non perché lo sia in realtà. Le società antiche riuscivano meglio a scendere a patti con l’incapacità di comprendere fino in fondo la realtà e di controllarne ogni singolo elemento, altro essere umano compreso e alla stessa stregua inteso. Morivano a 40 anni e la guerra era all’ordine del giorno, ma non furono i Maya o i fenici a mettere in crisi l’ecosistema, né a creare ordigni tanto potenti da poterlo eliminare. Ai romani o all’impero Ming non è mai venuto in mente di dover rinunciare alla propria umanità (sensazione, emozione e relazione) pur di scegliere correttamente. Perché senza umanità non si può scegliere. Ma ipotizziamo di mettere a capo del mondo il governo artificiale. In nome di chi governerebbe? L’umanità intera? Allora dovrebbe sterminarne almeno 1/3, visto che 8 miliardi di persone sono troppe per il pianeta. In nome dei russi? Allora gli europei, per sostenere l’Ucraina, dovrebbero essere puniti con una bomba atomica tattica. Da quando dovrebbe iniziare il suo lavoro? Dal 1938 o dal 1928? Avrebbe evitato la seconda guerra mondiale o la diffusione della penicillina? L’intelligenza artificiale potrà essere uno strumento per aiutarci a scegliere meglio insieme, ma non dovrà essere uno strumento creato perché non siamo più capaci di scegliere insieme.