«Il pensiero precede l’azione come il fulmine il tuono» (Der Gedanke geht der Tat voraus wie der Blitz dem Donner) scrive il poeta Heinrich Heine. Lo stesso si può dire per l’altruismo efficace (EA), dottrina etica elaborata dai filosofi di Oxford travasata assai rapidamente dalla torre d’avorio del pensiero ai corridoi del potere. L’altruismo efficace invade la Silicon Valley, i principali operatori mondiali dell’intelligenza artificiale … e allarma l’amministrazione Trump. «Gli Stati Uniti non diventeranno MAI un paese altruista efficace» dichiarano dal Pentagono. Il ministro della guerra bolla l’idea filosofica come «altruismo malato» e altri nel governo la definiscono distopica. Basterebbero tutti questi attacchi a segnalare quanto sia influente.
Alcuni lamentano una scarsità di pensiero innovativo nel ventunesimo secolo. E dentro quel vuoto sono entrati MAGA & Co., costruendo il loro grande progetto politico del secolo sulla base di un nostalgico populismo. Mentre in effetti la grossa idea sarebbe proprio quella dell’altruismo efficace. Mentre scriviamo e come riferito in altri articoli della stessa rivista, ciò che era cominciato negli anni scorsi come espediente geniale per rendere più economicamente sostenibile la filantropia, si è evoluto in una sorta di movimento che promuove a scala globale calcoli morali complessi al limite del bizzarro. Per molti degli aderenti, l’azione etica più urgente e positiva sarebbe quella di impedire all’intelligenza artificiale di spazzar via l’umanità.
EA ha anche un’importanza sociologica. I suoi sostenitori non sono moltissimi, ma si tratta di un’idea che pervade giovani molto dotati, quelli che hanno costruito la propria fortuna tra criptovalute e AI. La tecnologia sforna nuovi miliardari, e l’altruismo efficace convoglia miliardi di dollari verso cause sociali progressiste. È proprio un pensiero altruista efficace ad aver spinto OpenAI o Anthropic, i centri di pensiero più importanti, nella convinzione che chi coglie i rischi di AI debba controllare i suoi sviluppi. E stimolare indirettamente nuovi sviluppi e centri di pensiero concorrenti che spingono al progresso dell’intelligenza artificiale.
Ecco perché EA diventa politicamente importante. L’amministrazione Trump teme che possa finire per strangolare AI. Ha ingaggiato una faida con Anthropic per il rifiuto della compagnia di sfruttare a uso militare i propri modelli. Gli altruisti efficaci riconoscono che l’intelligenza artificiale possa anche portare enormi benefici, ma auspicano comunque un rallentamento dei suoi sviluppi, anticipando la possibilità che invece quella macchina inarrestabilmente impazzisca seguendo fini del tutto divergenti da quelli del genere umano. Mentre invece altri in America quella diffusione e sviluppi tecnologici vorrebbero accelerarli, e anticipare la concorrenza della Cina. Ma nell’attacco ai dubbiosi altruisti finiscono per scegliere la strada facile della scorciatoia liquidatoria. Affermano che l’altruismo efficace è solo un gruppo di fanatici, volta per volta bollato nemico della democrazia, pericoloso, parareligioso.
Esageratamente brutali. La radici filantropiche di questo movimento sono evidenti e indiscutibilmente lodevoli. Come la nostra rivista The Economist, anche gli EA hanno un approccio di tipo empirico, e specie grazie all’alleanza di pensiero con la comunità «razionalista» online, applicano un pensiero logico. Hanno la più alta concezione del ragionamento, non delle norme o della tradizione, e sono pronti a discutere entusiasticamente qualunque tema, affrontare qualunque riconosciuta contraddizione, nella ricerca della verità. Anche la ripetutamente provata capacità di EA di prevedere i rapidi sviluppi di AI è decisamente impressionante. È vero che si tratta di una tecnologia che presenta rischi per il genere umano. Il 28 settembre OpenAI ha rinunciato al proprio modello più avanzato dopo averlo giudicato pericoloso durante le verifiche. Molti tra i più recenti incidenti in materia di sicurezza delineano scenari senza dubbio spaventosi, di cui si ragionava già anni or sono su tanti siti e pagine dell’altruismo efficace.
Ma hanno anche delle ragioni i suoi critici ad attaccarne le a volte strane conclusioni. Come già prima di loro i filosofi utilitaristi, gli altruisti efficaci restringono i comportamenti etici a un problema di ottimizzazione. Come è possibile arrivare ai migliori risultati per l’umanità nel suo insieme? Certi calcoli riducono a imperativi del tipo «mantieni le promesse» o «pensa alla tua famiglia». Ciò che più conta è ridurre la sofferenza, ovunque e imparzialmente. Il che conduce a introdurre un’ampia serie di preoccupazioni nei propri calcoli morali. È facile capire come essere etici significhi aiutare il prossimo. L’altruismo efficace chiede: perché non operare anche in modo più ampio per aiutare chi immediatamente prossimo non è? In principio il movimento orientava le proprie armate di intellettuali ad occupare posizioni nel mondo dei ranghi superiori della finanza e consulenza. Ricchezza ed elevata posizione consentivano di raggiungere migliori obiettivi rispetto a quelli del tradizionale lavoro filantropico o volontario.
Ma via via che si allargava, il movimento EA cambiava. Alcuni considerano la differenza morale tra umani e animali una debolezza, visto che anche gli animali soffrono. Ed emerge anche la centralità di fermare l’allevamento intensivo e salvare tutti i calamaretti. Simile anche il rapporto controintuitivo col tempo. Occorre mettere a bilancio anche i non nati, potrebbero essere molti miliardi. E molti altruisti efficaci diventano «lungoterministi», proiettati alla previsione dei rischi nel futuro remoto, anche eventualmente a spese delle buone cause contemporanee, come quella di aiutare i più disperatamente poveri. Spinto all’estremo, questo calcolo può portare ad una moralità non solo semplicemente controintuitiva, ma ripugnante. Alcuni ritengono la vita degli insetti, complessivamente, di valore superiore a quella umana, visto che ce ne sono così tanti. Altri affermano che sarebbe meglio soppesare il valore relativo della vita di trilioni di umani in situazioni di stentata esistenza, rispetto a quello di pochi miliardi con una vita piena. Alcuni arrivano a rivalutare la qualità di AI e dei suoi sostenitori come di importanza vitale. Preferirebbero orientare le risorse a favore degli esseri umani e non umani del futuro anziché sprecarle con chi soffre oggi.
EA+AI=probabilità(di sventura)
Giusto avere il massimo rispetto per la ragione. Ma i filosofi morali, da Aristotele a Rawls, sapevano che quando un ragionamento ti porta verso una direzione inaccettabile, deve contenere qualcosa che non va. Pare che però l’istinto EA sia di adorare le conclusioni comunque controintuitive, anche quando appaiono perverse. Un problema è quello dei margini di errore che inevitabilmente accompagnano le argomentazioni altruiste efficaci. Nessuno è davvero in grado di valutare le perplessità morali di miliardi di persone oggi, figuriamoci quando le quantità si ingigantiranno guardando al futuro, con incerto numero di esseri umani, tassi di interesse, progressi tecnologici, e innumerevoli altre variabili. Altra questione è quella della nostra estinzione, problema così incombente da non essere gestibile con calcoli, soverchiati da una materiale ansia. Terzo problema quantificare gli interessi di miliardi di persona perdendo di vista l’implicita dignità dell’individuo. Chiunque sventoli qualche smisurata tabella di conti e deduzioni sul futuro dell’umanità sta sulla soglia della proclamazione di sé stesso programmatore totalitario. Armati si autorità morale, diritti e opinioni perdono parecchio di importanza.
La Rivoluzione Francese affermava di fondarsi sulla ragione, ma ha portato a condannare a morte le suore. Anche Lenin, pensava che gli intellettuali padroneggiando il marxismo comprendessero gli interessi dei lavoratori meglio dei lavoratori stessi. Se si è davvero convinti di agire per conto di tutta l’umanità, e per giunta di tutta l’umanità a venire, si può arrivare a giustificare ogni genere di atrocità. Per fortuna l’altruismo efficace non ha particolari intenzioni di riportare in auge la ghigliottina. Il timore è però che il controllare l’Intelligenza Artificiale porta maggior potere, e molti EA nella Silicon Valley sono convinti di essere gli unici di cui potersi fidare con la tecnologia. Un’idea allarmante. I ragionamenti che fanno temere sul futuro di AI riguardano l’uso della tecnologia verso obiettivi fatalmente sbagliati. Ma pare che alcune persone pur partendo da diverse considerazioni abbiano finito per cadere nella medesima trappola.
da: The Economist, 3 ottobre 2026: Titolo originale: Effective altruism dominates Silicon Valley. Its ethical optimisation is dangerous: leader – Traduzione di Fabrizio Bottini
