Il MIT crea un'IA folle, come Norman di Psyco

Si chiama Norman ed è uno psicopatico, ma non si tratta del protagonista di Psyco. È il nome attribuito dai ricercatori del MIT all’intelligenza artificiale creata dando in pasto ad algoritmi informazioni prelevate da uno dei canali più oscuri e meno raccomandabili di Reddit, il cui principale argomento di discussione sono immagini che raffigurano episodi di violenza e morte.

Si è partiti dalle descrizioni fornite dagli utenti alle fotografie condivise, così da organizzare un dataset sul quale allenare gli algoritmi. Sulla base di queste informazioni è stato poi chiesto all’IA di interpretare le celebri macchie di Rorschach, test da oltre un secolo impiegato in psicologia e psichiatria per delineare la personalità. Ecco che laddove un altro sistema “standard” può intravedere dei fiori vengono rilevate le sagome delle vittime di uno scontro a fuoco e al posto di ciò che potrebbe sembrare un ombrello aperto compare una donna nel panico per il decesso del marito. Che senso ha tutto questo?

È presto detto. Attraverso l’esperimento il MIT pone l’attenzione su come pescare da un enorme volume di dati aggregati per istruire gli algoritmi possa rivelarsi controproducente o talvolta addirittura pericoloso. Si pensi ad esempio a Facebook, che per ottimizzare e perfezionare il proprio sistema di machine vision analizza gli hashtag e le descrizioni associate alle foto su Instagram. Se un gruppo di utenti dovesse iniziare a pubblicare post correlando parole offensive a una determinata categoria di immagini questo potrebbe innescare un meccanismo malevolo, portando l’IA a fare altrettanto. Qualcosa di simile è avvenuto negli anni scorsi con Google Foto, che per un breve lasso di tempo ha associato il tag “gorilla” alle persone con pelle nera.

Una dinamica che può assumere però anche un valore positivo: gli stessi ricercatori desiderano dimostrare come il supporto attivo della community possa contribuire a correggere comportamenti errati o dannosi e per farlo invita tutti a compilare un modulo indicando associazioni mentali meno macabre alle macchie di Rorschach. Così si potrà aiutare Norman a guarire: “Help Norman to fix himself”.