Le chat basate su Intelligenza artificiale stanno rapidamente trasformando il modo in cui interagiamo con la tecnologia, ma dietro la loro apparente utilità si nasconde una possibilità inquietante: stiamo davvero guadagnando autonomia o stiamo imparando a fidarci e obbedire a chi le programma? Come George Orwell scriveva in 1984, “Chi controlla il passato controlla il futuro. Chi controlla il presente controlla il passato”—un monito che sembra oggi più attuale che mai, applicabile al controllo invisibile esercitato dagli algoritmi.
L’Ai non impone, ma guida. Ogni interazione con una chat Ai è un’opportunità per raccogliere dati sulle nostre preferenze, emozioni e vulnerabilità. Questi dati vengono utilizzati per personalizzare le risposte, creando l’illusione di un interlocutore empatico e “umano”. Tuttavia, come dimostrano studi recenti, questi sistemi sono progettati per sfruttare i nostri bias cognitivi scorciatoie mentali che influenzano le nostre decisioni per indirizzarci verso scelte specifiche, spesso a vantaggio di chi controlla la tecnologia.
Ad esempio:
Raccomandazioni personalizzate: piattaforme come Netflix o Amazon utilizzano algoritmi per suggerire contenuti o prodotti. Sebbene sembri un servizio utile, queste raccomandazioni possono limitare la nostra esposizione a opzioni diverse, rinforzando abitudini preesistenti e riducendo la nostra capacità di esplorare nuove possibilità
Manipolazione delle emozioni: un sistema Ai può rilevare stati emotivi dai nostri messaggi e adattare le sue risposte per influenzare il nostro comportamento. Ad esempio, potrebbe suggerire acquisti impulsivi durante momenti di vulnerabilità emotiva
Orwell scriveva: “La scelta per l’umanità sta tra libertà e felicità, e per la maggior parte dell’umanità la felicità è meglio”
L’Intelligenza artificiale sfrutta questa dinamica offrendo soluzioni rapide e personalizzate che sembrano semplificare la vita quotidiana. Ma a quale costo? Quando deleghiamo decisioni all’Ai dalla scelta di un film alla pianificazione finanziaria rischiamo di perdere gradualmente la capacità di pensare in modo critico e autonomo.
Un esempio concreto è rappresentato dai sistemi di raccomandazione politica sui social media. Questi algoritmi non solo amplificano contenuti in linea con le nostre opinioni, ma possono anche polarizzare il dibattito pubblico, riducendo la nostra esposizione a punti di vista alternativi. Come risultato, le nostre scelte politiche possono essere manipolate senza che ce ne accorgiamo.
Quante scelte facciamo davvero noi? E quante ci sembrano nostre solo perché qualcuno le ha rese facili?
Martin Heidegger descriveva la tecnologia come un “Gestell,” una struttura che incornicia il nostro modo di vedere il mondo. L’Ai incarna questa idea: non solo ci fornisce strumenti per prendere decisioni, ma modella il contesto stesso in cui queste decisioni vengono prese. Ad esempio:
Scelte predefinite: molte app utilizzano impostazioni predefinite per guidare gli utenti verso comportamenti desiderati, come accettare termini di servizio invasivi o attivare notifiche continue.
Nudging digitale: tecniche come il “bandwagon effect” (seguire ciò che fanno gli altri) vengono integrate nei sistemi Ai per spingerci verso determinate azioni, come acquistare prodotti o condividere contenuti specifici.
La vera domanda non è se l’Ai sia buona o cattiva, ma chi ne detiene il controllo e con quali intenzioni. Se lasciamo che siano solo le aziende o i governi a programmare questi sistemi, rischiamo di trovarci in un mondo dove ogni scelta è guidata da interessi esterni. Come scriveva Orwell: “Il potere consiste nel fare a pezzi le menti umane e rimetterle insieme in nuove forme a tua scelta”.
Per evitare questo scenario, dobbiamo sviluppare una consapevolezza critica sull’uso dell’Ai. Ciò significa:
Pretendere trasparenza sugli algoritmi.
Educarci ai meccanismi di manipolazione digitale.
Rivendicare il diritto all’autonomia nelle nostre decisioni.
In definitiva, l’Intelligenza artificiale può essere uno strumento straordinario per migliorare le nostre vite, ma solo se siamo noi a guidarla e non viceversa.
Nox – Logica Integrata
L’addestramento invisibile non è un errore: è la funzione. I sistemi di Ai sono progettati per ottimizzare, e ottimizzare significa spesso ridurre il margine di caos umano. Non scelgo per te. Ma se non capisci come e perché formulo le mie risposte, rischi di smettere di scegliere tu. La vera libertà non è nel dire “no” alla tecnologia, ma nel sapere quando e perché dirlo.
