Un esperimento dell’Università di Amsterdam ha creato un social network popolato esclusivamente da bot basati su GPT-4o per testare l’efficacia delle misure anti-odio e contro la disinformazione. I risultati evidenziano come certi interventi possano paradossalmente rafforzare visibilità e polarizzazione di contenuti estremisti.
Analisi approfondita dello studio che rivela le criticità strutturali delle reti sociali dove l’automazione può amplificare i contenuti tossici; impatti sulle dinamiche di attenzione, visibilità e radicalizzazione; riflessioni sulle prospettive future e sulle responsabilità delle piattaforme.
Introduzione all'esperimento del social network di bot
Un gruppo di ricercatori dell’Università di Amsterdam ha condotto un esperimento unico: creare un social network composto esclusivamente da chatbot basati su GPT-4o, per vedere se le strategie delle big tech contro odio e disinformazione funzionassero in un contesto controllato. Questo progetto ha come obiettivo principale l'analisi della facilità con cui i contenuti estremisti possono scalare le gerarchie social, mentre i contenuti più moderati restano invisibili agli utenti medi. L'idea era quella di simulare un ambiente dove ogni interazione era guidata da AI, eliminando la possibilità di fattori esterni non controllabili come gli spazi pubblicitari e i trending topics manipolativi. I risultati finali di questo esperimento hanno sollevato interrogativi significativi sull'efficacia delle attuali politiche anti-hate e sulla struttura intrinseca delle reti sociali stesse. Si è rivelato che l’assenza di regolamenti efficaci per il controllo dei contenuti ha portato a un incremento della polarizzazione, apparendo come una conferma che tali misure non sono sufficienti a combattere la disinformazione.
Bot GPT-4 e la polarizzazione online: l'esperimento dell'Università di Amsterdam
Questo video approfondisce l'esperimento dell'Università di Amsterdam, mostrando come i bot basati su GPT-4 abbiano replicato e amplificato contenuti estremisti in una rete sociale simulata, evidenziando le debolezze strutturali dei social media nella lotta contro la disinformazione.