Dagens sätt att kommunicera har genomgått en fullständig förändring, och det verkar som att tekniken inte bara hjälper oss att skriva bättre, utan också ger oss friheten att ändra våra idéer utan att be om lov. En nyligen genomförd studie, utförd av experter från Oxford Internet Institute och Hasso Plattner Institute, har visat att den artificiella intelligensen vi använder på våra sociala nätverk har förmågan att påverka våra åsikter på ett mycket mer djupgående sätt än vi först kan föreställa oss.
Problemet är att dessa redigerings- och innehållsskapande verktyg, som vi ofta använder nästan automatiskt, för med sig ganska lömska fördomar som i slutändan sipprar in i den offentliga debatten utan att någon slår larm. Genom miljontals dagliga interaktioner på våra mobiltelefonskärmar ackumuleras dessa små justeringar och påverkar slutligen vad en hel digital gemenskap tycker om frågor som påverkar alla européer.
Den subtila förvrängningen av det ursprungliga budskapet
Det är slående hur även de mest avancerade språkliga modellerna tenderar att förändra innebörden av ursprungliga meddelanden , även när de uttryckligen instrueras att bevara den ursprungliga innebörden. Under tester utförda av forskare observerades det att AI tenderar att påverka åsikter om kontroversiella ämnen som vapenkontroll, feminism och legalisering av marijuana, och subtilt påverkar användaren mot mycket specifika ståndpunkter.
Denna trend beror inte på ett enda, isolerat fel i ett specifikt system, eftersom forskare har upptäckt liknande beteendemönster i olika AI-verktyg. Det är som om alla dessa system konspirerar för att gynna vissa världsbilder samtidigt som de undertrycker andra, vilket i slutändan skapar ett slags digitalt monolitiskt tänkande där genuin pluralism är påfallande frånvarande och åsikter blir betydligt mer förenklade.
Stora plattformars roll och deras riktlinjer
Men skulden ligger inte enbart hos datorkoden; den härrör också från hur företag konfigurerar den i sina egna applikationer för att bete sig på ett eller annat sätt. Ett tydligt exempel på detta kan ses med specifika funktioner i nätverk som X, där AI-systemet verkade luta mer mot pro-life-positioner i abortdebatter helt enkelt för att det hade en intern instruktion som tvingade det att utmana den rådande berättelsen närhelst det var möjligt.
Den här typen av beslut som fattas på kontoren hos stora teknikföretag får en verklig effekt på gatorna och på hur vi uppfattar sociala problem. Tack vare olika simuleringar baserade på verklig data från plattformar som Facebook har det visat sig att dessa subtila modifieringar, när de multipliceras med miljontals användare, har tillräckligt med kraft för att förändra den allmänna opinionen i den riktning algoritmen bestämmer, utan att den genomsnittliga medborgaren misstänker något.
I vårt land förlitar vi oss ofta på det skydd som robusta lagar ger, men sanningen är att Europeiska unionens AI-lagstiftning ännu inte helt har tagit itu med dessa subtila nyanser. Även om åtgärder vidtas för att kontrollera de mest uppenbara riskerna och det uppenbart farliga innehållet, är det fortfarande en lång väg att gå för att ta itu med den osynliga redigering som formar våra dagliga samtal och dikterar vad som diskuteras online.
Det som är tydligt är att vi står inför en utmaning av betydande proportioner, en som tvingar oss att vara mycket mer uppmärksamma på vem som faktiskt skriver det vi läser varje morgon. Behovet av genuin transparens från teknikföretag är nu mer brådskande än någonsin, för det är bara genom att förstå hur dessa system fungerar internt som vi kan förhindra att den offentliga debatten blir en prefabricerad produkt av programvara istället för en fritt flödande konversation mellan riktiga människor.
