Kada je prije nešto više od dva desetljeća internet bio u povojima, kada je tek postajao masovan fenomen, neki su teoretičari komunikacije tvrdili da će internet gotovo izbrisati razlike u razini obrazovanja i općenito razlike u informiranosti o svakidašnjim zbivanjima. Te su se postavke pokazale pogrješnima. Ne samo da taj ideal nije ostvaren, nego se dogodio suprotan proces. Dogodio se svojevrsni jaz u znanju. Oni koji su ranije težili većemu informiranju i – ako su im to životne prilike pružile – boljemu i cjeloživotnomu obrazovanju, koristili su se internetom radi unaprjeđenja znanja. Oni koji su i prije interneta bili nezainteresirani ostali su takvi i nakon njegova omasovljenja.
Nešto slično, sudeći prema upozorenjima stručnjaka iz »Obitelji i medija«, događa se s umjetnom inteligencijom i algoritmima. Premda njihovi zagovornici govore da je riječ o isključivo korisnim i objektivnim alatima koji mogu samo unaprijediti čovjekovu svakidašnjicu, istraživanja i praksa pokazuju nešto drugo.
Primjerice, jedno od istraživanja koje spominju iz »Obitelji i medija« pokazalo je da su i algoritmi pristrani. Posebno kada je riječ o rasnim, dobnim ili spolnim razlikama. »Takve pogrješke nisu samo tehničke anomalije. One pokazuju da je riječ o sustavima koji su osmišljeni bez dovoljno pozornosti prema raznolikostima u podatcima na kojima su ti sustavi uvježbani. U kontekstu društvenih mreža pristranost algoritama može utjecati na to koji sadržaj postaje vidljiviji, čime se ponekad mogu favorizirati i toksični i diskriminatorni narativi«, upozoravaju iz »Obitelji i medija«.
Takva pristranost algoritama može imati posljedice i u drugim sferama, kao što je zapošljavanje ili obrazovanje. »Automatizirani sustavi za zapošljavanje, primjerice, mogu isključiti kandidate koji dolaze iz nepovoljnih socioekonomskih sredina, čime su marginalizirane skupine dodatno ograničene. Slično algoritmi koji se rabe za određivanje pristupa nekim osnovnim uslugama – kao što su krediti ili zdravstvena skrb – mogu produbiti postojeće nejednakosti«, napominju iz »Obitelji i medija«.
