Iz »Obitelji i medija« navode tri razine rizika koje se za pojedinca i društvo mogu javiti ako društvene mreže, uparene s umjetnom inteligencijom, počnu oblikovati osobne odabire i ponašanja ljudi. Na prvom mjestu navode pitanje autonomije pojedinca. Korisnici često nisu svjesni u kojoj mjeri algoritmi u trenutačnoj fazi razvoja mogu utjecati na neke odabire. Nadalje, društvene mreže već su se pokazale kao opasan alat u rukama onih koji nastoje stvoriti polarizaciju oko nekih osjetljivih pitanja. Treća razina rizika odnosi se na iskorištavanje vremena.
Mnoge su platforme oblikovane upravo na način da na njima korisnik provodi što više vremena ne bi li se tako prikupilo što više podataka o njegovim ponašanjima – lajkovima, kupnjama, klikovima… – koji se potom prodaju tzv. trećim stranama. Pozornost korisnika tako postaje proizvod, upozoravaju iz »Obitelji i medija«.
U kontekstu rizika povezanih s društvenim mrežama i umjetnom inteligencijom iz »Obitelji i medija« spominju i »efekt pojačavanja«. Uočljiva je na mrežama svojevrsna sklonost prema pojačavanju sadržaja koji je ekstreman, emocionalno nabijen. Logika je iza toga gotovo matematički objašnjiva. »Objave koje izazivaju snažne emocije – poput ljutnje, straha ili ogorčenja – imaju veću vjerojatnost da će biti dijeljene i potaknuti angažman korisnika. Algoritmi zato automatski promoviraju takvu vrstu sadržaja, stvarajući spiralu koja može poticati polarizaciju, dezinformacije i toksična ponašanja. Takav efekt pojačavanja nije ograničen samo na političke ili društvene teme. Sadržaji koji su povezani s mentalnim zdravljem, standardima ljepote ili osobnim uspjehom također mogu biti pojačavani na načine koji su štetni.« Do tih opasnosti, podsjećaju iz »Obitelji i medija«, vode nastojanja k uspostavi novoga ekonomskoga modela – svojevrsne »nadgradnje« postojećemu zapadnomu kapitalizmu – koji profesorica Shoshana Zuboff naziva »nadzorničkim kapitalizmom«.
