A Google és a Facebook döntései több milliárd embert érintenek, ennek ellenére államtitokként őrzik az algoritmusaikat.

A két konszern meghatározza, hogy miként érzékelik az emberek a világot, azonban nagyon is védik a rendszereiket, így senki nem tudja mi alapján állítják be azokat. Frank Pasquale, a Marylandi Egyetem jogászprofesszora azt szeretné, ha jobban át lehetne látni ezt a területet és egyúttal a jelenleginél sokkal nagyobb állami ellenőrzés valósulna meg. A szakember egy konferencián vett részt, ahol az "algoritmusok etikájáról" beszélt. A Black Box Society című könyvében azzal foglalkozott, hogy miként használják fel a különböző társaságok az algoritmusaikat és mit kell tenni ahhoz, hogy a felhasználók az eddiginél jobban beleszólhassanak a dolgokba.

"Napjainkban általánosan használt fogalom a fekete doboz; minden repülőgépnek van ilyen adatrögzítője. Amennyiben a jármű lezuhan, a doboz a legfontosabb dolgok közé tartozik, ugyanis ez tárolja el a legfontosabb repülési információkat. Nemsokára az autókban is lesz ilyen egység, és a startupok és fejlesztőik is ugyanilyen adatgyűjtést alkalmaznak. Adatokat kapnak tőlünk és dolgoznak azokkal, de kívülről nem látjuk, hogy mi történik az adatokkal."

"A Google vagy a Facebook esetében olyan cégekről beszélünk, amelyek döntései több százmillió ember életét érintik. Ezeknél a vállalatoknál sok pénzről van szó, amelyet algoritmusokkal keresnek és azok tartalmazzák az információinkat. Az algoritmusok azonban titkosak és ez ellen gyakorlatilag semmit sem tehetünk. Amikor Fergusonban egy fekete fiatal lelőtt egy fehér rendőrt, akkor ez a téma meghatározta a Twittert. Viszont a Facebookon ez a téma egyáltalán nem volt jelen, mindez pedig közvetlenül befolyásolja azt, hogy az emberek milyennek látják a világot. Nagy fantázia nélkül is elképzelhető, hogy a Facebook felvásárolja a Twittert, a Twitter pedig átveszi a közösségi portál algoritmusait és a jövőben erősebben szűri a negatív híreket. Abszolút nem egyértelmű, hogy egy felhasználó hírfolyamában egy adott hír meg fog-e jelenni, vagy sem. Engem ez aggaszt" - jelentette ki Frank Pasquale.

"Vagy ott van az az eset, amikor valaki a saját keresztnevére keresett rá és az eredmények között megjelenített reklámokban kapott egy olyan feliratot, hogy: "Le van tartóztatva?". Egy tanulmány megvizsgálta, hogy vajon van-e összefüggés a nevek és a hirdetések között és arra a következtetésre jutott, hogy a klasszikus afroamerikai nevekre való Google-keresések negatívabb reklámokhoz vezettek. Azt nem tudjuk, hogy az algoritmus rasszista-e és ezt a Google is kategorikusan cáfolta. Számos modell elképzelhető, amelyek mind ilyen eredményhez vezethetnek, csak feltételezhetjük a miértet és ez probléma."

A professzor hozzátette, hogy amikor a politikusok big data-elemzéseket használnak fel arra, hogy lefolytassák a választási kampányaikat, akkor nagyon nagy a kísértés a manipulációra. Mindezt a célzott reklám teszi lehetővé. Ilyen például, amikor az egyik jelölt kifejezetten a nyugdíjasokat, illetve egy másik kampányban csak a fiatalokat szólítja meg. Tartalmilag a két üzenet ellentmondhat egymásnak, de mivel az egyiket csak a fiatalok, a másikat pedig kizárólag az idősek nézik, így ez a dolog senkinek sem tűnik fel. Jelenleg nincs törvényes módja az ilyen kampányok és stratégiák betiltásának.

A hirdetők hasonlóan cselekszenek. Amennyiben egy olyan reklámot látunk, amelynek a szereplője hasonlít ránk, akkor nagyobb a valószínűsége, hogy megvásároljuk a kínált terméket. A marketingvállalatok ma már azt javasolják a jelentéseikben, hogy a nőket akkor kell reklámokkal megfogni, amikor a legkevésbé érzik jól magukat. Ez egyszerűen manipuláció.

"Az adatgyűjtések megakadályozása önmagában nem lehet megoldás, a fontos kérdés az, hogy miként lehet szabályozni a területet. Azok a társaságok, amelyek adatokkal kereskedhetnek, csak akkor tehetnék ezt meg, ha mind a felügyeleti hivatalokkal, mind felhasználóikkal közölnék, hogy honnan származnak az adatok és kiknek adták el azokat. Meg kell tudnunk, hogy a cégek mit tudnak rólunk, csak így ítélhetjük meg, hogy kifizetődő-e számunkra az adott hálózatok használata. A Facebooknak a felhasználók felé sokkal jobban kell kommunikálnia azt, hogy valami miért van megmutatva és más valami meg miért nem."


"Már 10 éve azt hallgatom, hogy majd a Google is egyszer megszűnik. A helyzet az, hogy a kereső alternatíva nélküli és használja az ügyfeleit. Ez alatt azt értem, hogy a Google csak azért ennyire jó, mert nincsen valódi ellenfele és mindenki részt vállal ebben a dologban. Minden általunk végzett keresés jobbá teszi a szolgáltatást. Amit az emberek a keresések formájában művelnek, az klasszikus munka, ezáltal létrejön egy kollektív intelligencia, amelynek Google a neve. De azt a pénzt, amely ennek köszönhetően keletkezik az a befektetőké lesz. A Google menedzsmentjének pénzt kellene fizetnie a szolgáltatásait használók számára" - szögezte le Frank Pasquale.

A Google feldarabolásának lehetőségét már 2007 decemberében Hermann Maurer professzor, a Grazi Műszaki Egyetem munkatársa is felvetette, majd Sigmar Gabriel német alkancellár és gazdasági miniszter nyilatkozottjavasolta.