Osaczeni przez liczby. O algorytmach, które kontrolują nasze życie. Od Facebooka i Google’a po fake newsy i bańki filtrujące

Autor: David Sumpter

• Szczegółowe informacje
• Informacje dot. wydania

• Tłumaczenie: Radosław Kosarzycki
  Tytuł oryginału: Outnumbered: From Facebook and Google to Fake News and Filter-bubbles
  Wydawnictwo: Copernicus Center Press
  Data wydania: 2019
  ISBN: 9788378864516, 9788378864585 (ebook)
  
• Wydanie: papierowe, e-book (epub, mobi)
  Oprawa: twarda
  Liczba stron: 352

Jak Facebook tworzy 100-wymiarowy obraz twojej osobowości? Czy algorytmy Google’a są rasistowskie i seksistowskie? Jaka czeka nas przyszłość, jeśli pozwolimy maszynom podejmować za nas decyzje?

Rozwój technologiczny otworzył przed matematykami i analitykami danych okno, przez które mogą wejrzeć w nasze życie. Wykorzystując stale zbierane dane o tym, dokąd podróżujemy, gdzie robimy zakupy, jakie są nasze poglądy, orientacja seksualna, czy preferencje polityczne, mogą oni zmieniać nasze przyzwyczajenia i coraz bardziej przenosić ciężar podejmowanych przez nas decyzji na… algorytmy. Afera Cambridge Analytica udowodniła, że algorytmy sterują nie tylko jednostkami, lecz całymi społeczeństwami.

David Sumpter sprawdza, czy i w jakim stopniu matematyka przekracza niebezpieczne granice, ingerując w podejmowane przez nas decyzje. Opisuje techniki statystyczne i dostarcza rzeczywistych przykładów ich działania.

Afera Cambridge Analytica. Facebook wybrał Amerykanom prezydenta. Czy nam też wybierze? – „Gazeta Wyborcza”

Sumpter rzuca nowe światło na to, jak alchemicy danych starają się nas przekonywać i przewidywać oraz czy ich algorytmy rzeczywiście są tak fantastyczne, jak się uważa –  „Financial Times”z opisu wydawcy

Google zbiera dane o użytkownikach. Facebook również to robi. Jak też najprawdopodobniej każdy internetowy serwis i portal, który ma swoich czytelników. Każdy użytkownik jest tego świadomy, choć być może nie każdy wie dokładnie, jakie ma to znaczenie oraz skutki. Najłatwiej dostrzegalnym z nich jest ten, że reklamy, które się wyświetlają podczas przeglądania stron internetowych wydają się dziwnie znajome.

Autora książka, Davida Sumptera polski czytelnik miał już szansę poznać dzięki poprzedniej publikacji Copernicus Center Press, czyli doskonałej Piłkomatyce. Zdołałem już się przekonać, że Sumpter jest nie tylko z zawodu ale też z pasji matematykiem, który dzięki uporządkowanej narracji, rzeczowej argumentacji i klarownemu językowi sprawia, że nawet książkę czyta się z nieustannie rosnącym zaciekawieniem. Tym bardziej, że w centrum uwagi tym razem znalazło się zjawisko, które dotyczy nas wszystkich – wykorzystanie algorytmów w profilowaniu użytkowników internetu. Algorytmy zbierają cala masę danych o poszczególnych użytkownikach, łącząc je w sieć powiązań. Do czasu, kiedy skutkiem ich działania jest wyświetlanie spersonalizowanych reklam, które podpowiedzą, gdzie kupić najtańsze i najlepsze struny do gitary, buty bądź ochraniacze piłkarskie zapewne nikt nie będzie miał nic przeciwko temu. Jeżeli maszyna potrafi zaoszczędzić czas i wyręczyć użytkownika w poszukiwaniach, wskazując produkty preferowane w poprzednich wyszukiwaniach, można jedynie się cieszyć. Co jednak, jeżeli algorytmy zbierają najbardziej wrażliwe dane, które powinny być chronione, a nie wykorzystywane, jak na przykład dane medyczne, finansowe, dotyczące wyznania, poglądów politycznych?

Facebook bazuje na naszych „lajkach”. Zbiera dane, aby je następnie uszeregować. Przyporządkowuje swoich użytkowników do kategorii, bazując na matematyce losowości. Co to oznacza? Nie analizuje każdego poszczególnego „polubienia” ale raczej proponuje jakiś losowy zestaw kategorii, za pomocą których chce nas opisać. Jest to punkt wyjścia, od którego serwis przechodzi do nieco bardziej szczegółowej analizy. Jego algorytm działa od ogółu (losowego) do szczegółu. Wciąż jednak zbudowany w ten sposób obraz użytkownika jest dosyć kompleksowy i wystarczający, aby na jego podstawie dopasować prezentowane treści. Wyszukiwarka Google z kolei wyświetla jako pierwsze te strony, które były dotychczas najczęściej wyszukiwanie i „klikane”. Nie tak dawno temu Google znalazło się pod lupą tzw. opinii publicznej, ponieważ w przypadku wyszukiwań haseł związanych z kwestiami wrażliwymi społecznie za często na pierwszych miejscach podawała linki do stron, które z całą pewnością nie były poprawne politycznie. Będąc ścisłym – wyszukiwarka zdawała się promować treści rasistowskie i seksistowskie. Nie należy jednak zbyt szybko wyciągać pochopnych wniosków – przeglądarka jako taka nie jest rasistowska, algorytmy też nie. Co zatem się stało?

O wiele bardziej znana i kontrowersyjna była afera Cambridge Analityca (w której Facebook zresztą odegrał wielką rolę). Firma ta profilowała potencjalnych wyborców, aby poprzez odpowiedni dobór prezentowanych im treści, wywrzeć na nich wpływ. Wykorzystywanie naszych preferencji, szczególnie poddanych tak dogłębnej analizie może stać się narzędziem manipulacji. Jednym z najciekawszych wniosków, do jakich doszedł autor omawiając sprawę Cambridge Analityca (choć pierwsze sygnały zapowiadające go pojawiły się już przy Facebooku) był ten, że komputery wcale nie działają w systemie zero-jeden. Choć kod może bazować na systemie binarnym, w którym właściwością informacji jest dychotomia: „tak – nie” lub: „prawda – fałsz”, to obraz użytkownika, który powstaje w wyniku pracy algorytmu jest o wiele bardziej złożony. Choć rzeczywiście u podstaw wciąż znajduje się tenże system zero-jeden, to poddane przez niego badaniom jest wiele (to „wiele” znajduje się dosyć często poza zasięgiem możliwości ludzkich) różnych danych. Z prostych danych tworzy się wielowymiarowy twór. David Sumpter równocześnie opisuje ten proces z dosyć dużymi detalami i niuansami i jednym z wniosków jest to, że my, ludzie nie jesteśmy do końca zdolni objąć własnym rozumem jak dokładnie działają Facebook czy też Google ze swoim etykietowaniem użytkowników.

David Sumpter w swojej książce wyjaśnia w jaki sposób media społecznościowe, wyszukiwarki i sklepy internetowe wykorzystują nasze kliknięcia i manipulują danymi przez na pozostawionymi w internecie za pomocą algorytmów. Jak wspomniałem na samym początku, wszyscy wiemy, że przeglądarki zbierają nasze dane i w jakiś sposób je wykorzystują, jednak dopiero po przeczytaniu tej książki zostałem uświadomiony o jak wielkim stopniu śledzenia tutaj mowa. Każde kliknięcie, każdy „lajk” pod pojedynczym zdjęciem lub klipem filmowym, każdy nasz zakup, każde wyszukiwanie trafia do ogromnego cyfrowego archiwum. A algorytmy pracują nad tym, aby stworzyć komplementarny portret użytkownika. Tworzy wielowymiarową mapę naszej osobowości, nieskażoną emocjami, w maksymalny sposób obiektywną i racjonalną. Posługując się narzędziami matematycznymi, autor wyjaśnia, w jaki sposób algorytmy radzą sobie z dużymi zbiorami danych, aby wyliczyć prawdopodobieństwo zajścia danego zdarzenia dla opisywanej osoby. Tym zdarzeniem może być na przykład zakup wskazanego towaru – aby pomóc losowi, przeglądarka pokaże nam reklamę. Ale może to być również zagłosowanie na partię X zamiast Y.

Autor zatem skupia się nad tym, aby wyjaśnić swoim czytelnikom jak działa profilowanie użytkowników i jak można użyć go do wpływania na jego decyzję. Na pierwszy rzut oka może się wydawać, że algorytmy i sztuczna inteligencja jest niezwykle przebiegła i potrafi skłaniać ludzi do określonych zachowań ale wcale tak być nie musi. Sumpter wyjaśnia skutki profilowania korzystając z własnego doświadczenia i pomocy swoich kolegów, którzy są praktykami w temacie mechanizmy funkcjonowania algorytmów. Na szczęście, mimo że jest on matematykiem, każdy przywołany przez niego przykład, który podpiera metodami matematycznymi jest wystarczająco jasny, aby zrozumiał go laik. Może nie całkowity laik, ale nie mam wątpliwości, że osoba, która uważała na matematyce w liceum nie powinna mieć problemu ze zrozumieniem treści książki.

Literacki język i przejrzysta narracja są niewątpliwie atutami książki. Dla mnie równie ważne było to, że autor nie daje się ponieść optymizmowi, ale w sposób rzeczowy bada problem, analizuje go przedstawiając metodologię i pozostaje przy tym maksymalnie obiektywny. A przy tym matematyka, której używa do uzasadnienia swoich twierdzeń nie jest zbyt skomplikowana. Sam temat jest dosyć drażliwy, ponieważ z jednej strony chodzi o profilowanie i potencjalne manipulowanie ludźmi i ich wyborami i jednak to jest głównym problemem omawianym w książce, a z drugiej na pewno gdzieś w tle zarysowuje się również problem dotyczący tego, jak szybko (i czy w ogóle) maszyny będą mogły zastąpić człowieka. A wnioski, jakie możemy wyciągnąć na oba te tematy nie są aż tak jednoznaczne, jak może byśmy chcieli lub się spodziewali.