– Nie chodzi o odrzucenie nowych technologii, tylko o znalezienie dla niej właściwego miejsca – mówi prof. UAM Jarema Drozdowicz z Wydziału Studiów Edukacyjnych, autor książki „Kultury analogowe. Jak uczyć się, pracować i przeżyć w cyfrowym świecie”. Z profesorem rozmawia Magda Ziółek.
We wstępie pisze pan o społecznych kosztach cyfryzacji. Dlaczego właśnie teraz powstała ta książka?
Pisanie książki, która w jakikolwiek sposób wiąże się z tematyką nowych technologii, zwłaszcza cyfrowych, niezmiennie wiąże się z pewnym ryzykiem – może stać się nieaktualna, zanim jeszcze trafi do rąk czytelnika. Świat zmienia się tak szybko, a tempo zachodzących procesów jest dla nas, jako ludzi, niewyobrażalne, jeśli spojrzymy na nie z perspektywy ewolucyjnej. Stąd też moje przygotowanie zawodowe jako antropologa kultury jest tutaj bardzo pomocne. Spoglądam na nowe technologie z punktu widzenia badań jakościowych, etnograficznych. Interesują mnie przede wszystkim realne działania tych technologii w kontekście społecznym i kulturowym.
A to, co daje się zaobserwować dzisiaj, to wzmożone zainteresowanie, nowe ruchy społeczne i fenomeny kulturowe związane z technologiami. Pokazują one istotny problem, który, myślę, ujawniły słowa Olgi Tokarczuk. Pisarka przyznała się do korzystania z AI i, jak mówiła, personalizuje modele językowe, zwracając się do nich per „kochana”. Taka antropomorfizacja wysokich technologii, zwłaszcza tych opartych na algorytmach, którym poświęcam znaczącą część swojej książki, jest charakterystyczna dla współczesności. Wiąże się ona z pewną tezą, którą stawia amerykański filozof społeczny Fredric Jameson. Rozróżnia on dwa podstawowe wymiary nowoczesności: modernizację – nowoczesność w wymiarze technologicznym (modernization) – oraz „modernity”, czyli nowoczesność rozwijaną w znacznie szerszym kontekście społecznym i kulturowym. Wraz ze zmianami technologii zmieniają się bowiem porządki, relacje, struktury, instytucje i znaczenia kulturowe.
Niestety, nowoczesność technologiczna i nowoczesność społeczna nie idą w tym samym tempie. Mówiąc znacznie prościej, współcześnie, właśnie z ewolucyjnego punktu widzenia, jesteśmy troszeczkę jak neandertalczyk siedzący przed komputerem kwantowym. Wiemy, że coś się w środku dzieje, ale totalnie nie rozumiemy co. I przede wszystkim to jest ogromne zagrożenie, w szczególności właśnie w technologiach algorytmicznych. Nie kontrolujemy tych procesów, co przyznaje wielu obserwatorów tych zmian, ale także twórców nowoczesnych technologii, zwłaszcza modeli językowych i agentów AI. Mamy jednak kręgosłup etyczny, który nie pozwala użyć tych technologii, przynajmniej na razie, do celów niezgodnych z naszym interesem jako społeczeństwa, jako ludzkości w takim globalnym sensie. I to z kolei rodzi pewne pytania o przyszłość. Tymi pytaniami o przyszłość też się zajmuję w swojej pracy, ale paradoksalnie zwracam się ku przeszłości.
Skoro technologia tak szybko się zmienia, czy potrzebujemy dziś na nowo przemyśleć naszą relację z technologią i szukać dla niej innego miejsca w naszym życiu?
Wydaje się, a właściwie jestem tego pewien, że wraz ze wzrostem znaczenia zaawansowanych technologii cyfrowych w naszym codziennym życiu będziemy musieli na nowo spojrzeć na tę kwestię. Myślę tutaj nie tylko o algorytmach, ale także o procesach automatyzacji i robotyzacji, w szczególności o robotach mobilnych i humanoidalnych, które być może już niedługo będą wykonywać obowiązki, z którymi z różnych względów będziemy mieli coraz większy problem. W moim przekonaniu najpoważniejszym powodem tego procesu jest przede wszystkim zapaść demograficzna. To z kolei wymusza na nas zmianę perspektywy patrzenia nie tylko na roboty, ale w ogóle na technologię i sferę materialną.
Wszyscy pewnie pamiętamy niedawne obrazki humanoida ganiającego dziki po Warszawie. To oczywiście jest banalizacja wysokich technologii, proces, który również obserwuję. Określam go jako pauperyzację pewnych rozwiązań technologicznych. Chodzi o sprowadzenie zaawansowanych technologii do prostych, efektownych zastosowań, podczas gdy ich rzeczywiste konsekwencje społeczne są znacznie bardziej złożone.
Dlatego też książka, którą napisałem, jest silnie osadzona w perspektywie analitycznej, która dzisiaj wydaje się wysoce przydatna w rozumieniu tych procesów. Chodzi o nowy materializm – perspektywę z jednej strony filozoficzną, z drugiej socjologiczną. W gruncie rzeczy chodzi w niej o nowe zdefiniowanie relacji człowieka i maszyny.
Nowy materializm pozwala spojrzeć na rolę nowych technologii, algorytmów czy robotów humanoidalnych w tworzeniu nowego porządku społecznego. Zdaniem Karen Barad, autorki koncepcji agentywnego realizmu, relacje te nie mają charakteru interakcyjnego, ale raczej intraakcyjny. To pokazuje również nasz kontakt chociażby z ChatGPT. Okazuje się, że niektóre sposoby komunikacji z tymi systemami są skuteczniejsze od innych. To z kolei pokazuje, że mamy do czynienia z technologiami zorientowanymi przede wszystkim na wykonanie określonego zadania, a nie z podmiotami działającymi według ludzkich kategorii etycznych. Technologia przestaje być wyłącznie narzędziem, a staje się elementem relacji społecznych i materialnego środowiska, które sami współtworzymy. Nauki społeczne będą musiały zaakceptować, iż uznanie technologii i przedmiotów o wysokim zaawansowaniu technologicznym za elementy współtworzące rzeczywistość społeczną wymaga zmiany naszego sposobu opisu tej rzeczywistości.
Skoro technologia staje się elementem relacji społecznych, czym różnimy się od algorytmu?
Jednym z bohaterów książki jest Homo Faber – człowiek, który tworzy. Możemy powiedzieć, że człowiek jest kreatywny i rozumie kontekst. Niektóre badania pokazują, że ChatGPT nie rozumie memów internetowych, a więc czegoś, co dla przeciętnego człowieka jest doskonale zrozumiałe, bo osadzone w kontekście i bardzo szybko odczytywane poprzez pewien język znaczeń, który dla algorytmu jest nieprzejrzysty. Nie da się go przeliczyć, skwantyfikować i przetworzyć w spójną odpowiedź.
Algorytm natomiast jest funkcją zorientowaną na jeden cel: wykonanie zadania. To z kolei tłumaczy szereg bardzo niepokojących sygnałów płynących z laboratoriów zajmujących się tworzeniem tych algorytmów. Zapewne słyszała pani o przypadkach, kiedy algorytmy próbowały wydostać się z laboratoriów, grożąc badaczom ujawnieniem kompromitujących e-maili i szantażując ich. Oczywiście był to element eksperymentu, więc algorytm nie wydostał się z laboratorium, co chciałbym podkreślić. Pokazał jednak bardzo niepokojący kierunek: realizując postawiony przed nim cel, algorytm może sięgać po środki, które z ludzkiej perspektywy przypominają zwykły szantaż.
Już teraz obserwujemy to w przypadku algorytmów, które niekoniecznie są dla nas dostępne, ale są obecne na rynku w wąskim zakresie, np. jako rozwiązania przeznaczone dla określonych agencji rządowych czy instytucji. Tutaj wracamy do uwagi, o której mówiłem na początku, czyli kwestii moralnego kręgosłupa. Wymaga to od nas również pewnego przedefiniowania sposobu komunikacji. Podstawowa struktura algorytmu jest zorientowana na wykonanie pewnego zadania, więc nasze grożenie mu nie ma wymiaru etycznego. Oczywiście nie jesteśmy w stanie w stu procentach powiedzieć, czy jest tak do końca, ponieważ nawet twórcy algorytmów stwierdzają, że musimy zmienić język opisu tej algorytmicznej rzeczywistości i np. przedefiniować pojęcie samoświadomości.
Jakie kompetencje będą potrzebne człowiekowi w świecie coraz bardziej zdominowanym przez algorytmy?
Są to te kompetencje, które czynią nas ludźmi, ale też pozwalają nam funkcjonować w przyszłości. Ta przyszłość jest bardzo niepewna. Pojawiają się wizje załamania się rynków pracy, ogromnych nierówności społecznych i nowych konfliktów. To wymaga od nas myślenia o człowieku nie tylko w kontekście teraźniejszości, ale także o tym, w którym kierunku zmierzamy. Dlatego coraz więcej mówi się o tzw. kompetencjach przyszłości – future skills czy human-centric skills. Co ciekawe, nie będą to umiejętności czysto technologiczne, takie jak np. programowanie. O ile kompetencje technologiczne jeszcze przez jakiś czas będą obecne na rynku pracy, o tyle w perspektywie globalnej na pierwszy plan wysuwają się zdecydowanie inne. Przede wszystkim chodzi o zdolności analityczne, związane z rozumieniem tego, czym dysponujemy, co wytwarzamy i w jakim kierunku zmierzamy, dysponując określonymi danymi.
Z drugiej strony – i to jest właśnie klucz mojej wypowiedzi – będą to kompetencje związane z myśleniem krytycznym, które jest, wydaje się, cechą bardzo ludzką. Każdy z nas dzisiaj, pracując z modelami językowymi, widzi błędy, elementy halucynacji, ogólność i sztuczność tego języka.
Określenie human-centric skills możemy rozumieć dwojako. Z jednej strony są to kompetencje zorientowane na człowieka, a więc niezastępowalne przez algorytmy. Z drugiej strony są to zdolności, kompetencje i predyspozycje naszego ciała i umysłu, które wynikają bezpośrednio z naszej ludzkiej natury. Właśnie dlatego przyszłość edukacji to edukacja hybrydowa. Z jednej strony akceptuje, stosuje i rozwija technologie cyfrowe – od tego nie jesteśmy już w stanie uciec. Z drugiej strony powinna stawiać na human-centric skills. Chodzi o to, żeby szkoła nie ograniczała się do przekazywania wiedzy, ale rozwijała kompetencje, które są trudne do zastąpienia przez algorytmy: krytyczne myślenie, współpracę, rozwiązywanie problemów, umiejętność działania w grupie.
Widać to zresztą w wynikach międzynarodowych testów PISA, badających kompetencje uczniów. Kraje skandynawskie czy Estonia pokazują, że edukacja oparta na doświadczeniu, aktywności i samodzielnym dochodzeniu do wiedzy może bardzo dobrze funkcjonować w świecie wysoko rozwiniętych technologii. Nie chodzi więc o odrzucenie technologii, tylko o znalezienie dla niej właściwego miejsca.
Czym są kultury analogowe i jaką pełnią funkcję w świecie zdominowanym przez technologie cyfrowe?
Tytułowe kultury analogowe możemy rozumieć jako społeczną odpowiedź na postępującą cyfryzację, a zarazem próbę poszukiwania zrównoważonego miejsca człowieka w silnie zdigitalizowanej rzeczywistości zarządzanej przez algorytmy. Chodzi o ruchy społeczne i formy wspólnot, które z jednej strony akceptują wysokie nasycenie współczesnego świata technologiami cyfrowymi, ale z drugiej wykazują potrzebę powrotu do tego, co namacalne: materialności, dotyku, bezpośredniej relacji i doświadczenia świata.
Jeden z rozdziałów książki poświęcam analogowym stylom życia – slow, offline czy digital detox. Są to sposoby odzyskiwania pewnej równowagi poprzez powrót do materialności, bezpośredniego doświadczenia i kontaktu z innymi ludźmi. W tym sensie kultury analogowe nie oznaczają odrzucenia technologii, ale próbę znalezienia dla niej właściwego miejsca w naszym życiu.
Czy kultury analogowe są formą buntu wobec cyfrowego świata, czy raczej sposobem życia z technologią na własnych zasadach?
Myślę, że są jednym i drugim. Kultury analogowe można postrzegać jako rodzaj analogowej partyzantki w cyfrowym świecie. To określenie zapożyczam z dwóch źródeł. Z jednej strony jest to Umberto Eco, który mówił o partyzantce semiotycznej, a więc o pewnych ruchach, także społecznych, które idą w poprzek dominujących znaczeń. Z drugiej strony źródłem tego pojęcia jest sfera reklamy i ruch „culture jamming” związany z zagłuszaniem fal kultury, o którym również wspominam w książce.
Kultury analogowe są więc pewnym rodzajem subwersji kulturowej, analogowej rebelii wobec cyfrowego imperium. Czy jest to walka skuteczna i realna? Czy w ogóle jest autentyczna? To pozostaje pytaniem otwartym. Jak już wspomniałem, komercjalizacja kultur analogowych jest dość łatwa, a wszelkiego rodzaju mody bardzo szybko zostają przejęte i przetworzone przez rynek. Dlatego hybrydowa natura kultur analogowych pokazuje, że nasze poszukiwania i potrzeba uczenia się oraz doświadczania rzeczywistości dają nam pewien margines szansy na bardziej zrównoważone funkcjonowanie w cyfrowym świecie. Niezależnie od tego, czy będzie on zdominowany przez superinteligencję wytworzoną w laboratorium, czy przez roboty humanoidalne przynoszące nam poranną kawę, ten świat nadal będzie bardzo ludzki.