Wykładowca i badacz fizyki półprzewodników Virginia Tech w Stanach Zjednoczonych. Od 1984 do 2008 r. pracował w przemyśle półprzewodnikowym w firmach Siemens, Motorola, STMicroelectronics i Freescale w USA, Niemczech, Francji i Rosji.

Jesteśmy dziś świadkami szybkiego, choć stopniowego rozwoju procesów związanych z automatyzacją, robotyzacją oraz sztuczną inteligencją. Niebawem czeka nas jednak „skok” porównywalny do fali tsunami, która wywróci do góry nogami dzisiejszy świat na bardzo wielu płaszczyznach. Dlaczego już niebawem praca człowieka może się okazać nie tylko niepotrzebna, ale wręcz destruktywna? Czym będziemy się wtedy zajmowali całymi dniami? Czy grozi nam sytuacja, w której to nie człowiek kontroluje maszyny, lecz maszyny człowieka?

Na temat m.in. wpływu robotyzacji, sztucznej inteligencji i cyfryzacji na nasze życie będziemy rozmawiali podczas XII Kongresu Obywatelskiego, który odbędzie się pod hasłem „Partnerska i wspólna Polska” 28 października w Warszawie.

Rozmowę prowadzi Marcin Wandałowski – redaktor thinklettera Kongresu Obywatelskiego.

Nie minę się chyba z prawdą mówiąc, że z każdym kolejnym miesiącem, tygodniem, a może nawet i dniem coraz więcej procesów w gospodarce jest automatyzowanych. Jak dotychczas nie mieliśmy jednak do czynienia z nagłym wielkim skokiem, lecz jest to raczej stopniowy, konsekwentny przyrost. Czy niebawem nie czeka nas jednak zmiana trajektorii?

Skok czeka nas z pewnością, lecz trudno precyzyjnie określić, w którym dokładnie momencie nastąpi. Jesteśmy dziś u podnóża stromej góry – to, co do tej pory rosło stopniowo, niebawem będzie wzrastać w postępie geometrycznym. Rewolucja nadchodzi bardzo szybkimi krokami, a jej głównymi filarami są automatyzacja, sztuczna inteligencja oraz robotyzacja.

Jaka jest tak właściwie różnica między automatyzacją a robotyzacją? Czy automaty nie są w pewnym sensie robotami, które wykonują zaprogramowane przez człowieka czynności?

Są to bliskie pojęcia. Różnica polega na tym, że automatyzacja jest pewną sekwencją czynności, które są monotonnie powtarzane. Robot natomiast może samodzielnie reagować na bodźce zewnętrzne.

Można zatem powiedzieć, że roboty są efektem połączenia automatyzacji ze sztuczną inteligencją…

Tak – są już chociażby dostępne w sprzedaży urządzenia, będące w stanie samodzielnie, w sposób spontaniczny omijać stojące im na drodze przeszkody. To dobry przykład obrazujący różnicę między robotyzacją a automatyzacją.

Wróćmy jednak do kwestii „skoku” – jakie mogą być jego konsekwencje?

Koncepcja tego „skoku” była przepowiadana już 70 lat temu – Teilhard de Chardin, francuski jezuita, opisywał go jako Punkt Omega, a polski matematyk, Stanisław Ulam, który pracował w projekcie Manhattan, jako syngularność. Ów „skok” można porównać do fali tsunami, która wywróci do góry nogami dzisiejszy świat na bardzo wielu płaszczyznach. Pierwszą i być może najważniejszą z nich będzie rynek pracy – automatyzacja i robotyzacja procesów wyeliminują miliony miejsc pracy. Począwszy od tych monotonnych, powtarzalnych, jak np. pakowanie paczek, sortowanie towarów, wybieranie, wysyłanie, co już się zresztą dzieje, skończywszy na bardziej zaawansowanych. Niebawem zniknie chociażby zawód kierowcy – już powstają auta, które „same się prowadzą”, na amerykańskich lotniskach pociągi kursujące między terminalami są bezzałogowe, podobnie jak niektóre linie metra, np. w Londynie. Już dyskutuje się nawet nad pomysłami opieki nad dziećmi i seniorami wykonywanej przez inteligentne roboty.

Czekający nas w niedalekiej przyszłości skok technologiczny można porównać do fali tsunami, która wywróci do góry nogami dzisiejszy świat na bardzo wielu płaszczyznach. Pierwszą i być może najważniejszą z nich będzie rynek pracy.

Cały czas mówimy jednak o zawodach, które są bardziej praco‑ niż wiedzochłonne. Czy zaawansowane usługi również mogą mieć problem z obronieniem się przed rewolucją technologiczną?

Owszem – wiele eksperckich systemów zostanie zastąpionych przez sztuczną inteligencję. Mam na myśli chociażby usługi lekarskie czy prawne. Komputer znacznie szybciej, dokładniej i pewniej od lekarza czy prawnika będzie w stanie wydać diagnozę lekarską czy werdykt. Już teraz technologie są do tego wykorzystywane przez człowieka – niebawem jednak w wielu aspektach człowiek nie będzie technologii do niczego potrzebny.

Czeka nas świat, w którym zamiast ludzi pracować będą wyłącznie roboty?

Praca większości ludzi może być nie tylko niepotrzebna, ale wręcz destruktywna. Nie zdziwię się, jeśli ludziom będzie się wręcz zabraniało pracować, gdyż będą po prostu mniej doskonali od robotów. Ewentualne popełniane przez nich błędy mogą przynieść więcej szkody niż pożytku.

Już niebawem praca większości ludzi może być nie tylko niepotrzebna, ale wręcz destruktywna. Ewentualne popełniane przez nich błędy mogą przynieść więcej szkody niż pożytku.

Co zatem stanie się z milionami bezrobotnych ludzi?

Staną się oni wyłącznie konsumentami, co będzie rodzić wiele wyzwań nie tylko natury ekonomicznej, ale i społecznej.

Za co jednak będą mieli kupować produkty i usługi, skoro będą pozostawali bez pracy?

W Finlandii już dziś wprowadzany jest tzw. dochód podstawowy, którego mechanizm polega na tym, że każdy obywatel będzie dostawał od państwa pewną wypłatę. Jaki tego sens? Konsumenci przedstawiają pewną wartość gospodarczą. Dla kogoś trzeba produkować. Gdyby nie mieli za co nabywać dóbr, załamałaby się produkcja i sektor usług.

Brzmi to jak science­‑fiction. Pojawia się pytanie: czym ci ludzie będą się w ogóle zajmowali całymi dniami, skoro nie będą musieli chodzić do pracy?

W interesie rządzących będzie leżało trzymanie tych ludzi w spokoju, by nie dochodziło do konfliktów społecznych. Chodzi o to, by mieli oni swoje zainteresowania, by mieli czym żyć. Mam tu na myśli sport, rozrywkę, piosenki, komedie – coś, co ludzi bawi i zadowala. Dla bardziej wymagających pozostanie edukacja i oddawanie się swoim głębszym zainteresowaniom.

Czy sądzi Pan, że rządzący już teraz świadomie starają się odwrócić uwagę społeczeństw od problemów związanych z ich perspektywami zawodowymi, przekierowując myślenie obywateli na tematy związane z rozrywką?

Nie wiem, na ile jest to świadome, a na ile w pół świadome, ale takie procesy mają dziś bez wątpienia miejsce chociażby w Stanach Zjednoczonych. Ludzi trzeba czymś zająć, skierować ich emocje na rzeczy dla władzy bezpieczne. Sport i rozrywka idealnie się do tego nadają. Jeżeli starczy dla wszystkich ziemi, może to być nawet opiekowanie się swoimi ogródkami działkowymi, a więc niejako powrót do koncepcji il faut cultiver notre jardin („Trzeba uprawiać nasz ogródek”) Voltaire’a.

Nie jest to – mówiąc wprost – ogłupianie społeczeństw, sztuczne zmienianie ich percepcji świata?

Jest to w pewnym sensie patronalistyczna forma kontroli nad społeczeństwem dla jego dobra. Gdyby tego nie robiono, mogłoby dojść do konfliktów, zamieszek, niepokojów. Wszyscy – i obywatele, i władza – by na tym ucierpieli. Takie działania można więc do pewnego stopnia uznać za sensowne.

Wydaje mi się jednak, że było już w historii ludzkości co najmniej kilka momentów – szczególnie przy okazji rewolucji przemysłowych w XIX i XX wieku – kiedy również spodziewano się, że wiele zawodów zniknie. Zazwyczaj faktycznie tak było, jednak w ich miejsce pojawiały się nowe. Czy fala, której spodziewamy się obecnie, również i tym razem nie wygeneruje szeregu nowych zawodów, które zastąpią stare? Być może powstaną nowe dyscypliny sportu, być może nowe miejsca pracy w prężnie rozwijającym się sektorze rozrywki…

Taki tok myślenia, choć w założeniu wydaje się poprawny, może tym razem okazać się błędny. Uważam, że zbliżamy się do szczególnego momentu w historii ludzkości, w którym wiele odniesień do przeszłości straci miejsce bytu. Już dziś jesteśmy świadkami tego, że w wielu krajach świata zanika przemysł ciężki, koncentrując się jedynie w kilku, np. w Chinach. Siłą napędową większości gospodarek – inaczej niż w przeszłości – są bądź też stają się natomiast usługi. O ile podczas wcześniejszych rewolucji przemysłowych można było uciec z przemysłu do usług, o tyle teraz – gdy wiele spośród usług będzie wykonywała sztuczna inteligencja – ludzie nie będą już mieli gdzie się podziać na rynku pracy. Nowe zawody z pewnością powstaną, lecz nie zastąpią w stosunku 1:1 tych, które zostaną zlikwidowane.

O ile podczas wcześniejszych rewolucji przemysłowych można było uciec z przemysłu do usług, o tyle teraz – gdy wiele spośród usług będzie wykonywała sztuczna inteligencja – ludzie nie będą już mieli gdzie się podziać na rynku pracy.

Czy elity rządzące państw zachodnich – bo to głównie ich gospodarki opierają się na usługach – są przygotowane na nadejście opisywanego przez Pana tsunami?

Mówiąc bardzo obrazowo: jesteśmy w sytuacji, w której spadamy ze szczytu drapacza chmur i przelatując na wysokości 50 piętra wołamy: „na razie wszystko w porządku”. Na to tsunami nikt w polityce nie jest przygotowany i dzieje się tak z rozmaitych powodów. Trzy z nich wydają się jednak szczególnie warte podkreślenia. Po pierwsze, wszyscy jesteśmy poniekąd dziećmi katastrofy gospodarek centralnie planowanych. Doświadczenia historyczne z XX wieku pokazują, że systemy oparte na komunizmie czy dyktaturach padały. Cały świat zachodni żyje więc w dobie gospodarki rynkowej, która jest ich przeciwieństwem. Koncepcja tego modelu zakłada, że istnieją niezależne od siebie siły, za pomocą których gospodarka jest budowana samoistnie, oddolnie. Wiemy już jednak, że również i ten model nie jest doskonały. Problem w tym, że nikt, głównie z powodów ideowych, nie chce się dziś podjąć pewnych odgórnych korekt, pamiętając, że dotychczas w historii miało to zazwyczaj zgubne skutki. Rządzący wolą więc zdać się na tzw. niewidzialną rękę rynku, zdejmując tym samym z siebie ciężar ewentualnych niepowodzeń związanych z odgórnym ingerowaniem w mechanizmy rynkowe.

Po drugie, spora część elit rządzących zdaje sobie sprawę, że złożoność tego, co nadchodzi przerasta po prostu wyobraźnię i zdolność abstrakcyjnego zorganizowania myślenia większości ludzi. Mówiąc wprost: wiele osób jest świadomych tego, że czeka nas ogromny problem, jednak nie mają pojęcia, w jaki sposób się na niego przygotować, bądź też go załagodzić. Czekający nas efekt domina będzie szedł w rozmaitych kierunkach i tak naprawdę nikt nie może przewidzieć, jakie dokładnie będą jego skutki. Po trzecie natomiast, sztuczna inteligencja – przynajmniej w niektórych zakresach – będzie inteligentniejsza od człowieka. Bardzo trudno przewidzieć, jakie mogą być tego skutki.

Człowiek powoli przestaje zatem mieć kontrolę nad otaczającym go światem – zaczyna nas on przerastać…

Proszę spróbować ocenić, jak wiele osób jest dziś w stanie wytłumaczyć, w jaki sposób funkcjonuje społeczeństwo, gospodarka czy państwo. Sądzę, że bardzo mała grupa. Owszem – wielu z nas ma pewne informacje z gazet czy z internetu, ale czy jesteśmy je w stanie odpowiednio ułożyć, ustrukturalizować? Ocenić, co jest ważne, a co nie? Co z czego wynika? Nie mówiąc już o najważniejszym chyba problemie: czy to, czego się dowiedzieliśmy, aby na pewno jest prawdziwe?

W średniowieczu wykształcony człowiek był w stanie ogarnąć, co dzieje się w całym jego mieście czy państwie. Potrafił zaprojektować w swojej głowie odpowiadający rzeczywistości obraz. Teraz już nie może. Dzisiejszy świat jest tak złożony, że pojedynczy człowiek nie jest w stanie objąć go swoim umysłem. Sztuczna inteligencja nie będzie z tym natomiast miała żadnego problemu. W horyzoncie kilkudziesięciu lat systemy będą więc korygowały, czy nawet kontrolowały człowieka – nawet tego najbardziej inteligentnego. Rodzi to moim zdaniem wielkie niebezpieczeństwo – równolegle z rozwojem technologii coraz lepiej poznajemy funkcjonowanie naszego mózgu. Zdobywamy przez to instrumenty wpływania na naszą percepcję, na sposób postrzegania świata, począwszy właściwie od podświadomości. Już teraz wiele reklam oddziałuje na bodźce, z których nie zdajemy sobie nawet sprawy, a które nakazują nam podjęcie takiej, a nie innej decyzji komercyjnej. A co, jeśli będziemy podatni na kontrolę również od strony zawodowej czy nawet uczuciowej? Co gorsza, od tej kontroli nie będzie nam się łatwo uwolnić – trzeba sobie bowiem zdać sprawę z tego, że nadchodzące zmiany wejdą w szatach olbrzymich ułatwień dla codziennego życia, jako nasz „przyjaciel i dobroczyńca”.

Równolegle z rozwojem technologii coraz lepiej poznajemy funkcjonowanie naszego mózgu. Zdobywamy przez to instrumenty wpływania na naszą percepcję. Już teraz wiele reklam oddziałuje na bodźce, z których nie zdajemy sobie nawet sprawy. A co, jeśli będziemy podatni na kontrolę również od strony zawodowej czy nawet uczuciowej?

Korzystając z internetu sami niejako zacieśniamy sznur na naszych szyjach – od strony technologicznej żadnym problemem jest przecież stworzenie naszego digitalnego sobowtóra, zbierającego w sieci wszystkie informacje na nasz temat: co kupujemy, jakie strony odwiedzamy, jakich treści poszukujemy…

To może pójść dużo dalej – takie systemy mogą przecież zdobyć dostęp do naszych maili i wyciągać wnioski z prowadzonych przez nas korespondencji, oceniając, w jaki sposób się komunikujemy, jak reagujemy na poszczególne sytuacje itp., tworząc de facto psychogram danej osoby. Wielkie korporacje już się tym interesują. Elon Musk stworzył instytut badający, jakie mogą być skutki rozwijania sztucznej inteligencji. Swoją cegiełkę do tego projektu dokłada też Bill Gates. Naprawdę trudno dziś wyrokować, w jakim kierunku to wszystko pójdzie.

A co, jeśli sztuczna inteligencja pozwoli nam na zdobycie pierwszego wydania nieśmiertelności? Mogę umrzeć, lecz mój digitalny sobowtór będzie egzystował dalej. Choć będzie odcięty od fizycznych doświadczeń, to będzie można z nim czatować, a on będzie odpowiadał na pytania na podstawie moich zachowań i doświadczeń mojego życia. A co, jeśli w niedalekiej przyszłości do naszego mózgu będzie można podłączyć moduł stanowiący hybrydę elektroniki i sztucznej inteligencji, dzięki czemu dana osoba z miejsca będzie w stanie posiąść ogromną wiedzę na dany temat, czy też posługiwać się nieznanym przez siebie językiem? Amerykańskie wojsko już pracuje nad tego typu rozwiązaniami. Jakie będą ich skutki? Trudno to sobie nawet wyobrazić.

powrót
Mariusz Orłowski

Dr Mariusz Orłowski

Virginia Tech

Wykładowca i badacz fizyki półprzewodników Virginia Tech w Stanach Zjednoczonych. Od 1984 do 2008 r. pracował w przemyśle półprzewodnikowym w firmach Siemens, Motorola, STMicroelectronics i Freescale w USA, Niemczech, Francji i Rosji.