Moloch to książka, na którą składają się dwa wcześniejsze zbiory esejów Lema, drukowane jako Tajemnica chińskiego pokoju i Bomba megabitowa. Obydwa były dużym sukcesem wydawniczym i miały tysiące czytelników. Wypełniały te tomy eseje Lema publikowane w czasopiśmie „PC Magazine”, dlatego — choć początkowo książki ukazały się w dwóch różnych wydawnictwach — stanowią w istocie całość i dziś ukazują się pod jedną okładką.

    Należy Moloch do obfitego u Lema pokłosia o kilkadziesiąt lat wcześniejszej Summy technologiae. W jakim jednak sensie można dziś mówić o „kontynuacji” dzieła tak w swej konstrukcji odmiennego jak Summa?

Tamta była dziełem wizjonerskim, a więc nie słuchającym przestróg ze strony świadomego aktualnych możliwości technicznych „zdrowego rozsądku” — stąd jej konstrukcja zamknięta i zakrój uniwersalistyczny. Eseje z Molocha są inaczej — tekstami „otwartymi”, wchodzącymi bowiem w dialog z aktualnymi odkryciami wiedzy i technologii. Narastają w czasie i bywają sprawozdaniami z aktualnych lektur Lema. Kim innym jest też ich autor: w czasach Summy pisarz fantasta i autor popularnonaukowych esejów skrzyżował te gatunki, tworząc wizję przyszłej technologii ocierającą się na pozór o czystą fantazję. Książki owej nie weryfikowano, opierając się o bieżący stan nauki, oceniano ją raczej z punktu widzenia śmiałości i pomysłowości prezentowanych idei. Dziś, w obliczu praktycznej realizacji swych koncepcji, autor Summy musi odczuwać nieporównanie większą odpowiedzialność. Główna różnica pomiędzy Summą a Molochem wynika stąd, że pierwsza powstawała w przestrzeni niejako pustej, zapełniając ją jeno hipotezami, druga zaś wizje zestawia z realizacjami, mierzyć się też musi ze zgiełkiem nowych odkryć, ich społeczno-kulturowymi konsekwencjami i towarzyszącym im medialnym szumem.

    W Summie prognozy szły w następujących kierunkach. Po pierwsze, przewidywał Lem niezwykle szybki rozwój technik informatycznych, zmierzający w kierunku tworzenia urządzeń zdolnych do prześcignięcia rozumu ludzkiego, przynajmniej w pewnych istotnych aspektach jego działania. Po drugie, przyszłe technologie miały podług Lema wykorzystywać na szeroką skalę rozwiązania stworzone przez naturę — niedościgniony wzór dla inżynierów. Po trzecie, autor Summy przewidywał rozwój takich technologii, które umożliwią człowiekowi bądź nieograniczone niemal przedłużenie zasięgu jego zmysłów, bądź otoczenie się — z pomocą urządzeń działających bezpośrednio na receptory w obrębie mózgu — „sztuczną rzeczywistością”, nieodróżnialną od prawdziwej. Po czwarte wreszcie, skonstruował Lem taki model rozwoju nauki i technologii, który owemu rozwojowi nadaje charakter procesu po trosze spontanicznego i nie podlegającego planowaniu. Dlatego pomysły uczonych mogą być dla ludzkości wręcz groźne, bo też żadnych odkryć, jeśli są możliwe, uniknąć ani „cofnąć” się nie da. Rzecz jasna, Summa zawierała jeszcze szereg innych projektów, jednak te idee, które wymieniłem powyżej, doczekały się najszybciej realizacji, jeśli nie pełnej, to przynajmniej — jak w przypadku rzeczywistości wirtualnej — zaczątkowej i wiele wróżącej na przyszłość. Sprawdza się także uniwersalny scenariusz rozwoju nauki — o tyle przynajmniej, że, mimo głośnych protestów, uczeni realizują szybko nawet te najbardziej (jak klonowanie) kontrowersyjne projekty działania.

    Po czterdziestu latach Lem nie próbuje powtarzać struktury Summy i wiele z jej pomysłów wypiera z obszaru zainteresowania. Pozostaje jedynie to, co stanowi przedmiot najbardziej aktualnych dyskusji, a zatem problemy, które rodzi rozwój informatycznych sieci, pytanie o możliwość stworzenia sztucznej inteligencji, a co za tym idzie — o istotę rozumu, myślenia, świadomości. Jeśli miałbym jednak — patrząc na te eseje „z lotu ptaka” — sformułować ich charakterystykę ogólną, to zwróciłbym uwagę na inną kwestię, która wyłania się dopiero, gdy połączymy treści wielu zamieszczonych w książce tekstów. Można byłoby nazwać ją kwestią szeroko pojętej etyki.

    W Summie technologiae technologia ewoluuje niejako samoistnie, niczym natura, choć pod ciśnieniem ludzkich marzeń o poznaniu i opanowaniu świata, nie poddaje się zatem łatwo etycznej kwalifikacji. W Molochu abstrakcyjny projekt staje się rzeczywistością i przenika do codziennego życia przeciętnych ludzi, wchodzi do ich domów w postaci Internetu, produktów inżynierii genetycznej, prymitywnych na razie urządzeń produkujących wirtualną rzeczywistość itd. A więc to, co jako abstrakcyjny projekt zdawać się mogło nieuchronnym i „obiektywnym” wynikiem jakichś bezosobowych procesów, wprowadzone w konkret życia społecznego i ekonomicznego może budzić silną repulsję jako zaproszenie do nadużyć moralnych i zwykłego wyuzdania.

    Swoje rozważania rozpoczyna Lem od porównania intelektu ludzkiego i maszynowej „sztucznej inteligencji”. Inspirowany wyraźnie przez La Mettriego Człowieka maszynę, nie decyduje się jednak na zrównanie dwóch członów tej formuły, rozdzielając je spójnikiem „i”. Człowiek Lema nie jest maszyną, nie jest też spójną całością, nie może bowiem pogodzić w sobie własnej fizyczności ze zrodzonym w niej myśleniem, ciała ze świadomością. Pytanie o to, czym jest rozum i czym jego wersja ludzka różni się od maszynowej, jest jednym z naczelnych pytań książki, a jego konsekwencje właśnie w sferę etyki sięgają. Spróbujmy to pokrótce rozważyć.

    Na początek: o czym właściwie mówimy, używając w języku potocznym słowa „rozum”? Zda mi się, iż odnaleźć w nim można co najmniej cztery zasadnicze znaczenia.

    Po pierwsze: rozum jest tam, gdzie myślenie w sensie najbardziej elementarnym z możliwych, myślenie jako „przetwarzanie danych”, pozwalające z przesłanek wysnuć konkluzję, rozwiązać matematyczne zadanie, odbierać bodźce z otoczenia i właściwie na nie reagować.

    Po drugie: rozum to władza bardziej skomplikowana. Tam gdzie o niej mowa, musi istnieć bowiem coś tak trudnego do zdefiniowania, jak świadomość, poczucie własnego „ja”, akty wolnej woli. Istota „rozumna” to nie taka, która potrafi wykonać działanie: 2×2 = 4, lecz taka, która chce się dowiedzieć, ile jest 2 razy 2, a potem wie, że 2×2 jest 4, lub nawet — co za paradoks! — wzorem pewnej uroczej maszyny Trurla, jest absolutnie przekonana, że 2×2 to 7.

    Po trzecie: rozum tam się pojawia, gdzie wykrywamy ład i celowość w rzeczach. Ten rozum jest jak gdyby zaklęty w przedmiotach, organizmach, biosferze; decyduje, że lód jest lżejszy od wody, a rośliny mogą czerpać energię bezpośrednio ze słonecznych promieni. Zawiaduje niezmierzoną komplikacją żywych organizmów, tropić go można w zagadce tzw. anthropic principle. Trudno przypisać mu postać osobową czy jakąkolwiek świadomość, jest bowiem raczej cechą, nieodróżnialną od świata samego, warunkiem jego funkcjonowania i homeostazy.

    Po czwarte wreszcie: rozum to władza myślenia prospektywnego, układania planów i ich realizacji, przewidywania skutków własnych posunięć i nakierowywania działań na jakiś cel — tak mały jak rozwiązanie matematycznego zadania i tak wielki jak budowa wszechświata.

    Pierwszym z tych „rozumów” władają maszyny, drugim — ludzie, trzeci zaklęty jest w świecie, który nas otacza, warunkuje jego przetrwanie i rozwój — wreszcie czwarty tkwi, owszem, w ludziach, ale jest też uniwersalnym marzeniem o „rozumności kosmosu” pojmowanego w kategoriach teleologicznych i transcendentnych. To „rozum czuwający nad światem”, „plan Demiurga”, wszechobecna i przychylna Istnieniu Opatrzność. Marzenie o takim „rozumie” także u Lema się pojawia — w zakończeniu Głosu Pana na przykład — nie jako formułowana serio przez autora naukowa hipoteza, ale raczej jako wyraz ludzkiej tęsknoty, „choroby sierocej”, niekiedy tylko przybierającej mylącą postać uczonego wywodu.

    Pomiędzy tymi czterema „rozumami” rozgrywa się najistotniejszy dla mnie intelektualny dramat w Molochu. Bo rozgraniczyć je łatwo w teorii — konstruktorska praktyka i uczony namysł próbują owe granice zatrzeć lub przełamać. Bo czyż nie może być tak, że „myślenie nr 2” — to ludzkie — jest tylko spiętrzonym do zawrotnej komplikacji „myśleniem nr 1”? Że ludzki rozum od maszynowego odróżnia tylko stopień złożoności, a zatem dystynkcja ma charakter ilościowy, nie jakościowy? Może więc „ludzkość” da się aplikować maszynie stopniowo — aż do zatarcia wyrazistych linii podziału? A „maszynowość” znów można — kto wie — przymieszać do ludzkich władz umysłowych w postaci brain chips czy innych jeszcze wersji cyborgizacji organizmu bądź intelektu? W takich przypadkach inżynier konstruktor mikroprocesorów i informatyk programista stają się na swój szczególny sposób filozofami eksperymentatorami, bo od wyników ich pracy zależeć poczyna wizja świata i człowieka, odpowiedź na najbardziej elementarne pytania dotyczące porządku Uniwersum, pochodzenia rozumu, człowieka itd. Bo jeśli „sami siebie” skonstruować potrafimy, to przyjdzie nam przeformułować wszystkie najgłębsze metafizyczne pytania ludzkości.

    Im usilniej tedy konstruktor próbować będzie znosić rozgraniczenia pomiędzy „rozumem” 1 i 2, tym bardziej zaciekle teolog pracować będzie nad zatarciem granicy między „rozumem” 3 i 4. — Nie ma „rozumu bezosobowego zaklętego w budowie wszechświata” — powie. To, co jawi się jako szereg bezkierunkowych zmian i mutacji, jest w istocie realizacją finezyjnego planu Stwórcy; ewolucja prowadzi do jakiegoś celu, który — choć niedocieczony — z pewnością istnieje i kiedyś, na tamtym świecie, będzie nam może dane go poznać.

    W tych dwóch odmianach — konstruktorskiej i teologicznej — myśl ludzka objawia swe dwa odwieczne dążenia: dorównać Stwórcy i usunąć go w cień — a zarazem odnaleźć jego ślad we wszechświecie. Lema opcja ateistyczna — tylekroć uzasadniana — sytuowałaby go zdecydowanie po stronie tych, co pracują nad „uczłowieczeniem maszyny” i zarazem negują celowość ewolucyjnych procesów. Ale autor Molocha nie myśli ideologicznie, jest więc raczej sceptykiem w pierwszym punkcie, jakkolwiek w osobowy rozum zaklęty w porządek kosmosu także nie wierzy.

    Trud konstruktorów, którzy próbują naśladować w maszynie ludzkie myślenie, zda się na pierwszy rzut oka owocem ambicji, niedorzecznego pragnienia, by dorównać Bogu. Wszelako dążenie do stworzenia maszyny mądrej, a nie tylko nadludzko sprawnej w przetwarzaniu danych, wydaje się całkiem sensowne. Sztuczna inteligencja zdolna do wartościowania i do wszelkich w ogóle operacji myślowych wyższego rzędu staje się czymś upragnionym tam, gdzie w olbrzymim tempie rośnie góra głupiej, nieważnej, nieistotnej informacji — niczym Himalaje zalewających nas odpadków.

    W swej książce poświęca Lem bardzo wiele miejsca sceptycznym rozważaniom na temat Internetu i zawiedzionych nadziei, jakie z nim wiązano. Internet — zamiast być wciąż potężniejszą składnicą ludzkiej mądrości, urządzeniem potęgującym nieskończenie nasze możliwości — stał się nie tylko gigantycznym magazynem, gdzie mądrość sąsiaduje z oceanami głupstwa (często praktycznie od nich nieodróżnialna), ale co gorsza — miejscem, gdzie może bardziej niż gdziekolwiek manifestuje się ludzka podłość, złośliwość, chciwość i inne najgorsze skłonności. Wylicza więc Lem wielokroć wyczyny hackerów, złodziei komputerowych, producentów wirusów, pornografów itd. Internet — miast stać się sublimacją ludzkiego intelektu — stał się raczej mało pociągającym autoportretem człowieka — wraz ze wszystkimi jego grzechami i niedostatkami. Widzi mi się, że głównym problemem Internetu jest podług Lema zbytnia wolność, jaką daje on ludzkim złym instynktom, jest bowiem medium, które jako całość działa bezkierunkowo i bezrozumnie, dopuszcza działania anonimowe, co umożliwia internautom bezkarne dawanie upustu najniższym, otamowanym zwykle obyczajową i prawną cenzurą skłonnościom.

    Tu właśnie zdaje się tkwić główna sprzeczność, jaka podminowuje wszelkie próby stworzenia sztucznej inteligencji. Za jej realizację pożądaną uważa się bowiem powszechnie kreację maszynowego intelektu, który przypominałby intelekt ludzki. Przy czym bierze się zazwyczaj pod uwagę tylko pozytywne cechy takiego intelektu, jego — by tak rzec — postać czystą, nie zarażoną niezwalczonym popędem do „grzechu”. Ale przecie główny problem, jaki mają, zdaniem Lema, konstruktorzy sztucznej inteligencji, to nieumiejętność naśladowania w maszynie sfery emocjonalnej ludzkiego rozumu, świadomości własnego „ja”, aktów woli, poczucia humoru i wszystkich innych specyficznie ludzkich cech intelektu. Nie można by tego wszystkiego zapewne uzyskać, nie obdarzając maszyny „sensorium”, a może też czymś w rodzaju sztucznego „ciała”, podatnego na zmysłowe doznania. Gdyby te cechy człowieka naśladować w sposób udatny, moglibyśmy otrzymać istotę obdarzoną podobnymi defektami jak te, które trapią ludzki gatunek. I aby z kolei defekty owe opanować, należałoby chyba wszczepić maszynie program ograniczający wolność, coś w rodzaju mechanicznego superego, a wraz z nim pierwociny wstydu, zahamowań i kompleksów.

    Stwarzanie sztucznych istot myślących jest więc zadaniem niezwykle ambitnym i fascynującym, obarczonym jednakowoż złą wiarą, jako że dążąc do stworzenia czegoś w rodzaju „sztucznego człowieka”, w istocie stworzyć go w całym jego uposażeniu — wcale niekoniecznie chcemy. Dylemat Frankensteina objawia się tu w całej okazałości. W stosunku do zapowiedzi wykreowania sztucznej świadomości już w najbliższym czasie Lem zachowuje daleko idący sceptycyzm, choć możliwości takiej a priori nie odrzuca. Spodziewa się jednak, że zamiast maszyn naśladujących jeden — ludzki — sposób myślenia powstanie bardzo wiele różnorodnych wariantów urządzeń — myślących na rozmaite, odległe od ludzkiego sposoby. W tej sytuacji na dzień dzisiejszy znacznie bardziej obiecujące wydaje się dążenie do rozwijania namiastek znanej nam z Wizji lokalnej „etykosfery”, czyli urządzeń elastycznie reagujących na wszelkie (także te płynące z defektów ludzkiej natury) zagrożenia dla bezpieczeństwa jednostek. Kreacja sztucznego intelektu obdarzonego indywidualną świadomością i poczuciem własnego „ja” zastąpiona zostałaby wówczas przez budowę swego rodzaju „przychylnego środowiska”, sterowanego przez inteligencję wyspecjalizowaną w funkcjach ochronnych wobec życia biologicznego, a także, być może, w filtrowaniu obecnej w komputerowych sieciach informacji, tak by odsiewać z niej to, co bezwartościowe czy występne. Inteligencja ta byłaby pozbawiona osobowości, a zatem zasadniczo nieludzka i do ludzkiej niepodobna. W ten sposób zapewne udałoby się naprawić błędy popełnione przy stwarzaniu Internetu: tzn. zamiast amplifikować mechanicznie najgorsze ludzkie instynkty, można by ich zaspokajaniu, z pomocą maszyn i programów, zapobiegać.

    Osobliwe są problemy, jakie ludzkość funduje sobie, rozszerzając wciąż granice poznania i potęgując intelektualną produkcję. Jest bowiem tak, że one wszystkie streszczają się w kwestii: jak ocean informacji wlać w probówkę osobniczego umysłu? Cóż mi bowiem przyjdzie z faktu, że gdzieś tam rozwiązuje się dylematy, które mnie nurtują, skoro do tych rozwiązań nie przedostanę się nigdy, skazany na skończoność własnego rozumu i ograniczenie fizycznych możliwości? Człowieka nie satysfakcjonuje wiedza przybierająca postać Borgesowskiej „Biblioteki Babel” — chciałby takiej, która zachowa podmiotowy charakter, zmieści się w czyimś prywatnym „obrazie świata”. Jak to marzenie urzeczywistnić? Po pierwsze — konstruując taki maszynowy intelekt, który nie byłby już tylko elektronicznym magazynem informacji, ale który umiałby z tą wiedzą postępować „jak człowiek”, czyli układać z niej pewną systemową całość, zrelatywizowaną wobec swego (cóż stąd, że sztucznego?) „ja”. Po drugie — kreując nieobjętą sieć składującą i przesyłającą informację, sieć zarazem „demokratyczną”, zapewniającą w założeniu każdemu z uczestników jednakowy dostęp do wszystkich złóż wiedzy.

    Korzyści z obydwu tych metod zdają się iluzoryczne: konstruowanie sztucznego rozumu jawi się jako próba spełnienia marzeń o swoistym „Bogu z maszyny”, czyli istocie, która zdjęłaby z nas ciężar zbyt przytłaczającej swym ogromem wiedzy, a jednocześnie wiedziałaby, co z nią począć, jak z tych cegiełek zbudować gmach-kosmos. Perspektywa stworzenia takiej istoty, która — jak Lemowy Golem XIV — umiałaby spojrzeć na ludzkość i jej problemy „z góry”, jeśli w ogóle możliwa, odsuwa się jednak w bliżej nieokreśloną przyszłość. Inaczej jest z siecią: ta proponuje spełnienie marzeń od razu, ale owo spełnienie ma ironiczny wydźwięk: wszechdostępność informacji staje się nie tyle błogosławieństwem, ile raczej zmorą, skoro wyklucza objęcie umysłem i rozeznanie się zarówno w wartości, jak po prostu w złożoności i bogactwie tego, co sieć oferuje.

    Antyczną historię o chciwym królu Midasie, któremu wszystko w złoto się przemienia, Lem zaadaptował do nowych ludzkich namiętności, tworząc postać zbójcy Gębona, który ugina się pod górą nie selekcjonowanej informacji. Tak właśnie bywa z wielkimi marzeniami ludzkości: chcemy coraz więcej wiedzieć i efektywniej rozwiązywać intelektualne zadania, coraz sprawniej kierować zjawiskami i procesami natury, coraz wreszcie bardziej namacalnie przeżywać iluzje konstruowanych dla siebie sztucznych rajów. Początki tego miłe — koniec często żałosny, a w każdym razie zazwyczaj niezgodny z pierwotnymi oczekiwaniami. Właśnie o tym jest książka Lema. Powstawała ona inaczej niż porywająco śmiałe wizje Summy technologiae, w których na plan pierwszy wysuwała się całościowość i organiczność twórczego zamysłu, porywający plan ewolucji biologicznej, która znajdowała prędko przedłużenie w ewolucji technologicznej, wiodąc zrodzony w sobie rozum w kosmiczne dale, ku nieskończonym przygodom. Ta nowa książka jest stokroć bardziej pesymistyczna, ale zarazem empiryczna, bo nadzieje zestawia miesiąc po miesiącu i rok po roku z praktycznymi realizacjami, z oporem tworzywa, z kreowanymi przez ludzkość mitami i przyrodzoną jej skłonnością do grzechu. W Summie była jeszcze wiara w to, iż kultura ludzka wchłonie odkrycia technologii harmonijnie i z pożytkiem dla siebie — teraz przeważa u Lema obawa, że tak czy inaczej innowacje pojawią się nie w porę, przyjdą do ludzi nie przygotowanych na ich przyjęcie, powodując okaleczenie psychiki jednostek i trudne do przewidzenia zmiany w organizacji życia zbiorowego.

    Myślenie wraz z Lemem i na jego warunkach nie obiecuje zatem ukojenia egzystencjalnych i poznawczych niepokojów, jest jednak myśleniem „dla dorosłych”, tzn. nie ukrywającym kłopotów, nie tuszującym antynomii i nie obiecującym żadnej świetlanej przyszłości. Zapewne tylko tak godzi się dzisiaj mówić o perspektywach technologicznych piekieł i rajów. Jedno pewne: spisując tę serię felietonów dla czytelników komputerowego czasopisma, dając sprawozdanie z aktualnych lektur, powracając do swoich prognoz z Summy technologiae, formułując nowe na życzenie tych lub innych naukowych gremiów, Lem znów — jak tylekroć przedtem — z rozsypanych kamyczków doraźnej felietonistyki ułożył bezwiednie mozaikę, w której rozpoznajemy zarysy owej pamiętnej z wcześniejszych książek Ogólnej Teorii Wszystkiego. Bo te rozważania nad cechami ludzkiej i maszynowej inteligencji, mocą obliczeniową mózgu, naturą ewolucji itd. czymże są, jak nie — znów, po raz który już — projektem wszechświata, namysłem nad jego strukturą i najbardziej generalnymi prawidłami? Byłożby więc tak, że Lemowi wszystko, nawet felietonowa ulotność, przemienia się od razu w fundamentalny namysł nad Kosmosem, Człowiekiem czy Bogiem? Ciekawe pytanie, bo wiedzie natychmiast do innego: gdzie tkwi „rozum” Molocha, kto układa jego składność? Czy tkwi ona obiektywnie w porządku tekstów, co „sam się ułożył” w filozoficzne dzieło, czy założył ją i wykonał Autor? Czy może to czytelnik, w pogoni za Tajemnicą Istnienia, tak sobie owe puzzle ustawia, by spoza felietonowych kamyczków wyjrzało nań groźne oblicze Molocha — ku przestrodze dla nas wszystkich?

Jerzy Jarzębski