Moloch to książka, na którą składają się dwa wcześniejsze zbiory esejów Lema, drukowane jako Tajemnica chińskiego pokoju i Bomba megabitowa. Obydwa były dużym sukcesem wydawniczym i miały tysiące czytelników. Wypełniały te tomy eseje Lema publikowane w czasopiśmie „PC Magazine”, dlatego — choć początkowo książki ukazały się w dwóch różnych wydawnictwach — stanowią w istocie całość i dziś ukazują się pod jedną okładką.

    Należy Moloch do obfitego u Lema pokłosia o kilkadziesiąt lat wcześniejszej Summy technologiae. W jakim jednak sensie można dziś mówić o „kontynuacji” dzieła tak w swej konstrukcji odmiennego jak Summa?

Tamta była dziełem wizjonerskim, a więc nie słuchającym przestróg ze strony świadomego aktualnych możliwości technicznych „zdrowego rozsądku” — stąd jej konstrukcja zamknięta i zakrój uniwersalistyczny. Eseje z Molocha są inaczej — tekstami „otwartymi”, wchodzącymi bowiem w dialog z aktualnymi odkryciami wiedzy i technologii. Narastają w czasie i bywają sprawozdaniami z aktualnych lektur Lema. Kim innym jest też ich autor: w czasach Summy pisarz fantasta i autor popularnonaukowych esejów skrzyżował te gatunki, tworząc wizję przyszłej technologii ocierającą się na pozór o czystą fantazję. Książki owej nie weryfikowano, opierając się o bieżący stan nauki, oceniano ją raczej z punktu widzenia śmiałości i pomysłowości prezentowanych idei. Dziś, w obliczu praktycznej realizacji swych koncepcji, autor Summy musi odczuwać nieporównanie większą odpowiedzialność. Główna różnica pomiędzy Summą a Molochem wynika stąd, że pierwsza powstawała w przestrzeni niejako pustej, zapełniając ją jeno hipotezami, druga zaś wizje zestawia z realizacjami, mierzyć się też musi ze zgiełkiem nowych odkryć, ich społeczno-kulturowymi konsekwencjami i towarzyszącym im medialnym szumem.

    W Summie prognozy szły w następujących kierunkach. Po pierwsze, przewidywał Lem niezwykle szybki rozwój technik informatycznych, zmierzający w kierunku tworzenia urządzeń zdolnych do prześcignięcia rozumu ludzkiego, przynajmniej w pewnych istotnych aspektach jego działania. Po drugie, przyszłe technologie miały podług Lema wykorzystywać na szeroką skalę rozwiązania stworzone przez naturę — niedościgniony wzór dla inżynierów. Po trzecie, autor Summy przewidywał rozwój takich technologii, które umożliwią człowiekowi bądź nieograniczone niemal przedłużenie zasięgu jego zmysłów, bądź otoczenie się — z pomocą urządzeń działających bezpośrednio na receptory w obrębie mózgu — „sztuczną rzeczywistością”, nieodróżnialną od prawdziwej. Po czwarte wreszcie, skonstruował Lem taki model rozwoju nauki i technologii, który owemu rozwojowi nadaje charakter procesu po trosze spontanicznego i nie podlegającego planowaniu. Dlatego pomysły uczonych mogą być dla ludzkości wręcz groźne, bo też żadnych odkryć, jeśli są możliwe, uniknąć ani „cofnąć” się nie da. Rzecz jasna, Summa zawierała jeszcze szereg innych projektów, jednak te idee, które wymieniłem powyżej, doczekały się najszybciej realizacji, jeśli nie pełnej, to przynajmniej — jak w przypadku rzeczywistości wirtualnej — zaczątkowej i wiele wróżącej na przyszłość. Sprawdza się także uniwersalny scenariusz rozwoju nauki — o tyle przynajmniej, że, mimo głośnych protestów, uczeni realizują szybko nawet te najbardziej (jak klonowanie) kontrowersyjne projekty działania.

    Po czterdziestu latach Lem nie próbuje powtarzać struktury Summy i wiele z jej pomysłów wypiera z obszaru zainteresowania. Pozostaje jedynie to, co stanowi przedmiot najbardziej aktualnych dyskusji, a zatem problemy, które rodzi rozwój informatycznych sieci, pytanie o możliwość stworzenia sztucznej inteligencji, a co za tym idzie — o istotę rozumu, myślenia, świadomości. Jeśli miałbym jednak — patrząc na te eseje „z lotu ptaka” — sformułować ich charakterystykę ogólną, to zwróciłbym uwagę na inną kwestię, która wyłania się dopiero, gdy połączymy treści wielu zamieszczonych w książce tekstów. Można byłoby nazwać ją kwestią szeroko pojętej etyki.

    W Summie technologiae technologia ewoluuje niejako samoistnie, niczym natura, choć pod ciśnieniem ludzkich marzeń o poznaniu i opanowaniu świata, nie poddaje się zatem łatwo etycznej kwalifikacji. W Molochu abstrakcyjny projekt staje się rzeczywistością i przenika do codziennego życia przeciętnych ludzi, wchodzi do ich domów w postaci Internetu, produktów inżynierii genetycznej, prymitywnych na razie urządzeń produkujących wirtualną rzeczywistość itd. A więc to, co jako abstrakcyjny projekt zdawać się mogło nieuchronnym i „obiektywnym” wynikiem jakichś bezosobowych procesów, wprowadzone w konkret życia społecznego i ekonomicznego może budzić silną repulsję jako zaproszenie do nadużyć moralnych i zwykłego wyuzdania.

    Swoje rozważania rozpoczyna Lem od porównania intelektu ludzkiego i maszynowej „sztucznej inteligencji”. Inspirowany wyraźnie przez La Mettriego Człowieka maszynę, nie decyduje się jednak na zrównanie dwóch członów tej formuły, rozdzielając je spójnikiem „i”. Człowiek Lema nie jest maszyną, nie jest też spójną całością, nie może bowiem pogodzić w sobie własnej fizyczności ze zrodzonym w niej myśleniem, ciała ze świadomością. Pytanie o to, czym jest rozum i czym jego wersja ludzka różni się od maszynowej, jest jednym z naczelnych pytań książki, a jego konsekwencje właśnie w sferę etyki sięgają. Spróbujmy to pokrótce rozważyć.

    Na początek: o czym właściwie mówimy, używając w języku potocznym słowa „rozum”? Zda mi się, iż odnaleźć w nim można co najmniej cztery zasadnicze znaczenia.

    Po pierwsze: rozum jest tam, gdzie myślenie w sensie najbardziej elementarnym z możliwych, myślenie jako „przetwarzanie danych”, pozwalające z przesłanek wysnuć konkluzję, rozwiązać matematyczne zadanie, odbierać bodźce z otoczenia i właściwie na nie reagować.

    Po drugie: rozum to władza bardziej skomplikowana. Tam gdzie o niej mowa, musi istnieć bowiem coś tak trudnego do zdefiniowania, jak świadomość, poczucie własnego „ja”, akty wolnej woli. Istota „rozumna” to nie taka, która potrafi wykonać działanie: 2×2 = 4, lecz taka, która chce się dowiedzieć, ile jest 2 razy 2, a potem wie, że 2×2 jest 4, lub nawet — co za paradoks! — wzorem pewnej uroczej maszyny Trurla, jest absolutnie przekonana, że 2×2 to 7.

    Po trzecie: rozum tam się pojawia, gdzie wykrywamy ład i celowość w rzeczach. Ten rozum jest jak gdyby zaklęty w przedmiotach, organizmach, biosferze; decyduje, że lód jest lżejszy od wody, a rośliny mogą czerpać energię bezpośrednio ze słonecznych promieni. Zawiaduje niezmierzoną komplikacją żywych organizmów, tropić go można w zagadce tzw. anthropic principle. Trudno przypisać mu postać osobową czy jakąkolwiek świadomość, jest bowiem raczej cechą, nieodróżnialną od świata samego, warunkiem jego funkcjonowania i homeostazy.

    Po czwarte wreszcie: rozum to władza myślenia prospektywnego, układania planów i ich realizacji, przewidywania skutków własnych posunięć i nakierowywania działań na jakiś cel — tak mały jak rozwiązanie matematycznego zadania i tak wielki jak budowa wszechświata.

    Pierwszym z tych „rozumów” władają maszyny, drugim — ludzie, trzeci zaklęty jest w świecie, który nas otacza, warunkuje jego przetrwanie i rozwój — wreszcie czwarty tkwi, owszem, w ludziach, ale jest też uniwersalnym marzeniem o „rozumności kosmosu” pojmowanego w kategoriach teleologicznych i transcendentnych. To „rozum czuwający nad światem”, „plan Demiurga”, wszechobecna i przychylna Istnieniu Opatrzność. Marzenie o takim „rozumie” także u Lema się pojawia — w zakończeniu Głosu Pana na przykład — nie jako formułowana serio przez autora naukowa hipoteza, ale raczej jako wyraz ludzkiej tęsknoty, „choroby sierocej”, niekiedy tylko przybierającej mylącą postać uczonego wywodu.

    Pomiędzy tymi czterema „rozumami” rozgrywa się najistotniejszy dla mnie intelektualny dramat w Molochu. Bo rozgraniczyć je łatwo w teorii — konstruktorska praktyka i uczony namysł próbują owe granice zatrzeć lub przełamać. Bo czyż nie może być tak, że „myślenie nr 2” — to ludzkie — jest tylko spiętrzonym do zawrotnej komplikacji „myśleniem nr 1”? Że ludzki rozum od maszynowego odróżnia tylko stopień złożoności, a zatem dystynkcja ma charakter ilościowy, nie jakościowy? Może więc „ludzkość” da się aplikować maszynie stopniowo — aż do zatarcia wyrazistych linii podziału? A „maszynowość” znów można — kto wie — przymieszać do ludzkich władz umysłowych w postaci brain chips czy innych jeszcze wersji cyborgizacji organizmu bądź intelektu? W takich przypadkach inżynier konstruktor mikroprocesorów i informatyk programista stają się na swój szczególny sposób filozofami eksperymentatorami, bo od wyników ich pracy zależeć poczyna wizja świata i człowieka, odpowiedź na najbardziej elementarne pytania dotyczące porządku Uniwersum, pochodzenia rozumu, człowieka itd. Bo jeśli „sami siebie” skonstruować potrafimy, to przyjdzie nam przeformułować wszystkie najgłębsze metafizyczne pytania ludzkości.

    Im usilniej tedy konstruktor próbować będzie znosić rozgraniczenia pomiędzy „rozumem” 1 i 2, tym bardziej zaciekle teolog pracować będzie nad zatarciem granicy między „rozumem” 3 i 4. — Nie ma „rozumu bezosobowego zaklętego w budowie wszechświata” — powie. To, co jawi się jako szereg bezkierunkowych zmian i mutacji, jest w istocie realizacją finezyjnego planu Stwórcy; ewolucja prowadzi do jakiegoś celu, który — choć niedocieczony — z pewnością istnieje i kiedyś, na tamtym świecie, będzie nam może dane go poznać.

    W tych dwóch odmianach — konstruktorskiej i teologicznej — myśl ludzka objawia swe dwa odwieczne dążenia: dorównać Stwórcy i usunąć go w cień — a zarazem odnaleźć jego ślad we wszechświecie. Lema opcja ateistyczna — tylekroć uzasadniana — sytuowałaby go zdecydowanie po stronie tych, co pracują nad „uczłowieczeniem maszyny” i zarazem negują celowość ewolucyjnych procesów. Ale autor Molocha nie myśli ideologicznie, jest więc raczej sceptykiem w pierwszym punkcie, jakkolwiek w osobowy rozum zaklęty w porządek kosmosu także nie wierzy.

    Trud konstruktorów, którzy próbują naśladować w maszynie ludzkie myślenie, zda się na pierwszy rzut oka owocem ambicji, niedorzecznego pragnienia, by dorównać Bogu. Wszelako dążenie do stworzenia maszyny mądrej, a nie tylko nadludzko sprawnej w przetwarzaniu danych, wydaje się całkiem sensowne. Sztuczna inteligencja zdolna do wartościowania i do wszelkich w ogóle operacji myślowych wyższego rzędu staje się czymś upragnionym tam, gdzie w olbrzymim tempie rośnie góra głupiej, nieważnej, nieistotnej informacji — niczym Himalaje zalewających nas odpadków.

    W swej książce poświęca Lem bardzo wiele miejsca sceptycznym rozważaniom na temat Internetu i zawiedzionych nadziei, jakie z nim wiązano. Internet — zamiast być wciąż potężniejszą składnicą ludzkiej mądrości, urządzeniem potęgującym nieskończenie nasze możliwości — stał się nie tylko gigantycznym magazynem, gdzie mądrość sąsiaduje z oceanami głupstwa (często praktycznie od nich nieodróżnialna), ale co gorsza — miejscem, gdzie może bardziej niż gdziekolwiek manifestuje się ludzka podłość, złośliwość, chciwość i inne najgorsze skłonności. Wylicza więc Lem wielokroć wyczyny hackerów, złodziei komputerowych, producentów wirusów, pornografów itd. Internet — miast stać się sublimacją ludzkiego intelektu — stał się raczej mało pociągającym autoportretem człowieka — wraz ze wszystkimi jego grzechami i niedostatkami. Widzi mi się, że głównym problemem Internetu jest podług Lema zbytnia wolność, jaką daje on ludzkim złym instynktom, jest bowiem medium, które jako całość działa bezkierunkowo i bezrozumnie, dopuszcza działania anonimowe, co umożliwia internautom bezkarne dawanie upustu najniższym, otamowanym zwykle obyczajową i prawną cenzurą skłonnościom.

    Tu właśnie zdaje się tkwić główna sprzeczność, jaka podminowuje wszelkie próby stworzenia sztucznej inteligencji. Za jej realizację pożądaną uważa się bowiem powszechnie kreację maszynowego intelektu, który przypominałby intelekt ludzki. Przy czym bierze się zazwyczaj pod uwagę tylko pozytywne cechy takiego intelektu, jego — by tak rzec — postać czystą, nie zarażoną niezwalczonym popędem do „grzechu”. Ale przecie główny problem, jaki mają, zdaniem Lema, konstruktorzy sztucznej inteligencji, to nieumiejętność naśladowania w maszynie sfery emocjonalnej ludzkiego rozumu, świadomości własnego „ja”, aktów woli, poczucia humoru i wszystkich innych specyficznie ludzkich cech intelektu. Nie można by tego wszystkiego zapewne uzyskać, nie obdarzając maszyny „sensorium”, a może też czymś w rodzaju sztucznego „ciała”, podatnego na zmysłowe doznania. Gdyby te cechy człowieka naśladować w sposób udatny, moglibyśmy otrzymać istotę obdarzoną podobnymi defektami jak te, które trapią ludzki gatunek. I aby z kolei defekty owe opanować, należałoby chyba wszczepić maszynie program ograniczający wolność, coś w rodzaju mechanicznego superego, a wraz z nim pierwociny wstydu, zahamowań i kompleksów.