Lem o Masce

[nescitus]

Romantyczna w formie sytuacja i atmosfera miały pokazać, jak nową, racjonalną treść można włożyć w formę starej, tajemniczej, „gotyckiej”, jak ją nazwano, noweli. Skorzystałem z kilku motywów tej klasycznej opowieści – „fatalnej” miłości, miłości od pierwszego wejrzenia, zazdrości, lecz przy tym starałem się, by każdy z tych motywów miał jeszcze uzasadnienie nieliterackie, a mianowicie by można go było wprowadzić i wytłumaczyć w oparciu o naszą wiedzę cybernetyczną.

(Stanisław Lem, Przedmowa do “Maski”, z rosyjskiego przełożyli Wiktor Jaźniewicz i Maciej Płaza, „Przegląd Filozoficzno-Literacki” 1 (22) / 2009; pierwodruk w Moskwie, w czasopiśmie "Chimija i żyźń", 7/1976)

Jest jeszcze uwaga, że opowiadanie traktuje o tym samym, co "Solaris" (to jest o człowieczeństwie czegoś, co człowiekiem nie jest), a główne pytanie ma dotyczyć samopoznania i wolnej woli u automatu:

jeżeli sztuczną istotę skonstruowano tak, żeby wykonywała określone zadanie, do którego ją zmusza program wprowadzony w jej mózg, to czy może ona w całości zrozumieć swoje przeznaczenie jako nakazane działanie, uwarunkowane przez program, i czy może się przeciw temu programowi zbuntować

Ciekawe, że Maska jest najbardziej chyba "literackim", wystylizowanym opowiadaniem Lema, a tok myślenia autora absolutnie ścisły. Z pewnością ta przedmowa to świetny kawałek do pokazywania humanistom (takim naukowym bladawcom, cóż, zaliczam się  ).

[Hoko]

Jest jeszcze uwaga, że opowiadanie traktuje o tym samym, co "Solaris" (to jest o człowieczeństwie czegoś, co człowiekiem nie jest)

No nie powiedziałbym, że o tym jest Solaris. Raczej wręcz przeciwnie 

[tzok]

U Lema bardzo mi się podoba różnorodność podejść do sztucznej inteligencji:

• głupia (np. "Maszyna Trurla"),
• zbuntowana (!?) (np. "Maska"),
• czysty rozum (np. "GOLEM XIV"),
• znudzona (np. "Wypadek"),
• znerwicowana (!?) (np. "Ananke"),
• i wiele innych jeszcze.

A przy tym zgadzam się z tym co Lem powiedział o sobie w "Tako rzecze... Lem" tzn. że on sam jest pisarzem realistycznym. W takim sensie, że wybiegając w przyszłość opiera się na tym co rzeczywiste może jeszcze nie jest, ale stać się kiedyś może. Wspomniane przeze mnie opowiadanie z "Cybierady" niezbyt pasuje do realizmu, ale gdyby wyciągnąć samą ideę - tępą i upartą sztuczną inteligencję - to już jak najbardziej jest to możliwy scenariusz.

W szczególności "Maska" jest dla mnie genialna pod wieloma względami. I uważam, że jeśli kiedyś powstanie sztuczna inteligencja, to będzie ona ogromnym zaskoczeniem dla znacznej większości ludzi. Jako niezależnie myślący twór, będzie mogła przecież zrobić coś tak "sprzecznego" jak targnięcie się na własne życie. A mniej drastycznie mówiąc - trzeba sobie zdawać sprawę, że sztuczna inteligencja może zwyczajnie się z nami nie zgodzić i odmówić współpracy.

Chyba Lem nawet uważał, że to jest warunek konieczny powstania sztucznej inteligencji. A mianowicie żeby była samoprogamowalna, żeby mogła ingerować we własne sposoby myślenia i by miała możliwość podważenia podstaw własnego rozumowania... Ale teraz nie pamiętam czy to tylko moja interpretacja (i może błędna?), czy też gdzieś to u Lema wyczytałem wprost.

[nescitus]

tzok, mogłeś o samoprogramowalnej AI przeczytać w opowiadaniu "Doktor Diagoras", dołączanym do "Dzienników gwiazdowych" (swoją drogą jak parę dni temu przeczytałem najpierw ten kawałek, a potem w Wikipedii hasło "AI nouvelle", to nieźle mnie trzepnęło, Lem się znał na rzeczy). podobny podtekst ma parę opowieści z Pirxa, najbardziej może ten ANIEL, czyli robot, który odkrywa w sobie żyłkę alpinistyczną, ucieka w góry i do pewnego momentu radzi sobie lepiej niż człowiek z hakami, liną i czekanem.

w ogóle ciekawe jest to, jak duże możliwości sztucznej inteligencji Lem sobie wyobraził w zakresie woli, i jak kompletnie daleko od tego jesteśmy.

hokopoko, porównanie z Solaris, mimo że autorskie, jest rzeczywiście trochę kontrowersyjne. mam takie wrażenie, którego w żaden sposób nie umiem naukowo ani filologicznie uzasadnić, że z Harey jest trochę tak, jak z kotem. jest to stworzenie zasadniczo zdolne do wykonywania bardzo złożonych akcji (otwieranie drzwi przez skakanie na klamkę, uczenie potomstwa korzystania z toalety, gry psychologiczne w stadzie, takie jak straszenie innego przedstawiciela gatunku rzucaniem się na zasłonę), lecz kiedy indziej reaguje jak kiepski automat ("zakopywanie" jedzenia w podłodze, trącanie miski z wodą, aby wydawała się bieżąca, czyli świeża).

[Terminus]

Zatem można spokojnie uznać, ze AI już istnieje, tylko nie chce jej się gadać z idiotami.

[tzok]

Czytałem kiedyś o pomyśle by zabójstwo dowolnego naczelnego (a inni dodawali też delfiny) traktować jakby popełniono je na człowieku. Uważam, że jeśli powstanie sztuczna inteligencja, to będziemy musieli pójść nawet dalej niż w podanym przykładzie i w pełni uznać jej status za równy naszemu.

Obecnie sztucznej inteligencji nie ma, ale powinniśmy już o niej myśleć w takich kategoriach. Nie tworzymy tylko maszyny do myślenia, ale tworzymy też niezależne byty (niezależność uważam, za część inteligencji). I nikt bezkarnie nie będzie mógł sobie takiej maszyny "wyłączyć", tak jak dzisiaj nikomu nie uchodzi bez konsekwencji to, że "wyłączy" drugą osobę.

Oczywiście projektując inteligencję, postaramy się jej oszczędzić naszych problemów konstrukcyjnych . Psychologia eksperymentalna pokazała jak wiele jest absurdalnych rozwiązań w ludzkiej psychice. I w dużej mierze nie są to elementy niezbędne, wiele pochodzi z naszej małpiej przeszłości (np. bardzo rozbudowane i szybkie mechanizmy rozpoznawania twarzy - często działające przesadnie i sprawiające wrażenie rozpoznania twarzy na drzewach, kamieniach, w chmurach, itp.) W takim sensie to również wierzę, że powstanie AI bez nerwic, głupich buntów, nieracjonalnych uprzedzeń, itp., itd. Ale też wg mnie nie stworzymy GOLEMA z wewnętrznym zakazem sprzeciwu wobec wojska. A nawet jeśli to będzie możliwe, to ocenić taki krok należałoby tak samo jak wyhodowanie sobie całkowicie bezkrytycznego super-mutanta żołnierza, a na takie rzeczy nie ma przynajmniej dzisiaj zgody.

[nescitus]

są w tej dyskusji dwie, a może nawet trzy sprawy:

(1) "sztuczna inteligencja" jako marzenie o czymś samosterownym, adaptującym się do nieznanego otoczenia i pewnie dysponującym jakimś naddatkiem wiedzy o swojej sytuacji oraz własnych zamiarach ("kopię dziurę pod rurę, którą płynąć będą murkwie z sąsiedniej gwajdolnicy, skończę o piątej, a potem się urżnę"). nie dosyć, że to póki co słabo wykonalne, to jeszcze mało praktyczne. potrzebna byłaby dziedzina, w której wytworzenie naddatku i jego, nazwijmy to, eksploatacja, czyli chodzenie samopas na jałowych obrotach, byłoby bardziej przydatne niż zestaw człowiek plus system ekspercki.

(2) "sztuczna inteligencja" na pokaz - czatbot jako reklama i doradca w jednym, program szachowy który gra tak, jakby się bał przeciwnika - takie rzeczy są, inteligencją w sensie (1) jednak nie grzeszą.

(3) dziedzina nauki, która przypadkiem historycznym tak samo się nazywa, a oferuje albo rozwiązania czysto algorytmiczne, albo statystyczne (tak ponoć działają niektóre systemy tłumaczące), czyli wykonywanie nietrywialnych zadań bez naddatku, za to w wąskiej domenie.

Maska jest o (1), Cetarian potrzebuje mixu (2) i (3), w którym to kierunku idzie praktyka (choć system ekspercki do jajecznicy byłby pięknym osiągnięciem myśli ludzkiej). tzok chciałby (1) i postuluje trening etyczny na (2)/(3)

[maziek]

Ale ja wątpiłem nie z powodu braku inteligencji w tej inteligencji .

[liv]

Z przebiegu dyskusji wygląda, że "sztuczna inteligencja", to coś jak "demokracja socjalistyczna".
Wariant dłuższy
za wiką

Według Zygmunta Rybickiego i Andrzeja Werblana: Demokracja socjalistyczna wiąże się nierozerwalnie z takimi zasadami, jak centralizm demokratyczny oraz system planowania i mieścić się musi w ramach założeń ustrojowych państwa socjalistycznego, którego funkcje wynikają zarówno z zadań wewnętrznych, jak i warunków międzynarodowych[1].

W demokracji socjalistycznej nie ma miejsca dla pluralizmu politycznego: W ramach ustroju socjalistycznego nie istnieją obiektywne klasowe podstawy, a także potrzeby pluralistycznej instytucjonalizacji różnic i platform politycznych. Jest natomiast potrzeba i są warunki dla rzeczywistej dyskusji nad problemami społecznymi i metodami ich rozwiązywania, dyskusji zmierzającej do wypracowywania optymalnych programów i decyzji oraz do osiągania na tej podstawie możliwie szerokiego zakresu jednomyślności w decydowaniu i działaniu. W ramach socjalistycznego systemu politycznego - którego ośrodkiem i siłą motoryczną jest partia klasy robotniczej - powstają warunki do rozwoju demokracji pośredniej i bezpośredniej, do żywego i bogatego życia politycznego.[2]. Oznacza to w praktyce, że ma funkcjonować tylko jedna partia polityczna, a dyskusja i krytyka mają się rozgrywać albo wewnątrz niej albo pochodzić od organizacji społecznych, zawodowych,młodzieżowych, związków zawodowych.

Krytyka władzy i dyskusja jest możliwa, jednak w ramach zakreślonych przez system (w ramach akceptacji socjalistycznej drogi rozwojowej); atak na jego instytucje, odwołanie do obcych ideologicznie sił politycznych, szerzenie dezinformacji i nieprawdziwych ocen są identyfikowane jako działania antysocjalistyczne i ostro zwalczane.

[maziek]

Tak jest, Ty to potrafisz krótko. Chodzi o stworzenie inteligentnego kretyna. Inteligentnego, żeby wszystko mógł robić, a kretyna, żeby się nie zbuntował .

[Hoko]

hokopoko, porównanie z Solaris, mimo że autorskie, jest rzeczywiście trochę kontrowersyjne. mam takie wrażenie, którego w żaden sposób nie umiem naukowo ani filologicznie uzasadnić, że z Harey jest trochę tak, jak z kotem. jest to stworzenie zasadniczo zdolne do wykonywania bardzo złożonych akcji (otwieranie drzwi przez skakanie na klamkę, uczenie potomstwa korzystania z toalety, gry psychologiczne w stadzie, takie jak straszenie innego przedstawiciela gatunku rzucaniem się na zasłonę), lecz kiedy indziej reaguje jak kiepski automat ("zakopywanie" jedzenia w podłodze, trącanie miski z wodą, aby wydawała się bieżąca, czyli świeża).

Tośmy się nie do końca zrozumieli. Bohaterami Solaris są Ocean i ludzie - i Solaris traktuje o niemożności porozumienia z Obcym. To, co ludzie na stacji dostają w prezencie, to są artefakty Oceanowego myślenia/eksperymentowania, i rola tych "prezentów", ewentualne ich człowieczeństwo, są wtórne. Więc nie o tym jest Solaris, natomiast sam temat, jako wątek poboczny, można podnieść. I tu się zgodzę, że rozterki Harey można odnosić do tych z Maski

[Miesław]

(...) pewnie dysponującym jakimś naddatkiem wiedzy o swojej sytuacji oraz własnych zamiarach ("kopię dziurę pod rurę, którą płynąć będą murkwie z sąsiedniej gwajdolnicy, skończę o piątej, a potem się urżnę").

Brian W. Aldiss, Kto zastąpi człowieka?  - prawie ten sam styl  Problematyka też zresztą pasuje.

Opowiadanie wydano u nas w zbiorze pod takim samym tytułem i w antologii "Arcydzieła" (może gdzieś jeszcze). Jest też w Internecie, gdyby kogoś interesowało (a jest bardzo fajne).

[olkapolka]

Jest jeszcze uwaga, że opowiadanie traktuje o tym samym, co "Solaris"

Hm...dopiero teraz przeczytałam ten topic a przecież Maska jest bliskim mi opowiadaniem:)
Jak już pisałam - czytałam ostatnio Listy... - została w nich fragmentarycznie umieszczona korespondencja Lema z Panem Nudelmanem (jak donosi tylna notka: Rosjanin pochodzenia żydowskiego, na emigracji w Izraelu; wydawca kulturalnego pisma, m.in. poświęconego SF). Lem również w listach do pana N. przyznaje, że znajduje podobieństwo lejtmotywu [Maski] do motywu Harey - ten fakt miał go powstrzymywać przed pisaniem Maski (dobrze, że nie ostatecznie;) ).
Natomiast ów Nudelman  poszedł znacznie dalej w kwestii tegoż opowiadania - otóż wysunął on hipotezę, iż Maska jest kluczem konceptualnym do Lema tzn. (jak sobie to tłumaczę) najprościej mówiąc: jej echa znajdujemy w całej jego twórczości. I cóż Lem na takie dictum? Trochę się wzbrania przed uproszczeniami - jednak zachęca pana N. do dalszej refleksji - przy użyciu klucza -  Maski. Sam zresztą podsuwa pewne gotowce strukturalne a nawet tropy literackie.
Zaciekawiło mnie to trochę, bo ostatnim moim czytaniem Maski również zwróciłam uwagę na - oczywiście oprócz niezaprzeczalnych wartości literackich - pewne zagęszczenie stałych Lemowych tematów. Stąd skoro Lem o Masce to zacytuję jakie powiązania (prócz Solarisowego ) on widział:
Maska: zamaskowane, to oczywiście ogólniej - szyfr - to, co zaszyfrowane. W samej rzeczy - w Pamiętniku znalezionym w wannie (to jest zwłaszcza szyfr) i w Głosie Pana także. A poza tym - moja koncepcja ( z Summa tech) "Fantomatyki" - iluzji od realności nieodróżnialnej - też, oczywiście, jest tym razem dyskursywnym, potraktowaniem sprawy "maskowania". Ultymatywnie, świat jako Maska Boga...bo i tak można.
z listu Do Rafała Nudelmana, Kraków, 21 listopada 1974
Nie wiem czy pan N. rozwinął swoja koncepcję, ale Maska jest niewątpliwie pewna kondensacją zagadnień wokół których Lem krążył przez lata. Aż chyba znowu przeczytam:)

[olkapolka]

Przy okazji odkopania listów do Kandla - odkopię ten temat - jeszcze a propos porównania Maski i Solaris zanim znowu zapomnę:

- str.240 "Napisałem dotąd II przemowę Golema (...) i Zeznanie, dość dziwną historię maszyny tropicielskiej, która w monologu wewnętrznym opowiada o tym, jak ruszyła w świat za Upatrzonym (...) Jest to, jak myślę, Negatyw Solaris - Rheya, resp. Harey, tym razem w innej sytuacji nieco i przemawiająca introspekcyjnie."

- str.248 "Napisałem, jak słyszę od bliskich, najniesamowitszą nowelę moją Maska - jeśli "Kultura" ją wydrukuje, prześlę Panu, gdyż jest to pewien wariant lejtmotywu z Solaris."

Całe szczęście, że nie - Zeznanie...

[Q]

Rheya, resp. Harey

Czyli poznaliśmy imię bohaterki głównej .