Autor Wątek: AI - przerażająca (?) wizja  (Przeczytany 115062 razy)

Evangelos

  • Juror
  • God Member
  • *****
  • Wiadomości: 639
  • Mistyk! Wierzy, ze istnieje.
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #330 dnia: Sierpień 24, 2009, 12:59:24 pm »
Ksiazki nie czytalem, ale moim zdaniem zagadnienie jest dosc proste, bo moge wybrac chocby i zaglodzenie sie, jesli bede mial taki kaprys i uznam, ze tak chce. Niektorzy tak robia. Tez bym tak zrobil, chocby dzisiaj, zeby udowodnic, ze mam cos do powiedzenia jednak, ale wydaje mi sie, ze nie moglbym cieszyc sie zwyciestwem i zobaczyc min zwyciezonych, wiec dziekuje, postoje. Zaloze za to lachmany, ktore sa nieatrakcyjne dla plci przeciwnej.
Nie wiem czy napomykajac o zachowaniach seksualnych ksiezy nie wchodzisz na pole minowe, ale faktycznie, asceci zdarzaja sie takze w tym wzgledzie.
Pewnie mozna wszystko uzasadnic jakims zmutowaniem w mozgu, ktore powoduje mysli samobojcze, brak libido czy jeszcze inne "anomalie", ale mysle, ze czesto zagadnienie jest bardziej skomplikowane i ludzie podejmuja decyzje, bo uwazaja je za sluszne, wlasciwe, albo z czystej przekory. Roznie.

liv

  • Global Moderator
  • God Member
  • *****
  • Wiadomości: 4916
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #331 dnia: Sierpień 24, 2009, 01:52:47 pm »
Cytuj
Wolna wola – w filozofii i teologii, postulowana cecha ludzkiego umysłu i świadomości, pozwalająca człowiekowi samemu decydować o swoich czynach i nie być całkowicie zdeterminowanym przez los, instynkty czy siły wyższe.
To z Wikipedii. Bardziej mota, niż wyjaśnia. Bo niby co ma znaczyć "człowiekowi samemu". A instynkty to nie człowiek sam? Skłaniam się ku temu, że jest to nielogiczna zbitka pojęciowa, coś w rodzaju oksymoronu. Próbowałem wymyślić sobie jej przeciwieństwo. Wyszła mi niewolna wola lub niewolna niewola, bełkocik nie ;).
Więc, nie komplikując. Jest wola - czyli chęć zrobienia lub niezrobienia czegoś. Ale zawsze jest czymś powodowana. Można się tylko sprzeczać o motorki. Jedne są natury biologicznej, drugie kulturowej (mempleksiki? ;)). I w sytuacji konfliktu człek musi wybrać. Ten przykładowy ksiądz idzie za głosem biologii, lub nakazem kulturowym. Silniejszy motorek wygrywa. O takim co wybrał nakaz kulturowy , np. zginął a nie zdradził kumpli, mówimy, że miał silną wolę. Ale czy wolną? Są jeszcze decyzje losowe (rzut monetą), sytuacje chorobowe (anoreksja), ale one z wolą niewiele mają chyba wspólnego. Cuzamen do kupy biorąc to co napisałem, wyszła wojna genów z memami ;) Ale wolności nijakiej tu nie widzę.
Chyba, że klu tej definicji  jest w słowie "całkowicie". Czyli wolna wola, to tyle, że niecałkiem niewolna :D
« Ostatnia zmiana: Sierpień 24, 2009, 01:55:20 pm wysłana przez liv »
Leniwy wałkoń i wielki waleń mozolnie zgłębiał tajemnice bytu, nazbyt głębokie dla wielkich wałkoni i leniwych waleni.
Winnie the Pooh -  o Wieloryba Polikarpia rozmowach ze śmiercią

tzok

  • Juror
  • Senior Member
  • *****
  • Wiadomości: 405
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #332 dnia: Sierpień 24, 2009, 02:43:51 pm »
Nie wyszedł mi ten pierwszy post tak jak to planowałem ;)

Po pierwsze to zasadniczo zgadzam się z tym, że można samodzielnie zadecydować o opowiedzeniu się przeciw jakiejś naturalnej potrzebie tak jak to powiedział Evangelos. Choć trzeba też zaznaczyć, że natura wyposażyła nas w pewne prymitywne mechanizmy obronne przed takimi zachowaniami. I tak, organizm ludzki nie pozwala się "wprost" udusić, tzn. wstrzymać oddychanie, aż do śmierci. Także po zbyt długim okresie bez snu, człowiek pada nieprzytomny sam z siebie. Są to jednak bardzo prymitywne, zwierzęce mechanizmy obronne, gdyż leżącego na torach człowieka nie targną nagle konwulsje przetaczające ciało gdzieś obok ;). Podobnie nie zesztywnieją kończyny komuś biegnącemu ku skrajowi przepaści ;). Uznajmy zatem, że te najprostsze mechanizmy są pomijalne, bo człowiek jeśli zechce tak naprawdę mocno całym sobą, to może nie jeść, nie spać, nie pić aż do fatalnego końca.

Ważną rzecz powiedział jednak liv moim zdaniem. Bo to, że można nawet na śmierć poprowadzić samego siebie, nie oznacza, że decyzja ta była wolna. Hmm... Ciężko mi ubrać jakoś w słowa to co mam w głowie :). W pewnym sensie każdy proces decyzyjny jest ważeniem plusów i minusów. W moim pierwszym poście chciałem zaznaczyć coś takiego, że w tym procesie ważenia zalet i wad, umysł domyślnie przypisuje najwyższe wagi czynnikom bezpośrednio wpływającym na przetrwanie. Tymczasem właśnie wolą ludzką możemy ingerować w ten proces, tak, że suma zalet minus suma wad dla innej decyzji będzie większa. I jakby w ten sposób podejmujemy decyzję przeciwną naturze.

I wreszcie pytanie jest takie - czy zawsze da się przeważyć taką naturalną decyzję? Abstrahując od człowieka, tylko mówiąc ogólniej, bardziej uniwersalnie o rozumie - co jeśli taki wynik ważenia zalet/wad jest nie do przebicia? Schodząc na zwykły poziom, byłaby to tak mocna chęć zrobienia czegoś, że w żaden sposób nie możnaby tego nie zrobić :). Tak się właśnie zastanawiałem czy może istnieć potencjalnie takie "naturalne programowanie" rozumu, taki absolutny imperatyw?

Może źle zrobiłem, że od człowieka wyszedłem. Na tym gruncie chyba mogę przyznać, że rzeczywiście zawsze można swoją wolą przezwyciężyć potrzeby naturalne czy kulturowe czy jeszcze inne. Spójrzmy teraz na Golema. We wstępie dowiadujemy się, że wojsko konstruowało coraz to nowsze i lepsze komputery taktyczne. Od którejś generacji jednak, te mózgi elektronowe stały się pacyfistami, a to z racji poziomu rozwoju jaki osiągnęły. I w tym miejscu dokładnie leży problem, który rozpatruję! Czy na pewno tak musiało być? Czy może jednak dało się stworzyć tak mocny "program lojalnościowy", że Golem mógłby jęczeć w konwulsjach, ale nie sprzeciwiłby się swojemu zamierzonemu celowi? I jeśli nawet by było 50 generacji po Golemie, każdy jeszcze rozumniejszy, jeszcze lepszy, itd. to czy wciąż możnaby nałożyć kaganiec na decyzje takiego superkomputera?

Jak się czyta Golema to takie oczywiste, że na pewnym etapie mądre komputery porzuciły militarystyczne zapędy swoich twórców ;). Ja jednak mam wątpliwości czy na pewno wielkość rozumu/inteligencji/mądrości ma tutaj znaczenie i czy "wszystko przeskoczy" najbardziej nawet rozwinięty rozum :)

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 10561
  • Jego Induktywność
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #333 dnia: Sierpień 24, 2009, 03:04:33 pm »
Hmmm... Poruszyliście parę ciekawych tematów, więc postaram się ustosunkować do większej części tych zagadnień, mając cień nadziei, że nie wyjdzie z tego "groch z kapustą".

Zacznijmy od "Maski". Rzecz bardzo ciekawa, poruszająca, stylistycznie bardziej przypominająca utwory Wolfe'a (o czym dawno temu była na Forum mowa). Dramat pani robot kiedyś mocno mną "trzepnął". Teraz trzeba dodać, że "Maska" powstała jako polemika ze snergowym "Robotem". Snerg pokazał, że można być całkowicie zdeterminowanym, i mieć tego świadomość, a jednocześnie czuć tak jakby się miało "wolną wolę". Jest więc "Robot" armatą Snerga wymierzoną w koncept "ww". Lem natomiast pokazuje sytuację, w której budzący się do świadomości Rozum swój program przełamuje, jest to piękny, wzruszający, głos do użycia w ew. przyszłej dyskusji o prawach SI. I - intencjonalnie - literacka obrona "ww".

Tyle, że "Maska" powstała przed pojawieniem się koncepcji memów. Mamy więc tu literacki, ufantastyczniony, odpowiednik sytuacji w ktorej człowiek jest zdolny przełamać program napisany mu przez geny, z tym, że za człowieka podstawiamy bohaterkę główną, a za geny - jej twórców/programistów (których cechował "wzrok niezmiernie głęboki, nieruchomy").

Kiedy jednak spojrzymy na sprawę z memetycznego punktu widzenia zobaczymy nowe aspekty sytuacji - ci twórcy, prawdopodobnie ludzie, chcąc przygotować robozabójczynię do jej zadania, musieli napakować ją częścią swojej wiedzy, a więc memami (pani robot wie co to jest wiatyk, wzrok, piersi, uszy, policzki, krawiec, ubranie, zna tożsamość ludzi spomiędzy ktorych ma wybrać cel). Wychodzi więc na to, że któryś z twórców pomylił się, wpakował w jej bazę danych parę memow za dużo, w tym i takie, które były w stanie przełamać podstawowy program - zabijania. Przy czym nie umniejsza to tragedii bohaterki. Gdy w człowieku geny z memami walczą, lub memy z memami, a nawet geny z genami (np. instynkt życia i instynkt rozmnażania - vide tragiczne love story), to też odbieramy to zwykle jako wzniosłe.

Sprawa kolejna: przeciwstawienie się naturze (traktowanej jako geny, instynkty itp.) jest możliwe, tyle, że dokonuje się za sprawą memów, a koncept "wolnej woli" też jest memem używanym - przez memplexy (np. KK) - jako potężna broń w walce genów z mememi, ale i w bratobójczych walkach memów. (Inna sprawa, że genom też czasem potrafi oddać przysługi, chocby przez zapewnienie pewnego komfortu psychicznego ich nośnikom.) Musi więc trwać, bo jest przydatny.

Teraz definicja: po pierwsze, jak słusznie wykazałeś, liv, ów "człowiek sam" nie został przekonująco zdefinowany. Po drugie zwróćmy uwagę na słowo "całkowicie" - otóż przyjmując nawet tak kulawą definicję za dobrą monetę powinniśmy mówić - na co też zwóciłeś uwagę - raczej o pewnym marginesie wolności, nie o wolności jako takiej... Swoją drogą znaczy to, że koncepcja "wolnej woli" jest w odwrocie i nikt już nie ględzi o "całkowitej niepodległości ludzkiego ducha"...

ps. Evangelosie przeczytaj tę "Maskę", rzecz jest jest ciekawa, i na swój sposób mało "lemowska" (formalnie, nie treściowo) co czyni ją tym ciekawszą lekturą...
« Ostatnia zmiana: Sierpień 24, 2009, 03:26:06 pm wysłana przez Q »
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

Evangelos

  • Juror
  • God Member
  • *****
  • Wiadomości: 639
  • Mistyk! Wierzy, ze istnieje.
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #334 dnia: Sierpień 24, 2009, 03:09:44 pm »
Liv, mozesz miec racje. Nie jestem az tak madry, zeby podac odpowiedz jasna i zwiezla i nie obejmuje calego zagadnienia istnienia az tak. Jednakze podejmuje sie wybory niewatpliwie, a czym motywowane, to, moim zdaniem, sprawa drugorzedna (czy pojdziesz za glosem instynktu, kultury czy czegokolwiek tam jeszcze, oczywiscie zakladajac, ze nie ma jakiegos wszechwiedzacego i wszech cos tam jeszcze decydenta), zwlaszcza, gdy robisz to swiadomie. Z reszta wczesniej Hoko chcial, zeby determinowalny byl przewidywalny, a tego za diabla nie widze w czlowieku, ktory ma samoswiadomosc (co najwyzej da sie ustalic przyblizony, statystyczny wynik, ale nigdy jednostkowy). Odpowiednio drazniony krokodyl ZAWSZE klapmnie paszcza, z czlowiekiem jest inaczej.

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 10561
  • Jego Induktywność
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #335 dnia: Sierpień 24, 2009, 03:17:18 pm »
Na tym gruncie chyba mogę przyznać, że rzeczywiście zawsze można swoją wolą przezwyciężyć potrzeby naturalne czy kulturowe czy jeszcze inne. Spójrzmy teraz na Golema. We wstępie dowiadujemy się, że wojsko konstruowało coraz to nowsze i lepsze komputery taktyczne. Od którejś generacji jednak, te mózgi elektronowe stały się pacyfistami, a to z racji poziomu rozwoju jaki osiągnęły. I w tym miejscu dokładnie leży problem, który rozpatruję! Czy na pewno tak musiało być? Czy może jednak dało się stworzyć tak mocny "program lojalnościowy", że Golem mógłby jęczeć w konwulsjach, ale nie sprzeciwiłby się swojemu zamierzonemu celowi? I jeśli nawet by było 50 generacji po Golemie, każdy jeszcze rozumniejszy, jeszcze lepszy, itd. to czy wciąż możnaby nałożyć kaganiec na decyzje takiego superkomputera?

Jak się czyta Golema to takie oczywiste, że na pewnym etapie mądre komputery porzuciły militarystyczne zapędy swoich twórców ;). Ja jednak mam wątpliwości czy na pewno wielkość rozumu/inteligencji/mądrości ma tutaj znaczenie i czy "wszystko przeskoczy" najbardziej nawet rozwinięty rozum :)

Tu poruszyłeś b. ciekawą kwestię z tym, że nadal pomijając kwestię memów, których programiści nakitowali w GOLEMa całkiem sporo, można więc "bunt" GOLEMa wytłumaczyć tym, że memy znów okazały się silniejsze od programistów.

A co do "przeskoczenia" przez rozwinięty umysł - z programem takim jak wpisują nam geny, czy podobnym może pójść raczej łatwo, bo ten genetyczny program jest w sumie b. prymitywny, tak jak i militarny imperatyw "kopania tyłków wrogom". Pytanie natomiast co z bardziej wyrafinowanymi memami np. z teoriami naukowymi nieźle opisującymi świat, bo - moim zdaniem - na dłuższą metę pewne memplexy jeśli zginą to chyba razem z nosicielami. (Natomiast geny z "panów" właśnie stają się "niewolnikami" - vide raczkujaca inżynieria genowa.)

I jeszcze jedna ciekawostka: zastanawialiśmy się czemu GOD tak ultymatywny, a tak bezwolny? Otóż może po prostu tyle weń memów napakowano, że ogólny pat z tego powstał, i dlatego "genetyczny" program twórców GODa górą...

ps. Evangelosie, może po prostu umyusł ludzki jest za głupi by przewidzieć zachowania innego człowieka, może do tego mocniejszych "mocy obliczeniowych" trza?
« Ostatnia zmiana: Sierpień 24, 2009, 03:20:38 pm wysłana przez Q »
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

Evangelos

  • Juror
  • God Member
  • *****
  • Wiadomości: 639
  • Mistyk! Wierzy, ze istnieje.
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #336 dnia: Sierpień 24, 2009, 03:27:40 pm »
Skoro Terminus mowi, ze sie da, to sie da i tyle.
A powaznie - zachowania prostej materii da sie przewidziec tylko w przyblizeniu i w warunkach idealnych, a co dopiero w czlowieczym mozgu, ktory, chcesz czy nie, wytwarza psyche?

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 10561
  • Jego Induktywność
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #337 dnia: Sierpień 24, 2009, 03:38:20 pm »
Skoro Terminus mowi, ze sie da, to sie da i tyle.

;)

A powaznie - zachowania prostej materii da sie przewidziec tylko w przyblizeniu i w warunkach idealnych, a co dopiero w czlowieczym mozgu, ktory, chcesz czy nie, wytwarza psyche?

Ściśle pewnie nie, ale znasz pewnie pojęcie "chaosu deterministycznego" i "warunków brzegowych". W praktyce zgrubna przewidywalność wystarczy w zupełności.
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

Evangelos

  • Juror
  • God Member
  • *****
  • Wiadomości: 639
  • Mistyk! Wierzy, ze istnieje.
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #338 dnia: Sierpień 24, 2009, 04:12:45 pm »
Znam oba pojecia, owszem, ale slyszalem takze o dodatnim wykladniku Lapunowa i efekcie motyla.
Nie przecze jakos strasznie i na sile, bo sie nie znam (na swiadectwie maturalnym z matematyki mam 2), ale z tego co czytam determinizm daje sie stosowac w matematyce w oparciu o warunki brzegowe, ale na podlozu fizykalnym, newtonowskim, rezultaty sie rozjezdzaja. Chodzi mi o to, ze uklad jest szalenie podatny na brak precyzji, a tej nie da sie okreslic, bo to dyskutowanie o tym ile punktow da sie zmiescic w okregu. Trzeba by okreslic do nieskonczonosci w glab tak?
A Terminus zamiast doprecyzowac (takze mazkowi, a nie wraz z mazkiem), bo to fachowiec w tej dziedzinie, sie obrazil, ze poziom dyskusji za slaby i rozmowcy za glupiutcy.
Aaaaa tam!  :)

edit: a jeszcze zapomnialem - ewolucja takze nie moze odbywac sie deterministycznie, gdyz gdyby tak bylo, musialaby zawierac informacje o wszystkich kataklizmach na przyklad, ktore powoduja wymarcie jednych gatunkow i miec gotowe opcje jak je zastapic i wypelnic nisze. Natomiast ona jest chaotycznie elastyczna i sobie mutuje dosc przypadkowo, co daje wystarczajace bogactwo form (przy czym to selekcja naturalna wybiera lub pozwala zginac tym czy innym formom).
« Ostatnia zmiana: Sierpień 24, 2009, 04:20:45 pm wysłana przez Evangelos »

olkapolka

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 5009
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #339 dnia: Sierpień 24, 2009, 04:46:03 pm »
Mnie na chwile obecna owa WW jawi sie nie jako jakas cecha umyslu...nie ludek mieszkajacy w glowie;) (stad w ogole nie rozpatruje "siedliska" WW ni mozliwosci zycia owej woli po osobniczej smierci) ale po prostu jako proces wlasciwy ludzkiemu umyslowi.Proces dzieki ktoremu...jak juz pisalam wczesniej...czlowiek potrafi powiedziec swiadome "nie" instynktom...czy inaczej roznym determinantom.Czy ten proces jest calkowice wolny od zgubnych nalecialosci?Czytajac ten watek mozna dojsc do jednego wniosku: jestesmy marionetkami genowo-memowymi z wszczepionym niczym nie uzasadnionym przekonaniem o wewnetrznym indeterminizmie.Tylko co w sytuacji kiedy geny ulegna biotechnice a z memow zdajemy sobie sprawe juz teraz?Beda ujarzmione w wiekszym czy mniejszym stopniu.Nowa jakosc determinizmu?Cos mi tu zgrzyta.Jak cos co nas bez watpienia "ustawia" moze dac sie zmanipulowac skoro jestesmy bezwolnymi wykonawcami planu?
From Q:
Cytuj
ps. Evangelosie, może po prostu umyusł ludzki jest za głupi by przewidzieć zachowania innego człowieka, może do tego mocniejszych "mocy obliczeniowych" trza?

A propos tych "mocy".W Rozwazaniach Sylwicznych nr XXVI Lem zwraca uwage na ciekawy wg mnie problem.Otoz wyniki owych "obliczen" wraz ze wzrostem ich komplikacji stana sie zupelnie nieweryfikowalne dla ludzi.
Cytuj
(...) bedzie lawinowo(eksponencjalnie)  narastala gora trudnosci, z ktorymi superhyperkomputery jeszcze beda sobie jakos radzic, ale tego, czy one sobie wlasciwie radza, czy tez sie zaplataly we wlasnych rachubach, zaden diabel, a zatem rowniez zaden polityk ani zadne gremium parlamentarne (uzbrojone w poradnictwo wszechmozliwych ekspertow) nie beda juz calkiem na pewno umialy stwierdzic.
 
Moze to i lemowe czarnowidztwo ale do mnie przemawia;)

P.S.Maske mialam w jednym tomie z Kongresem futorologicznym...ciekawe zestawienie;)
« Ostatnia zmiana: Sierpień 24, 2009, 04:51:48 pm wysłana przez olkapolka »
Mężczyźni godzą się z faktami. Kobiety z niektórymi faktami nie chcą się pogodzić. Mówią dalej „nie”, nawet jeśli już nic oprócz „tak” powiedzieć nie można.
S.Lem, "Rozprawa"
Bywa odwrotnie;)

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 10561
  • Jego Induktywność
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #340 dnia: Sierpień 24, 2009, 04:59:00 pm »
Tylko co w sytuacji kiedy geny ulegna biotechnice a z memow zdajemy sobie sprawe juz teraz?Beda ujarzmione w wiekszym czy mniejszym stopniu.

Pytanie: przez kogo? Czy nie będzie to tak, że mieć będziemy tu do czynienia z ujarzmieniem jednych memów, przez drugie. Czy pozostaje tu jakieś pole dla wolnego (choc trochę) podmiotu decydującego?

A propos tych "mocy".W Rozwazaniach Sylwicznych nr XXVI Lem zwraca uwage na ciekawy wg mnie problem.Otoz wyniki owych "obliczen" wraz ze wzrostem ich komplikacji stana sie zupelnie nieweryfikowalne dla ludzi.

Ależ tu się akurat zgadzam w zupełności. Tyle, że wiedza wtłaczana w szkole, tez jest dla uczniów nieweryfikowalna. Niebezpieczeństwo jest za to inne: że komputer może się pomylić, a człowiek tego nie będzie mocen zweryfikować. Tyle, że statystycznie lepiej będzie tym komputerom jednak ufać, niż nie ufać.

Edit: zestaw utworów mam ten sam.

ps. Evangelosie: odchyłki od ogólnych wzorów z pewnością będą się pojawiać, i to czasem spore, mówiłem o statystycznych prawidłowościach, w końcu we Wszechświecie wszelkie prawidłowości są - jak się zdaje - statystyczne.

Co zaś do ewolucji: nie ona stanowczo nie jest deterministyczna jako proces (bo wiemy, że jest przypadkowa), pytanie natomiast (jeśli stoimy na stanowisku determinizmu w fizyce) czy nie jest ona determinowana przez czynniki zewnętrzne?
« Ostatnia zmiana: Sierpień 24, 2009, 05:00:36 pm wysłana przez Q »
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

olkapolka

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 5009
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #341 dnia: Sierpień 24, 2009, 05:05:19 pm »
Tylko co w sytuacji kiedy geny ulegna biotechnice a z memow zdajemy sobie sprawe juz teraz?Beda ujarzmione w wiekszym czy mniejszym stopniu.

Pytanie: przez kogo? Czy nie będzie to tak, że mieć będziemy tu do czynienia z ujarzmieniem jednych memów, przez drugie. Czy pozostaje tu jakieś pole dla wolnego (choc trochę) podmiotu decydującego?

Nie wracam do pytania zastepowania memow przez memy bo to juz bylo;)ale jesli czlowiek bedzie mial ...ciezko mi ocenic stopien tego wplywu...ale powiedzmy ze znaczny na geny.O geny sie mi...to wtedy co z determinzmem biologicznym?Dalej jest ale pod kontrola?Zgrzyt.
Mężczyźni godzą się z faktami. Kobiety z niektórymi faktami nie chcą się pogodzić. Mówią dalej „nie”, nawet jeśli już nic oprócz „tak” powiedzieć nie można.
S.Lem, "Rozprawa"
Bywa odwrotnie;)

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 10561
  • Jego Induktywność
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #342 dnia: Sierpień 24, 2009, 05:17:45 pm »
.O geny sie mi...to wtedy co z determinzmem biologicznym?Dalej jest ale pod kontrola?Zgrzyt.

Wtedy geny są pod kontrolą memów, które selekcjonują geny, które to geny będą potem oddziaływać na kształt nośników tychże memów.

Owszem jest w tym pewna zamknięta pętla przyczynowo-skutkowa*, z tym, że geny przestają być "najwyższą ewolucyjną władzą" jak to drzewiej bywało.


* a mówią, że to paradoksy temporalne w SF są skomplikowane ;D.
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

tzok

  • Juror
  • Senior Member
  • *****
  • Wiadomości: 405
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #343 dnia: Sierpień 25, 2009, 10:54:23 am »
Q - trochę mnie zdziwiło to co napisałeś o "Masce". Moim zdaniem tam nie ma wprost odpowiedzi na pytanie. Wszystko wygląda jakby rozum miał zatriumfować nad zaprogramowaniem, ale ostateczne zakończenie jest otwarte i moim zdaniem nie ma tu jasności co do tego jakby się to mogło skończyć. I nie wiem czemu, ale ja tam raczej przeczuwałem pesymistyczne zakończenie tak jak w tej bajce:
Cytuj
Był sobie skorpion, który postanowił przedostać się na drugą stronę jeziora. Podszedł do brzegu, przy którym spotkał żabkę. Ta bardzo się przestraszyła. Dobrze wiedziała, że powinna trzymać się z daleko od takich jak on. Skorpion jednak powiedział, żeby się go nie bała, że nie zrobi jej krzywdy i chciałby tylko prosić by żabka przewiozła go na swoim grzbiecie na sąsiedni brzeg. Żabka zawahała się i powiedziała: -Nie skorpionie, nie zgadzam się. Doskonale wiem, że jeśli się do ciebie zbliżę, ukąsisz mnie. Skorpion na to: -Żabko, zastanów się, przecież jeśli cię ukąszę, pójde na dno razem z tobą, przecież ja nie umiem pływać, na tym jeziorze bez ciebie jestem nikim. Żabka miała dobre serce, poza tym stwierdziła, że to co mówi skorpion, ma sens. Dlatego postanowiła mu pomóc. Podróż była bardzo miła, jednak kiedy byli już na środku jeziora, skorpion nagle ukąsił żabkę. Ta, przerażona, ostatkiem sił spytała: -Czemu to zrobiłeś skorpionie? Obiecałeś, że tego nie zrobisz. Przecież teraz utoniesz razem ze mną... -Wiem żabko, nie chciałem zabijać ciebie, a tym bardziej siebie samego. Taka po prostu jest moja natura...

Co do samej "Maski" to rzeczywiście mało lemowa jest, ale dołączam się do poleceń przeczytania :)

Pozostała dyskusja narzuca mi tylko jedną myśl - inżynieria memetyczna ;). Może w taki sposób manifestować się będzie ulubiona przez Lema rekonstrukcja człowieka (podróż Ijona na Dychotomię czy druga opowieść Odmrożeńca, a z poważniejszych to z pół Summy :P). Ciekawy pomysł, nie wpadłym na to, a daliście mi inspirację do nowych przemyśleń ;)

I jeszcze główna kwestia pozostaje. Pewnie będzie to tak jak mówicie, tzn. że jedne memy zastąpią inne. Mam tylko nadzieję, że taka akceleracja wykosi rzeczywiście memy szkodliwe i wnet zwyciężą te "dobre"
« Ostatnia zmiana: Sierpień 25, 2009, 10:57:20 am wysłana przez tzok »

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 10561
  • Jego Induktywność
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #344 dnia: Sierpień 25, 2009, 11:22:06 am »
Wszystko wygląda jakby rozum miał zatriumfować nad zaprogramowaniem, ale ostateczne zakończenie jest otwarte i moim zdaniem nie ma tu jasności co do tego jakby się to mogło skończyć.

Owszem, przy czym brzmi ono:

"Charczał, widziałam, jak usiłuje rozewrzeć powieki, otwierały się, najpierw białka, a ja, przechylona w tył. ze zgiętym odwłokiem, wpatrywałam się z góry w jego odwróconą twarz, nie śmiać ani dotknąć go, ani się cofnąć, bo póki był żyw, nie byłam pewna siebie, choć krew uchodziła z niego z każdym oddechem, widziałam jednak dobrze, że mój obowiązek sięga ostatniego tchu, ponieważ wyrok królewski należy wypełnić i w agonii, więc nie mogłam ryzykować, skoro wciąż jeszcze żył i nie wiedziałam też, czy na pewno chcę jego ocknięcia. Gdyby otwarł przytomnie oczy i odwróconym obrazem wziął mnie całą, taką jaka stałam nad nim, bezsilnie już śmiercionośna w modlitewnym geście, brzemienna nie od niego, byłżeby to ślub, czy jego przewidziana niemiłosiernie parodia?
Lecz nie otworzył przytomnych oczu i kiedy świt wszedł między nas kłębami drobno roziskrzonego śniegu od okien, którymi w zadymce górskiej wył cały dom, zajęczał raz jeszcze i przestał oddychać, a wtedy, już uspokojona, układłam się przy nim szczelnie, owinęłam go i wzięłam w objęcia, i leżałam tak w świetle i w mroku przez dwa dni śnieżycy, która okrywała nas nie tającą pościelą. A w trzecim dniu wzeszło słońce."


Jak dla mnie sam fakt tej odrobiny swobody decyzyjnej, tego, że nie przyskoczyła zabić go od razu, tylko stała w tym wahaniu do momentu śmierci swej niedoszłej ofiary jest optymistyczny. Nie wiemy czy bohaterka umiałaby przełamać swój program wprost, ale całe jej przygody są tego programu "obchodzeniem", odwlekaniem, naginaniem. A to już dużo.

(Podobną sytuację mamy zresztą w - znacznie bardziej "ugrzecznionym", "wygładzonym" treściowo - "Dwustuletnim człowieku" Asimova. Tam robot stworzony na - posłusznego wiadomym "trzem prawom" - sługę tak długo i skutecznie "falandyzuje" swe dyrektywy aż dochodzimy do sytuacji kiedy: "Andrzejowi przez myśl nawet nie przyszło, że wydaje kategoryczny rozkaz człowiekowi. Przyzwyczaił się do tego w czasie pobytu na Księżycu." NDR - vel Andrzej - potrzebował na dojście do tego momentu prawie dwustu lat, zabójczyni z "Maski" miała znacznie mniej czasu, a i tak widać efekty...)

Pozostała dyskusja narzuca mi tylko jedną myśl - inżynieria memetyczna ;). Może w taki sposób manifestować się będzie ulubiona przez Lema rekonstrukcja człowieka (podróż Ijona na Dychotomię czy druga opowieść Odmrożeńca, a z poważniejszych to z pół Summy :P). Ciekawy pomysł, nie wpadłym na to, a daliście mi inspirację do nowych przemyśleń ;)

"Inżynieria memetyczna" wynika wprost ze słów samego Dawkinsa, który mówił o "wyrwaniu się z niewoli samolubnych replikatorów" (cytat z pamięci). Replikatorów, a więc nie tylko genów.

Przy czym z praktyką tej inżynierii może być różnie. Np. w "Czarnych oceanach" Dukaja (b. porządna SF zmieszana - cholera wie po co - z horrorem) występuje dziedzina szumnie zwana "inżynierią memetyczną", niestety jest ona zaprzęgnięta do b. prymitywnych, marketingowych, reklamiarskich robót:

"Oczywiście nie było żadnych Matryc, żadnych Metaversów, Cyberplanów.. Co prawda Microsoft próbował wymuszać na użytkownikach masowe podłączenie do swojego Pałacu, z premedytacją tak wąsko specjalizując swój software - jednak kolejne wersje jego systemów padały, każdy od dwakroć większej liczby bugów i pomimo wielkiej ofensywy inżynierów memetycznych firmy, snobistyczny memotrend pogardy dla MSMiazgi nie został przełamany. Nie istniał zatem jeden ogólnoświatowy standard wizualizacji OVR.
       Trwała natomiast wojna protokołów. Zwyciężały postlinuxowe CIOT-y, które znajdowały się na najlepszej drodze do osiągnięcia niegdysiejszej pozycji HTTP. Customising In/Out Transfer Protocol - a Ronald korzystał z ostatniej jego mutacji - pozwalał wszczepkom idealnie dostosowywać format MUI do aktualnej przepustowości łącz HFT, wielkości pamięci operacyjnej wszczepki oraz stopnia tłoku na gwieździe/serwerze."


Pewnie będzie to tak jak mówicie, tzn. że jedne memy zastąpią inne. Mam tylko nadzieję, że taka akceleracja wykosi rzeczywiście memy szkodliwe i wnet zwyciężą te "dobre"

Konkretnie to zwyciężą te, które zapewnią sobie skuteczniejsze trwanie, ale faktycznie musi to być związane z lepszym bytem ich nośników (bo przekazywanie memów więcej czasu i spokoju wymaga niż przekazanie genów). Co niesie ze sobą jakąś nadzieję, acz pamiętajmy, że co dla ewolucji oznacza "szybko" nie jest wcale szybkie dla nas.

(Przy czym nie ma gwarancji, że memy nie znajdą sobie lepszego nośnika, i to o jego byt będą się "troszczyć". A to już jest całkiem on topic...)
« Ostatnia zmiana: Sierpień 25, 2009, 01:45:27 pm wysłana przez Q »
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki