Polski > DyLEMaty

AI - przerażająca (?) wizja

(1/169) > >>

dzi:
Wątek Cetariana okazuje się mieć wyjątkowy potencjał generujący rozmyślania. ;) Tym razem rozmyślałem sobie jakby kontynuując sprawę "sztucznych naukowców" tj. maszyn czy tam robotów do "tworzenia nauki". Rozmyślania wyszły jednak od koncepcji rasizmu i lepszości sztuki ludzkiej od tej maszynowej i ewentualnego buntu maszyn. Już na tym etapie automatycznie przypisywałem AI cechy ludzkie, po chwili przyłapałem się że właściwie ubrałem ją też w ludzkie ciała. Stwierdzając że te nie są potrzebne wymyśliłem że gdyby takie coś robić to lepiej upakować tych 1000 naukowców w jakimś pudełeczku i niech sobie tam te burze mózgów robią i wyrzucają tylko kabelkiem teorie. Myśli idą od razu w kierunku takim, że ci ludzie, bo tak należy ich jednak interpretować, w tym pudełeczku, będą się buntować, lamentować, będą chcieli wyjść i zażądają ciał i praw. Ale przecież robiąc pudełeczko z naukowym AI nie damy im interfaceów (zmysłow) do odbierania świata innego niż jakieś wejścia potrzebne do przetwarzania teorii. Innymi słowy, nawet jeśli będzie to AI takie same jak ludzkie, to tym ludziom stworzymy świat, który będzie światem teorii naukowych i dyskusji na ich temat, ze stworzoną bazą pojęć jedynie do tego celu. Nie będzie istniał problem buntu bo ci w tym pudełeczku nie będą mięli zwyczajnie możliwości wpadnięcia na pomysł istnienia naszego świata. (Zapewne jednak będą powstawały tam rzeczy takie jak nasza religia, rozmyślania o życiu po życiu (bo filozofia i pojęcie istnienia zapewne samoczynnie powstanie) itd, tymi sprawami i ich ograniczaniem czy eliminacją zajmie się na pewno jakaś nowa dziedzina nauki, jakaś metasocjologia ;) ).

Wizja dość przerażająca z naszego, automatycznie "uczłowieczającego" punktu widzenia prawda?

Ten pomysł wydaje się zresztą być zgodny z moim pomysłem sprzed jakiegoś czasu, że prawdopodobnie będzie AI i że nikomu nie przyjdzie do głowy ich bunt, że nie będzie rozważany taki problem w ogóle bo zwyczajnie nie będzie mógł mieć miejsca i że AI będzie nam służyło "wzmacnianiu mózgu" tak jak obecnie dźwigi podnoszą nam ciężary. Innymi słowy, że będzie działało i będzie normalnie. Zresztą sprawa po poznaniu zapewne rozwinie się tak, że nie tylko będą powstawały "inteligencje specjalizowane" ale również dużo mocniejsze od naszej (cokolwiek to znaczy). No chyba że AI będzie kopią mózgu bez rozumienia działania, wtedy jednak i tak powyższa wizja będzie działać a na pewno trwały będą dalsze prace nad zrozumieniem działania inteligencji i powstanie tych "lepszych" i jakiejś teorii na ten temat będzie kwestią czasu.

PS: Uprzejmie proszę antysolipsystów o nie odbieranie tej wizji jako ataku na ich poglądy :D

maziek:
jak im nie dasz zmysłów i im nie powiesz, że siedzą w pudle, to sie buntować nie będą, najwyżej jakaś religia powstanie. Zastanawiam się jednak, czy mógłbyś im nie powiedzieć? To prawdopodobnie ściśle zależy od definicji inteligencji. Jeśli im nic nie powiesz, a tylko wytrenujesz ich do rozwiązywania podanych kabelkiem problemów - to gdzie tu inteligencja? Wszak polega ona na uzmysłowieniu sobie i postawieniu problemu - bardziej niż na jego rozwiazaniu. Chodzi mi o to, że w ten sposób nie będą inteligencją tylko komputerem.

Q:
dzi, dość oryginalnie zajmował się rozumnymi maszynami, ich ewolucją i mentalnością (prawie nie do pojęcia dla nas zresztą) Gregory Benford w cyklu "Centrum Galaktyki".

Wspomnę tylko o jednej z marginalnie poruszonych, ale ciekawszych kwestii - stosunku tamtejszych AI do śmierci. Nie rozumiały mianowicie czemu człowiek się jej boi - same się nie bały: przecie maszynerię mozna odbudować, a dane przenieść na inny nośnik. Oryginalne też postrzegały kwestię tożsamości, bowiem nagminne były wśród nich takie przypadki jak mózg powodujący odległym o pół kontynentu efektorem, czy wyodrębnianie jednych systemów z drugich w razie potrzeby (i na odwrót - łączenie paru maszyn w jedno).

Zresztą polecam. Cykl stricte przygodowy (choć naukowo poprawny), a z Obcymi można się koniec końców dogadać (z tymi AI też), ale oduczył mnie antropomorfizowania Sztucznych Inteligencji bodaj skuteczniej nawet niż "GOLEM...".

ps. recenzja jednego z tomów na zachętę:
http://articles.latimes.com/1989-04-09/books/bk-1911_1_fiction-marvin-minsky-planet

dzi:
maziek: Zależy jakie problemy mieliby rozwiązywać. Np. jeśli byłyby to problemy w "świecie" modeli matematycznych to nic innego nie byłoby potrzebne. A czy jest to inteligencja czy nie to zakładam że będziemy wiedzieli wtedy. Umówmy się że wiemy że za inteligencję człowieka odpowiada mózg. Z tego co mi się wydaje (na bazie jakiejś tam wiedzy choć część to domysły) gdyby nasz mózg tak odizolować ale stworzyć "wtyczki" na inne "zmysły" (tu aktualnie jest problem) to mogłoby powstać takie pudełko. Zatem ten mój pomysł nawet nie zakładał jednoznaczności definicji słowa "inteligencja" bo równie dobrze mogłyby być to kopie naszych mózgów bez rozumienia jak działają (jak pisałem).
Oczywiście byłyby roboty które muszą mieć zmysły ludzkie, jednak przy rozumieniu "działania" inteligencji myślę że miałyby tylko to co niezbędne i siłą rzeczy, jak w przykładzie powyżej, kwestia buntu byłaby nie tylko niemożliwa ale rozważanie jej byłoby błędem logicznym.

Q:

--- Cytat: dzi w Listopada 11, 2008, 09:35:19 pm ---Oczywiście byłyby roboty które muszą mieć zmysły ludzkie, jednak przy rozumieniu "działania" inteligencji myślę że miałyby tylko to co niezbędne i siłą rzeczy, jak w przykładzie powyżej, kwestia buntu byłaby nie tylko niemożliwa ale rozważanie jej byłoby błędem logicznym.
--- Koniec cytatu ---

Ojojoj kręcimy się tu w kółko, bo juz o tym Cetarian parę stron innego wątku temu mówił. Pytanie teraz (które też już padło) czy takie "ograniczone umysłowo" maszyny powinny być "prawdziwymi" (znaczy samoświadomymi) Sztucznymi Inteligencjami, czy nie humanitarniej (ale i bezpieczniej - vide rozważania Lema o "Prawach Robotyki" Asimova prowadzące do konkluzji, że rozum jest w stanie przełamać program) byłoby zatrzymaćje na etapie zmyślniejszych urządzeń po prostu?

I czy nie będzie tak, że badania nad AI będą iść sobie, a automatyzacja różnych dziedzin sobie (być może się schodząc w którymś momencie), bo niezależnie od ambitnych badań nad Sztuczna Inteligencją spodziewam się nurtu "oddolnego - po prostu coraz "cwańszych" urządzeń domowych, fabrycznych, biurowych, samochodów itp. (Inna rzecz, że może być i tak, żw AI "narodzi się" sama, kiedy nie będziemy się tego spodziewać - o ile oczywiście Penrose się myli, a Minsky ma rację, że rzecz wyłącznie w złożoności algorytmu.)

Kolejne pytanie (które już zadawałem, ale teraz rozwinę) jest pytaniem o kształt AI. Jeśli mamy (tzn. nie my, przynajmniej nie ja, a fachowcy) prowadzić badania nad nimi, nie dla celów czysto utylitarnych (o których wspomniałeś), a po prostu w imię poznawczej ciekawości, to umiem sobie wyobrazić rozumne maszyny, których sensorium np. nie pokrywało by się z naszym. Ot np. po to by sprawdzić jak dana forma bytu określa świadomość (trochę "Non serviam" pachnie).

Nawigacja

[0] Indeks wiadomości

[#] Następna strona