Polski > DyLEMaty
AI - przerażająca (?) wizja
maziek:
--- Cytat: dzi w Listopada 11, 2008, 09:35:19 pm ---maziek: Zależy jakie problemy mieliby rozwiązywać. Np. jeśli byłyby to problemy w "świecie" modeli matematycznych to nic innego nie byłoby potrzebne.
--- Koniec cytatu ---
Zgoda, do rozwiązywania nie. Ale czy również do ich postawienia? Przyznam, że moja wyobraźnia nie sięga tak daleko. Słyszałem, że można tak ogólnie zaprogramowac zwykłego pc-ta, aby "sam" doszedł do kilku twierdzeń algebry. Ale czy tą metodą można dojść do - bo ja wiem? - teorii mnogości np.? Trzeba sobie wyobrazić, że są jakieś sprawy ponad zwykłym liczeniem. Chodzi mi o to, że znana nam inteligencja (czyli my) doznaje olśnień na bazie niezmierzonego morza wiedzy ogólnej. Znów więc staje sprawa, co to jest inteligencja.
--- Cytuj ---Z tego co mi się wydaje (na bazie jakiejś tam wiedzy choć część to domysły) gdyby nasz mózg tak odizolować ale stworzyć "wtyczki" na inne "zmysły" (tu aktualnie jest problem) to mogłoby powstać takie pudełko.
--- Koniec cytatu ---
Tak, no w sumie to juz się dzieje, wszczepia sie ludziom sztuczne siatkówki czy ślimaki, więc jaki problem zastąpić dane rzeczywiste spreparowanymi. Z kilkoma sprawami pewnie większy kłopot (z dotykiem może?) ale kwestia czasu. Jednak to działałoby, bo bierzesz ukształtowanego człowieka i zamykasz go w pudełku. Diabli wiedzą, na ile do rozwoju mózgu ludzkiego potrzebne jest "bombardowanie sygnałami" ale raczej bardzo, neurony się łaczą podążając za niknącym sygnałem itp. W związku z tym pytanie, czy gdybyś taki mózg wyhodował w słoiku metodami inżynierii genetycznej i karmił go tylko matematyką - czy można by to coś nazwać inteligencją, zakładając, że działałoby to w zakresie matematyki lepiej niż my.
Ale w zasadzie to straciłem lejtmotiw...
dzi:
--- Cytat: Q w Listopada 11, 2008, 09:52:47 pm ---Ojojoj kręcimy się tu w kółko, bo juz o tym Cetarian parę stron innego wątku temu mówił. Pytanie teraz (które też już padło) czy takie "ograniczone umysłowo" maszyny powinny być "prawdziwymi" (znaczy samoświadomymi) Sztucznymi Inteligencjami, czy nie humanitarniej (ale i bezpieczniej - vide rozważania Lema o "Prawach Robotyki" Asimova prowadzące do konkluzji, że rozum jest w stanie przełamać program) byłoby zatrzymaćje na etapie zmyślniejszych urządzeń po prostu?
--- Koniec cytatu ---
Co jest humanitarniej a co nie nie ma znaczenia bo i tak się rozwinie i nad tym momentem chciałbym się zastanowić. Staram się jednak pokazać na jakiej podstawie myślę że nie ma to związku z bezpieczeństwem.
--- Cytat: Q w Listopada 11, 2008, 09:52:47 pm ---I czy nie będzie tak, że badania nad AI będą iść sobie, a automatyzacja różnych dziedzin sobie (być może się schodząc w którymś momencie), bo niezależnie od ambitnych badań nad Sztuczna Inteligencją spodziewam się nurtu "oddolnego - po prostu coraz "cwańszych" urządzeń domowych, fabrycznych, biurowych, samochodów itp. (Inna rzecz, że może być i tak, żw AI "narodzi się" sama, kiedy nie będziemy się tego spodziewać - o ile oczywiście Penrose się myli, a Minsky ma rację, że rzecz wyłącznie w złożoności algorytmu.)
--- Koniec cytatu ---
Dotykamy lekko chyba problemu definicji pojęcia i nierozumienia czym jest spowodowana inteligencja nasza. Problem tyle standardowy co nudny ;)
--- Cytat: Q w Listopada 11, 2008, 09:52:47 pm ---Kolejne pytanie (które już zadawałem, ale teraz rozwinę) jest pytaniem o kształt AI. Jeśli mamy (tzn. nie my, przynajmniej nie ja, a fachowcy) prowadzić badania nad nimi, nie dla celów czysto utylitarnych (o których wspomniałeś), a po prostu w imię poznawczej ciekawości, to umiem sobie wyobrazić rozumne maszyny, których sensorium np. nie pokrywało by się z naszym. Ot np. po to by sprawdzić jak dana forma bytu określa świadomość (trochę "Non serviam" pachnie).
--- Koniec cytatu ---
Tak to chyba na pewno będzie. Skoro na "prawdziwych" żywych stworzeniach tak robimy to czemu nie na stworzonych przez nas, tym bardziej jeśli stworzymy je tak że nie będzie to dla nich nic nieprzyjemnego (bo nie będą mogły wiedzieć że może być inaczej).
dzi:
--- Cytat: maziek w Listopada 11, 2008, 10:15:06 pm ---Zgoda, do rozwiązywania nie. Ale czy również do ich postawienia? Przyznam, że moja wyobraźnia nie sięga tak daleko. Słyszałem, że można tak ogólnie zaprogramowac zwykłego pc-ta, aby "sam" doszedł do kilku twierdzeń algebry. Ale czy tą metodą można dojść do - bo ja wiem? - teorii mnogości np.? Trzeba sobie wyobrazić, że są jakieś sprawy ponad zwykłym liczeniem. Chodzi mi o to, że znana nam inteligencja (czyli my) doznaje olśnień na bazie niezmierzonego morza wiedzy ogólnej. Znów więc staje sprawa, co to jest inteligencja.
--- Koniec cytatu ---
To ostatnie jest Twoim założeniem. Nie wiemy skąd olśnienia i tyle. Jeśli są potrzebne to kicha, jeśli nam się zdaje że są to można stworzyć "matematykę kompletną" w pudełku z AI. (Wchodzimy na ten poziom na którym Term powinien się zacząć denerwować...). Ale skoro Lem rozważa stwarzanie światów dla nas (zamodelowanych wg potrzeb) to jak można nie rozważać stwarzania światów dla AI? Chodziło mi jednak raczej o względy filozoficzne i ten odwieczny problem buntu maszyn i antropoizacji AI.
--- Cytat: maziek w Listopada 11, 2008, 10:15:06 pm ---Tak, no w sumie to juz się dzieje, wszczepia sie ludziom sztuczne siatkówki czy ślimaki, więc jaki problem zastąpić dane rzeczywiste spreparowanymi. Z kilkoma sprawami pewnie większy kłopot (z dotykiem może?) ale kwestia czasu. Jednak to działałoby, bo bierzesz ukształtowanego człowieka i zamykasz go w pudełku. Diabli wiedzą, na ile do rozwoju mózgu ludzkiego potrzebne jest "bombardowanie sygnałami" ale raczej bardzo, neurony się łaczą podążając za niknącym sygnałem itp. W związku z tym pytanie, czy gdybyś taki mózg wyhodował w słoiku metodami inżynierii genetycznej i karmił go tylko matematyką - czy można by to coś nazwać inteligencją, zakładając, że działałoby to w zakresie matematyki lepiej niż my.
--- Koniec cytatu ---
A no właśnie odwrotnie wszystko. Zastępujemy zmysły znane, kopiujemy je i podłączamy tak samo jak "oryginalne". To żaden wyczyn. Bawią się też niektórzy w stwarzanie nowych zmysłów ale "interfacem" są zmysły już istniejące (jeden pan zrobił wykrywacz pola magnetycznego który powodował u niego swędzenie w konkretnym miejscu na ręce). Nikt jednak nie dodał nowego zmysłu bezpośrednio. To musi zostać zgeneralizowane i zbadane.
Opieram się ciągle na założeniu że mózg jest siecią neuronową z utrwalającymi się połączeniami. Wtedy oczywistym jest że "bombardowanie" jest niezbędne (i taka jest nasza aktualna wiedza o ile mi wiadomo). Dziwnym jednak wydaje mi się pomysł że to z tego bombardowania powstaje inteligencja. Widzę raczej to tak, że mózg jest "inteligentnym pudełkiem" które właśnie "radzi sobie" z tym bombardowaniem, tj. uczy się "obsługi" zmysłów (tj. poznaje jaki ma wpływ na to co odbiera), tworzy model świata i potem się w nim porusza. O ile mi wiadomo mózgi wszystkich istot żywych są zbudowane na tej samej zasadzie (opierając się na teorii Darwina) a receptory i reakcje na bodźce są skrajnie inne i skrajnie dopasowane do środowisk. Stąd mój wniosek.
Zatem wkładając ten mózg niemowlaka (raczej zarodka) do słoika i podłączając mu inne interfacey skutkowałby w moim przekonaniu powstaniem istoty "radzącej sobie" w tychże warunkach. To do czego zmierzam to fakt, że istota taka żyłaby w świecie tak innym od naszego, że nie można rozważać kwestii buntu ani kwestii antropoizacji bo są absurdalne.
Zakładając teraz że poznaliśmy AI trochę bardziej, rozłożyliśmy ją na "czynniki pierwsze" do tego stopnia, że nie robimy kopii mózgów ludzkich tylko "mózgi" dostosowane do rozwiązywanych problemów sprawa buntu i uczłowieczenia staje się jeszcze bardziej odległa.
Oczywiście będą robione "kopie ludzi" z taką samą inteligencją, zmysłami i ciałem z różnych względów te stworzenia jednak nie będą bardziej niebezpieczne od ludzi więc ewentualny "bunt maszyn" zostanie zniwelowany to prostego problemu każdego innego buntu ludzi. Ponadto te stworzenia wydają się w porównaniu do tego co powyżej najmniej ciekawym aspektem rozwoju AI (zresztą pewnie będzie to "dział" niedoceniany i traktowany po macoszemu, tak jak większość odłamów nauki służąca dawaniu "pustej przyjemności" ludziom).
Q:
--- Cytat: dzi w Listopada 11, 2008, 10:27:27 pm ---Dotykamy lekko chyba problemu definicji pojęcia i nierozumienia czym jest spowodowana inteligencja nasza. Problem tyle standardowy co nudny ;)
--- Koniec cytatu ---
Ano dotykamy, dotykamy, a nawet walimy w niego jak łbem w mur.
--- Cytat: dzi w Listopada 11, 2008, 10:27:27 pm ---Tak to chyba na pewno będzie. Skoro na "prawdziwych" żywych stworzeniach tak robimy to czemu nie na stworzonych przez nas, tym bardziej jeśli stworzymy je tak że nie będzie to dla nich nic nieprzyjemnego (bo nie będą mogły wiedzieć że może być inaczej).
--- Koniec cytatu ---
Jasne, że tak (o ile czynniki oficjalne się nie przerażą i nie zahamują tych badań, tak jak zahamowano w dużej mierze klonowanie i genetykę - pytanie na jak długo?), przy czym ewentualnego buntu AI spodziewałbym się raczej z tej strony, nie ze strony "mądrzejszych odkurzaczy", czy nawet (jak w sporej ilości SF z "Wiernym robotem" włącznie) androidów domowych czy domowo-seksualnych. Do prac domowych znów tyle mądrości nie trzeba, a nie sądzę, by ktoś ładował w robota to co nadmiarowe (czasu i pieniędzy szkoda).
--- Cytat: dzi w Listopada 11, 2008, 10:45:05 pm ---Nie wiemy skąd olśnienia i tyle. Jeśli są potrzebne to kicha
--- Koniec cytatu ---
Kicha jak kicha. Jeśli jest problem to się hipotezy stawia i bada. (Sam Penrose, obrońca tych olśnień, miał tu ich kilka.)
--- Cytat: dzi w Listopada 11, 2008, 10:45:05 pm ---Ale skoro Lem rozważa stwarzanie światów dla nas (zamodelowanych wg potrzeb) to jak można nie rozważać stwarzania światów dla AI?
--- Koniec cytatu ---
Chyba nawet łatwiejsze technicznie, skoro będą to światy wirtualne. (I tu wracamy do prof Corcorana i jego Matrixa ;).)
--- Cytat: dzi w Listopada 11, 2008, 10:45:05 pm ---Chodziło mi jednak raczej o względy filozoficzne i ten odwieczny problem buntu maszyn i antropoizacji AI.
--- Koniec cytatu ---
Bo my ludzie wszystko zawsze antropomorfizujemy, pewnie dlatego, że nikt sam siebie nie przeskoczy. Ale teraz przynajmniej mamy tego świadomość, a to już coś...
dzi:
Jeśli to co opisuję nazywasz "zmyślnymi odkurzaczami" to nie rozumiesz o co mi chodzi ;) Jeśli natomiast buntu spodziewasz się nie od "zmyślnych odkurzaczy" to moja odpowiedź jest powyżej ;)
Nawigacja
[#] Następna strona
Idź do wersji pełnej