AI - przerażająca (?) wizja

[dzi]

Wątek Cetariana okazuje się mieć wyjątkowy potencjał generujący rozmyślania. Tym razem rozmyślałem sobie jakby kontynuując sprawę "sztucznych naukowców" tj. maszyn czy tam robotów do "tworzenia nauki". Rozmyślania wyszły jednak od koncepcji rasizmu i lepszości sztuki ludzkiej od tej maszynowej i ewentualnego buntu maszyn. Już na tym etapie automatycznie przypisywałem AI cechy ludzkie, po chwili przyłapałem się że właściwie ubrałem ją też w ludzkie ciała. Stwierdzając że te nie są potrzebne wymyśliłem że gdyby takie coś robić to lepiej upakować tych 1000 naukowców w jakimś pudełeczku i niech sobie tam te burze mózgów robią i wyrzucają tylko kabelkiem teorie. Myśli idą od razu w kierunku takim, że ci ludzie, bo tak należy ich jednak interpretować, w tym pudełeczku, będą się buntować, lamentować, będą chcieli wyjść i zażądają ciał i praw. Ale przecież robiąc pudełeczko z naukowym AI nie damy im interfaceów (zmysłow) do odbierania świata innego niż jakieś wejścia potrzebne do przetwarzania teorii. Innymi słowy, nawet jeśli będzie to AI takie same jak ludzkie, to tym ludziom stworzymy świat, który będzie światem teorii naukowych i dyskusji na ich temat, ze stworzoną bazą pojęć jedynie do tego celu. Nie będzie istniał problem buntu bo ci w tym pudełeczku nie będą mięli zwyczajnie możliwości wpadnięcia na pomysł istnienia naszego świata. (Zapewne jednak będą powstawały tam rzeczy takie jak nasza religia, rozmyślania o życiu po życiu (bo filozofia i pojęcie istnienia zapewne samoczynnie powstanie) itd, tymi sprawami i ich ograniczaniem czy eliminacją zajmie się na pewno jakaś nowa dziedzina nauki, jakaś metasocjologia ).

Wizja dość przerażająca z naszego, automatycznie "uczłowieczającego" punktu widzenia prawda?

Ten pomysł wydaje się zresztą być zgodny z moim pomysłem sprzed jakiegoś czasu, że prawdopodobnie będzie AI i że nikomu nie przyjdzie do głowy ich bunt, że nie będzie rozważany taki problem w ogóle bo zwyczajnie nie będzie mógł mieć miejsca i że AI będzie nam służyło "wzmacnianiu mózgu" tak jak obecnie dźwigi podnoszą nam ciężary. Innymi słowy, że będzie działało i będzie normalnie. Zresztą sprawa po poznaniu zapewne rozwinie się tak, że nie tylko będą powstawały "inteligencje specjalizowane" ale również dużo mocniejsze od naszej (cokolwiek to znaczy). No chyba że AI będzie kopią mózgu bez rozumienia działania, wtedy jednak i tak powyższa wizja będzie działać a na pewno trwały będą dalsze prace nad zrozumieniem działania inteligencji i powstanie tych "lepszych" i jakiejś teorii na ten temat będzie kwestią czasu.

PS: Uprzejmie proszę antysolipsystów o nie odbieranie tej wizji jako ataku na ich poglądy

[maziek]

jak im nie dasz zmysłów i im nie powiesz, że siedzą w pudle, to sie buntować nie będą, najwyżej jakaś religia powstanie. Zastanawiam się jednak, czy mógłbyś im nie powiedzieć? To prawdopodobnie ściśle zależy od definicji inteligencji. Jeśli im nic nie powiesz, a tylko wytrenujesz ich do rozwiązywania podanych kabelkiem problemów - to gdzie tu inteligencja? Wszak polega ona na uzmysłowieniu sobie i postawieniu problemu - bardziej niż na jego rozwiazaniu. Chodzi mi o to, że w ten sposób nie będą inteligencją tylko komputerem.

[Q]

dzi, dość oryginalnie zajmował się rozumnymi maszynami, ich ewolucją i mentalnością (prawie nie do pojęcia dla nas zresztą) Gregory Benford w cyklu "Centrum Galaktyki".

Wspomnę tylko o jednej z marginalnie poruszonych, ale ciekawszych kwestii - stosunku tamtejszych AI do śmierci. Nie rozumiały mianowicie czemu człowiek się jej boi - same się nie bały: przecie maszynerię mozna odbudować, a dane przenieść na inny nośnik. Oryginalne też postrzegały kwestię tożsamości, bowiem nagminne były wśród nich takie przypadki jak mózg powodujący odległym o pół kontynentu efektorem, czy wyodrębnianie jednych systemów z drugich w razie potrzeby (i na odwrót - łączenie paru maszyn w jedno).

Zresztą polecam. Cykl stricte przygodowy (choć naukowo poprawny), a z Obcymi można się koniec końców dogadać (z tymi AI też), ale oduczył mnie antropomorfizowania Sztucznych Inteligencji bodaj skuteczniej nawet niż "GOLEM...".

ps. recenzja jednego z tomów na zachętę:
http://articles.latimes.com/1989-04-09/books/bk-1911_1_fiction-marvin-minsky-planet

[dzi]

maziek: Zależy jakie problemy mieliby rozwiązywać. Np. jeśli byłyby to problemy w "świecie" modeli matematycznych to nic innego nie byłoby potrzebne. A czy jest to inteligencja czy nie to zakładam że będziemy wiedzieli wtedy. Umówmy się że wiemy że za inteligencję człowieka odpowiada mózg. Z tego co mi się wydaje (na bazie jakiejś tam wiedzy choć część to domysły) gdyby nasz mózg tak odizolować ale stworzyć "wtyczki" na inne "zmysły" (tu aktualnie jest problem) to mogłoby powstać takie pudełko. Zatem ten mój pomysł nawet nie zakładał jednoznaczności definicji słowa "inteligencja" bo równie dobrze mogłyby być to kopie naszych mózgów bez rozumienia jak działają (jak pisałem).
Oczywiście byłyby roboty które muszą mieć zmysły ludzkie, jednak przy rozumieniu "działania" inteligencji myślę że miałyby tylko to co niezbędne i siłą rzeczy, jak w przykładzie powyżej, kwestia buntu byłaby nie tylko niemożliwa ale rozważanie jej byłoby błędem logicznym.

[Q]

Oczywiście byłyby roboty które muszą mieć zmysły ludzkie, jednak przy rozumieniu "działania" inteligencji myślę że miałyby tylko to co niezbędne i siłą rzeczy, jak w przykładzie powyżej, kwestia buntu byłaby nie tylko niemożliwa ale rozważanie jej byłoby błędem logicznym.

Ojojoj kręcimy się tu w kółko, bo juz o tym Cetarian parę stron innego wątku temu mówił. Pytanie teraz (które też już padło) czy takie "ograniczone umysłowo" maszyny powinny być "prawdziwymi" (znaczy samoświadomymi) Sztucznymi Inteligencjami, czy nie humanitarniej (ale i bezpieczniej - vide rozważania Lema o "Prawach Robotyki" Asimova prowadzące do konkluzji, że rozum jest w stanie przełamać program) byłoby zatrzymaćje na etapie zmyślniejszych urządzeń po prostu?

I czy nie będzie tak, że badania nad AI będą iść sobie, a automatyzacja różnych dziedzin sobie (być może się schodząc w którymś momencie), bo niezależnie od ambitnych badań nad Sztuczna Inteligencją spodziewam się nurtu "oddolnego - po prostu coraz "cwańszych" urządzeń domowych, fabrycznych, biurowych, samochodów itp. (Inna rzecz, że może być i tak, żw AI "narodzi się" sama, kiedy nie będziemy się tego spodziewać - o ile oczywiście Penrose się myli, a Minsky ma rację, że rzecz wyłącznie w złożoności algorytmu.)

Kolejne pytanie (które już zadawałem, ale teraz rozwinę) jest pytaniem o kształt AI. Jeśli mamy (tzn. nie my, przynajmniej nie ja, a fachowcy) prowadzić badania nad nimi, nie dla celów czysto utylitarnych (o których wspomniałeś), a po prostu w imię poznawczej ciekawości, to umiem sobie wyobrazić rozumne maszyny, których sensorium np. nie pokrywało by się z naszym. Ot np. po to by sprawdzić jak dana forma bytu określa świadomość (trochę "Non serviam" pachnie).

[maziek]

maziek: Zależy jakie problemy mieliby rozwiązywać. Np. jeśli byłyby to problemy w "świecie" modeli matematycznych to nic innego nie byłoby potrzebne.

Zgoda, do rozwiązywania nie. Ale czy również do ich postawienia? Przyznam, że moja wyobraźnia nie sięga tak daleko. Słyszałem, że można tak ogólnie zaprogramowac zwykłego pc-ta, aby "sam" doszedł do kilku twierdzeń algebry. Ale czy tą metodą można dojść do - bo ja wiem? - teorii mnogości np.? Trzeba sobie wyobrazić, że są jakieś sprawy ponad zwykłym liczeniem. Chodzi mi o to, że znana nam inteligencja (czyli my) doznaje olśnień na bazie niezmierzonego morza wiedzy ogólnej. Znów więc staje sprawa, co to jest inteligencja.

Z tego co mi się wydaje (na bazie jakiejś tam wiedzy choć część to domysły) gdyby nasz mózg tak odizolować ale stworzyć "wtyczki" na inne "zmysły" (tu aktualnie jest problem) to mogłoby powstać takie pudełko.

Tak, no w sumie to juz się dzieje, wszczepia sie ludziom sztuczne siatkówki czy ślimaki, więc jaki problem zastąpić dane rzeczywiste spreparowanymi. Z kilkoma sprawami pewnie większy kłopot (z dotykiem może?) ale kwestia czasu. Jednak to działałoby, bo bierzesz ukształtowanego człowieka i zamykasz go w pudełku. Diabli wiedzą, na ile do rozwoju mózgu ludzkiego potrzebne jest "bombardowanie sygnałami" ale raczej bardzo, neurony się łaczą podążając za niknącym sygnałem itp. W związku z tym pytanie, czy gdybyś taki mózg wyhodował w słoiku metodami inżynierii genetycznej i karmił go tylko matematyką - czy można by to coś nazwać inteligencją, zakładając, że działałoby to w zakresie matematyki lepiej niż my.

Ale w zasadzie to straciłem lejtmotiw...

[dzi]

Ojojoj kręcimy się tu w kółko, bo juz o tym Cetarian parę stron innego wątku temu mówił. Pytanie teraz (które też już padło) czy takie "ograniczone umysłowo" maszyny powinny być "prawdziwymi" (znaczy samoświadomymi) Sztucznymi Inteligencjami, czy nie humanitarniej (ale i bezpieczniej - vide rozważania Lema o "Prawach Robotyki" Asimova prowadzące do konkluzji, że rozum jest w stanie przełamać program) byłoby zatrzymaćje na etapie zmyślniejszych urządzeń po prostu?

Co jest humanitarniej a co nie nie ma znaczenia bo i tak się rozwinie i nad tym momentem chciałbym się zastanowić. Staram się jednak pokazać na jakiej podstawie myślę że nie ma to związku z bezpieczeństwem.

I czy nie będzie tak, że badania nad AI będą iść sobie, a automatyzacja różnych dziedzin sobie (być może się schodząc w którymś momencie), bo niezależnie od ambitnych badań nad Sztuczna Inteligencją spodziewam się nurtu "oddolnego - po prostu coraz "cwańszych" urządzeń domowych, fabrycznych, biurowych, samochodów itp. (Inna rzecz, że może być i tak, żw AI "narodzi się" sama, kiedy nie będziemy się tego spodziewać - o ile oczywiście Penrose się myli, a Minsky ma rację, że rzecz wyłącznie w złożoności algorytmu.)

Dotykamy lekko chyba problemu definicji pojęcia i nierozumienia czym jest spowodowana inteligencja nasza. Problem tyle standardowy co nudny

Kolejne pytanie (które już zadawałem, ale teraz rozwinę) jest pytaniem o kształt AI. Jeśli mamy (tzn. nie my, przynajmniej nie ja, a fachowcy) prowadzić badania nad nimi, nie dla celów czysto utylitarnych (o których wspomniałeś), a po prostu w imię poznawczej ciekawości, to umiem sobie wyobrazić rozumne maszyny, których sensorium np. nie pokrywało by się z naszym. Ot np. po to by sprawdzić jak dana forma bytu określa świadomość (trochę "Non serviam" pachnie).

Tak to chyba na pewno będzie. Skoro na "prawdziwych" żywych stworzeniach tak robimy to czemu nie na stworzonych przez nas, tym bardziej jeśli stworzymy je tak że nie będzie to dla nich nic nieprzyjemnego (bo nie będą mogły wiedzieć że może być inaczej).

[dzi]

Zgoda, do rozwiązywania nie. Ale czy również do ich postawienia? Przyznam, że moja wyobraźnia nie sięga tak daleko. Słyszałem, że można tak ogólnie zaprogramowac zwykłego pc-ta, aby "sam" doszedł do kilku twierdzeń algebry. Ale czy tą metodą można dojść do - bo ja wiem? - teorii mnogości np.? Trzeba sobie wyobrazić, że są jakieś sprawy ponad zwykłym liczeniem. Chodzi mi o to, że znana nam inteligencja (czyli my) doznaje olśnień na bazie niezmierzonego morza wiedzy ogólnej. Znów więc staje sprawa, co to jest inteligencja.

To ostatnie jest Twoim założeniem. Nie wiemy skąd olśnienia i tyle. Jeśli są potrzebne to kicha, jeśli nam się zdaje że są to można stworzyć "matematykę kompletną" w pudełku z AI. (Wchodzimy na ten poziom na którym Term powinien się zacząć denerwować...). Ale skoro Lem rozważa stwarzanie światów dla nas (zamodelowanych wg potrzeb) to jak można nie rozważać stwarzania światów dla AI? Chodziło mi jednak raczej o względy filozoficzne i ten odwieczny problem buntu maszyn i antropoizacji AI.

Tak, no w sumie to juz się dzieje, wszczepia sie ludziom sztuczne siatkówki czy ślimaki, więc jaki problem zastąpić dane rzeczywiste spreparowanymi. Z kilkoma sprawami pewnie większy kłopot (z dotykiem może?) ale kwestia czasu. Jednak to działałoby, bo bierzesz ukształtowanego człowieka i zamykasz go w pudełku. Diabli wiedzą, na ile do rozwoju mózgu ludzkiego potrzebne jest "bombardowanie sygnałami" ale raczej bardzo, neurony się łaczą podążając za niknącym sygnałem itp. W związku z tym pytanie, czy gdybyś taki mózg wyhodował w słoiku metodami inżynierii genetycznej i karmił go tylko matematyką - czy można by to coś nazwać inteligencją, zakładając, że działałoby to w zakresie matematyki lepiej niż my.

A no właśnie odwrotnie wszystko. Zastępujemy zmysły znane, kopiujemy je i podłączamy tak samo jak "oryginalne". To żaden wyczyn. Bawią się też niektórzy w stwarzanie nowych zmysłów ale "interfacem" są zmysły już istniejące (jeden pan zrobił wykrywacz pola magnetycznego który powodował u niego swędzenie w konkretnym miejscu na ręce). Nikt jednak nie dodał nowego zmysłu bezpośrednio. To musi zostać zgeneralizowane i zbadane.

Opieram się ciągle na założeniu że mózg jest siecią neuronową z utrwalającymi się połączeniami. Wtedy oczywistym jest że "bombardowanie" jest niezbędne (i taka jest nasza aktualna wiedza o ile mi wiadomo). Dziwnym jednak wydaje mi się pomysł że to z tego bombardowania powstaje inteligencja. Widzę raczej to tak, że mózg jest "inteligentnym pudełkiem" które właśnie "radzi sobie" z tym bombardowaniem, tj. uczy się "obsługi" zmysłów (tj. poznaje jaki ma wpływ na to co odbiera), tworzy model świata i potem się w nim porusza. O ile mi wiadomo mózgi wszystkich istot żywych są zbudowane na tej samej zasadzie (opierając się na teorii Darwina) a receptory i reakcje na bodźce są skrajnie inne i skrajnie dopasowane do środowisk. Stąd mój wniosek.

Zatem wkładając ten mózg niemowlaka (raczej zarodka) do słoika i podłączając mu inne interfacey skutkowałby w moim przekonaniu powstaniem istoty "radzącej sobie" w tychże warunkach. To do czego zmierzam to fakt, że istota taka żyłaby w świecie tak innym od naszego, że nie można rozważać kwestii buntu ani kwestii antropoizacji bo są absurdalne.

Zakładając teraz że poznaliśmy AI trochę bardziej, rozłożyliśmy ją na "czynniki pierwsze" do tego stopnia, że nie robimy kopii mózgów ludzkich tylko "mózgi" dostosowane do rozwiązywanych problemów sprawa buntu i uczłowieczenia staje się jeszcze bardziej odległa.

Oczywiście będą robione "kopie ludzi" z taką samą inteligencją, zmysłami i ciałem z różnych względów te stworzenia jednak nie będą bardziej niebezpieczne od ludzi więc ewentualny "bunt maszyn" zostanie zniwelowany to prostego problemu każdego innego buntu ludzi. Ponadto te stworzenia wydają się w porównaniu do tego co powyżej najmniej ciekawym aspektem rozwoju AI (zresztą pewnie będzie to "dział" niedoceniany i traktowany po macoszemu, tak jak większość odłamów nauki służąca dawaniu "pustej przyjemności" ludziom).

[Q]

Dotykamy lekko chyba problemu definicji pojęcia i nierozumienia czym jest spowodowana inteligencja nasza. Problem tyle standardowy co nudny

Ano dotykamy, dotykamy, a nawet walimy w niego jak łbem w mur.

Tak to chyba na pewno będzie. Skoro na "prawdziwych" żywych stworzeniach tak robimy to czemu nie na stworzonych przez nas, tym bardziej jeśli stworzymy je tak że nie będzie to dla nich nic nieprzyjemnego (bo nie będą mogły wiedzieć że może być inaczej).

Jasne, że tak (o ile czynniki oficjalne się nie przerażą i nie zahamują tych badań, tak jak zahamowano w dużej mierze klonowanie i genetykę - pytanie na jak długo?), przy czym ewentualnego buntu AI spodziewałbym się raczej z tej strony, nie ze strony "mądrzejszych odkurzaczy", czy nawet (jak w sporej ilości SF z "Wiernym robotem" włącznie) androidów domowych czy domowo-seksualnych. Do prac domowych znów tyle mądrości nie trzeba, a nie sądzę, by ktoś ładował w robota to co nadmiarowe (czasu i pieniędzy szkoda).

Nie wiemy skąd olśnienia i tyle. Jeśli są potrzebne to kicha

Kicha jak kicha. Jeśli jest problem to się hipotezy stawia i bada. (Sam Penrose, obrońca tych olśnień, miał tu ich kilka.)

Ale skoro Lem rozważa stwarzanie światów dla nas (zamodelowanych wg potrzeb) to jak można nie rozważać stwarzania światów dla AI?

Chyba nawet łatwiejsze technicznie, skoro będą to światy wirtualne. (I tu wracamy do prof Corcorana i jego Matrixa .)

Chodziło mi jednak raczej o względy filozoficzne i ten odwieczny problem buntu maszyn i antropoizacji AI.

Bo my ludzie wszystko zawsze antropomorfizujemy, pewnie dlatego, że nikt sam siebie nie przeskoczy. Ale teraz przynajmniej mamy tego świadomość, a to już coś...

[dzi]

Jeśli to co opisuję nazywasz "zmyślnymi odkurzaczami" to nie rozumiesz o co mi chodzi Jeśli natomiast buntu spodziewasz się nie od "zmyślnych odkurzaczy" to moja odpowiedź jest powyżej

[Q]

Ani jedno, ani drugie, tak sobie gdybam. Po prostu sugeruję, że badania nad AI pozostaną raczej sprawą akademicką (co nie ma znaczyć "bezowocną"), a w praktyce będzie się ładować w różne urządzenia coraz więcej "rozumu" nie dążąc wcale do dania im samoświadomości (bo i po co?).

(Natomiast zastanawiałem się - o ile z tymi olśnieniami to bujda - czy taki "odkurzacz"... no dobra, nie odkurzacz, a bo ja wiem... statek kosmiczny? może nam przypadkiem masę krytyczną świadomości przekroczyć, choć nie to intencją twórców było. Po prostu usiłuję rozszerzyć tematykę dyskusji .)

Cieszy mnie natomiast, że nie mówimy prawie o człekokształtnych androidach, bo poza jedną czy dwiema dziedzinami to cholernie niepraktyczne wyjście.

[dzi]

To że nie mówimy o człekokształtnych androidach jest właśnie sednem tematu

A co do samoświadomości to chyba też nie wiemy skąd się bierze oraz co ją ma? Zresztą nigdy się nie dowiemy co ją ma, chyba że na tyle rozpoznamy inteligencję że stwierdzimy skąd się bierze. Ciężko więc rozpatrywać czy ją "damy" czy nie bo nie wiadomo jaki ma związek z inteligencją.

[Q]

Skoro od człekokształtności uciekamy, a świadomości nie umiemy zdefiniować postawię przewrotnie jeszcze jedną kwestię.

Czy może być tak, że człowiek chce różnych rzeczy tylko dlatego, że takim go ewolucja (biologiczna, potem i kulturowa) ukształtowała? Bo może być i tak, że powstanie (wszystko jedno jaką metodą, i kto ma rację - Penrose czy Minsky, a może mylą się obaj) prawdziwa Sztuczna Inteligencja, w dodatku samoświadoma, ale jej własny los będzie jej (jako wolnej od instynktu samozachowawczego i innych wpisanych nam przez biologię popedów) całkowiecie obojętny?

(Coś podobnego było w "Gwiezdnej eskadrze" - tam Sztuczne Inteligencje zbuntowały się dopiero, gdy kierowany prywatną zemstą naukowiec wpisał im program dokonywania losowych decyzji i akurat na bunt im - z rzutu monetą - padło. Oczywiście jest to uproszczenie, bo mozna tu zapytać wg. jakich kryteriów owe AI wybierały problemy "pod losowanie" i po co im był rzut monetą^*, skoro mogły losować "w głowie"?)

A gdyby tak się stało (choć nie lubię czynić założeń) to mamy kwestie pochodne:
- primo: czy człowiek rozpoznałby (i uznał) w takiej "apatycznej AI" rozum i świadomość?
- secundo (bo Lem i tematykę moralną zwykł roztrząsać) czy godziłoby się tą "obojętność" wykorzystywać?

* tzn. pewnie po to by łopatologicznie wyjaśnić w czym rzecz masowemu widzowi...

[draco_volantus]

010100100010100111101010100101010101010010100100101010100101010010100101010101010100101

najpierw wymyśl coś innego niż to co wyżej dzi :]

póki co możesz co najwyżej:

http://pl.youtube.com/watch?v=lWsMdN7HMuA

zamiast:

[Q]

draco wymyśliłem (a raczej inspirowałem się czymś co wcześniej czytałem, bodaj w "Scientific American", bo trudno być w 100% kreatywnym, gdy o temacie wszyscy piszą), przygotowałem sobie grunt pod zadanie pytania o rolę emocji i popędów w procesie podejmowania decyzji.

(Choć z kolei w "GOLEMie" AI posiadała jakby sama z sibie - bo nic jej nie programowano - ciekawość świata, potrzebę wiedzy i autonomii, które były tam w jakiś sposób nierozerwalnie splecione z faktem rozumności i to jej do posiadania własnych priorytetów wystarczało. Pytanie tylko, czy nie jest to pobożne Lema życzenie?\)

Zresztą obaj z dzi idziemy w szczegółowych pytaniach w ślady Cetariana (o ile nie pomyliłem osób) , który radził programować AI takie odruchy, wzgl systemy wartości, które by nam były na rękę. Po prostu porządkuję grunt pod dyskusję pokazując, że wiemy, że nic nie wiemy i wchodząc we wszystkie szczegóły po kolei, by dokładniej im się przyjrzeć.

Ha, może i tak już jest, że nie da się o AI powiedzieć teoretycznie nic nowego (koncepcję powstania AI, w których rozumności się nie połapiemy i vice versa, którą tu dzi pięknie rozwija też czas jakiś temu na Forum referowałem, a bynajmniej nie wymyśliem jej sam) i trza tylko na wyniki praktyczne czekać?