Stanisław Lem - Forum

Polski => Lemosfera => Wątek zaczęty przez: Hokopoko w Marzec 10, 2006, 06:43:55 pm

Tytuł: Test Lema
Wiadomość wysłana przez: Hokopoko w Marzec 10, 2006, 06:43:55 pm
Już się tłumaczę. W lemowym FAQ znajduje się (jeszcze  ;D ) pytanie "jak stwierdzić, czy powstała już sztuczna inteligencja?". Jako że postawiona tam odpowiedź jest w zasadzie rozbudowaną wersją tego, co na rzeczony temat zaproponował Alan Turing i co powszechnie nazywane jest testem Turinga, to i pozwoliłem sobie nazwać obecny wątek "testem Lema" właśnie. (Wszyscy, którzy mają ochotę na testowanie samego Stanisława Lema, poczują się pewnie w tym miejscu zawiedzeni  ;))

Oto fragment z rzeczonego FAQ:

"Decydującym kryterium, które dowodziłoby powstania sztucznej inteligencji, byłaby rozmowa z maszyną. Mój nieczłowieczy partner miałby za zadanie opowiedzieć własnymi słowami jakąś przedstawioną mu anegdotę lub historię, zachowując przy tym cały sens mojej opowieści. Dla ostrożności należałoby tego rodzaju test powtórzyć kilkakrotnie."

I już mówię, co mi się w tym rozumowaniu nie widzi.
Otóż przedstawiony tu warunek, aby "nieczłowieczy partner" (którego dalej będziemy nazywać rozmaicie) opowiedział własnymi słowami zasłyszaną historię, jest (a przynajmniej na taki mi wygląda...) warunkiem koniecznym i wystarczającym. Znaczyłoby to, po pierwsze, że test taki, jeżeli tylko zostanie przez maszynę zdany, w zupełności wystarczy, by uznać, iż maszyna posiada świadomość - bo w zasadzie do świadomości sprowadza się pojęcie "sztucznej inteligencji".
Powodem, dla którego test Turinga, jako kryterium posiadania świadomości, nie jest już zbyt poważnie brany pod uwagę, stał się ciągły wzrost możliwości komputerów (i pisanych dla nich, coraz to bardziej zaawansowanych algorytmów). Przypomnę, że w teście tym egzaminator prowadzi dyskurs z "delikwentem", o którym nie wie, czy jest to człowiek, czy maszyna, a potem zgaduje, z kim miał do czynienia. Jeśli nie zgadnie, że rozmawiał z maszyną, to przyjmuje się, iż połączenie komputer-algorytm jest na tyle bystre, że nie pozostaje nic innego jak tylko uznać posiadanie przezeń inteligencji. Postęp inforatyki spowodował (Turing wymyślił test jeszcze w czasach lamp elektronowych), że współczesne superkomputery, jeśli tylko egzaminator zbytnio się nie czepia, potrafią przez ten test przebrnąć - co więcej, wypadają w tym nieraz lepiej od ludzi (których egzaminator również przepytuje w ciemno i czasami zdarza mu się zawyrokować, że dyskutował z maszyną  :D).

Test Turinga polega na rozmowie z maszyną na tematy, nazwijmy to, ogólno-bieżące. Postulat Lema zadanie maszyny niewątpliwie komplikuje, bo w tym przypadku komputerowi nie wystarczy już pamięć słów i wzorów zdań, znajomość gramatyki czy co tam jeszcze, co da się w miarę bezproblemowo przełożyć na język programowania. Opowiedzieć własnymi słowami zasłyszaną historię, to tyle co poddać ją pewnemu uogólnieniu, zrozumieć na meta-poziomie. Do tego potrzebna jest już zdolność abstrachowania.
Lem przedstawił swój pomysł już jakiś czas temu, i pamiętam, że kiedyś również na takie kryterium przystawałem. Dziś jednak , patrząc na to, co się wyprawia w informatyce, biorąc pod uwagę ciągły wzrost mocy obliczeniowej komputerów, wcale nie jestem pewien, czy problemu "opowiadania zasłyszanej historii" nie da się w dostateczny sposób zalgorytmizować. Zwłaszcza że taka maszyna nie musi być przecież budowana jako sztuczna inteligencja: budowniczym będzie przyświecał tylko jeden cel - zdać test Lema; cały arsenał programistyczny
zostanie skierowany w tym jednym kieruku. Może się więc okazać, że któregoś dnia powstanie maszyna opowiadająca własnymi słowami zasłyszane historie - i będzie to robić doskonale, tyle że nie będzie potrafiła nic innego...
Tytuł: Re: Test Lema
Wiadomość wysłana przez: Hokopoko w Marzec 10, 2006, 06:46:16 pm
Drugi mój zarzut jest natury niejako odwrotnej. Poprzednio rozwodziłem się nad warunkiem wystarczającym, teraz przejdę do warunku koniecznego - i o ile wcześniej moje rozumowanie zasadzało się na swojego rodzaju gdybaniu, to teraz wydaje mi się, że argumenty są znacznie mocniejsze.
Mianowicie do tego, by maszyna opowiedziała po swojemu zasłyszaną historię, potrzebna jest nie tylko świadomość - dodatkowo ta sztuczna inteligencja (a zakładam, że  w tym przypadku rzeczywiście uda się ją zbudować) będzie musiała operować całym arsenałem kulturowych symboli - oczywiście należących do kultury egzaminatora. Jeżeli jednak powstanie sztuczna świadomość, która z takich czy innych względów nie będzie mogła takimi symbolami operować, to tego testu nie przejdzie. Jest to o tyle istotne, że tego typu egzaminu na świadomość nie zda też człowiek, jeżeli będzie należał do kultury zdecydowanie różnej od kultury egzaminatora. Dowolna historia z naszego podwórka, opowiedziana członkowi jakiegoś dzikiego plemienia (pomijam przy tym kwestie translacyjne), będzie dla niego albo zupełnie niezrozumiała, albo też do tego, co zdoła pojąć, dorobi sobie własne - zupełnie obce nam z kolei - sensy. Testu więc nie zda, chociaż nikt nie odmówi mu posiadania świadomości.
Nie wydaje mi się, ażeby pierwsze sztuczne inteligecje były od razu w stanie dysponować naszymi sensami, mimo że pewnie, wnosząc z innych dotyczących ich danych, będzie można uznać, iż świadomość posiadają.
Logika i sensy tych świadomości mogą być różne od naszych, mogą się opierać na logice, racjonalności formalnej czy, co najbardziej prawdopodobne, będą jakimiś pochodnymi najrozmaitszych założeń podejmowanych przy ich budowie (tak jeśli chodzi o hardware, jak i software) - założeń, z istotności których początkujący budowniczowie nie będą sobie wogóle zdawać sprawy.

Podsumowując, nie wydaje mi się, by dało się sformułować jakikolwiek warunek, po spełnieniu którego będzie można jednoznacznie uznać, że oto zbudowaliśmy sztuczną inteligencję. To uznanie przyjdzie raczej na podstawie jakiegoś szerszego wglądu w istotę sprawy, spojrzeniu z meta-poziomu - dzięki opowiedzeniu sobie tej historii niekoniecznie naszymi słowami...

Oczywiście czekam na Wasze opinie! ;D
Tytuł: Re: Test Lema
Wiadomość wysłana przez: jarutek w Marzec 11, 2006, 11:18:52 am
Zgadzam się. też mi się wydaję, że przebrnięcie bądź nie przez maszynę różnorakich testów niczego nie dowodzi. Za kryterium pojawienia się świadomości czy też inteligencji proponuję przyjąć zdarzenie, że maszyna wcale nie pytana sama zaczyna gadać i wtrącać swe nawet najgłupsze 3 grosze (co by może też tłumaczyło dlaczego maszyna jest rodzaju żeńskiego ;))
Pozdrawiam.
Tytuł: Re: Test Lema
Wiadomość wysłana przez: miazo w Marzec 11, 2006, 11:28:46 am
Może problem z tego typu testami polega na tym, że czynią na początku takie założenie, że człowiek nie jest maszyną.
Tytuł: Re: Test Lema
Wiadomość wysłana przez: A-cis w Marzec 11, 2006, 12:28:55 pm
Opis testu na AI, a właściwie na jej wykrycie miałeś również na początku "Blade Runnera" kiedy to chodziło o zidentyfikowanie czy testujący rozmawia z człowiekiem, czy robotem.
Z tym że tam wykorzystywano również środki techniczne (badanie źrenicy). A w Twoim przypadku takie coś powinno być niedopuszczalne.
Natomiast zestaw pytań mółby być w tym przypadku pomocny do dyskusji.
Tytuł: Re: Test Lema
Wiadomość wysłana przez: Terminus w Marzec 11, 2006, 12:35:01 pm
Cytuj
Może problem z tego typu testami polega na tym, że czynią na początku takie założenie, że człowiek nie jest maszyną.



Buehehe, supersweet ::)
Tytuł: Re: Test Lema
Wiadomość wysłana przez: Deckert w Marzec 11, 2006, 05:04:07 pm
Myślę, że sztuczna inteligencja czyli AI może w pewnym momencie rozwoju techniki stać się po prostu określeniem super wydajnej maszyny świetnie naśladującej naszą - ludzką - inteligencję. Już tłumaczę o co mi chodzi. Hokopoko słusznie zauważył, że moce obliczeniowe komputerów rosną w zastraszającym tempie. Jestem pewien, że szybkość działania zaawansowanego chatbota (zaawansowanego czyli takiego, który poprawnie składniowo odpowiada na pytania z dziedziny np: muzyki) będzie całkowicie zadowalająca na przeciętnym Pececie domowego użytkownika.

Wyobraźmy sobie, że równocześnie developerzy budują moduły tego chatbota nakierowane na ściśle określone dziedziny życia ludzkiego. Mamy więc moduł na temat muzyki, filozofii, filmu, literatury, geografii świata, biologii, genetyki itd.. itp... W takiej sytuacji test Turinga zostanie zdany na piątkę z plusem. Człowiek będzie mógł zadać takiemu komputerowi praktycznie dowolne pytanie i uzyska odpowiedź wygłoszoną, np: piękną angielszczyzną.

Oczywiście komputer ten nadal nie myśli, lecz wykonuje z góry zaplanowane algorytmy. Dzięki mocy obliczeniowej wykonuje je jednak wystarczająco szybko. Dzięki sprytnemu algorytmowi będzie wysławiać się jak człowiek. Co więcej dzięki swoim modułom będzie miał spore zasoby wiedzy z różnych dziedzin.
Dodatkowo dzięki łączności z Internetem, będzie mógł wciąż te zasoby powiększać, poprzez np: updaty bazy danych. Oczywiście będziemy tu mieli także wbudowane systemy eksperckie z wszystkich dziedzin, umożliwiąjące rozwiązywanie podstawowych problemów. Taka baza wyjściowa daje nam nadal głupi komputer, którego nie można w sensie dosłownym nazwać inteligentnym, ale dla większość ludzi będzie on już całkiem fajną zabawką, z którą można pogadać na wiele tematów i trochę się od niej dowiedzieć. Sami musicie przyznać, że taka maszynka zda test Turinga bez problemu. Komputer, dzięki odpowiedniemu programowi komunikacyjnemu, mówi składnie jak człowiek. Więcej! Może odpowiadać w dowolnym języku!

Niestety nadal jest głupi, tzn. nieświadomy swojego istnienia.

Programiści rozpoczynają kolejny etap rozwoju tej maszynki. Wprowadzają jej moduł symulujący osobowość czyli uczucia. Jest to system wagowy, oczywiście odpowiednio rozbudowany. Teraz wyobraźmy sobie, że da się to wszystko już odpowiednio zminiaturyzować i wstawić w obwody jakiegoś humanoidalnego robocika. Może to być ten zabawny Asimo firmy Honda. Dalej wyobraźmy sobie, że owego Asimo dostaje na urodziny jakiś dzieciak. Ależ wspaniały prezent. Toż to elektroniczny wychowawca. To chodząca encyklopedia, nauczyciel dowolnego języka obcego. Mogą się od niego uczyć zarówno dzieci jak i dorośli. Dzięki wbudowanemu systemowi wagowemu, który steruje jego emocjami oraz uczuciami może on bardziej lub mniej lubić określonych domowników. No i tu przychodzą nam z pomoca Prawa Robotyki Asimova. Co się bowiem stanie jeśli takiego robota zbytnio zdenerwujesz? Czy może zrobić czy krzywdę? To będzie zależało od tego jaki będzie mieć algorytm działania. Może być też tak, że po wyczerpaniu się przysłowiowej "cierpliwości" takiego robota wyłączy się on, albo będzie resetować sobie ten system wagowy. Gorzej, jeśli ktoś kiedyś wpadnie na pomysł zbudowania jakiegoś wirusa, który zakłóci działanie tego systemu.
I co z tego wynika? Czy ten robot posiada sztuczną inteligencję? Znów możemy powiedzieć, że nie. Nadal jest tylko puszką z obwodami elektronicznymi. Naśladuje jednak relacje międzyludzkie tak dobrze, że dla wielu ludzi staje się przyjacielem - domownikiem, który ich lubi i który służą im radą. A więc sporo osób będzie traktować to urządzenie jako inteligentne.

c.d.n.
Tytuł: Re: Test Lema
Wiadomość wysłana przez: Deckert w Marzec 11, 2006, 05:09:09 pm
c.d.

Wyobraźmy sobie dalej, że konstruktorzy w końcu osiągnęli mistrzostwo w budowaniu humanoidalnych robotów. Wyglądają bardzo podobnie do ludzi. Są silniejsi, zdecydowanie bardziej precyzyjni, są po prostu doskonalsi fizycznie. W ich elektronicznych mózgach działają kolejne, wciąż poprawiane wersje oprogramowania, o którym wyżej pisałem. Czym jest ten dziwny twór? Czy to sztuczna inteligencja? Twórca oprogramowania powiedziałby, że nie. Wie doskonale jak działa jego mózg, potrafi przewidzieć co zrobi. Ale użytkownik końcowy już tego nie potrafi wytłumaczyć. Dla niego jest to wspaniały pomocnik w codziennym życiu. Dzięki niemu czuje się bezpiecznie i dobrze. Ma kogoś na kim może polegać. Może mu się także zwierzać. Czemuż by nie? Co to za problem dla konstruktorów zbudować odpowiedni moduł zajmujący się psychologią.

I dalej załóżmy, że konstruktorzy wprowadzili kolejną modyfikację w oprogramowaniu. Umożliwili nowej generacji samomodyfikowanie się pewnych modułów. Mogą to być np: moduły emocji i uczuć. W trakcie życia robota jego system wagowy odpowiedzielny za jego osobowość rozbudowuje się pod wpływem rozmów z ludźmi i przeżyć. Robot staje się naprawdę ludzki. Lecz nadal dla twórcy jest głupią puszką na elektrony lub fotony. Ale mamy tu poraz pierwszy pewną znaczącą różnicę. Robot nie jest już w pełni przewidywalny. W końcu potrafi rozbudowywać pewne części swoich algorytmów - dokonywać pewnych zmian. Jeśli robot coś zrobi, np: umożliwi swojemu Panu wykonanie eutanazji to nie będzie już jasne dlaczego tak właśnie postąpił. Nie wiadomo co dokładnie czuł do swojego właściciela. Zauważcie, że używam tutaj po raz pierwszy sformułowania "co czuje robot?". Aby stwierdzić dlaczego tak a nie inaczej się zachował twórcy musieliby podłączyć się do jego pamięci wspomnień, modułu symulującego uczucia itd. itp..  a następnie dokonać pewnej "analizy jego osobowości".
No i czyż nie byłaby to już owa AI, której poszukujemy? Dla twórców nie, ale dla ludzi tak. Dążyłem w tym poście to ukazania pewnego możliwego kierunku rozwoju oprogramowania, które jedynie świetnie symuluje ludzką inteligencję i zachowania. Tak doskonale naśladuje nasze zachowanie, że zasługuje na miano sztucznej inteligencji ;).

Proszę o Wasz komentarz, z czym się zgadzacie a z czym nie.

CU
Deck
Tytuł: Re: Test Lema
Wiadomość wysłana przez: miazo w Marzec 11, 2006, 06:46:16 pm
Dlaczego nie użyłeś zamiast "robot" słowa "dziecko", zamiast "konstruktorzy" słowa "rodzice", zamiast "developerzy budują moduły" słów "nauczyciele przekazują wiedzę z dziedzin", "dzięki łączności z Internetem" słów "poprzez zmysły", etc.?

Dla mnie to jest problem zdefiniowania pojęcia "człowieka", wskazania gdzie zaczyna się i kończy "sztuczność" i tym podobnych. Czy w ogóle da się to zrobić w sposób taki, żeby w prosty sposób móc zawsze tj. też w przyszłości, gdy konstruowane maszyny będą zbliżać się do tej opisanej przez Deckarda, dokonać odpowiedniego rozróżnienia? Wątpię.

I poza tym, zakładając, że ktoś-kiedyś będzie w stanie zbudować takie AI - po coż miałby to robić?
Tytuł: Re: Test Lema
Wiadomość wysłana przez: pirxowa w Marzec 11, 2006, 09:18:53 pm
Cytuj
Za kryterium pojawienia się świadomości czy też inteligencji proponuję przyjąć zdarzenie, że maszyna wcale nie pytana sama zaczyna gadać i wtrącać swe nawet najgłupsze 3 grosze (co by może też tłumaczyło dlaczego maszyna jest rodzaju żeńskiego ;))


Drodzy koledzy! Najpierw warto zdefiniować słowa "inteligencja" i "świadomość", z kolei porównać własne definicje z definicjami Lema, a dopiero potem dyskutować nad jego tezami.

Drogi kolego Jarutek! Jestem zdania, że twój żart na temat rodzaju żeńskiego jest trochę niestosowny. Jednakże sam strzeliłeś do własnej bramki. Jeśli uważasz, że rodzaj męski w odróżnieniu od żeńskiego nie odzywa się nie pytany i nie wtrąca nawet najgłupszych 3 groszy, to wobec tego nie spełniałby on twojego kryterium inteligencji.
Tytuł: Re: Test Lema
Wiadomość wysłana przez: NEXUS6 w Marzec 12, 2006, 05:36:50 am
Pirxowa, widze cie wsciekla przed monitorem ;D
Wyglada na to, ze calosc wnioskow sprowadza sie do udawania roznych rzeczy, lub nie udawania przez maszyne/program i rozroznienia tych dwoch dzialan przez czlowieka... Jakies to takie...pokazujace, ze na dobra sprawe nic nie wiadomo, nawet na poziomie definicji, np. "inteligencja", "swiadomosc", czyli podstawowych w tym temacie  :-/.
Tytuł: Re: Test Lema
Wiadomość wysłana przez: Deckert w Marzec 12, 2006, 08:54:56 am
Ad NEXUS6

Zgadza się. Właśnie jedną z możliwych konsekwencji przykładu, który podałem jest brak ostatecznej wiedzy na temat definicji inteligencji oraz świadomości. W przykładu tego wynika bowiem, że hipotetycznie istnieje taka możliwość, że zbudujemy maszynę, która imituje nas samych (nasze myślenie) w tak zbliżonym stopniu, że naprawdę trudno będzie stwierdzić, że ta maszyna nie jest inteligentna. Będziemy jednak wiedzieć, że wykonuje ona tylko i wyłącznie niezwykle rozbudowane algorytmy.

I tu pojawia się drugie dno tej opowiastki. Idzie to w kierunku tego o czym pisał miazo. Zbudowanie takiej maszyny, cyborga czy czegokolwiek może dowodzić, że my również działamy według pewnych algorytmów. Maszyna kopiuje je w tak doskonały sposób, a pod wieloma względami nas przerasta, że uważamy ją za sztuczną inteligencję. Nasz odpowiednik w świecie fotonów i elektronów.

Ad pirxowa

Jaka ty jesteś drażliwa.... ::) przecież to był tylko żart, ze strony jarutka.

OK. Ale do rzeczy.

Oto definicja świadomości zaciągnięta z wikipedii:

Cytuj
Świadomość to stan, w którym jednostka zdaje sobie sprawę ze zjawisk wewnętrznych, takich jak własne procesy myślowe, oraz zjawisk zachodzących w środowisku zewnętrznym i jest w stanie reagować na nie (somatycznie i/lub autonomicznie). Zwykły stan czuwania.


Jeśli chodzi o definicję inteligencji to jest gorzej (tzn. bardziej obszernie). Ale spróbuj może podać swoją definicję.

Co do świadomości w podanym przeze mnie przykładzie. Jest ona skopiowana z człowieka. Komputer świetnie ją symuluje. W odpowiedzi na pytanie "Czy jesteś świadomy swojego istnienia" odpowie "Oczywiście! Myślę, więc jestem - tak samo jak ty". Oczywiście trochę teraz trywializuje, ale chyba rozumiecie o co mi chodzi.

CU
Deck
Tytuł: Re: Test Lema
Wiadomość wysłana przez: pirxowa w Marzec 12, 2006, 04:23:16 pm
Niechże Jarutek sam się broni, jeśli chce.

Ani nie jestem wściekła, ani drażliwa.

Doskonale rozumiem, że chodzi o żart.
Istnieje jednak kategoria żartów niestosownych.

Zróbmy doświadczenie myślowe:

1.
Cytuj
maszyna wcale nie pytana sama zaczyna gadać i wtrącać swe nawet najgłupsze 3 grosze (co by może też tłumaczyło dlaczego maszyna jest rasy czarnej ;) )


2.
Cytuj
maszyna wcale nie pytana sama zaczyna gadać i wtrącać swe nawet najgłupsze 3 grosze (co by może też tłumaczyło dlaczego maszyna jest żydowska ;) )


3.
Cytuj
maszyna wcale nie pytana sama zaczyna gadać i wtrącać swe nawet najgłupsze 3 grosze (co by może też tłumaczyło dlaczego maszyna jest homoseksualna ;) )


Jakie nasuwają się wam wrażenia? Śmieszne? Nieśmieszne? Absurdalne? Bez sensu? Dlaczego? - Pozostawiam do przemyślenia.
Tytuł: Re: Test Lema
Wiadomość wysłana przez: Socrates w Marzec 12, 2006, 07:08:38 pm
Z mojego uniwesytetu - po angiesku, ale na temat i bardzo ciekawe.  Jest tam i Turing test, i Chatbots, i o komputerowych szachach, etc.


http://www.cs.yorku.ca/~peter/PHIL3750/topics.html

Socrates
Tytuł: Re: Test Lema
Wiadomość wysłana przez: Falcor w Marzec 13, 2006, 12:27:24 am
Czarna maszyna musiałby rapować, żydowska próbować coś sprzedać, a homoseksualna mieć kolor różowy. Nie można tak sobie dopasowywać definicji do wszystkiego. Tutaj muszą być spełnione odpowiednie kryteria ;D

Co do samego żartu - przyznaję uśmiechnąłem się gdy go przeczytałem :P chociaż może faktycznie był to dowcip niezbyt wysokich lotów jak na ów forum ale co było... minęło :) itd.
Tytuł: Re: Test Lema
Wiadomość wysłana przez: A-cis w Marzec 13, 2006, 02:05:49 am
Cytuj
chociaż może faktycznie był to dowcip niezbyt wysokich lotów jak na ów forum

Bez przesady. Śmieję się z dowcipów o facetach i ich marnej inteligencji. A także z dowcipów o okularnikach (noszę okulary). I byłbym zdziwiony gdyby ktoś próbował zakazywać  tych dowcipów (byle nie były ordynarne).
Na rajdach śpiewaliśmy:
"Wszystkie baby to ladaco
Nawet spojrzeć nie ma na co"
Dziewczyny się rewanżowały podobną przyśpiewką i było OK.
Podobno śmiech to zdrowie.
Tytuł: Re: Test Lema
Wiadomość wysłana przez: Terminus w Marzec 13, 2006, 02:07:46 am
Cytuj
Jakie nasuwają się wam wrażenia? Śmieszne? Nieśmieszne? Absurdalne? Bez sensu? Dlaczego? - Pozostawiam do przemyślenia.


Dobra, lady P ma rację. Jarutek przepraszaj! (Żeś tak jeszcze przy dniu kobiet zasunął :( ).


Tytuł: Re: Test Lema
Wiadomość wysłana przez: dzi w Marzec 13, 2006, 11:25:25 am
Jesli chodzi o temat to sprowadza sie on do tego ze nie wiemy narazie czym jest nasza inteligencja wiec ciezko stwierdzyc kiedy "sztuczna" jest juz "prawdziwa". No i wszystko bylo przedyskutowane w temacie niefortunnie nazwanym "Szok predkosci w polityce" ;) Polecam go kazdemu zainteresowanemu sprawami AI.

A jeszcze jesli chodzi o swiadomosc to chyba wszyscy zgodzimy sie ze bierze sie z umiejetnosci tworzenia abstrakcyjnych modeli. Idac dalej tworzy sie model swojego "ja", to jest swiadomosc.
Tytuł: Re: Test Lema
Wiadomość wysłana przez: Hokopoko w Marzec 13, 2006, 12:22:29 pm
Cytuj
Zgadzam się. też mi się wydaję, że przebrnięcie bądź nie przez maszynę różnorakich testów niczego nie dowodzi. Za kryterium pojawienia się świadomości czy też inteligencji proponuję przyjąć zdarzenie, że maszyna wcale nie pytana sama zaczyna gadać i wtrącać swe nawet najgłupsze 3 grosze
Pozdrawiam.


Ażeby KOMPUTER (tryb męski ;D) wtrącal swoje trzy grosze, wcale nie musi posiadać świadomości - wystarczy go tak zaprogramować :D. Poza tym wg tej definicj malomówni i nieśmiali byliby pozbawieni świadomości... >:(
;D


Decku, widzę, że wtym temacie będziemy się zgadzać (chociaż mamy inne podejście - Ty patrzysz bardziej na drzewa, ja bardziej na las, ale w sumie o to samo nam chodzi). Co do definicji świadomości, to nie ukrywam, że najbardziej lubię definicję z Dialogów Lema: "świadomość jest to taki stan ukladu, który poznaje się będąc tym ukladem" - chodzi o to samo co w Wikipedii, tyle że zwięźle i bez zbędnych ceregieli ;)

W waszych postach podchodzicie do problemu raczej od strony naśladowania czlowieka - co zrozumiale, bo jest to problem chociażby spolecznie najbardziej intrygujący, a i gdy idzie o ewentualne zastosowania (a imię ich legion ;D) i czerpanie profitów - najbardziej obiecujący.
Mnie natomiast szczególnie interesują te aspekty problemu, w których sztuczna świadomość będzie zdcydowanie różna od naszej - podejrzewam, że przeciętny czlowiek znacznie prędzej przystanie na istnienie swiadomości u czlekoksztaltnego robota, mniej czy bardziej udolnie imitującego te procesy, niż na rzeczywistą świadomość, która jednak w swoim rozumowaniu bedzie operowala innymi niż my kategoriami - a na dodatek będzie ukryta w żelaznej skrzyni :(.

Jeśli idzie o "wzrost" świadomości poprzez ciągle ulepszane algorytmów i dodawanie kolejnych modulów, to rzeczywiście wydaje się, że określenie, iż oto w tym mejscu sztucznej świadomości jeszcze nie ma, a w tym już jest, będzie niemożliwe. Jednak nie mamy żadnych dowodów na to, że dochodzenie do posiadania świadomości jest procesem ciąglym - być może to przejście odbywa się skokowo, a w takim przypadku byloby zauważalne. Możemy o tym sądzic tylko po sobie, i niestety zbyt wiele powedziec nie możemy, bo dane tyczące ewolucji czowieka (w tym przypadku przede wszystkim ewolucji mózgu, ale także ewolucji procesów kulturotwóczych) są po temu zbyt skąpe. Ale zarnko do ziarnka, w końcu się coś może uzbiera - o ile wcześniej nie dorobimy się inteligencji w skrzynce... czego wszystkim gorąco życzę  ;D

A co do terminologii, to rzeczywiście panuje tu pewne zamieszanie. W kazdym razie może istnieć świadomość bez inteligencji i inteligencja bez świadomości. W pierwszym poście dokonalem pewnego uproszczenia. W naszych rozważaniach szukamy "ducha w maszynie", a więc przede wszystkimm świadomości. Jednakże mając na względzie przytoczone wcześniej definicje, swiadomość tę bedziemy mogli rozpoznać tylko wtedy, gdy bedzie manfestowala sie poprzez inteligencję wlaśnie... no... będę to sobie musial jeszcze przemyśleć... :D
Tytuł: Re: Test Lema
Wiadomość wysłana przez: Hokopoko w Marzec 13, 2006, 12:40:26 pm
Cytuj
Jesli chodzi o temat to sprowadza sie on do tego ze nie wiemy narazie czym jest nasza inteligencja wiec ciezko stwierdzyc kiedy "sztuczna" jest juz "prawdziwa". No i wszystko bylo przedyskutowane w temacie niefortunnie nazwanym "Szok predkosci w polityce" ;) Polecam go kazdemu zainteresowanemu sprawami AI.

A jeszcze jesli chodzi o swiadomosc to chyba wszyscy zgodzimy sie ze bierze sie z umiejetnosci tworzenia abstrakcyjnych modeli. Idac dalej tworzy sie model swojego "ja", to jest swiadomosc.


Dzi, wydaje mi się, że pies czy kot jaką taką swiadomość posiadają (a czsem i calkiem niezlą inteligencję ;D). Natomiast nie posiadają wlasnie poczucia "ja" i  nie potrafią abstrachować (chociaż kto ich tam wie... ;)). Te sprawy są rozdzielne. A zdolność abstrachowania na pewnym bardzo podstawowym poziomie posiadają już szympansy. :D
(Bylyby to więc przeslanki po temu, ażeby uznać iż rozwój swiadomości jest niestopnowalny... ale jeszcze to przemyślę ;))
Tytuł: Re: Test Lema
Wiadomość wysłana przez: dzi w Marzec 13, 2006, 01:18:27 pm
A to ja nie wiem. I nie rozumiem w takim razie czym jest swiadomosc. Nie potrafie rowniez wyodrebnic swiadomosci w moim mysleniu, "zauwazyc" jej. Nie jestem pewien rowniez jak mialoby wygladac nie posiadanie wiedzy o wlasnym istnieniu.

I przeczytaj w wolnej chwili temat o ktorym wspomnialem prosze. Fajny jest, mowie Ci ;)

edit:
I w sumie najwazniejsze: jak stwierdzasz co posiadaja pies czy kot?
Tytuł: Re: Test Lema
Wiadomość wysłana przez: paszta w Marzec 13, 2006, 03:21:55 pm
Miazo i Dzi dali ciekawe odpowiedzi.
Taki Gurdżijew np, i nie on jeden, uważał nieoświeconego człowieka za "maszynę ludzką" :) (ni ma śmichów Panie Term) choć faktycznie termin "maszyna" oznaczał tu co innego niż u Turinga.
Rzecz zatrąca już jak widać o "naturę ludzką".
Czy hipotetyczną maszynę uznamy za równą człowiekowi zależy od doboru kryteriów ...no i od tego, którego człowieka wybierzemy do porównań  ;)
A może przyjąć, że powyższe nastąpi gdy dana maszyna zaprojektuje inną jako narzędzie do zadań przez siebie niewykonalnych czy robionych marnie albo wolno i zaprogramuje ją ? Czy mogą istnieć maszyny do pisania programów ? Pojęcia nie mam.
A po co komu maszyny naśladujące człowieka ?
Nie wiem ale do celów wojskowych być może by się przydały.  :-/ Do monitorowania i wyławiania terrorystów na forach i czatach  :-/
Tytuł: Re: Test Lema
Wiadomość wysłana przez: miazo w Marzec 13, 2006, 08:49:31 pm
Cytuj
"świadomość jest to taki stan ukladu, który poznaje się będąc tym ukladem"

Jeszcze inaczej ;) - kiedy podmiot poznający i przedmiot poznania są tym samym.

Natomiast inna jeszcze myśl mnie naszła, że może nie tędy droga do AI, by coraz to bardziej wymyślne moduły naśladujące człowieka dodawać. Może raczej wyposażyć jedynie taką maszynę w pewne podstawowe moduły pozwalające jej odbierać bodźce z zewnątrz, zapamiętywać je, łączyć w relacje, sprzężenia, etc. jednym słowem: uczyć się. Nie przez naśladownictwo, ale analogię (to chyba właściwsze słowo) do człowieka - a to skojarzenie stąd, że kiedyś mi się o uszy obiło, że noworodek po urodzeniu właśnie nie ma świadomości w takim fundamentalnym znaczeniu, że nie ma świadomości własnej odrębności od otaczającego świata, dopiero z czasem, obserwując przez pierwszych x miesięcy zmiany w otoczeniu własnymi działaniami spowodowane, nabywa tę świadomość, tak oczywistą dla nas.

W każdym razie podmiot taki powinien być w stanie rozróżniać pomiędzy sytuacją, w której bada świat zewnętrzny, a taką, w której sam sobie jest przedmiotem badania.
Tytuł: Re: Test Lema
Wiadomość wysłana przez: jarutek w Marzec 14, 2006, 01:46:51 pm
Cytuj


W kazdym razie może istnieć świadomość bez inteligencji i inteligencja bez świadomości.  W naszych rozważaniach szukamy "ducha w maszynie", a więc przede wszystkimm świadomości.

Zgadzam się, że zasadniczo o to idzie. Pasuje mi def. świadomości podana przez Deckarda za Wikipedią. A samą inteligencję jako jedynie umiejętność logicznego rozwiązania problemu bym dla uproszczenia w ogóle pominął, uznając, że skoro już maszyny wygrywają w szachy to wykazują się inteligencją.
Uważam, że kluczową kwestią jest właśnie samoświadomość maszyny, która byłaby o tyle "sztuczna", że zapoczątkowana w układzie zbudowanym przez człowieka, a nie przez przyrodę. Jenocześnie też mam przeczucie, że droga dodawania kolejnych modułów(programów) doskonale imitujących ludzkie myślenie (łącznie z zaprogramowanym "wtrącaniem się") prowadzi do nikąd. Uważam, że możliwe jest zbudowanie nieświadomej maszyny tak by zdała wszelkie testy jeśli będzie ją programował autor testu.
Ale nie chodzi przecież o "papugę".
A może dałoby się ducha w maszynie uzyskać drogą tego prostego doświadczenia, które wyjaśniło pojawienie się aminokwasów, w którym po prostu zmieszano metan, siarkę, amoniak i co tam jeszcze było w praatmosferze dodano imitację piorunów i okazało sie, że tworzą sie aminokwasy.
Ot wziąć Trurla z kolegą  8)i niech zbudują maszynę będącą imitacją sieci neuronowej człowieka (a to chyba właśnie na razie nie możliwe-no to maksymalnie zbliżoną), mogłaby być dość duża bo prąd po drutach płynie wielokrotnie szybciej niż impulsy nerwowe po człowieczej sieci. Wprogramować jej wszelkie programy plus zadać jej jakiś imperatyw kategoryczny o konieczności trwałego funkcjonowania i programowania nowych maszyn i zacząć jej dokuczać i czekać. Może sama zaczęłąby kombinować i zacząć zadawać pytania jak dziecko, które mimo, że od razu posiada przecież pełne instrumentarium(procesor, czujniki, itp.) to do pewnego momentu nie posiada nawet śladu świadomości (o czym pisał Miazo) a co każdy pamięta, że nic nie pamięta np. z chwili narodzin tylko dopiero z czasem się mu świadomość wyłania jakby z mgły-co też być może dowodzi, że pojawienie sie świadomości nie zachodzi skokowo.
To na razie tyle w kwestii merytorycznej...
W kwestii skojarzenia "wtrącającej 3 grosze" maszyny z rodzajem żeńskim to oczywiście wszystkie Koleżanki, które poczuły sie urażone szczerze przepraszam :-[ Byłoby super, gdyby Was odzywało się na forum więcej :)
Tak mi się bezwiednie, nie wiedzieć czemu, skojarzyło, a nie mogłem sobie odmówić malutkiej prowokacyjki... nie chciałem jednak wywoływać skandalu-wydawało mi się, że to niewinny żarcik.
Ciebie Koleżanko Pirxowa przepraszam szczególnie :-* Nie burmusz się już proszę tylko zdradź Swój tok myślenia, który spowodował, żeś w zaproponowanym "doświadczeniu myślowym" zamiast frazy "rodzaju żeńskiego" użyła akurat "rasy czanej", "Żydów" i "homoseksualistów" ???
Przyznam,  że ja mam całkowicie inne skojarzenia.Co może choć trochę mnie wybiela ;)
Pozdrawiam
Tytuł: Re: Test Lema
Wiadomość wysłana przez: Terminus w Marzec 15, 2006, 03:39:37 am
Cytuj
Taki Gurdżijew np, i nie on jeden, uważał nieoświeconego człowieka za "maszynę ludzką" :) (ni ma śmichów Panie Term) choć faktycznie termin "maszyna" oznaczał tu co innego niż u Turinga.


No, tzn. tak zwany proletaryat uznawał za park maszynowy ! ::)
Tytuł: Re: Test Lema
Wiadomość wysłana przez: Hokopoko w Marzec 15, 2006, 11:18:11 am
Cytuj
Jeszcze inaczej ;) - kiedy podmiot poznający i przedmiot poznania są tym samym.

Natomiast inna jeszcze myśl mnie naszła, że może nie tędy droga do AI, by coraz to bardziej wymyślne moduły naśladujące człowieka dodawać. Może raczej wyposażyć jedynie taką maszynę w pewne podstawowe moduły pozwalające jej odbierać bodźce z zewnątrz, zapamiętywać je, łączyć w relacje, sprzężenia, etc. jednym słowem: uczyć się. Nie przez naśladownictwo, ale analogię (to chyba właściwsze słowo) do człowieka - a to skojarzenie stąd, że kiedyś mi się o uszy obiło, że noworodek po urodzeniu właśnie nie ma świadomości w takim fundamentalnym znaczeniu, że nie ma świadomości własnej odrębności od otaczającego świata, dopiero z czasem, obserwując przez pierwszych x miesięcy zmiany w otoczeniu własnymi działaniami spowodowane, nabywa tę świadomość, tak oczywistą dla nas.

W każdym razie podmiot taki powinien być w stanie rozróżniać pomiędzy sytuacją, w której bada świat zewnętrzny, a taką, w której sam sobie jest przedmiotem badania.


Noworodek rzeczywiście nie ma poczucia własnego ja - dotyczy to zresztą również małych dzieci. Więcej: noworodek nie potrafi też "parzeć" - w sensie postrzegania otoczenia - on się tego dopiero uczy. Ale noworodek ma zaprogramowaną genetycznie zdolność do nauczenia się tego wszystkiego - łącznie ze zdolnością do przyswojenia sobie zasad gramatyki dowolnego języka. W tym sensie noworodek jest "przedprogramowany" przez ewolucję. Ludzki mózg nie jest więc tylko "zestawiony" z odpowiednich elementów, ale elementy te współpracują ze sobą na ściśle określonych zasadach. I w tym właśnie szkopuł, bo zrobić, żeby maszyna bodźce odbierała to nie problem, jednak żeby te bodźce odpowiednio łączyła w relacje, musi już posiadać odpowiedni schemat działania - czyli program. Ewoluca budowała swój program przez miliony lat metodą prób i błędów; my na razie korzystamy z tej samej metody, chociaż z czasem będzie już pewnie można rozmaite kwestie uogółniać i budować teorie; tylko czy najpierw ludzie dorobią się teorii świadomości, czy samej sztucznej świadomości - bozia (na razie ;D) raczy wiedzieć.

I jeszcze słówko do dzi:
Cytuj
I w sumie najwazniejsze: jak stwierdzasz co posiadaja pies czy kot?

Stwierdzam (autorytarnie ;D), że pies czy kot posiadają jakiś rodzaj "świadomości" (co więcej, posiadają też cechy osobowości :D). Nie sądzę, żeby ktokolwiek, kto z tymi zwierzętami miał do czynienia, traktował je jedynie jako biologiczne maszyny - chyba że w takim stopniu, w jakim za maszynę uznajemy człowieka. Oczywiście nie zestawiam tych świadomości ze świadomością ludzką - różnica jest duża, jednak gdy się dobrze przyjrzeć, można zauważyć, iż pies (chociaż wolę koty ;D), w pewnych okolicznościach spełnia potawiony na górze warunek posiadania świadomości... a może nie? ;D