Szok predkosci w ,,Polityce"

[Terminus]

Po pierwsze, malo kto aktualnie (znowu - z tego co wiem) traktuje powaznie test Turinga. Jest on podawany raczej jako przyklad niewlasciwego podejscia do AI.

A to czemu? Jakie jest ,właściwe' podejście do AI ?

[Terminus]

To niewlasciwe podejscie to traktowanie inteligencji behawiorystycznie, tj. "z zewnatrz". Problem w tym ze jedyny sposob badania przez nas czegokolwiek to sposob behawiorystyczny. Z inteligencja czlowieka jest inaczej bo widzac innych ludzi, dotykajac ich i zakladajac prawdziwosc ich istnienia mozemy domyslic sie ze sa tacy sami jak my. W zwiazku z tym domyslamy sie ze mysla tak samo jak my i dzieki temu wiemy ze "rozumieja".

Prawdziwość własnego istnienia także zakładasz. To primo. Secundo, gdybyś prowadził rozmowę za pośrednictwem np. komputera  z Andrzejem Lepperem zamkniętym w czarnym pudle nie widząc go, nie mogąc go dotknąć ani powąchać etc. ,  to - wyczuwając jego niewątpliwą inteligencję - jak założyłbyś prawdziwość jego istnienia, i stwierdził, iż jest inteligentny?

[Terminus]

Inna sprawa ze w zwiazku z tym ze obserwujemy i tak wszystko "z zewnatrz" moze nas poprostu nie interesowac co jest "w srodku" a jedynie jesli "cos" bedzie sie zachowywalo i reagowalo jak czlowiek to uznamy to za inteligentne, nawet jesli to bardzo zlozony algorytm.

Ależ my debatujemy właśnie nad tym, czy można ten ,,środek'' wydziergnąć z człowieka, włożyć do puszki i kazać jej grać Baha. Jak to zrobić, nie wiedząc co to jest?

[Terminus]

Wlasciwie jesli chodzi o rozwoj nauki to jestesmy w stanie dojs jedynie do tego poziomu, nigdy nie bedziemy wiedzieli czy AI istnieje "naprawde", tj. czy faktycznie "rozumie".

Tu się nie zgodzę. Twierdząc tak, narzucasz człowiekowi algorytmiczny tryb rozumowania. Ja także nie spodziewam się rychłego stworzenia AI a bujdy o nim pozostawiam czasopismu ,,Nieznany Świat'', ale nie mogę zgodzić się z tym, iż twierdzisz, ze nie bylibysmy w stanie rozpoznać inteligencji.
Oczywiście, jak twierdzi Penrose, z twierdzenia Göedla wynika, iż kreatura AI mogłaby być jedynie
dowolnie podobna  do ludzkiej inteligencji, ale ze względu na ograniczenie Göedlowskie będa istnieć problemy, z którymii nie będzie w stanie sobie poradzić.
Zgoda.
Jednak Ty, pisząc powyższe, stwierdzasz iż to właśnie ludzka inteligencja jest tak ograniczona, a problemem, z którym nie jest sobie w stanie poradzić, jest rozpoznanie podobnej sobie inteligencji.

Oczywiście niemożność poznania  istot obcych [/i] jest jedną z najgorliwiej orędowanych przez Lema (z drugiej strony kija mamy twórców Star Trek i Geogre'a Lucasa, którzy wszelkich obcych uważają po prostu za inne wcielenia ludzi; do tego mówiących po angielsku); niemniej pamiętajmy, że AI (jestesmy w Polsce, wypadałoby pisać SI), a więc pamiętajmy, iż SI będzie stworzona na obraz i podobieństwo nasze.

[Terminus]

Idac dalej jest jeszcze jeden *bardzo wazny* problem. My nadal nie wiemy na czym polega nasza inteligencja. Dosc latwo zauwazyc ze potega ludzkiej inteligencji i jej glowna roznica miedzy inteligencja np. zwierzeca jest taka ze potrafimy "wpadac" na rozne rzeczy, mamy pomysly!

Uuu. Wstyd, panowie, wstyd. Zwierzęta także potrafią wpadać na pomysły, i to wcale nie naśladując innych. Kot, chcąc się wygrzać, podchodzi do grzejnika, na którym suszy się bielizna, zdjejmuje gorący ręcznik i kładzie się na nim, a gdy ten ostygnie, zdejmuje następny. Nikt mu tego wcześniej nie pokazał.
Inny kot, czując w środku nocy ulatniający się gaz, wskakuje do łóżka rodziny, u której mieszka, budzi najstarszego mężczyznę i prowadzi go do kuchni, by pokazać problem. Skąd wie, że gaz jest szkodliwy?
Ośmornica akwariowa potrafi wejść do filtra natleniającego wodę i czekać, aż ktoś przyjdzie go opróżnić, by wtedy uciec z niego i zarazem z akwarium.

A ludzie - są pełni pychy.

[dzi]

Prawdziwość własnego istnienia także zakładasz. To primo. Secundo, gdybyś prowadził rozmowę za pośrednictwem np. komputera  z Andrzejem Lepperem zamkniętym w czarnym pudle nie widząc go, nie mogąc go dotknąć ani powąchać etc. ,  to - wyczuwając jego niewątpliwą inteligencję - jak założyłbyś prawdziwość jego istnienia, i stwierdził, iż jest inteligentny?

Prawdziwosc wlasnego istnienia zaklada chyba kazdy. Cogito ergo sum.
Dodam ze nie mam pewnosci do istnienia fizycznego swiata i innych ludzi, tak cobys lepiej rozumial co mam na mysli.
Jesli chodzi o przykladowego Leppera zatem odpowiadam ze nie mal bym pewnosci co do jego inteligencji. Mozna miec pewnosc jedynie co do swojej bo tylko swojej sie doswiadcza, tylko o sobie sie napewno wie ze sie mysli, o innych ludziach domyslamy sie ze mysla bo sa tez ludzmi wiec wnioskujemy ze mysla jak my.
Inna sprawa ze to nie jest problem techniczny lecz raczej filozoficzny, o czym napisalem nizej w poprzednim poscie...

Ależ my debatujemy właśnie nad tym, czy można ten ,,środek'' wydziergnąć z człowieka, włożyć do puszki i kazać jej grać Baha. Jak to zrobić, nie wiedząc co to jest?

No ja nie wiem, wydaje mi sie ze nikt nie wie i o tym pisze Niektorzy twierdza ze mozna jeszcze zasymulowac.

Tu się nie zgodzę. Twierdząc tak, narzucasz człowiekowi algorytmiczny tryb rozumowania. Ja także nie spodziewam się rychłego stworzenia AI a bujdy o nim pozostawiam czasopismu ,,Nieznany Świat'', ale nie mogę zgodzić się z tym, iż twierdzisz, ze nie bylibysmy w stanie rozpoznać inteligencji.
Oczywiście, jak twierdzi Penrose, z twierdzenia Göedla wynika, iż kreatura AI mogłaby być jedynie
dowolnie podobna  do ludzkiej inteligencji, ale ze względu na ograniczenie Göedlowskie będa istnieć problemy, z którymii nie będzie w stanie sobie poradzić.
Zgoda.
Jednak Ty, pisząc powyższe, stwierdzasz iż to właśnie ludzka inteligencja jest tak ograniczona, a problemem, z którym nie jest sobie w stanie poradzić, jest rozpoznanie podobnej sobie inteligencji.

Tak dokladnie mi sie wydaje, tylko znowu nie jest to problem techniczny bo nam chodzi o praktycznosc SI a nie jej prawdziwosc w punktu widzenia filozofii. Innymi slowy, maszyna nie musi myslec tak jak my (w ten sam sposob), wazne by jej myslenie dawalo te same wfekty (wyjscia). To oczywiscie chyba bedzie mozliwe.

Oczywiście niemożność poznania  istot obcych jest jedną z najgorliwiej orędowanych przez Lema (z drugiej strony kija mamy twórców Star Trek i Geogre'a Lucasa, którzy wszelkich obcych uważają po prostu za inne wcielenia ludzi; do tego mówiących po angielsku); niemniej pamiętajmy, że AI (jestesmy w Polsce, wypadałoby pisać SI), a więc pamiętajmy, iż SI będzie stworzona na obraz i podobieństwo nasze.

Sceptycy nadal nie beda jednak pewni czy "jest prawdziwa" i przez to beda debatowac czy mozna ja zabijac czy nie. No chyba ze SI zbudujemy symulujac nasz mozg, wtedy bedzie mozna wnioskowac ze mysli dokladnie tak jak my czy jest nami.

Uuu. Wstyd, panowie, wstyd. Zwierzęta także potrafią wpadać na pomysły, i to wcale nie naśladując innych. Kot, chcąc się wygrzać, podchodzi do grzejnika, na którym suszy się bielizna, zdjejmuje gorący ręcznik i kładzie się na nim, a gdy ten ostygnie, zdejmuje następny. Nikt mu tego wcześniej nie pokazał.
Inny kot, czując w środku nocy ulatniający się gaz, wskakuje do łóżka rodziny, u której mieszka, budzi najstarszego mężczyznę i prowadzi go do kuchni, by pokazać problem. Skąd wie, że gaz jest szkodliwy?
Ośmornica akwariowa potrafi wejść do filtra natleniającego wodę i czekać, aż ktoś przyjdzie go opróżnić, by wtedy uciec z niego i zarazem z akwarium.

A ludzie - są pełni pychy.

Szkoda ze nie zacytowales do konca gdyz napisalem tam "my jednak uwazamy ze zwierzeta sa tempe jak buty (z czym ja np. sie calkowicie nie zgadzam)".
Pisalem o generalnym stanowisku ludzi zajmujacym sie SI czyli o braku "stopniowania" inteligencji a uznawanie jedynie inteligencji ludzkiej. Mi tez sie to nie podoba jesli chodzi o scislosc i podejscie tlumaczace wszelkie zachowania zwierzat instynktem uwazam za chybione (wychodzi na wierzch wada brzytwy oghama?).

[Terminus]

Innymi slowy, maszyna nie musi myslec tak jak my (w ten sam sposob), wazne by jej myslenie dawalo te same wfekty (wyjscia). To oczywiscie chyba bedzie mozliwe.

To jak, będziesz wtedy zadowolony? Bo to właśnie jest to, o czym stwierdził Penrose: że można skonstruować maszynkę odpowiadającą inteligencji pod warunkiem, że rozpatrujemy skończoną klasę zagadnień.
Tylko sęk w tym, że te 'SI' nie będą się zasadniczo różnić od tych maszynek do rozmawiania, o których pisaliśmy wyżej (bot 'Alice' omawiany w czerwcu). Bedą tylko znały więcej odpowiedzi na więcej pytań. Ale nie będzie to miało niczego wspólnego z rozumieniem.
Rozumiem , że stwierdzasz, iż na cośtakiego rzeczywiście jest nadzieja. Nie sposób się nie zgodzić - to prawda. Ale nazywanie tego SI ?Nieee...


Piszesz, że maszyna musi dawać te same wyjścia, nie ważne co się dzieje w środku. Tylko - to będzie maszyna. Będzie znała rozwiązania pewnej klasy problemów. Klasa ta będzie definiowalna za pomocą pewnego systemu aksjomatycznego, którego złożoność (moc) będzie odpowiadać zbiorowi twierdzeń opartych na liczbach naturalnych. I...bum! Twierdzenie Goedla implikuje w tym momencie, że będzie można skonstruować dla maszyny problem, który za pomocą tego systemu nie będzie rozwiązalny. Tyle twierdzi Penrose.
A Ty (chylę czoła, rozmowa robi się bardzo przyjemna   ) poniekąd zgadzasz się z Penrose'm, idziesz na kompromis, pisząc, że w sumie nieważne czy to ,cholerstwo' będzie ,,naprawdę'' inteligentne (dodając przy tym, ze nie wiadomo co to znaczy ,,naprawdę''), czy też będzie tylko dobrze wytrenowaną małpką. Byle na wyjściu zachowywało się tak jak człowiek. Ok; rozumiem.

Nazwałbym takowy twór ISI, czyli Idealna Symulacja Inteligencji. Ale między ISI a SI nie postawiłbym znaku równości .

Pisalem o generalnym stanowisku ludzi zajmujacym sie SI czyli o braku "stopniowania" inteligencji a uznawanie jedynie inteligencji ludzkiej. Mi tez sie to nie podoba jesli chodzi o scislosc i podejscie tlumaczace wszelkie zachowania zwierzat instynktem uwazam za chybione (wychodzi na wierzch wada brzytwy oghama?).

Tak, brzytwa Ockhama ma wiele wad, ale jest niezwykle popularna. Ok, rozumiem  że w przypadku zwierząt nasze stanowisko jest podobne.

Pozdrawiam Serdecznie

[dzi]

To jak, będziesz wtedy zadowolony? Bo to właśnie jest to, o czym stwierdził Penrose: że można skonstruować maszynkę odpowiadającą inteligencji pod warunkiem, że rozpatrujemy skończoną klasę zagadnień.
Tylko sęk w tym, że te 'SI' nie będą się zasadniczo różnić od tych maszynek do rozmawiania, o których pisaliśmy wyżej (bot 'Alice' omawiany w czerwcu). Bedą tylko znały więcej odpowiedzi na więcej pytań. Ale nie będzie to miało niczego wspólnego z rozumieniem.
Rozumiem , że stwierdzasz, iż na cośtakiego rzeczywiście jest nadzieja. Nie sposób się nie zgodzić - to prawda. Ale nazywanie tego SI ?Nieee...


Piszesz, że maszyna musi dawać te same wyjścia, nie ważne co się dzieje w środku. Tylko - to będzie maszyna. Będzie znała rozwiązania pewnej klasy problemów. Klasa ta będzie definiowalna za pomocą pewnego systemu aksjomatycznego, którego złożoność (moc) będzie odpowiadać zbiorowi twierdzeń opartych na liczbach naturalnych. I...bum! Twierdzenie Goedla implikuje w tym momencie, że będzie można skonstruować dla maszyny problem, który za pomocą tego systemu nie będzie rozwiązalny. Tyle twierdzi Penrose.
A Ty (chylę czoła, rozmowa robi się bardzo przyjemna   ) poniekąd zgadzasz się z Penrose'm, idziesz na kompromis, pisząc, że w sumie nieważne czy to ,cholerstwo' będzie ,,naprawdę'' inteligentne (dodając przy tym, ze nie wiadomo co to znaczy ,,naprawdę''), czy też będzie tylko dobrze wytrenowaną małpką. Byle na wyjściu zachowywało się tak jak człowiek. Ok; rozumiem.

Nazwałbym takowy twór ISI, czyli Idealna Symulacja Inteligencji. Ale między ISI a SI nie postawiłbym znaku równości .




Tak, brzytwa Ockhama ma wiele wad, ale jest niezwykle popularna. Ok, rozumiem  że w przypadku zwierząt nasze stanowisko jest podobne.

Pozdrawiam Serdecznie

nie no sory napisalem elaborat przez godzine czasu, dalem post a tu "Your message is too long. Please go back and shorten it, then resubmit."; daje cofnij a tekstu nie ma!...

jak mi sie zachce to napisze jeszcze raz ale po pierwsze bardzo mnie zniechecaja takie sytuacje po drugie drugi raz tego samego napisac sie nie da...  

[Terminus]

Oj, no to współczuję  :-/
Jeśli mogę doradzic z własnego doświadczenia to pisząc długie posty kopiuję je najpierw do pamięci, ew. nawet wklejam do jakiegoś edytorka, dzielę na połowy itp.

Mam nadzieję że kiedyś będziesz miał ochotę to napiszesz:)

pozdr

[dzi]

ta, ja jak mam timeouty przy phpBB to tez nie ryzykuje cofania na "strona wygasla" tylko do schowka kopiuje ale zalozylem ze YaBB jako dosc znane forum, przy jakby nie patrzec standardowym zachowaniu bez bledow (sam kazal dac "cofnij") zachowa sie normalnie a tu taka niespodzianka...
coz, nauczylem sie i bede wiedzial...
jutro napisze cos

[dzi]

Pisze bez cytowania bo po pierwsze oszczedzam miejsce uczony doswiadczeniem a po drugie nie bedzie to chyba az tak dialogowa odpowiedz by cytat byl konieczny... Tak czy siak odnosze sie do wypowiedzi 4 wyzej czyli nr 36

To czy bede zadowolony czy nie nie ma znaczenia. Nawet nie potrafie stwierdzic czy bede zadowolony bo nie mam na to wplywu. To jak bycie zadowolonym z tego ze pada lub nie pada deszcz...
Mowiac "te same wyjscia" mialem na mysli dokladnie wszystkie nasze zachowania wliczajac w to milosc, mysli filozoficzne, pisanie wierszy, wymyslanie teorii matematycznych czy wiare w Boga, chodzilo mi o obserwowalne dokladnie takie samo zachowanie jak ludzkie, nierozroznialne pod zadnym wzgledem.
A chodzi mi o to ze nawet tak identyczne zachowanie bedzie budzilo watpliwosci czy jest inteligentne. Dlaczego? Z dwoch powodow (conajmniej).

[dzi]

Czlowiek ma tendencje do "zauwazania zycia". Widzac robocika ktory np ucieka na swoich koleczkach gdy sie go dotknie a gdy sie go nie dotyka jezdzi za sloncem by ladowac swoje bateryjki pojawia sie w nas dziwny sentyment ktory widzi w nim zycie. Po chwili dopiero tlumaczymy sobie ze to tylko czujnik swiatla, czujnik dotyku i jakis prosty program, algorytminczy, deterministyczny i totalnie bezmyslny. Wiemy to bo mysmy wymyslili tak czujniki jak program, rozumiemy wiec jak toto dziala i wiemy ze jest automatem. Nie wiemy natomiast jak dziala nasze myslenie i to wydaje mi sie powoduje specyficzne podejscie do "naszej" inteligencji. I tak jesli zbudujemy SI myslace identycznie jak my ale bedziemy wiedzieli jak ono dziala i bedziemy wiedzieli ze to taki a taki algorytm polaczony z takimi a takimi czujnikami, reagujacy tak i tak, w sposob przerazajaco zlozony ale deterministyczny, albo nawet nie deterministyczny bo neuronowy ale mimo to inny niz nasz (bo tak bylo np. latwiej zbudowac) to bedzie wciaz pozostawalo to samo tlumaczenie jak przy robociku przyklad wyzej. Ze to przeciez nie jest inteligentne skoro jest tam okreslony algorytm, to tylko bardzo zlozony automat, nie ma w tym zycia.
I powstaje pytanie, czy zrobimy to zanim dowiemy sie na czym polega nasza inteligencja czy po tym. Bo jesli dowiemy sie, ze nasza inteligencja to tez tylko tak przerazajaco zlozony algorytm (neuronowy ale algorytm) to uznamy sztucznie wytworzone takie algorytmy za inteligentne pelnoprawnie z nami czyli majace np. prawo do zycia. Usalimy wtedy "prog inteligencji ludzkiej Smitha" i bedzie wiadomo, ze algorytmy o zlozonosci 700 jednostek Smitha to juz maja prawo do zycia a te z 699 to takiego prawa nie maja albo ich sprawa jest rozstrzygana glosowaniem.
Problem bedzie troche wiekszy jesli zbudujemy cos co bedzie juz spelnialo wszystkie zachowania ludzkie, bedzie (niby) kochalo, bedzie wypluwalo z siebie wiersze i rozwijalo fizyke ale bedziemy wiedzieli ze dziala inaczej niz my, czy tez raczej nie bedziemy wiedzieli czy dziala tak jak my. Wtedy powstanie kwestia czy to automat czy to inteligencja. Czy mozna to "wylaczyc" czy nie mozna. Czy to czuje/kocha "naprawde" czy tez "dobrze udaje".
No i trzecia wersja laczaca dwie poprzednie - zasymulowanie dokladnie naszego mozgu. Budujemy np. wewnatrz komputera w matlabie 4000 siec neuronowa tak zlozona jak nasz mozg, dolaczamy mu oczy uszy i inne takie, uczymy mowic, puszczamy do szkoly, zakochuje sie toto, ucieka z domu, idzie na studia itd... Wtedy nie wiemy jak dziala ale wiemy ze dziala tak samo jak my. Problemu w takiej sytuacji nie ma wcale bo poprostu jest to sztuczny czlowiek co do ktorego mamy pewnosc ze dziala tak jak my a wiec ma te same prawa. Nadal oczywiscie nie jest rozstrzygnieta kwestia czy to mozliwe, sprawdzimy gdy powstanie pierwszy sztuczny mozg

[dzi]

No i druga kwestia glowna.
Aktualnie jest tak, ze zwolennicy Silnej AI inteligencją nazywają inteligencje ludzką i Silna AI to inteligencja taka sama jak nasza lecz stworzona sztucznie. W nurcie tym wydaje sie panowac przekonanie ze nasza inteligencja rozni sie czyms tajemniczym od inteligencji zwierzat. (to moja interpretacja i to na bardzo waskim materiale wiec moze byc totalnie mylna, czekam na ewentualne sprostowania w takim razie). To tajemnicze cos to to co pozwala nam wpadac na pomysly takie ze np. wymyslamy Boga czy matematyke, umiemy tworzyc abstrakcje. Zwierzeta niby nie umieja i dzialaja na zasadzie zlozonych (bardzo) automatow. Jesli faktycznie tak jest to w moim przekonaniu stworzenie SI bedzie nie tyle niemozliwe, co niemozliwe bedzie stwierdzenie czy to SI czy nie. Moze bedzie tak, ze po zbudowaniu SI dopiero stwierdzimy ze jednak nie mamy tego "pierwsiastka Boskiego" i jestesmy tylko sporo bardziej zlozonym automatem niz malpa.
Drugie podejscie to takie, ze inteligencja jest "stopniowana". Tj. ze my jestesmy "lepsza wersja" inteligencji malpy a ona jest "lepsza wersja" inteligencji psa. Przy tym podejsciu stworzenie SI jest moim zdaniem oczywiscie mozliwe, nawet na zasadzie rozwoju, mierzenia (wspomniane jednostki hipotetycznego Smitha) i w koncu dojscia do inteligencji rownej z nasza. Tu z kolei powstaje pytanie czy tak faktycznie jest, bo poki co niestety nie wiemy czy tak jest i czy nasza "pomyslowosc" nie jest wlasnie spowodowana czyms dla nas niezrozumialym.

w rzeczywistosci pojecie silna AI oznacza co innego, zdalem sobie z tego sprawe troche pozniej i sprostowalem na stronie 8.

[dzi]

Jeszcze poruszyles tw. Goedla i ze SI by mialo pytanie na ktore nie ma odpowiedzi - tak jak twierdzi Goedel. Otoz nasza inteligencja tez "jest zgodna" z twierdzeniem Goedla i tez mamy takie pytanie. Tym pytaniem jest Bog lub inaczej kwestia ostatecznej prawdy i falszu, czy tez dobra i zla, ostateczna kwestia sporna ludzkosci na ktora odpowiedzi nie ma, jedni twierdza tak inni inaczej poprostu zgadujac. Sprawa jest jednak taka, ze czesto niewiedzac tego jednak czujemy ze to prawda, i tu wlasnie jest ten problem SI. Czy to ze czujemy to tylko algorytm czy to ten "pierwiastek Boski" wyzwalajacy nas z ograniczen Goedla. No, ale to juz za dalego w filozofie wchodzi...


Ktos moze zadac pytanie czemu prawie wszystko co napisalem to problemy filozoficzne albo socjologiczne a nie techniczne. Otoz uwazam ze kwestia techniki to tylko kwestia czasu, stworzenie lub ocenienie SI natomiast przysporzy o wiele wiecej pytan i problemow natury filozoficznej i socjologicznej wlasnie niz technicznej (patrz film AI )

[Terminus]

To czy bede zadowolony czy nie nie ma znaczenia. Nawet nie potrafie stwierdzic czy bede zadowolony bo nie mam na to wplywu. To jak bycie zadowolonym z tego ze pada lub nie pada deszcz...

Nie to miałem na myśli. Pytając, czy będziesz wtedy zadowolony pytałem, czy uznasz, że cel (stworzenie SI) został osiągnięty.