Autor Wątek: AI - przerażająca (?) wizja  (Przeczytany 134963 razy)

dzi

  • Juror
  • God Member
  • *****
  • Wiadomości: 3114
  • Profesja: Negat Charakter: Neutralny neutralny
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #60 dnia: Grudzień 03, 2008, 06:16:29 pm »
Chodziło mi o to że brak takiego lidera, bo przecież go nie damy, mógłby być obroną. Tylko że jest ryzyko że się sam wytworzy, choćby z głupiej androidki.

This user possesses the following skills:

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 12303
  • Jego Induktywność
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #61 dnia: Grudzień 03, 2008, 06:34:17 pm »
Zaraz dzi,bo czegoś nie rozumiem. Masz w końcu jasną wizję jak miałyby te maszyny funkcjonować, czy się trochę pogubiłeś? ;) (Bo ja się w tym opisie pogubiłem, nijak nie umiem sobie tej postulowanej struktury wyobraziuć.)

I nadal czekam na odpowiedź w kwestii "buntu" jednostkowego - odmowy współpracy po prostu.
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

dzi

  • Juror
  • God Member
  • *****
  • Wiadomości: 3114
  • Profesja: Negat Charakter: Neutralny neutralny
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #62 dnia: Grudzień 03, 2008, 06:47:02 pm »
No pogubiłem się. W tym sensie że jeśli miałoby działać wszystko całkowicie automatycznie, w sensie kopii ludzkości no to jest przeogromna szansa buntu, nawet nie sensus stricto tylko ogólnie jakiś działań niepożądanych. Czyli trzeba by separować i robić małe systemy, np. jak ten z naukowcami w pudełeczku. Tylko bez sensu mieć takie coś jeśli nie można tego wykorzystać a ustaliliśmy że nie można w sposób zautomatyzowany, tj. pociągnąć na bazie tego np. produkcję a zatem musielibyśmy to samodzielnie rozumieć a wtedy mija się z celem.

Abstrahując że w tym momencie już za bardzo wchodzimy w szczegóły i tego typu dywagacje nie mają sensu.

A co do buntu jednostkowego to nie widzę dla niego powodu. Szczególnie jeśli niedawanie rozwiązań byłoby powiązane z nieprzyjemnymi odczuciami i w skrajności śmiercią. Oni po prostu lubiliby to co robią, bo tak by byli stworzeni.

Na tym można też oprzeć rozważanie na temat buntu całości. Pytanie co AI zyskałoby przez bunt? Jeśli nic to dlaczego taki miałby nastąpić? To chyba kwestia kreacji priorytetów.

This user possesses the following skills:

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 12303
  • Jego Induktywność
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #63 dnia: Grudzień 03, 2008, 07:31:20 pm »
Abstrahując że w tym momencie już za bardzo wchodzimy w szczegóły i tego typu dywagacje nie mają sensu.

Kiedy przysłowiowy diabeł tkwi w szczegółach. Z wizją zbyt ogólnikową trudno polemizować.

A co do buntu jednostkowego to nie widzę dla niego powodu. Szczególnie jeśli niedawanie rozwiązań byłoby powiązane z nieprzyjemnymi odczuciami i w skrajności śmiercią. Oni po prostu lubiliby to co robią, bo tak by byli stworzeni.

Na tym można też oprzeć rozważanie na temat buntu całości. Pytanie co AI zyskałoby przez bunt? Jeśli nic to dlaczego taki miałby nastąpić? To chyba kwestia kreacji priorytetów.

Zaraz. Proces kopulacji jest przyjemny, a znamy przypadki ascezy (wcale nie zawsze religią motywowane). Instynkt życia każe nam żyć, a unikać śmierci, a mimo to trafiaja się samobójstwa - skąd założenie, że odpowiednio rozwinieta AI nie będzie w stanie podobnie przełamać swojego programowania (ech, w "Summie.." to wszystko było. W imię czego? Choćby w imię abstrakcyjnej wolności (pamiętasz śmierć Dubelta z finału "Edenu"? równie "absurdalna").

(Troche w golono/strzyżono schodzimy, aż wstyd patrząc na dwie piękne dyskusje które rozgorzały pod moją nieobecność.)
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 11887
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #64 dnia: Grudzień 03, 2008, 07:31:54 pm »
Obok, ale na temat: http://tiny.pl/6739

Jak się dobrze zastanowić, to pewne jest, że dobrze zaprogramowany robot może być i bardziej etyczny, i skuteczniejszy. Nie jestem tylko pewien, czy autor docenił fakt, że ludobójstwo itp. miały charakter oręża psychologicznego nie zaś subiektywnego okrucieństwa.

Nie po to V2 wystrzeliwoano, by natłuc cywili, ale po to, aby ci, którzy przy życiu zostali, bali się...

Jak więc dobrze będzie ten robot zaprogramowany...

I jeszcze: coś dla dzi (może być na Mikołaja ;) ): http://tiny.pl/673r
Jest wolność, więc każdy ma prawo być idiotą!
© Krzysztof Grabowski, DEZERTER

dzi

  • Juror
  • God Member
  • *****
  • Wiadomości: 3114
  • Profesja: Negat Charakter: Neutralny neutralny
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #65 dnia: Grudzień 03, 2008, 11:45:05 pm »
Hehehe, to powinien być prezent dla Lema ;> Choć trochę złośliwy.

Q: Oczywiście że będą buntownicy, jednak skąd miałaby się wziąć skala całej populacji? Nigdy tak nie było. Zresztą wtedy po prostu nam AI wymrze. Zapukamy pewnego dnia w pudełeczko i zobaczymy że nikogo nie ma. Trzeba będzie pomyśleć co z tym fantem zrobić.

This user possesses the following skills:

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 12303
  • Jego Induktywność
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #66 dnia: Grudzień 04, 2008, 01:29:49 am »
Oczywiście że będą buntownicy, jednak skąd miałaby się wziąć skala całej populacji? Nigdy tak nie było. Zresztą wtedy po prostu nam AI wymrze. Zapukamy pewnego dnia w pudełeczko i zobaczymy że nikogo nie ma. Trzeba będzie pomyśleć co z tym fantem zrobić.

I o to mi właśnie chodziło. Skłonienie Cię do przyznania, że skoro AI będzie świadoma i rozumna (jakkolwiek to zdefiniować) nie da się przewidzieć jej zachowania, ani stopnia wierności założeniom, które jej zaprogramujemy.

Co zresztą oznacza dla mnie, że snucie jakichkolwiek wizji jest na obecnym etapie czystą SF obarczoną wysokim stopniem spekulatywności i nie sposób o niczym wyrokować.

(Inna rzecz, że sztampowy "zbrojny bunt", "ucieczka w nieróbstwo" czy po prostu podawanie przez AI niewiarygodnych wyników i pomyłki to w praktyce różne oblicza tego samego, która z tych opcji by niw wystąpiła, puszczenie Sztucznych Inteligencji samopas jest ryzykowne.)
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

draco_volantus

  • Juror
  • God Member
  • *****
  • Wiadomości: 1569
  • quid?
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #67 dnia: Grudzień 04, 2008, 02:59:03 am »
I jeszcze: coś dla dzi (może być na Mikołaja ;)

jako że jestem niemożebnie najebany a propos.

jak byłem mały kilka dni z rzędu męczyłem mamę jak mikołaj kupuje prezenty dzieciom skoro już tyle lat nie żyje, przecież nawet gdyby jakiś bank przejął jego fortunę to przecież to niemożliwe żeby do teraz starczyło pieniędzy, a na to mama mi powiedziała, że to nie mikołaj daje prezenty znajdywane pod choinką tylko rodzice je kupują i okropnie się ucieszyłem że doszedłem prawdy.

bo widzicie (po pijaku się rozpisuję, przepraszam) przypomniała mi się dzięki temu wpisowi pierwotna radość z dochodzenia do prawdy.
i jeszcze rozmyślałem nad tym, że gdybym był wierzący powiedziałbym pewnie synkowi że Fundacja Świętego Mikołaja pobiera prowizje/akcyzy/wat (nie jestem kurwa ekonomistą) od każdej powieszonej bombki na każdej choince i każdej lampki i stąd się biorą pieniądze na prezenty dla grzecznych dzieci i wymusiłbym w ten sposób lepiej na moim potomku szlachetnego postępowania które mu wejdzie w krew (i miałby jeszcze mniejsze niż ja opory przed postępowaniem zgodnie z tym co nakazuje mu ewolucja/natura, bo mnie osobiście wkurwia każde jedno missfireing jakiego się dopuszczam na niej, chyba mam wiarę w genach, a okropne staranie się żeby nie być fanatykiem (bo okropnie się staram) tylko pogarsza stan mojego ego (przepraszam za freudyzmy, ale one ułatwiają przekaz)).

nie wiem czy rozumiecie. szeroko pojęte i ogólnie rozumiane 'szlachetne postępowanie' nie jest w żadnym punkcie styczne z tym czego życzy sobie od nas Natura która dąży do obniżenia energii wewnętrznej znajdujących się w jej obrębie ustrojstw, bijąc nas w pysk zacieraniem granicy między formowaniem się atomów w kryształy, a byciem wirusem, byciem bakterią, organizmem hipertermofilnym (nie pamiętam jak się nazywa ta bakteria na pograniczy świata organicznego i nieorganicznego, help), rośliną, tym czymś co umie przechodzić z fotosyntezy na odżywanie się jakimiś organicznymi resztkami, aż do nas.

chyba powinienem był założyć jakiś osobny wątek.

chyba najlepszym tytułem byłoby "jak tu żyć" no bo kurde jak tu żyć z taką świadomością? :|
I want my coffee hot and world revolution I caused not happening during my life.

Evangelos

  • Juror
  • God Member
  • *****
  • Wiadomości: 639
  • Mistyk! Wierzy, ze istnieje.
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #68 dnia: Grudzień 04, 2008, 08:29:15 pm »
chyba najlepszym tytułem byłoby "jak tu żyć" no bo kurde jak tu żyć z taką świadomością? :|
Kiedys mialem podobny problem, bo wlasna znikomosc, ba, calej ludzkosci, a nawet i planety, wydala mi sie nieskonczenie wrecz znikoma, krotka i warta tyle, co ziarnko piasku na Saharze, a przez to niepotrzebna i bezsensowna.
Proponuje:
1. traktowanie zagadnienia na trzezwo
2. Zgodnie z maksyma Lema - robienie tego, co sie lubi i potrafi
Reszta sie nie przejmowac.
Howgh.

dzi

  • Juror
  • God Member
  • *****
  • Wiadomości: 3114
  • Profesja: Negat Charakter: Neutralny neutralny
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #69 dnia: Grudzień 05, 2008, 12:04:22 am »
Oczywiście że będą buntownicy, jednak skąd miałaby się wziąć skala całej populacji? Nigdy tak nie było. Zresztą wtedy po prostu nam AI wymrze. Zapukamy pewnego dnia w pudełeczko i zobaczymy że nikogo nie ma. Trzeba będzie pomyśleć co z tym fantem zrobić.

I o to mi właśnie chodziło. Skłonienie Cię do przyznania, że skoro AI będzie świadoma i rozumna (jakkolwiek to zdefiniować) nie da się przewidzieć jej zachowania, ani stopnia wierności założeniom, które jej zaprogramujemy.
Ludzie nie dość że zazwyczaj nie rozumieją co chcę w ten internet wielkim wysiłkiem (bo z "Polskiego" zawsze byłem słaby) wypocić to jeszcze zazwyczaj rozumieją to całkiem odwrotnie...

Spróbuję jeszcze raz.

Czy to co robi ludzkość jest nieprzewidywalne? Czy trudno domyślić się że będziemy jeść, uprawiać sex, unikać cierpienia i dążyć do przyjemności? Czy nie jest faktem że jeśli wszyscy nagle, powiedzmy za sprawą nieskończenie charyzmatycznego proroka, przestaniemy robić którąkolwiek z tych rzeczy to cała ludzkość wyginie?
TO zrzutowałem na tę hipotetyczną populację AI dla nas pracujących i to pokazuje wg mnie że jedynym problemem z nią będzie fakt że nam wymarła a nie że się zbuntowała. To że nie będzie przyczyny by się zbuntowali tak samo jak nie ma przyczyny byśmy my przestali unikać cierpienia lub dążyć do przyjemności. Bo zwyczajnie będą zbudowani tak, że to co będą robili dla nas będzie dla nich przyjemne a nierobienie będzie przysparzało cierpień i finalnie prowadziło do śmierci.

Więc gdzie jest w tym przykładzie to przyznanie racji o którym mówisz?

Co zresztą oznacza dla mnie, że snucie jakichkolwiek wizji jest na obecnym etapie czystą SF obarczoną wysokim stopniem spekulatywności i nie sposób o niczym wyrokować.
Pisząc ten temat wierzyłem, i nadal wierzę, że da się zakroić ramy tak ogólne, i to w dodatku sprawdzone bo obejmujące też nas, że na ich podstawie będzie już można dowieść, czy tam uwierzyć, w prezentowaną tezę.
Może się nie da a może ja nie potrafię wytłumaczyć o co mi chodzi. Nie wiem póki co.

(Inna rzecz, że sztampowy "zbrojny bunt", "ucieczka w nieróbstwo" czy po prostu podawanie przez AI niewiarygodnych wyników i pomyłki to w praktyce różne oblicza tego samego, która z tych opcji by niw wystąpiła, puszczenie Sztucznych Inteligencji samopas jest ryzykowne.)
No ja właśnie nie widzę przyczyny by miało się coś stać. Niestety ale problem AI działa na zasadzie: jeśli ma być dobrze to należy to dowieść, jeśli ma być źle to nie trzeba bo wiadomo że będzie. Stanie się "coś" i się zbuntuje.

A skąd moje myślenie że tak nie będzie? No z historii, jak zwykle! Zawsze ale to zawsze wszyscy panikowali ze wszystkim że będzie katastrofa i nigdy z niczym nie dość że jej nie było to jeszcze czasami można było matematycznie dowieść niemożliwości jej wystąpienia (ot przykład szyfrowania komunikacji cyfrowej).
« Ostatnia zmiana: Grudzień 05, 2008, 12:08:00 am wysłana przez dzi »

This user possesses the following skills:

lilijna

  • Juror
  • Senior Member
  • *****
  • Wiadomości: 312
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #70 dnia: Grudzień 05, 2008, 01:50:42 am »
Draco,

"Trzeba przejść przez życie z godnym przymrużeniem oka, dając tym świadectwo jakiemuś nieznanemu Wielkiemu Demiurgowi, że poznaliśmy się na kapitalnym żarcie."

MN

draco_volantus

  • Juror
  • God Member
  • *****
  • Wiadomości: 1569
  • quid?
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #71 dnia: Grudzień 05, 2008, 02:45:08 am »
nie no, normalnie jestem normalny tylko mnie tak po pijaku naszło :X
I want my coffee hot and world revolution I caused not happening during my life.

lilijna

  • Juror
  • Senior Member
  • *****
  • Wiadomości: 312
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #72 dnia: Grudzień 05, 2008, 10:15:08 am »
To dobrze. Wolałam coś napisać, bo u niektórych to stan utrzymujący się permanentnie. No tak, dla ścisłości, bo z poprzedniego zdania to nie do końca wynika, oczywiście mówię o stanie ducha  ;).

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 12303
  • Jego Induktywność
    • Zobacz profil
Re: AI - przerażająca (?) wizja
« Odpowiedź #73 dnia: Grudzień 05, 2008, 11:28:23 am »
Czy to co robi ludzkość jest nieprzewidywalne? Czy trudno domyślić się że będziemy jeść, uprawiać sex, unikać cierpienia i dążyć do przyjemności? Czy nie jest faktem że jeśli wszyscy nagle, powiedzmy za sprawą nieskończenie charyzmatycznego proroka, przestaniemy robić którąkolwiek z tych rzeczy to cała ludzkość wyginie?
TO zrzutowałem na tę hipotetyczną populację AI dla nas pracujących i to pokazuje wg mnie że jedynym problemem z nią będzie fakt że nam wymarła a nie że się zbuntowała. To że nie będzie przyczyny by się zbuntowali tak samo jak nie ma przyczyny byśmy my przestali unikać cierpienia lub dążyć do przyjemności. Bo zwyczajnie będą zbudowani tak, że to co będą robili dla nas będzie dla nich przyjemne a nierobienie będzie przysparzało cierpień i finalnie prowadziło do śmierci.

Więc gdzie jest w tym przykładzie to przyznanie racji o którym mówisz?

Nie zrozumiałeś. Rzecz nie w tym, że większość AI będzie powiedzmy ulegać "wsadzonemu" jej programowaniu, rzecz w tym, po czym poznać która przestała i od którego momentu (stąd pytanie o "strukturę zarządzania", bo może przewidujesz jakieś mechanizmy weryfikacji).

No ja właśnie nie widzę przyczyny by miało się coś stać. Niestety ale problem AI działa na zasadzie: jeśli ma być dobrze to należy to dowieść, jeśli ma być źle to nie trzeba bo wiadomo że będzie. Stanie się "coś" i się zbuntuje.

A skąd moje myślenie że tak nie będzie? No z historii, jak zwykle! Zawsze ale to zawsze wszyscy panikowali ze wszystkim że będzie katastrofa i nigdy z niczym nie dość że jej nie było to jeszcze czasami można było matematycznie dowieść niemożliwości jej wystąpienia (ot przykład szyfrowania komunikacji cyfrowej).

Tedy matematycznie dowiedź
-primo: możliwości stworzenia AI,
-secundo:-jej nieomylności (względnej, na tle ludzi),
-tertio - że się nie zbuntuje (w sensie jakiegokolwiek "odmówienia współpracy") na odczuwalną dla luidzi skalę.

Wtedy uwierzę.

Dwie kwestie poboczne:
1. cały czas nie wiem po co postulowanym przez Ciebie maszynom świadomość,
2. cały czas nie wiem jaki podasz sposób weryfikowania przez ludzi wyników podawanych im przez - przewyższające ludzi umysłowo - AI.
« Ostatnia zmiana: Grudzień 05, 2008, 12:51:38 pm wysłana przez Q »
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

Terminus

  • Gość
Re: AI - przerażająca (?) wizja
« Odpowiedź #74 dnia: Grudzień 05, 2008, 12:45:51 pm »
Czyli jednak jest to bieda a nie teoria i mówi jedynie o ułomności naszej percepcji a nie charakteryzuje świat. :)

Właściwie trochę się zawiodłem.

Nie masz racji. Wrażliwość pewnych układów dynamicznych na warunki początkowe jest jak najbardziej cechą charakterystyczną świata i nie ma niczego wspólnego ani z naszą percepcją, ani w ogóle z naszym istnieniem. Wydaje mi się, że podawane tu przykłady nieco deprecjonują pro-chaotyczny charakter zjawisk, kładąc za miast tego nacisk na percepcję/dokładność wykonania doświadczeń.

Są jednak doświadczenia fizyczne, które można wykonać skrajnie dokładnie, a otrzyma się chaos; powiem inaczej - dokładność wykonania nie ma tu żadnego znaczenia, gdyż chaos ma na przykład źródła kwantowe, a jeśli nawet nie kwantowe to w skali, której nie jesteśmy i nigdy nie będziemy w stanie kontrolować. Takim przykładem jest ...kapanie wody z kranu*. Przy pewnych prędkościach wypływu krople kapią regularnie (tj. odstępy czasu między nimi są stałe). Z kolei gdy odkręcimy kran maksymalnie - wiadomo, nie ma mowy o kroplach ale o ciągłej strudze. Natomiast w obszarze pośrednim można trafić ustawienie, które daje nam chaotyczny wypływ - odstępy czasu między kroplami** są zupełnie chaotyczne.
Źródła tego chaosu zostawiam tu panom do omówienia.

Jeśli chodzi o chaos deterministyczny, jak widzę, już to omawiany, to polecam pobawić się odwzorowaniem logistycznym. To proste równanko, można tu napisać jako ciąg liczbowy:

xn+1 = r xn (1-xn).
Przyjąć r=3.7 i podstawiać kolejne wyrazy (iterować) tak jak opisał to maziek (wybrać przy tym x1 z przedziału (0,1)). Dla innych r zachowa się, oczywiście, zupełnie inaczej.

Pozdrawiam

---
* Można o tym przeczytać w książce E. Otta "Chaos w układach dynamicznych." Nie jest to książka popularna, ale podręcznik, więc polecam tylko studentom/absolwentom kierunków ścisłych :)
** Mierzone wg. Otta za pomocą sondy laserowej rejestrującej przelatujące przez laser krople, sprzężonej z urządzeniem zapisującym.
« Ostatnia zmiana: Grudzień 05, 2008, 09:22:23 pm wysłana przez Terminus »