AI - przerażająca (?) wizja

[dzi]

Dzi, kombinujesz jak kot pod górę...

Najpierw wyjeżdżasz z rasizmem i buntem maszyn, a teraz twierdzisz, że żadnej świadomości (czy samoświadomości, bo to na jedno wychodzi) tam ma nie być, tylko jakaś sama-inteligencja. Jak nie będzie świadomości, to kto się będzie buntował? I jaki rasizm, skoro bez świadomości nie ma też etyki - równie dobrze można rasizm czy tam co jeszcze zarzucić wszystkim, którzy korzystają z dzisiejszych komputerów - bo nie składają maszynom podziękowań za przepracowany dzień itp.

Toż o to mi chodzi że problem buntu jest nielogiczny. I nie ja go wymyśliłem tylko wszyscy po kolei pisarze SF. Poza tym po prostu oddzieliłem problem świadomości od rozważanego bo moim zdaniem przy totalnym braku wiedzy na temat świadomości nie można tego brać pod uwagę.

"Kopia mózgu ludzkiego zachowująca się jak ludzki mózg" - pomijając, że to tautologia, ma to świadomość czy nie?

Niech i ma! Co za różnica? Wyjaśnisz do czego zmierzasz? A tautologii używam bo jak piszę normalnie to wydaje się że nikt nie rozumie...

A zastąpić naukowców robotami - w pewnym sensie już się to czyni, ale to jest tylko zmiana perspektywy, bo ktoś te komputery musi obsługiwać, więc porzebna jest nowa kategoria naukowców... W każdym razie, jeśli ma nie być świadomości, to to nie jest AI w klasycznym sensie, bo tu chodziło właśnie o świadomość. Bez niej nie ma dylematów moralnych, "duchowych" itd. są tylko wyrafinowane maszyny.

No i co, jak będzie świadomość i mózgi w formalinie bez zmysłów z podawanymi informacjami o ruchach planet czy tam promieniowaniu kosmicznym i z "wgranymi" prawami fizyki do tej pory znanymi to będzie bunt czy nie będzie?

Założyłem prostą (po czasie bo się dziwnie okazało że wersja pierwotna jakoś przejść nie chce) rzecz że do tworzenia nauki jest potrzebna inteligencja taka jaką mamy my (no chyba można to uznać za pewnik?! w końcu wynika z definicji!) pomyślałem jak można by użyć jej sztucznej wersji do tego samego i zaproponowałem "uspokojenie ludzkości" pomysłem że odwieczne problemy poruszane w temacie AI takie jak bunt maszyn nie mają racji bytu. Tylko tyle.

[Q]

W każdym razie, jeśli ma nie być świadomości, to to nie jest AI w klasycznym sensie, bo tu chodziło właśnie o świadomość. Bez niej nie ma dylematów moralnych, "duchowych" itd. są tylko wyrafinowane maszyny.

Zaraz, a nie jest aby tak, żete dylematy to produkt sprzecznych "programów", ktore nosimy. I dowód naszej ułomności, nie świadomosci?

w jakims sensie świadomość jest stopniowalna, tylko trudno to jakoś sprecyzować - zwierzęta mają świadomość i pewnie jedne jakby "więcej", a inne "mniej".

Teraz jak stwierdzić czy zkomputerami jest tak samo? (Ze zwierzętami łatwiej, bo z tego samego pnia pochodzą, wiec dość podobne są.)

Trudno zgadnąć, zwłaszcza gdyby chcieć to ekstrapolować w górę.

Kiedy w górę chyba isę da, w końcu jesteśmy dość ograniczeni: czesem, przestrzenią, percepcją, uległością wobec ewolucyjnych imperatywów i kulturowych warunkowań.

[Q]

No na przykład taki że my w tym czasie będziemy leżeć (patrz wątek Cetariana). (Bo już staram się spłycać jak można tylko dyskusję by poszła dalej zamiast zatrzymywać się na milionie rzeczy do których można się przyczepić mimo że nie mają znaczenia.)

Zaraz. Jeśłi on będzie na ludzkie podobieństwo, to się siłą rzeczy bedzie buntował (ludzie niezbyt lubią być niewolnikami^*). Więc gdzie tu sens?

No ale wtedy nadal naukowcy będą musieli pracować.

Ależ przeciwko samouzącym się systemom "robiącym Naukę" nic nie mam.

Toż o to mi chodzi że problem buntu jest nielogiczny. I nie ja go wymyśliłem tylko wszyscy po kolei pisarze SF.

Bunt ma sens, tylko o ile mamy do czynienia z AI "humanoidalnymi duchem". Zresztą może też być tak, że NIKT osobowy nie będzie isę buntował, a bunt nastąpi, po prostu maszyny wymkną się ludziom spod kontroli bez ze strony maszyn złych intencji.

No i co, jak będzie świadomość i mózgi w formalinie bez zmysłów z podawanymi informacjami o ruchach planet czy tam promieniowaniu kosmicznym i z "wgranymi" prawami fizyki do tej pory znanymi to będzie bunt czy nie będzie?

Bunt w formie "a p*** to wszystko, odmawiam współpracy" jest chyba w tej sytuacji możliwy? Zwłaszcza przy świadomości podobnej do ludzkiej i jej rozhamletyzowaniu .

(A mózg w formalinie to chyba nienajlepszy pomysł, jesli ma myśleć...)

*chyba, że swojej biologii...

[ANIEL-a]

Hello, its Lem's forum 

dzi proponuję przeczytać Non serviam. W sumie możesz się poczuć bardzo mądry, bo Twoje myślenie jest podobne

[maziek]

Dzi, myślałem o tym tak długo, że się zakiwałem.

[dzi]

Ja się zakrwawiłem.

[Hoko]

Non serviam to jedno, ale i o drugim tez Lem pisał. Bunt zakłada świadomą decyzję, tymczasem nieużyteczność takich technik może wynikać z czego innego - z tego mianowicie, że nie będziemy w stanie określić, czy przekazywane nam dane są prawdziwe. Żeby sprawdzić rzetelność jednego "naukowca" trzeba stworzyć drugiego o większych możliwościach - i tak w nieskończoność. W dziedzinach gdzie wyniki mozna zweryfikować eksperymentalnie nie byłby to może problem, chociaż też nie zawsze, ale we wszelkiego rodzaju badaniach "spekulatywnych" nigdy nie będzie można mieć pewności. To jest zresztą szerszy problem.

[dzi]

Co to znaczy sprawdzić rzetelność? Jak będziemy wiedzieli jak go zbudować to rzetelność będzie po prostu "cechą projektu", będzie wynikała z budowy. Ogólnie nie rozumiem chyba. Przy okazji, jak sprawdzamy rzetelność naszych naukowców?

[Q]

Rzetelność cechą projektu? Sugerujesz, że omylny człowiek będzie w stanie stworzyć nieomylną maszynę i jeszcze jakimś sposobem stwierdzić jej nieomylność?

Toż to absurd...

Owszem, nie przeczę, że omylny człowiek może stworzyć mniej omylną od siebie maszynę, ale:
-primo: i tak będzie ona omylna,
-secundo: jej wyniki trzeba będzie przyjmować "na wiarę", z braku możliwości szybkiej weryfikacji (stąd mówiłem, że GOD we "Fiasku" w sumie załogę "na smyczy prowadził"),
-tertio: jeśli (jak uprzednio sugerowałeś) AI ma przypominać "mentalnie" człowieka, przypomnę, że człowiek z natury rzeczy jest omylny...

[dzi]

Jeśli "rzetelność" znaczy "nieomylność". Dlatego pytam. Chyba normalne że AI nie będzie nieomylne, na tym polega AI że porusza się w terytorium nieznanym i dokonuje wyborów "na rozum" z ogromnym prawdopodobieństwem zrobienia błędu. Całe uczenie się na tym polega. Dlatego chyba "rzetelne" znaczyło co innego.

[Q]

Ok. czyli się zrozumieliśmy. Powiedz teraz jakie rozwiązanie widzisz dla mojego "secundo" (bo ja - przyznam szczerze - poza przyjmowaniem na wiarę, nie widzę).

Mało tego: sądzę, że jeśli powstanie AI jest możliwe, i jeśłi dojdzie do tego jeszcze sytuacja, w której AI będą mogły ewoluować (lub programować/budować sobie "potomstwo") doprowadzić to może do całkowitego "obezludnienia Nauki", sytuacji w której (po jakimś czasie) ludzie będą dostawać w szybkim tempie teorie (coraz bardziej wyprzedzające dotychczasowy stan ludzkiej wiedzy) i nie nadążą z weryfikowaniem ich (cały czas bazuję na Twoim założeniu, że AI będą rozumniejsze i szybsze od ludzi).

A jeśłi teorie te zaczną być przyjmowane bez weryfikacji, to będzie to już - de facto - oznaczać machinokrację. (Inna rzecz, że niekoniecznie machinokrację nieżyczliwą.)

[dzi]

Moim zdaniem teraz też nie są weryfikowane, chyba że są wykorzystywane. Mówiąc wprost: co za różnica czy będą prawdziwe, ważne że będą działały. To dość normalne że na tym etapie nauka (i idąca za nią technologia) będzie "powstawała sama", de facto właśnie po to jest ten pomysł. Przez analogię: pan miał chłopa i zarządcę chłopów. Zarządca wiedział że pan lubi jedzenie, załatwiał kucharza i dbał o plony. Pan wstawał rano i na stole stało to co lubił. Tak to ma działać. "Zapuszczasz" AI i tylko przychodzi do ciebie piękna AI androidka i przedstawia co tam nowego wymyślili, ot nowy silnik do podróży w kosmosie (rzecz jasna już zbudowany i przykładowa rakieta z raportem oblatań i np zdjęciami z jej podróży). Nie rozumiesz jak to działa, dostajesz gotowe. Jeśli będziesz rozumiał cały proces nie ma sensu.

Dla mnie to wynika z pomysłu "automatyzacji nauki" i traktowałem to jako domyślne.

Tylko że jak tak to przedstawiłem to bunt jest możliwy haha.
Ciężki temat...

edit:
Choć właściwie niekoniecznie, pomysł początkowy chyba nadal tu gra.

[Q]

Ok, czyli w wizji mozłiwych konsekwencji sie zgadzamy (z tą piękną androidką to jak rozumiem ozdobnik ), tyle, że oznacza to rzecz o której pisałem. Oznacza, że maszyny znajdą się w awangardzie postępu (jak byśmy tego postępu nie definiowali), a ludzie (być może bezboleśnie) trafią do luksusowej technologicznej klatki. (Nie będzie buntu, a naturalne, może nawet bezbolesne, przekazanie władzy. Ba, może nawet - jak w space operach I.M. Banksa, nie przymierzając - maszyny pozwolą nam dalej bawić się w piaskownicy i trochę zabawek podrzucą.)

Inna rzecz, że być może jest to całkiem naturalne (vide schemat z "Summy...") i wręcz nieuniknione.

ps. a co do tezy z początku, to odsyłam (ANIEL-u, byłem z tym piersy, dostane cukierka? ), do "Non Serviam", tam też "bunt" jest możliwy, acz przyjmie po prostu postać "a p*** taką robotę, liczyć mi się nie chce, pomyślę se dla odmiany o niebieskich wirtualnych migdałach" (co z zewnątrz nawet nie na bunt będzie wyglądać, a na defekt...)

[dzi]

Wnioskuję z tego co napisałeś że uważasz że chłopi mieli władzę nad feudalnymi panami bo dostarczali im jedzenia...

[Q]

Ładna trywializacja , ale nieadekwatna, bo chłopi nie byli dogadani między sobą, i ogólnie "ciemniejsi" od swoich panów zazwyczaj (AI mają być wszak mądrzejsze). (Z drugiej strony - kiedy "panowie" nie liczyli się z "ludem" zwykle lało się nieco krwi, czasem więcej niż nieco, po obu stronach.)

Natomiast jeśli zamienisz chłopów na rozmaitych spowiedników i innych zauszników (choćby tego, któremu zawdzięczamy powstanie zwrotu l'Éminence grise) - tu sytuacja będzie bardziej analogiczna - dostrzeżesz co mam na myśli.

ps. skoro użyłeś już analogii z panami i chłopami, zakładasz wyzysk, czyli coś na kształt nowoczesnego niewolnictwa...