AI - przerażająca (?) wizja

[dzi]

Czy może być tak, że człowiek chce różnych rzeczy tylko dlatego, że takim go ewolucja (biologiczna, potem i kulturowa) ukształtowała? Bo może być i tak, że powstanie (wszystko jedno jaką metodą, i kto ma rację - Penrose czy Minsky, a może mylą się obaj) prawdziwa Sztuczna Inteligencja, w dodatku samoświadoma, ale jej własny los będzie jej (jako wolnej od instynktu samozachowawczego i innych wpisanych nam przez biologię popedów) całkowiecie obojętny?

No o tym zwyczajnie nie mamy pojęcia.

A gdyby tak się stało (choć nie lubię czynić założeń) to mamy kwestie pochodne:
- primo: czy człowiek rozpoznałby (i uznał) w takiej "apatycznej AI" rozum i świadomość?
- secundo (bo Lem i tematykę moralną zwykł roztrząsać) czy godziłoby się tą "obojętność" wykorzystywać?

Czy by rozpoznał to nie wiemy. Ja założyłem moment że albo mamy opracowaną teorię AI i zwyczajnie wiemy skąd się to bierze albo budujemy kopię i wiemy dzięki temu. "Rozpoznanie" to osobny temat.
To czy by się godziło czy nie to mi się zawsze pytaniem dość dziwnym wydawało. W praktyce wiem że będzie się godziło, zawsze wszystko się godziło łącznie ze skrajnym wykorzystywaniem innych ludzi a to by miało się nie godzić?

[Hoko]

maziek: Zależy jakie problemy mieliby rozwiązywać. Np. jeśli byłyby to problemy w "świecie" modeli matematycznych to nic innego nie byłoby potrzebne. A czy jest to inteligencja czy nie to zakładam że będziemy wiedzieli wtedy. Umówmy się że wiemy że za inteligencję człowieka odpowiada mózg. Z tego co mi się wydaje (na bazie jakiejś tam wiedzy choć część to domysły) gdyby nasz mózg tak odizolować ale stworzyć "wtyczki" na inne "zmysły" (tu aktualnie jest problem) to mogłoby powstać takie pudełko. Zatem ten mój pomysł nawet nie zakładał jednoznaczności definicji słowa "inteligencja" bo równie dobrze mogłyby być to kopie naszych mózgów bez rozumienia jak działają (jak pisałem).
Oczywiście byłyby roboty które muszą mieć zmysły ludzkie, jednak przy rozumieniu "działania" inteligencji myślę że miałyby tylko to co niezbędne i siłą rzeczy, jak w przykładzie powyżej, kwestia buntu byłaby nie tylko niemożliwa ale rozważanie jej byłoby błędem logicznym.

Nie wiem, czy się tu nie zapędzasz w antropomorfizm (zaczynając w pierwszym wpisie wątku) - zakładasz, że do uzyskania czysto pragmatycznego i technicznego celu (tworzenie nauki) konieczna będzie inteligencja dysponująca samoświadomością. Jakoś nie wydaje mi się, by było to konieczne do modelowania teorii. Co więcej - wymodelowanie "naukowca w pudełeczku", będzie pewnie trudniejsze, niż wszystkie modelowania, które potem ten naukowiec będzie zdolny przeprowadzić.

Generalnie trzeba by zdefiniować, co rozumiemy przez AI - to do czego się dąży i co wzbudza największe kontrowersje, to stworzenie sztucznej inteligencji "podobnej" człowiekowi. Inteligencje modelujące problemy naukowe to już dzisiaj mamy w postaci komputerów - i w przyszłości będą się tu pewnie zmieniać metody i techniki, będą powstawać urządzenia wzorowane na ludzkim mózgu, ale też takie, które z tymże nie mają nic wspólnego - bo do rozwiązywania różnych problemów nadają się różne konfiguracje. Świadomość do tego nie jest potrzebna - a jeśli by się pojawiła samoczynnie jako skutek uboczny komplikacji maszynerii, to chyba pod postacią takich czy innych zakłóceń.

[dzi]

Nie wiem, czy się tu nie zapędzasz w antropomorfizm (zaczynając w pierwszym wpisie wątku) - zakładasz, że do uzyskania czysto pragmatycznego i technicznego celu (tworzenie nauki) konieczna będzie inteligencja dysponująca samoświadomością. Jakoś nie wydaje mi się, by było to konieczne do modelowania teorii. Co więcej - wymodelowanie "naukowca w pudełeczku", będzie pewnie trudniejsze, niż wszystkie modelowania, które potem ten naukowiec będzie zdolny przeprowadzić.

Póki co tworzymy naukę inteligencją posiadającą samoświadomość. Staram się nie dodawać bytów. Jeśli się da bez samoświadomości i nie ma ona związku to będzie bez. Tylko nic na ten temat nie wiem więc zakładam jednakowość z tym co znamy.

Czy będzie trudniejsze natomiast? Możliwe, wszak stworzenie człowieka jest trudniejsze niż wszystko co do tej pory wymyślił... (?) Czy mamy zatem zakładać że wymyślenie AI jest koroną poznania i nic ponad to nie ma?

Generalnie trzeba by zdefiniować, co rozumiemy przez AI - to do czego się dąży i co wzbudza największe kontrowersje, to stworzenie sztucznej inteligencji "podobnej" człowiekowi. Inteligencje modelujące problemy naukowe to już dzisiaj mamy w postaci komputerów - i w przyszłości będą się tu pewnie zmieniać metody i techniki, będą powstawać urządzenia wzorowane na ludzkim mózgu, ale też takie, które z tymże nie mają nic wspólnego - bo do rozwiązywania różnych problemów nadają się różne konfiguracje. Świadomość do tego nie jest potrzebna - a jeśli by się pojawiła samoczynnie jako skutek uboczny komplikacji maszynerii, to chyba pod postacią takich czy innych zakłóceń.

Tak jak mówię, nie rozważam czym jest itd, zakładam że my mamy inteligencje i tworzę teorię z innymi takimi jak nasza, mogą to być nawet kopie naszych mózgów bez rozumienia ich działania. Wnoszę że skoro nasze działają do wszystkiego co wymyśliliśmy to w tym samym celu będą działały sztuczne (bazując rozważaniach z wątku Cetariana o futurologii). Nie wiem co nas różni od komputera jednak to my "wymyślamy" naukę a nie komputery. Rozważam AI które będzie robiło to co my. Dla uproszczenia możemy uznać nawet że jest identyczne z naszym tylko umieszczone w innym środowisku.

[Hoko]

A jaką naukę to AI będzie tworzyło? Co to jest ta nasza nauka? Przecież nie wymyślamy tej nauki tak sobie, tylko staramy się by nauka tłumaczyła swiat fizyczny. Więc jaki świat fizyczny będzie tłumaczyła nauka AI bytującej w "innym" środowisku? Bo jeśli świat tego srodowiska, to nasz zysk raczej marny - zwłaszcza że parametry tego środowiska to my będziemy ustalać.

I druga kwestia. Tworzymy naukę dzięki inteligencji, ale skoro musimy się posiłkować w tym tworzeniu jakąś tam AI, to znaczy, że ta nasza inteligencja nie radzi sobie, że AI będzie nad naszą inteligencją górować. Na jakiej więc podstawie robisz założenie, że AI-naukowcy nie będą w stanie odkryć, do czego ich się wykorzystuje, że nie będą manipulować wyników etc., wszak by być nam przydatnymi, muszą być od nas mądrzejsi. A jeśli mają być mądrzejsi nie całościowo, a tylko w jakiejś wybranej dziedzinie, w której będą modelować, to i nie będą się specjalnie różnić od maszyn. Zeby wyniki ich badań miały się odnosić do naszego realnego świata, to AI musi dysponować parametrami tego świata; żeby te wyniki wykraczały poza sferę matematycznych przekształceń i były dostarczycielami nie tylko teorii, ale i rozsądnych hipotez, to te parametry muszą być w miarę całkowite.

PS
Stwierdzenie "inteligencja posiadająca samoświadomość" nie wydaje mi się szczególnie szczęśliwe...

[dzi]

A jaką naukę to AI będzie tworzyło? Co to jest ta nasza nauka? Przecież nie wymyślamy tej nauki tak sobie, tylko staramy się by nauka tłumaczyła swiat fizyczny. Więc jaki świat fizyczny będzie tłumaczyła nauka AI bytującej w "innym" środowisku? Bo jeśli świat tego srodowiska, to nasz zysk raczej marny - zwłaszcza że parametry tego środowiska to my będziemy ustalać.

I druga kwestia. Tworzymy naukę dzięki inteligencji, ale skoro musimy się posiłkować w tym tworzeniu jakąś tam AI, to znaczy, że ta nasza inteligencja nie radzi sobie, że AI będzie nad naszą inteligencją górować. Na jakiej więc podstawie robisz założenie, że AI-naukowcy nie będą w stanie odkryć, do czego ich się wykorzystuje, że nie będą manipulować wyników etc., wszak by być nam przydatnymi, muszą być od nas mądrzejsi. A jeśli mają być mądrzejsi nie całościowo, a tylko w jakiejś wybranej dziedzinie, w której będą modelować, to i nie będą się specjalnie różnić od maszyn. Zeby wyniki ich badań miały się odnosić do naszego realnego świata, to AI musi dysponować parametrami tego świata; żeby te wyniki wykraczały poza sferę matematycznych przekształceń i były dostarczycielami nie tylko teorii, ale i rozsądnych hipotez, to te parametry muszą być w miarę całkowite.

Zgadzam się, odbiór świata musi być, jakiś odbiór świata. Ja bym go zrobił sparametryzowanym, podajesz wyniki obserwacji, liczbami. Nie ma sensu robić odbioru wzrokowego. (Opieram to na mojej wiedzy o fizyce oraz staram się stworzyć prosty obraz na potrzeby wytłumaczenia o co mi chodzi.) Taki naukowiec nie stanowi zagrożenia ze względu na samą swoją budowę. To ogólnie staram się przedstawić, taki pomysł.

Zresztą idąc tak daleko: wszystkie nasze przyrządy naukowe są dopasowane do naszych zmysłów, mamy teleskopy do oczu, potem wizualizacje wszelkich innych odczytów (fal radiowych dajmy na to). Wynika to z budowy samych nas. Jeśli omawiamy rozwój tak odległy jak stworzenie AI oraz zaprzęganie ich do masowego "tworzenia" nauki to musimy założyć że w takim momencie "czytniki" będą już też dopasowywane do tego odbiorcy, bez nakładania bezsensownych dodatków dopasowujących je do formy ludzkiej. Tylko że te rozważania to już bajanie i odbiegają od sedna.

Bo generalizując, jak dla mnie, nauka zajmuje się obserwacją świata w celu przewidywania jego dalszego zachowania za pomocą tworzenia modeli opisujących to działanie.

PS
Stwierdzenie "inteligencja posiadająca samoświadomość" nie wydaje mi się szczególnie szczęśliwe...

Więc niepotrzebnie zacząłeś go używać

[Q]

Panowie (zwłaszcza Hoko) ja się już w tym kompletnie pogubiłem , to w końcu ta AI ma być "obca" i żyć obok nas czy humanoidalna?

Mamy wiedzieć, że oto stworzyliśmy AI, czy się w tym połapać dopiero kiedy, zacznie się ew. buntować?

And one more thing: dlaczego stworzenie "humanoidalnej" mentalnie AI ma być szczytem możliwości, czy sądzisz Hoko, że rozum-na-podobieństwo-ludzkiego to już szczyt możliwości, bo mnie się zdaje, że jeśli już będziemy wogóle w stanie tworzyć sztuczne umysły, to da się z materii i z praw fizyki wycisnąć systemy wydajniejsze (więc i mądrzejsze) niż nasz mózg. (Bo niby czemu mamy robić za "koronę stworzenia"...) I wtedy dopiero mogą zacząć się schody (jedna "humanoidalna" AI, to tylko ciekawostka na miarę lynchowskiego Człowieka-Słonia).

Może też zresztą być tak, jak u Asimova (z regulatorami), że maszynom do "buntu" nie będzie potrzebna ani samoświadomość, ani demoniczne pobudki, po prostu (wykonując zadania powierzone im przez człowieka!) uznają (w świetle danych, które człowiek im "wsadzi"!), że ludzie są im do tego czy owego zbędni (czyli to co miał na myśli w pierwszym "poście" dzi, ale nawet bez zakładania świadomości maszyn). Ot taki mimowolny bunt technosfery...

ps. co do pytania "czy się godzi", kiedyś uznałbym, że nie będzie miało ono praktycznego znaczenia, ale po moratorium na klonowanie...

[dzi]

Moratorium na klonowanie w skali cywilizacyjnej nie ma najmniejszego znaczenia. Mówimy o tysiącach lat tutaj i dziesiątkach pokoleń a nie dziesięciu latach. W ramach dwóch pokoleń dosłownie wszystko może być wstrzymane. W ramach 10ciu obstawiam że dosłownie nic.
I oczywiście wolałbym nie zaczynać dyskusji na ten temat Po Twojemu: dokładanie do tej dyskusji problemów zakazów ze względów moralnych jest niezgodne z brzytwą Ockhama

[Q]

Zgadzam się z Tobą jak rzadko (w końcu najsurowsze kościelne zakazy nie powstrzymały np. sekcji zwłok na dłuższą metę), aczkolwiek widzę tu jeden problem - kiedyś zaawansowane (na ów czas) badania można było prowadzić i w domowej szopie, teraz trza do tego sprzętu, finansów. Czyli w takim wypadku już nie jednostka musi się zdecydować na złamanie zakazów, a instytucja. A to jakby łatwiej wykryć (jakiś "przeciek" czy donos, albo i zwykły przypadek).

Poruszyłem zresztą ten problem by (jakoś bardzo wstępnie) zarysować granice czasowe, choć może niepotrzebnie, bo tak naprawdę i tak nie wiemy czy nastanie AI daleko jest czy blisko. (No i na badania nad Sztuczną Inteligencją nikt nie wprowadza moratorium, może dlatego, że kiedy powstanie AI nie wiemy, a klonowanie jest już możliwe dziś. Swoją drogą - ale Ci śmiecę offtopem - ciekawe czemu sklonowanie człowieka budzi takie obawy, a powołanie do "życia" całkiem sztucznego Rozumu już nie? Bo dla mnie to dowód na wąskość horyzontów zakazujących...)

[dzi]

Przyszłość jest to tak odległa że możemy ten czas określić jako "nieokreślony". Obawy natomiast są takie same tylko problem nie istnieje bo nie mamy zielonego pojęcia jak można by zrobić AI.

[Hoko]

dzi,

faktycznie, w moim pierwszym wpisie jest "inteligencja dysponująca samoświadomością", ale to jest odniesienie do Twoich supozycji. Chodzi o to, że inteligencja jest de facto instrumentem, narzędziem, a więc czymś podporządkowanym. I w sporze o AI nie chodzi przecież o inteligencję per se (bo ta, definicyjnie, to zdolność do rozwiązywania problemów i w mniejszym czy większym zakresie posiadają ją i komputery, i zwierzęta, i nawet wirusy), lecz właśnie o świadomość. Test Turinga przecież nie był pomyślany jako test na IQ (niezależnie od jego trafności i przydatności).

Co do parametryzacji, to jest to sprawa oczywista,o  przedstwianiu "wzrokowym" nie myślałem w ogóle - choćby dlatego, że we współczesnej nauce ma to już niewielkie znaczenie. Tyle tylko, że nigdy nie będziemy pewni, czy uwzględniliśmy wszystkie parametry, a jeśli tak, to i wywodzone z nich modele nie muszą odpowiadać fizycznej rzeczywistości. Co więcej, często nie będzie sposobu by to sprawdzić - w dziedzinach takich jak kosmologia czy pewne aspekty mikroświata możemy nie dysponować narzędziami do przeprowadzenia eksperymentu (a nieraz może być on w ogóle niemożliwy do przerowadzenia).

Generalnie cały pomysł z hodowaniem naukowców uważam za szyty grubymi nićmi.

Q
dlaczego stworzenie "humanoidalnej" mentalnie AI ma być szczytem możliwości, czy sądzisz Hoko, że rozum-na-podobieństwo-ludzkiego to już szczyt możliwości

A co to jest rozum? Oto jest pytanie. Ale nie sądzę. I przychylam się do tezy postawionej wcześniej, że "sztucznym rozumom" może nie chcieć się myśleć, o ile nie zostaną do tego zmuszone, tak jak my jesteśmy zmuszeni przedprogramowaniem genetycznym. A takie przedprogramowanie jest zawsze pewnym ograniczeniem, więc w sztucznych i do tego świadomych mózgach nie pokładałbym wielkich nadziei.

[dzi]

dzi,

faktycznie, w moim pierwszym wpisie jest "inteligencja dysponująca samoświadomością", ale to jest odniesienie do Twoich supozycji. Chodzi o to, że inteligencja jest de facto instrumentem, narzędziem, a więc czymś podporządkowanym. I w sporze o AI nie chodzi przecież o inteligencję per se (bo ta, definicyjnie, to zdolność do rozwiązywania problemów i w mniejszym czy większym zakresie posiadają ją i komputery, i zwierzęta, i nawet wirusy), lecz właśnie o świadomość. Test Turinga przecież nie był pomyślany jako test na IQ (niezależnie od jego trafności i przydatności).

No to mówimy o czym innym, ja mówię o inteligencji właśnie bo to mi się wydawało potrzebne do dajmy na to tego rozwoju nauki. Jeśli mówisz że potrzebna jest samoświadomość no to niech będzie. Bez różnicy bo nie ma to znaczenia w rozważanym pomyśle.

Co do parametryzacji, to jest to sprawa oczywista,o  przedstwianiu "wzrokowym" nie myślałem w ogóle - choćby dlatego, że we współczesnej nauce ma to już niewielkie znaczenie. Tyle tylko, że nigdy nie będziemy pewni, czy uwzględniliśmy wszystkie parametry, a jeśli tak, to i wywodzone z nich modele nie muszą odpowiadać fizycznej rzeczywistości. Co więcej, często nie będzie sposobu by to sprawdzić - w dziedzinach takich jak kosmologia czy pewne aspekty mikroświata możemy nie dysponować narzędziami do przeprowadzenia eksperymentu (a nieraz może być on w ogóle niemożliwy do przerowadzenia).

Zgadza się. Nie zmienia to faktu że można takim "czymś" ludzi zastąpić dając na wejściu to co sami widzimy. Rozwój narzędzi poznania to znowu osobny temat.

Generalnie cały pomysł z hodowaniem naukowców uważam za szyty grubymi nićmi.

Chętnie poznam dlaczego

Q
dlaczego stworzenie "humanoidalnej" mentalnie AI ma być szczytem możliwości, czy sądzisz Hoko, że rozum-na-podobieństwo-ludzkiego to już szczyt możliwości

A co to jest rozum? Oto jest pytanie. Ale nie sądzę. I przychylam się do tezy postawionej wcześniej, że "sztucznym rozumom" może nie chcieć się myśleć, o ile nie zostaną do tego zmuszone, tak jak my jesteśmy zmuszeni przedprogramowaniem genetycznym. A takie przedprogramowanie jest zawsze pewnym ograniczeniem, więc w sztucznych i do tego świadomych mózgach nie pokładałbym wielkich nadziei.

Więc może na potrzeby początku dyskusji nie pokładajmy nadziei większych niż w ludziach i ustalmy, że rozważamy problem bazując na KOPII mózgu ludzkiego zachowującej się tak jak mózg ludzki. Pomysł wynikł z pomysłu Cetariana o tym by zastępować pracę robotami, również prace umysłową. Zatem na razie rozważmy stworzenie kopii inteligencji ludzkiej w celu zastąpienia "żywych" naukowców robotami i na tej podstawie rozważmy co jest nie tak w mojej propozycji w aspekcie braku zagrożeń ze strony takiej AI.

[Q]

Chodzi o to, że inteligencja jest de facto instrumentem, narzędziem, a więc czymś podporządkowanym. I w sporze o AI nie chodzi przecież o inteligencję per se (bo ta, definicyjnie, to zdolność do rozwiązywania problemów i w mniejszym czy większym zakresie posiadają ją i komputery, i zwierzęta, i nawet wirusy), lecz właśnie o świadomość.

A może jest tak, że świadomość jest stopniowalna (mniejsza i większa), i posiada ja układ powyżej pewnego stopnia komplikacji (wiec i inteligencji). Czyli i zwierzę i PCet na któym piszę, a tylko nasza niemożność "wyjścia poza siebie" nie pozwala nam tego dostrzec? (Wiem, powtarzam się.) Oczywiscie, byłaby to wtedy świadomosć "stopniowalna" (im mądrzejszy, tym bardziej świadomy).

(Inna rzecz, że nawet jeśłi mam rację, to nawet jeśłi - sam nie wiem jakim cudem - to stwierdzimy, świadomośc jest nadal zagadką.)

Generalnie cały pomysł z hodowaniem naukowców uważam za szyty grubymi nićmi.

Kiedy w sumie podstawowym pożytkiem z AI miało być stworzenie Rozumu myślącego szybciej i lepiej niż my... Raczej w naukowym celu, bo władze mu oddać strach, a nauczyć wojowania nieładnie (i też niebezpiecznie).

A co to jest rozum?

Chciałbym wiedzieć...

I przychylam się do tezy postawionej wcześniej, że "sztucznym rozumom" może nie chcieć się myśleć, o ile nie zostaną do tego zmuszone, tak jak my jesteśmy zmuszeni przedprogramowaniem genetycznym.

W "Kongresie futurologicznym" bodaj o tym (w tonie buffo) było (nieroboty etc). Zresztą mózg elektronowy z "Astronautów" też myślał, aby mieć problem z "narzuconym mu" tematem...

A takie przedprogramowanie jest zawsze pewnym ograniczeniem, więc w sztucznych i do tego świadomych mózgach nie pokładałbym wielkich nadziei.

Czyli co, aby być "ludzkim" trzeba się ogłupić. To nadaje nowe znaczenie maksymie Pascala .

[Q]

Przyszłość jest to tak odległa że możemy ten czas określić jako "nieokreślony". Obawy natomiast są takie same tylko problem nie istnieje bo nie mamy zielonego pojęcia jak można by zrobić AI.

Ha! Gdzież sie podział optymizm Minsky'ego, na którym bazując Clarke umieszczał AI w 2001 roku? (Zresztą z prognozami tak jakoś jest, zawse albo zbyt optymistyczne, albo wręcz przeciwnie - vide data lotu na Księżyc u Żuławskiego.)

No to mówimy o czym innym, ja mówię o inteligencji właśnie bo to mi się wydawało potrzebne do dajmy na to tego rozwoju nauki. Jeśli mówisz że potrzebna jest samoświadomość no to niech będzie. Bez różnicy bo nie ma to znaczenia w rozważanym pomyśle.

Nie chcę się wcinać, ale Hoko (o ile dobrze zrozumiałem) twierdził, że ona (samoświadomość) takiej maszynie wręcz zbędna...

Więc może na potrzeby początku dyskusji nie pokładajmy nadziei większych niż w ludziach i ustalmy, że rozważamy problem bazując na KOPII mózgu ludzkiego zachowującej się tak jak mózg ludzki.

Ale jaki z tego praktyczny pożytek poza sama radościa z takiego dokonania i - jeśłi się etycy nie wtrącą - poeksperymentowania za "żywym" umyśle? Lubię Datę ze "Star Treka", ale jaki naukowy pożytek z tegoż Daty istnienia? Nadali mu w końcu "prawa człowieka" i w sumie tyle.

Pomysł wynikł z pomysłu Cetariana o tym by zastępować pracę robotami, również prace umysłową. Zatem na razie rozważmy stworzenie kopii inteligencji ludzkiej w celu zastąpienia "żywych" naukowców robotami

Kiedy problem z propozycją Cetariana jest taki, że (IMO) lepiej to załatwić (jak w "Runaway" Crichtona) tymi "zmyślniejszymi odkurzaczami" (w tym kontekście "sztucznymi wysnuwaczami hipotez", takimi samouczącymi systemami eksperckimi), którym ani ludzka świadomość, ani wszechstronność do niczego niepotrzebne.

[Hoko]

Dzi, kombinujesz jak kot pod górę...

Najpierw wyjeżdżasz z rasizmem i buntem maszyn, a teraz twierdzisz, że żadnej świadomości (czy samoświadomości, bo to na jedno wychodzi) tam ma nie być, tylko jakaś sama-inteligencja. Jak nie będzie świadomości, to kto się będzie buntował? I jaki rasizm, skoro bez świadomości nie ma też etyki - równie dobrze można rasizm czy tam co jeszcze zarzucić wszystkim, którzy korzystają z dzisiejszych komputerów - bo nie składają maszynom podziękowań za przepracowany dzień itp.

"Kopia mózgu ludzkiego zachowująca się jak ludzki mózg" - pomijając, że to tautologia, ma to świadomość czy nie?

A zastąpić naukowców robotami - w pewnym sensie już się to czyni, ale to jest tylko zmiana perspektywy, bo ktoś te komputery musi obsługiwać, więc porzebna jest nowa kategoria naukowców... W każdym razie, jeśli ma nie być świadomości, to to nie jest AI w klasycznym sensie, bo tu chodziło właśnie o świadomość. Bez niej nie ma dylematów moralnych, "duchowych" itd. są tylko wyrafinowane maszyny.

Q,

w jakims sensie świadomość jest stopniowalna, tylko trudno to jakoś sprecyzować - zwierzęta mają świadomość i pewnie jedne jakby "więcej", a inne "mniej". Trudno zgadnąć, zwłaszcza gdyby chcieć to ekstrapolować w górę.

[dzi]

Ale jaki z tego praktyczny pożytek poza sama radościa z takiego dokonania i - jeśłi się etycy nie wtrącą - poeksperymentowania za "żywym" umyśle? Lubię Datę ze "Star Treka", ale jaki naukowy pożytek z tegoż Daty istnienia? Nadali mu w końcu "prawa człowieka" i w sumie tyle.

No na przykład taki że my w tym czasie będziemy leżeć (patrz wątek Cetariana). (Bo już staram się spłycać jak można tylko dyskusję by poszła dalej zamiast zatrzymywać się na milionie rzeczy do których można się przyczepić mimo że nie mają znaczenia.)

Kiedy problem z propozycją Cetariana jest taki, że (IMO) lepiej to załatwić (jak w "Runaway" Crichtona) tymi "zmyślniejszymi odkurzaczami" (w tym kontekście "sztucznymi wysnuwaczami hipotez", takimi samouczącymi systemami eksperckimi), którym ani ludzka świadomość, ani wszechstronność do niczego niepotrzebne.

No ale wtedy nadal naukowcy będą musieli pracować. I przecież nie ja proponuję że ma być świadomość czy jej ma nie być albo czy ma być wszechstronność właśnie...