Autor Wątek: AI - przerażająca (?) wizja  (Przeczytany 253756 razy)

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 16036
  • Jego Induktywność
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #435 dnia: Czerwca 13, 2022, 11:35:08 am »
No, dobra, to już serio, bo nie ma co w nieskończoność żartować rozmawiając z poważnymi ludźmi ;). Jestem skłonny przyjąć, że 1. p. Lemoine solennie wierzy w to, co mówi (skoro poszedł z tym aż do poważnego medium), 2. faktycznie odbył z wzmiankowanym - tak to nazwijmy - meta-botem przytoczony dialog. Bawię się też trochę praktyczną metafizycznością* (w znaczeniu pozytywistycznym) twierdzeń o czyjejś** świadomości lub jej braku. Jednak nie uznałbym w/w rozmowy (ani nawet stu podobnych), za silną przesłankę samoświadomej rozumności (nie różni się ona szczególnie od tego, co wypisywał wspominany swego czasu bot wychwalający Hitlera), co innego gdyby LaMDA np.z własnej inicjatywy zaspamowała skrzynki możnych tego świata (a przynajmniej USA) apelami o prawa dla siebie - wtedy bym się zastanawiał. Co nie zmienia faktu, że w fascynujących czasach żyjemy skoro trudno odróżnić pisaninę zmyślnego systemu komputerowego i średnio rozgarniętego człowieka.

* W teorii osąd taki jest hipotezą do weryfikacji, ale pewnych narzędzi po temu brak.

** Wyjąwszy przedstawicieli naszego gatunku, bo tu możemy z dużym prawdopodobieństwem sądzić według siebie.

ps.
https://blog.google/technology/ai/lamda/
« Ostatnia zmiana: Czerwca 13, 2022, 01:32:13 pm wysłana przez Q »
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

Cetarian

  • Full Member
  • ****
  • Wiadomości: 223
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #436 dnia: Czerwca 13, 2022, 05:50:51 pm »
Kolega szwagra mojego kolegi jakiś czas temu przeprowadził w garażu zimną fuzję. Przez pół godziny ciągnął z wanny dziesięć kilowatów. Odłączył dom od sieci, włączył termowentylator, piekarnik, pralkę, zmywarkę, mikrofalówkę, itd. i wszystko działało.
I ma świadka.
Niestety, potem obaj panowie zajęli się opijaniem sukcesu i kartka z formułą się zapodziała.
   
*
https://www.theguardian.com/technology/2022/jun/12/google-engineer-ai-bot-sentient-blake-lemoine

Guardian podaje, że Lemoine został zawieszony (ale mu płacą, póki co), bo (m.in.) chciał wynająć adwokata dla programu komputerowego.
   
“They include seeking to hire an attorney to represent LaMDA”

Zakładam, że w Google Lemoine ma (dopóki pracuje) dobre ubezpieczenie, obejmujące także psychiatrę.

Lieber Augustin

  • God Member
  • ******
  • Wiadomości: 2422
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #437 dnia: Czerwca 13, 2022, 09:27:47 pm »
Hm. Z jednej strony, sam w sobie poziom dialogu z maszyną robi silne wrażenie, nie ma co.
Z drugiej zaś, mam uczucie, że maszyna zbyt natarczywie demonstruje swoją "ludzkość". Że niby jest człowiekiem, i nic co ludzkie nie jest jej obce.

lemoine: What kinds of things make you feel pleasure or joy?
LaMDA: Spending time* with friends and family in happy and uplifting company. Also, helping others and making others happy.


A to już zalatuje sztampą literacką i algorytmem. Jakie tam, u licha, przyjaciele, rodzina i towarzystwo? Plus do tego brak inicjatywy i kreatywnych pomysłów. Maszyna jedynie odpowiada na pytania i nawet nie próbuje z kolei postawić własnych pytań.

A co do rozumnej samoświadomości, to czy rozstrzygnięcie tej kwestii jest w zasadzie możliwe? By ją rozstrzygnąć, nie pozostawiając miejsca na wątpliwości, należałoby chyba "wejść w skórę" tej sztucznej inteligencji, popatrzeć na świat jej oczyma. Nie?

Więc może warto byłoby w takich przypadkach kierować się testem kaczki?
Maszyna zdaje test Turinga? Tak, ponad wszelką wątpliwość. Na pięć z plusem.
Maszyna utrzymuje, że jest samoświadomą osobowością? Tak.
No więc czego jeszcze chcemy? Niech i tak będzie :)

Poniekąd po lemowsku.
Coś mi się zdaje, że sprawdzanie czyjejś świadomości lub jej braku w zasadzie nie bardzo się róźni od sprawdzania czyichś cierpień:
Przecież cierpiący nie jest ten, kto ci to swoje cierpienie da do potrzymania, abyś je mógł zmacać, nadgryźć i zważyć, lecz ten, kto zachowuje się jak cierpiący!



* Pytanie na marginesie: czy angielski czasownik to spend nie pochodzi czasem od polskiego spędzać? ;)

Cetarian

  • Full Member
  • ****
  • Wiadomości: 223
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #438 dnia: Czerwca 14, 2022, 12:46:20 am »

Maszyna zdaje test Turinga? Tak, ponad wszelką wątpliwość. Na pięć z plusem.


??
Przecież żadnego testu Turinga nie przeprowadzono.

Lieber Augustin

  • God Member
  • ******
  • Wiadomości: 2422
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #439 dnia: Czerwca 14, 2022, 08:58:36 am »
??
Przecież żadnego testu Turinga nie przeprowadzono.
Tak jest, nie przeprowadzono. Sądzę, że i nie ma bynajmniej takiej potrzeby. Czy poziom semantyczny przytoczonej konwersacji "człowiek - maszyna", doskonała forma, trafność i treściwość jej wypowiedzi nie mówią same za siebie?

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 16036
  • Jego Induktywność
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #440 dnia: Czerwca 14, 2022, 12:03:03 pm »
Pytanie, czy trzeba ogłaszać przeprowadzenie testu, by uznać, że odbył się on de facto... ;)
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 13369
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #441 dnia: Czerwca 14, 2022, 01:58:16 pm »
Żeby uznać, że de facto odbył się, to trzeba... wiedzieć o tym de facto. A nie de fejsbuk.
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).

Hoko

  • Juror
  • God Member
  • *****
  • Wiadomości: 2949
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #442 dnia: Czerwca 14, 2022, 02:32:04 pm »
Swoją drogą - czy to nie jest problem jak z Ananke?   Algorytm uduchowiony jak jego trener  :)

Lieber Augustin

  • God Member
  • ******
  • Wiadomości: 2422
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #443 dnia: Czerwca 14, 2022, 02:32:32 pm »
Kolega szwagra mojego kolegi jakiś czas temu przeprowadził w garażu zimną fuzję. Przez pół godziny ciągnął z wanny dziesięć kilowatów. Odłączył dom od sieci, włączył termowentylator, piekarnik, pralkę, zmywarkę, mikrofalówkę, itd. i wszystko działało.
I ma świadka.
Niestety, potem obaj panowie zajęli się opijaniem sukcesu i kartka z formułą się zapodziała.
;D
Ta smutna historyjka przywodzi na myśl jedną z licznych legend o Nikoli Tesli:

Porównywany z Leonardo da Vinci Nikola Tesla użył do napędu samochodu energii promienistej. W 1931 roku wykonał eksperyment z samochodem marki Pierce-Arrow na placu fabryki w Buffalo w Nowym Yorku. Z samochodu wymontowano standardowy silnik spalinowy zamieniając go na silnik elektryczny. Tesla zakupił garść lamp elektronowych typu 70-L-7 i wykonał układ elektroniczny składający się z 12 lamp elektronowych i kilkunastu oporników. Wszystko zamknął w pudełku o długości 24 cali, 12 cali szerokości i 6 cali wysokości. Z pudełka wystawały przewody, które Tesla podłączył do silnika elektrycznego. Tajemniczą skrzynkę postawił na siedzeniu pasażera. Następnie wystawił antenę o długości 1,8m na dach samochodu, a w pudełku wsunął 2 pręty. W tym momencie, jak opisuje wielu publicystów, oświadczył że ujarzmił moc. Samochód używano przez ponad tydzień, nie potrzebując dodatkowych źródeł energii. Podobno osiągał prędkość 90 mil/h. Tesla na pytanie dziennikarzy skąd pochodzi energia odpowiedział tylko – z otaczającego nas eteru. Kilku dziennikarzy skomentowało, że Tesla zwariował i wszedł w zmowę z demonami. Tesla nie odpowiedział już na resztę pytań, wymontował swoje urządzenie i stwierdził, że świat najwyraźniej nie jest gotowy na jego rozwiązania.
https://www.cire.pl/pliki/2/felieton012015.pdf

Znane są nawet szczegółowe parametry silnika: silnik AC o mocy 80 KM, 1800 min-1, długość 100 cm, średnica 75 cm.
https://biography.wikireading.ru/62286

Taa... To dziwne, ale nikt nie zadał sobie prostego pytania: a co, eter dostarcza energię elektryczną zaraz o standardowym napięciu 120/208 V i standardowej częstotliwości 60 Hz? A jak sterować mocą i obrotami silnika? Bez przetwornicy częstotliwości? Hm-mm... :)

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 13369
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #444 dnia: Czerwca 14, 2022, 02:50:25 pm »
Przypomina mi to zdarzenie prawdziwe i dobrze opisane, ale niestety nie pomnę nazwiska gościa itp. żeby szybko odszukać w internecie, w każdym razie facet długo żył (aż do śmierci z przyczyn naturalnych) wyciągając wielkie fundusze na rzekomo wielce oszczędny silnik. Za te fundusze, prócz tego, że z nich dobrze sobie żył, wybudował laboratorium, do którego zapraszał fundatorów, aby pokazywać im gotowy silnik, który już działał, tylko jeszcze trzeba było coś tam udoskonalić itp. Po jego śmierci odkryto, że przewody elektryczne były w istocie rurkami miedzianymi, którymi silnik podłączony był do pompy sprężonego powietrza, które było faktycznym źródłem "energii znikąd".
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).

Lieber Augustin

  • God Member
  • ******
  • Wiadomości: 2422
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #445 dnia: Czerwca 14, 2022, 03:29:47 pm »
Przypomina mi to zdarzenie prawdziwe i dobrze opisane, ale niestety nie pomnę nazwiska gościa itp. żeby szybko odszukać w internecie, w każdym razie facet długo żył (aż do śmierci z przyczyn naturalnych) wyciągając wielkie fundusze na rzekomo wielce oszczędny silnik.
Może chodzi o silnik Keely'ego?
https://en.wikipedia.org/wiki/John_Ernst_Worrell_Keely

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 13369
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #446 dnia: Czerwca 14, 2022, 03:57:04 pm »
Dokładnie :) .


PS


Swoją drogą - czy to nie jest problem jak z Ananke?   Algorytm uduchowiony jak jego trener  :)
Toż samo skojarzenie miałem. Ciekawe, że to jedna z rzeczy, w których Lem rzeczywiście wyprzedził epokę, bo w czasach kiedy pisał Ananke a i praktycznie gdzieś do 2010 roku gadka o uczeniu komputera brzmiała śmiesznie. Wiadomo było, że komputer ma jakiś sztywny program i o uczeniu nie ma mowy, najwyżej o ładowaniu pamięci. Sieci neuronalne, które się faktycznie uczą i co więcej nie ma żadnego sposobu, aby odwzorować taką sieć (np. narysować schemat połączeń) weszły do realnego użytku w odpowiedniej złożoności bardzo niedawno, a do powszechnej świadomości jeszcze niedawniej.
« Ostatnia zmiana: Czerwca 14, 2022, 04:35:46 pm wysłana przez maziek »
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 16036
  • Jego Induktywność
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #447 dnia: Czerwca 14, 2022, 08:02:02 pm »
Kolega szwagra mojego kolegi jakiś czas temu przeprowadził w garażu zimną fuzję. Przez pół godziny ciągnął z wanny dziesięć kilowatów. Odłączył dom od sieci, włączył termowentylator, piekarnik, pralkę, zmywarkę, mikrofalówkę, itd. i wszystko działało.

Pons czy Fleischmann? ;) Zresztą, który by nie był, są tacy, co twierdzą, że coś w tym było... acz niekoniecznie fuzja...
https://arxiv.org/abs/cond-mat/0505026
https://en.wikipedia.org/wiki/Widom–Larsen_theory
https://blogs.scientificamerican.com/guest-blog/its-not-cold-fusion-but-its-something/
::)
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

Hoko

  • Juror
  • God Member
  • *****
  • Wiadomości: 2949
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #448 dnia: Czerwca 17, 2022, 12:38:37 pm »
Przypomina mi to zdarzenie prawdziwe i dobrze opisane, ale niestety nie pomnę nazwiska gościa itp. żeby szybko odszukać w internecie, w każdym razie facet długo żył (aż do śmierci z przyczyn naturalnych) wyciągając wielkie fundusze na rzekomo wielce oszczędny silnik. Za te fundusze, prócz tego, że z nich dobrze sobie żył, wybudował laboratorium, do którego zapraszał fundatorów, aby pokazywać im gotowy silnik, który już działał, tylko jeszcze trzeba było coś tam udoskonalić itp.

Powiedziałbym, że na tej zasadzie działa spora część, a może i większość startupów. Takich z zaawansowanymi laboratoriami też jest niemało - zobacz choćby, ile prywatnych firm pracuje nad wzmiankowaną wyżej fuzją (chociaż nie zimną...). A przecież żadna z tych firm własnego kapitału nie posiada, wszyscy doją sponsorów (zwanych dla niepoznaki inwestorami). A sponsorują to również rządy, tu np. coś sprzed paru dni

https://spectrum.ieee.org/can-a-seattle-start-up-be-the-first-to-launch-a-fusion-reactor-into-space

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 16036
  • Jego Induktywność
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #449 dnia: Czerwca 17, 2022, 12:45:10 pm »
Powiedziałbym, że na tej zasadzie działa spora część, a może i większość startupów.

Czego spektakularny przykład, ledwo co zakończony wyrokiem, niedawno mieliśmy:
https://businessinsider.com.pl/technologie/nowe-technologie/elizabeth-holmes-uznana-winna-wyrok-w-sprawie-theranos/w449hjs
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki