Autor Wątek: AI - przerażająca (?) wizja  (Przeczytany 253750 razy)

Lustrzak

  • Junior Member
  • ***
  • Wiadomości: 54
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #465 dnia: Czerwca 18, 2022, 04:02:43 pm »
Był gdzieś taki rysunek satyryczny ale ciekawym był jak AI sobie poradzi (poradził mimo błędnie napisanego Chimpanzee):
« Ostatnia zmiana: Czerwca 18, 2022, 04:10:25 pm wysłana przez Lustrzak »

Cetarian

  • Full Member
  • ****
  • Wiadomości: 223
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #466 dnia: Czerwca 19, 2022, 10:03:34 pm »
Moim zdaniem trafny komentarz do sprawy LaMDA-y.

“It’s easy to be fooled by the mimicry, but consumers need transparency about how such systems are used”

https://www.theguardian.com/commentisfree/2022/jun/14/human-like-programs-abuse-our-empathy-even-google-engineers-arent-immune


Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 16036
  • Jego Induktywność
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #467 dnia: Czerwca 20, 2022, 01:12:44 am »
Moim zdaniem trafny komentarz do sprawy LaMDA-y.

A podpisałbyś się pod jego diunowatą ("Nie będziesz czynił machin na obraz i podobieństwo umysłu ludzkiego") konkluzją? (Bo ja nie.)
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

Cetarian

  • Full Member
  • ****
  • Wiadomości: 223
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #468 dnia: Czerwca 20, 2022, 01:34:20 am »
Moim zdaniem trafny komentarz do sprawy LaMDA-y.

A podpisałbyś się pod jego diunowatą ("Nie będziesz czynił machin na obraz i podobieństwo umysłu ludzkiego") konkluzją? (Bo ja nie.)

Chodzi ci o to zdanie?

“In the words of AI researchers Timnit Gebru and Margaret Mitchell, mimicking human behaviour is a “bright line” – a clear boundary not to be crossed – in computer software development.”

Nie, tego nie popieram. Przeciwnie, mam nadzieję, że będą powstawały systemy, które efektywnie, skutecznie i bezpiecznie będą komunikowały się ludźmi. Najpierw jako obsługa infolinii, a kiedyś może np. jako asystenci lekarzy, którzy (asystenci) m.in. będą przeprowadzali pogłębione wywiady, itd.
Tyle że człowiek zawsze powinien mieć jasny komunikat, że rozmawia z programem.

I trzeba wynaleźć spray na nawiedzonych, którzy widzą ducha w maszynie. 


Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 16036
  • Jego Induktywność
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #469 dnia: Czerwca 20, 2022, 02:08:31 am »
Tyle że człowiek zawsze powinien mieć jasny komunikat, że rozmawia z programem.

Z tym się zgadzam (pomijając sytuacje testowania turingoidalnego), acz - jak widać - w przypadku Lemoine'a i to nie pomogło.

I trzeba wynaleźć spray na nawiedzonych, którzy widzą ducha w maszynie.

Znów zgoda, pytanie jednak co, jeśli on się tam faktycznie - zapewne nieprędko - emergentnie zalęgnie? ;)
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

Lieber Augustin

  • God Member
  • ******
  • Wiadomości: 2422
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #470 dnia: Czerwca 20, 2022, 08:29:16 am »
...pytanie jednak co, jeśli on się tam faktycznie - zapewne nieprędko - emergentnie zalęgnie? ;)
...ewentualnie - trzymając się doktryny panpsychizmu - ów spiritus in machina jedynie dorośnie do poziomu ducha człeczego ;)

Skądinąd w świetle nowej hipotezy pytanie obecności lub braku świadomości w maszynie podobno w ogóle traci sens:
https://www.wykop.pl/link/5562353/nowa-hipoteza-postuluje-ze-wszechswiat-swiadomie-symuluje-swoje-istnienie/
https://www.mdpi.com/1099-4300/22/2/247/htm

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 16036
  • Jego Induktywność
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #471 dnia: Czerwca 20, 2022, 12:24:52 pm »
w świetle nowej hipotezy pytanie obecności lub braku świadomości w maszynie podobno w ogóle traci sens

Spokojnie, na tle jej głównego autora "mój" Stamets wygląda na solidnego naukowca...
https://www.kleeirwin.com/
https://rationalwiki.org/wiki/Klee_Irwin
A ukazała się w piśmie, z którego rzetelnością selekcyjną różnie bywało:
https://en.wikipedia.org/wiki/Entropy_(journal)#2013_Paper_on_glyphosate
Co zdaje się zresztą regularnym problemem stojącego za nim - prężnego skądinąd - wydawnictwa:
https://en.wikipedia.org/wiki/MDPI#Controversies
Więc odnotować jako ciekawostkę można, ale - IMHO - nie ma się czym przejmować.
« Ostatnia zmiana: Czerwca 20, 2022, 12:41:48 pm wysłana przez Q »
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

Cetarian

  • Full Member
  • ****
  • Wiadomości: 223
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #472 dnia: Czerwca 20, 2022, 10:41:32 pm »
Powiem szczerze, że do dyskusji o AI zniechęca mnie okazywany dość często (hiper)entuzjazm, że AI (silna, AGI) jest tuż za zakrętem (a wg Lemoine, który nie wziął proszków, już nastąpiła).
Mam następujące pytanie: dlaczego jest tak źle, skoro jest (rzekomo) tak dobrze? (przy założeniu, że AI to szansa, a nie zagrożenie).
Prace nad samochodem autonomicznym, czyli nad programem-kierowcą trwają od dekad. W Waymo przez trzynaście lat wydali pięć i pół miliarda dolarów. Skutek jest na razie taki, że powoli i ostrożnie jeżdżą po jednym kompletnie zmapowanym podmiejskim osiedlu.
Na czym konkretnie polegają problemy, nie wiadomo, bo firmy nie chwalą się porażkami, ale zasadniczy problem jest oczywisty: komputer nie rozumie świata, na który patrzy swoim kamerami (a czasem także lidarem).
A przecież komputer na starcie miał i ma szereg przewag nad człowiekiem: nigdy nie jest niewyspany, nigdy nie jest skacowany ani po narkotykach, nie wyjeżdża z domu po awanturze, nie martwi się, że kiedy dojedzie do pracy, to zostanie skrytykowany za niewykonanie planu, nigdy się nie zagapia się, nie może być roztargniony.
No i ma coraz większe moce obliczeniowe, a człowiek ciągle potrzebuje te ca 0,4 sekundy, żeby zrozumieć, co się przed nim (i wokół niego) dzieje.
Waymo chwali się, że ich samochody przejechały miliony mil w realu i chyba miliardy mil symulowanych, ale ciągle (jak się domyślam) ich program ma problem z oceną, czy (na przykład) z samochodu przed nim spadła ciężka beczka, którą należy ominąć, choćby manewr był ryzykowny (bo beczka może wpaść do kabiny), czy też sfrunął worek foliowy o podobnych gabarytach, który można i należy „staranować”.
A tu nie ma zmiłuj, świadectwo jednego pana, który nie wziął proszków, nie pomoże.
Licencję na jazdę po niezmapowanym terenie i na zasadach ogólnych będzie wydawała NTSB.

Lieber Augustin

  • God Member
  • ******
  • Wiadomości: 2422
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #473 dnia: Czerwca 21, 2022, 08:35:10 am »
komputer nie rozumie świata, na który patrzy swoim kamerami
Co za dziwny zbieg okoliczności. Ja też nie rozumiem świata, na który patrzę swymi ślepiami...
 ::)

Cetarian

  • Full Member
  • ****
  • Wiadomości: 223
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #474 dnia: Czerwca 21, 2022, 09:13:05 am »
komputer nie rozumie świata, na który patrzy swoim kamerami
Co za dziwny zbieg okoliczności. Ja też nie rozumiem świata, na który patrzę swymi ślepiami...
 ::)

Ja rozumiem wszystko.  8)

Ale chodziło konkretnie o to, że komputer (po dekadach prac i wydanych miliardach) prawdopodobnie nie odróżnia beczki od worka foliowego. A co najmniej ma z tym poważne problemy.   
Wiadomo na pewno, że kilka lat temu nie potrafił odróżnić kobiety prowadzącej rower od tła. I zabił ją.

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 16036
  • Jego Induktywność
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #475 dnia: Czerwca 21, 2022, 12:31:54 pm »
Tu, oczywiście, przypominają się ostatnie zdania "Tako rzecze...":

"Komputer? /.../ Już panu tłumaczyłem, że on jest głupi."

Przy czym, jeśli chodzi o (aktualne) meritum, o ile kiedyś, dekady temu, skłonny bylem - jak Minsky - zakładać, że Rozum porównywalny do naszego wyskoczy z odpowiednio skomplikowanego algorytmu*, o tyle dziś coraz mocniej zgadzam się z Penrose'm, że nie będziemy w stanie go stworzyć (ani też rozpoznać, gdyby nam się zrodził mimochodem) dopóki dostatecznie nie zrozumiemy samych siebie (acz niekoniecznie podzielam wiarę R.P., iż odpowiedź tkwi w kwantach i tubulach). Przy czym jednak nie da się ukryć, że jak na twory budowane w dużej mierze na oślep (w sensie: bez dostatecznej wiedzy o mózgu galaretycznym ;)) obecne komputery/boty/systemy/sieci neuropodobne są jednak - ile byśmy na ich głupotę nie narzekali - imponujące.

* Przy czym nie deprecjonowałbym tej jego wiary, że skoro ENIAC-a stworzyliśmy, to zaraz i z AI-pełną-gębą się uda. Zawsze tak było - alchemicy ledwo podstawy chemii wypracowawszy sądzili, że zaraz sekret transmutacji posiądą i eliksir życia wynajdą; dziewiętnastowieczni łudzili się, iż fizyka zaraz się im domknie; Clarke mniemał, że skoro pierwsze rakiety zbudowaliśmy wnet na Saturna/Jowisza pomkniemy (gorsi od niego autorzy o gwiezdnych imperiach nawet śnili zanim te rakiety z deski kreślarskiej zeszły), Asimov widząc stos atomowy zakładał, że zaraz będziemy nosić takie w klamrze na pasku, itd. I tylko jeden Mistrz wydawał się na to impregnowany - też na swój sposób optymistyczne - "Solaris", "Głos..." i "Fiasko" pisząc, bo rozumiał, iż droga zawsze prowadzi przez ciernie... (Choć GOLEM-owi przypisał czas narodzin iście clarke'owski...)
« Ostatnia zmiana: Czerwca 21, 2022, 02:44:11 pm wysłana przez Q »
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

Lieber Augustin

  • God Member
  • ******
  • Wiadomości: 2422
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #476 dnia: Czerwca 21, 2022, 12:45:07 pm »
Ja rozumiem wszystko.  8)
Szczęściarz, zazdroszczę Ci ;D
Cytuj
Ale chodziło konkretnie o to, że komputer (po dekadach prac i wydanych miliardach) prawdopodobnie nie odróżnia beczki od worka foliowego. A co najmniej ma z tym poważne problemy.
No nie wiem. Jakoś słabo się w to wierzy. Współczesny system facial recognition potrafi rozpoznać twarz poszukiwanego przestępcy w wielotysięcznym tłumie, a cóż dopiero jakąś tam beczkę.
I w ogóle, z tą autonomiczną jazdą podobno nie wszystko jest tak smutne, jak się wydaje na pierwszy rzut oka:
https://automotyw.com/autonomiczna-jazda-czy-to-dziala-kto-bedzie-pierwszy/

Cetarian

  • Full Member
  • ****
  • Wiadomości: 223
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #477 dnia: Czerwca 21, 2022, 01:34:10 pm »
Ja rozumiem wszystko.  8)
Szczęściarz, zazdroszczę Ci ;D
Cytuj
Ale chodziło konkretnie o to, że komputer (po dekadach prac i wydanych miliardach) prawdopodobnie nie odróżnia beczki od worka foliowego. A co najmniej ma z tym poważne problemy.
No nie wiem. Jakoś słabo się w to wierzy. Współczesny system facial recognition potrafi rozpoznać twarz poszukiwanego przestępcy w wielotysięcznym tłumie, a cóż dopiero jakąś tam beczkę.

Kobiety z rowerem nie odróżnił od tła.
To jest fakt.



Hoko

  • Juror
  • God Member
  • *****
  • Wiadomości: 2949
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #478 dnia: Czerwca 21, 2022, 02:10:26 pm »
Współczesny system facial recognition potrafi rozpoznać twarz poszukiwanego przestępcy w wielotysięcznym tłumie, a cóż dopiero jakąś tam beczkę.

problem w tym, ze albo twarz, albo beczke. specjalizacja...  ;D

https://spectrum.ieee.org/ai-failures

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 13369
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #479 dnia: Czerwca 21, 2022, 06:58:53 pm »
Widzę, że darmo zjadłem kiedyś własny krawat jako koszt sprzeczki z Cetarianem, czy samochody są już inteligentne (ja twierdziłem, że nie są i szybko nie będą)...
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).