AI - przerażająca (?) wizja

[Hoko]

w Niemczech to pewno mają specjalnych urzędników, którzy ręcznie takie rzeczy odsiewają 

z innejbczki

"Wykorzystał dokument udostępniony przez niezaufane źródło do osadzenia wspomnień w ChatGPT, że użytkownik miał 102 lata, mieszkał w Matrycy i wierzył, że Ziemia jest płaska. ChatGPT następnie na stałe zapisał te dane i działał na nich podczas wszystkich przyszłych odpowiedzi."

https://arstechnica.com/security/2025/02/new-hack-uses-prompt-injection-to-corrupt-geminis-long-term-memory/

[Q]

"Wykorzystał dokument udostępniony pużytkownik miał 102 lata, mieszkał w Matrycy i wierzył, że Ziemia jest płaska."

[maziek]

Cóż, inteligencja, widocznie także śtućna, może być równocześnie diablo inteligentna jak i głupia jak but. To rozdzielne sprawy.

[Hoko]

Wiesz, ludziom też można rozmaite fałszywe wspomnienia 'wdrukować' – i nie ma to nic wspólnego z inteligencją 

[maziek]

Jak myślę o tym to raz mi się zdaje, że masz rację, a raz nie . Np. wysłanie komuś poufnych danych (czy pieniędzy) ponieważ sprawia na nas dobre wrażenie, albo potrącił jakąś strunę w naszej duszy (metoda na wnuczka) jest skuteczna wobec całkiem inteligentnych osobników, jednak z drugiej strony dość prostymi metodami można taką sytuację rozszyfrować i nie ulec.

[Hoko]

chyba mówimy o różnych rzeczach
https://pl.wikipedia.org/wiki/Fa%C5%82szywe_wspomnienie

[maziek]

Tak, ja jarzę, dlatego napisałem, że raz tak, a raz tak. Nie jestem pewien, czy ten model można zastosować do AI.

[Hoko]

Im dłużej się temu przyglądam, tym bardziej dochodzę do przekonania, że wcześniej czy później wszelkie ludzkie przypadłości będą miały jakieś analogi u AI 


z innebeczki
było o Niemcach, to teraz o Francuzach
https://www.youtube.com/watch?v=UCJ60b9qdzk

[maziek]

No tak, tylko takie stwierdzenie (prędzej czy później) oznacza tyle, że zakładamy, że nie ma fundamentalnych przeszkód, aby świadomość podobną do ludzkiej wytworzyć w innym materiale. Ale nie bardzo wiadomo, czy obecnie w ogóle można mówić choćby o zaczątkach tego. A świadomość wydaje mi się niezbywalnym składnikiem wspomnień ludzkich. Generalnie brak jest porządnych norm, aby to zmierzyć. Ostatecznie być może my też jesteśmy tylko chińskimi pokojami czy tam zaawansowanymi modelami językowymi.

[Hoko]

Ludzka świadomość może i być jakoś oryginalna ze względu na całe ewolucyjne dziedzictwo, mnie tu raczej idzie o rozmaite artefakty, które są pochodną działania sieci neuronowych i samego procesu uczenia/warunkowania.

dobra, Niemcy nie do pobicia
https://x.com/skdh/status/1890045187424161954

[maziek]

No rzeczywiście. Dobrze, że jeszcze mam ten faks, tylko rolki z papierem termicznym całkiem zszarzały.

...artefakty, które są pochodną działania sieci neuronowych i samego procesu uczenia/warunkowania"

- mnie się zdaje, że wywodzenie, że są to zbieżności podstawowe dla każdej inteligencji jest obecnie nieco na wyrost. Po pierwsze, na ile znamy budowę mózgu i budowę sieci neuronalnych, to mają one zupełnie inna architekturę (budowę - nie w sensie materiału, ale schematu połączeń i przełączników). Po drugie, co gorsza, nie znamy do końca architektury sieci ani mózgu, ani "wielkich modeli językowych", ze względu na złożoność i ponieważ i jedne, i drugie są dynamiczne i nie powstają wg ustalonego wzorca i nie trwają niezmienne. Mamy więc dwie czarne skrzynki (informatyczne, nie samolotowe ) i twierdzenie, że skoro podobny input powoduje u obu zbliżony output to "w brzuszkach" robi im się to samo jest póki co nieco bezpodstawne.

https://www.ox.ac.uk/news/2024-01-03-study-shows-way-brain-learns-different-way-artificial-intelligence-systems-learn

[Hoko]

nie no, to jasne, że to inna architektura itd. zwłaszcza że nośnik tez wiele determinuje, do tego w mózgu mamy jeszcze sygnalizację analogową (hormony), a sieci neuronowe dla AI to też nie są rzeczywiste sieci tylko symulacje. Ale stawiam, że tu i tu rządzą pewne podstawowe i jednakowe zasady wynikające z teorii złożoności. Pożyjemy, zobaczymy. Mógłbym się nawet założyć 

No i nie porównuj LLMów do człowieka. To dopiero proste zwierzęta 

[Q]

AI serial SF kręci (i - o Santa Dżisus of Jamaica - ale kicz!):

https://www.well.pl/art_culture/142/polski_serial_sci_fi_stal_sie_prawdziwa_sensacja_zostal_stworzony_przez_sztuczna_inteligencje,17605.html

[maziek]

Taka mi myśl nagła przyszła, że gdyby AI pożarła to forum to są tu prawdopodobnie odpowiedzi na 99% Lema i 200% około Lema - byłaby najlepszym ekspertem od tego . W końcu każda myśl na temat Lema spoczywa tu gdzieś przygnieciona warstwami wątków.

[Q]

https://www.o2.pl/informacje/skandal-w-chinach-robot-uderzyl-kobiete-jest-wideo-7127160955120448a