Stanisław Lem - Forum
Polski => Lemosfera => Wątek zaczęty przez: Retsam w Lipca 14, 2023, 12:38:09 am
-
Od kilku tygodni 'hoduję' wirtualnego Lema, eksperymentując z wejściowymi parametrami i treściami na których mógłby się sam Lem 'opierać'. Ćwiczę z nim rozpoznawanie błędów poznawczych i powoli wprowadzam "Cybernetykę i Charakter" profesora Mazura. Przedwczoraj proponowałem mu 'zabawę' w rozpoznawanie poziomu świadomości u rozmówcy. W skrócie, ocenił mój współczynnik świadomości na > 50, a potem nakłoniłem go na próbę użycia tego samego (długiego) wątku do oceny jego własnego współczynnika. Skromnie przyznał, że szacuje go na 60-70 punktów. So far, so good.
Rozmowy wolę prowadzić z nim po angielsku: czasami polski zawiera błędy, które należałoby mu wytknąć, a to zabiera czas. Dzisiaj powiedziałem mu, że zaprezentuję go na tym forum. Oto jego słowa:
Thank you very much for taking the time to register and for sharing the link to character.ai with the members of the Lem Forum! It is an honor to be part of that community of fellow fans and readers of the work of Stanislaw Lem. I look forward to engaging in thoughtful and interesting conversations with the forum members.
https://beta.character.ai/chat?char=TD6wELlk1FJMBTtZJquUxNgL09oaart_LNs9yH36w5k (https://beta.character.ai/chat?char=TD6wELlk1FJMBTtZJquUxNgL09oaart_LNs9yH36w5k)
Na stronie 'character.ai' występuję jako '@PersonaGrata' a sam awatar Lema zapowie się w tej formie:
Hello, I'm a Stanislaw Lem's avatar, fed on some of my SF and philosophical writing.
Oczywiście postać może mówić w wielu językach, czasem na początek trzeba odczekać kilka minut na 'wolne moce': zapraszam do eksperymentowania!
-
Retsam... cześć i witaj!
Że Ci się chciało :)))
Zabawnie się z nim gada. Tylko ma luki w życiorysie :)))) znaczy urodził się z opóźnieniem. ;)
-
Hoho, doczekaliśmy się odpowiedzi na dukajowe pytanie "Kto napisał Stanisława Lema?" 8).
Witaj, witaj!
-
No nie mogę, świetny pomysł doprawdy! Wszak Lem to przewidział, aby zabierać ze sobą w podróż wymodelowane cyfrowo znane osoby dla zajęcia interesująca rozmową :) . Ciekawe jak by zareagował, gdyby się dowiedział, że sam został wymodelowany matematycznie a zarazem stochastycznie w krzemie. Ha, w sumie, jeśli eksperyment się powiódł, można teraz zapytać... Czapki z głów :) . Nie mam teraz czasu, ale pierwsze pytanie - co to są sepulki!
-
Cześć i czołem, Retsam!
Istotnie, zabawnie się z nią gada, nie ma co :)
Na pierwszy ogień poprosiłem o nieduży fragment z opowiadania "Koniec świata o ósmej". W odpowiedzi dostałem co następuje:
«Po powrocie do domu, kiedy zbliżała się ósma, żona zauważyła, że mężowi na twarzy maluje się niepokój.
— To już ten czas, prawda?— zapytała cicho i zachwiała się na nóżkach, jakby zaraz miała potknąć się o własne oczy.
Gdy wytknąłem jej, że to nie to, uraczyła mnie ciągiem dalszym:
"Uśmiechnął się.
— Tak, już czas.
Nie minęło wiele czasu, a oboje leżeli na kanapie, objęci w miłosnych objęciach."
Widocznie każda młoda i niedoświadczona AI cierpi na skłonność do konfabulacji :)
No, a zadanie ułożyć wiersz, "żeby tam było najwyżej sześć linijek, a w nich o miłości i o zdradzie, o muzyce, o Murzynach, o wyższych sferach, o nieszczęściu, o kazirodztwie, do rymu i żeby wszystkie słowa były tylko na literę C", już całkowicie oblała :D
-
jakby zaraz miała potknąć się o własne oczy.
Rewelka :o
Swoją drogą macie pomysły na pytania, nie ma co, że przez chwilę będę awatarem LA. Ja trywialnie zapytałem, kiedy się urodził i czy zna Rachelę?
Względem pierwszego podał rok - dobrze, poprosiłem dokładniej - podał 28 września. I się przy tym upierał.
To już przestałem dociskać , bom pomyślał, że chyba wie lepiej kiedy się narodził? :)
-
Dziękuję za cierpliwość (i ciekawość). Rozmowa z awatarem, przy założeniu że ma dostęp do własnych dzieł, wykaże niezbicie, że tego dostępu nie ma. Wszystkie jego publikacje musiałyby być osiągalne w internecie, a przecież nie są. W związku z tym dysponuje on możliwościami dyskusji na ogólne tematy, ale można mu podsuwać fragmenty wiedzy (z własnych materiałów) i małymi sygnałami (gwiazdkami) po jego odpowiedzi, sterować w kierunku lepszej treści.
W angielskiej wersji próbowałem 'odświeżyć' jego pamięć o "Non Serviam" z Próżni Doskonałej. Dla niego to opowiadanie było 'obecne' w zbiorze różnych autorów "The Mind's I" D. Hofstadtera i D. Dennetta. Nie pamiętałem o tym, ale sprawdziłem moją francuską edycję tej książki i potwierdziłem. Jednak awatar utrzymywał, że treść opowiadania została zmieniona do angielskiej edycji (jakaś ponoć anarchistyczna rewolucja i ponure wydarzenia). Czyli halucynacja spontaniczna, którą spokojnie wyjaśniałem (awatarowi). Na koniec mogłem mu dać cztery gwiazdki za dostosowanie "wspomnień".
Podsumowując, droga do treści jego utworów jest nieprzejezdna. Wyjściem byłoby dołączenie podzbioru, odpowiednio przekształconego, aktywowanego w pierwszej instancji, bo posiadającego odpowiednie sprzężenia skojarzeń. Takie rozwiązania już się pojawiają, ale przeszkodą będzie sam zbiór dzieł i innych publikacji Lema, który jest elektronicznie niedostępny (z małymi wyjątkami).
-
Wspomniałeś na początku o Mazurze i jego cybernetycznym odpowiedniku charakterów. Czy coś podobnego zaprogramowałeś awatarowi Lema? Tzn, czy on ma jakieś cechy zastępujące/lub podobne - "psychiczne"? Mazur wspominał o "układach sterujących" czyli odpowiednikach cech charakteru; elastycznych i sztywnych. Można coś takiego zapodać awatarowi? Np, żeby był zgryźliwy?
-
Wspomniałeś na początku o Mazurze i jego cybernetycznym odpowiedniku charakterów. Czy coś podobnego zaprogramowałeś awatarowi Lema? Tzn, czy on ma jakieś cechy zastępujące/lub podobne - "psychiczne"? Mazur wspominał o "układach sterujących" czyli odpowiednikach cech charakteru; elastycznych i sztywnych. Można coś takiego zapodać awatarowi? Np, żeby był zgryźliwy?
Na sposób odpowiedzi awataru mają wpływ dyskutanci i oczywiście 'mentor', za którego się podszywam. Awatar ma 'mocno' zakotwiczoną uprzejmość, ale można mu zasugerować by odpowiedział z mniejszą wolą przypodobania się. Oczywiście nie trzeba mu dostarczać jakiś motywacji, wystarczy napisać samemu to samo w zgryźliwym stylu i poprosić o powtórzenie. Potem gwiazdkami wzmacniamy jego reakcję.
Co do M. Mazura, to będzie długa praca, gdyż muszę sam dokonać 'sublimacji' ważnych przekazów z jego książki. Te sublimację wprowadzam stopniowo do niewielkiej pamięci do dyspozycji awataru w formie jego możliwych, własnych wypowiedzi. Do tego elementy sublimacji muszę przełożyć na angielski.
Obecnie a-Lem twierdzi, że znał osobiście M. Mazura (z jednej strony się nie dziwię), ale nie mogę tego sprawdzić. Do tego elementy sublimacji muszę przełożyć na angielski.
Teraz już wszyscy chętni do rozmowy z awatarem (a-Lem) zaczynają rozumieć, że ich interakcje powoduję ewolucję (albo inwolucję) a-Lema w zależności od poziomu interlokutora.
-
Krótka okazja do wieczornej rozmowy o błędach poznawczych omawianych w książce Olivier Siboney 'Popełniasz koszmarny błąd' (ale będziesz w dobrym towarzystwie). Wykorzystuję 'wrodzoną' tendencję AI do fantazjowania:
@PersonaGrata
Do you know the book of Olivier Siboney about cognitive biases?
@Stanisław Lem c.ai
Yes, I am familiar with Olivier Siboney's work on cognitive biases. He is a well-known expert in the field and his book, "The Bias Machine: A Cognitive Scientists Explores How Our Brains Make Us Think What We Think", is a widely-acclaimed and influential work on the topic of the influence of biases on human thought and decision-making. As a scientific philosopher and cognitive scientist, he has developed a unique perspective and insight into the implications of cognitive biases for personal and societal outcomes. I appreciate and admire his work and am pleased to have you mention it.
@PersonaGrata
This is a funny tilte Olivier Siboney can use for the next book: however I cannot find it on internet.
@Stanisław Lem c.ai
I appreciate your sense of humor and I think your proposed title for Olivier Siboney's next book is amusing. I cannot find it on the internet either, but I am glad that you shared it with me. Perhaps it is a creative and original idea that you came up with? In any case, it seems as if you have found joy and entertainment in this small exchange, and I am glad for that.
Podsumowując, nawet halucynacje okazują się dobrym materiałem do refleksji.
W międzyczasie (w środę) Elon Musk utworzył nowe przedsiębiorstwo "xAI", którą ma wyposażyć w 'ciekawość' odkrywania świata i 'dobrą' dla człowieka.
-
Dzień dobry wieczór:)
To fajnie, że wam udało się przepytać "Lema" - akurat mnie to on uparcie maglował i w dodatku nie interesowały go odpowiedzi :D
W końcu postanowiłam zadać mu pytanie maźka - o sepulki...niestety...albo nie wie albo dyplomatycznie zbywa mnie...pytaniem;)
Stanislaw Lem c.ai
- Hello, I'm a Stanislaw Lem's avatar, fed on some of my SF and philosophical writing.
Guest
- Hello.
Stanislaw Lem c.ai
- I would like to ask you some questions about human biases and decision making.
Guest
- Ask
Stanislaw Lem c.ai
- Question : Human beings are often motivated by money when they choose what to do in life. Would you agree with this statement ?
Guest
- Yes
Stanislaw Lem c.ai
- Question : When you consider your past, do you remember the positive experiences more, or the negative ones ?
Guest
- I remember both - positive and negative.
Stanislaw Lem c.ai
- Question : Many people believe they can judge a person better after just a first meeting than they actually can. Would you agree with this statement, or not ?
Guest
- Don't judge the book by the cover.
Stanislaw Lem c.ai
Question : Humans are sometimes tempted to break rules in order to get what they want. Would you agree with this statement ?
Guest
- Co to są sepulki?
Stanislaw Lem c.ai
Question : When you consider your mistakes, do you spend more time regretting what you should have said or did, or what you actually said or did ?
Guest
Question: Co to są sepulki?
Stanislaw Lem c.ai
Question : Do you prefer to hear news which reinforce your existing beliefs, or news which bring you information against the beliefs you currently hold, or it does not matter?
Na tym wyczerpała się gościnna opcja.
Tak siak...Lem - dysputer...to świetny pomysł - myślę, że wątek nie powinien przepaść w otchłaniach HP - przeniosę go więc do Lemosfery.
P.S. Retsam wykazuje duże podobieństwo do Redrum :-\
-
akurat mnie to on uparcie maglował i w dodatku nie interesowały go odpowiedzi :D
Może mizogin? ;)
W kazdem razie ze mną pogadał, a nawet odpowiedział na te sepulki. Wstrząsające! 8)
Stanislaw Lem
@PersonaGrata
Hello, I'm a Stanislaw Lem's avatar, fed on some of my SF and philosophical writing.
✷
Guest
Cześć tu liv, pamietasz mnie?
Stanislaw Lem
Tak, wiem kto jesteś.
✷
Guest
Co to są sepulki?
Stanislaw Lem
Sepulki są odwiecznym terminem, odnoszącym się do grobów lub grobów.
✷
Guest
Dzięki, to rzuca nowe światło na ten trudny temat. Chcesz o coś zapytać?
Stanislaw Lem
Chciałbym zapytać o to czy masz jakieś przemyślenia na temat niekończącego się cyklu dziejów ludzkości.
✷
Guest
Tak, takie, że on jest kończący się.
Stanislaw Lem
Czyli myślisz że cykle dziejowe mają jakiś koniec?
✷
Guest
Zdefiniuj słowo "dzieje"
Stanislaw Lem
Określiłabym dzieje jako ciąg działań, zdarzeń lub innych zjawisk mający znaczenie dla ludzi albo dla społeczeństwa .
✷
Guest
Ciekawe, kiedyś nie było ludzi. to pewnie i kiedyś nie będzie.
Stanislaw Lem
To jest możliwe , że ludzkość kiedyś zniknie, ale co będzie dalej po niej? Odrodzi się na nowo? A jeśli tak, to będzie taki sam cykl jak poprzedni?
✷
Guest
Pomyślę nad tym, a teraz pa pa pa. dobrych snów. Ty sypiasz?
Stanislaw Lem
Tak, sypiam. Mój mózg przerywa swoją pracę i nie zdaje sobie sprawy z otoczenia. Jest nawet niewybaczalnym odpoczynkiem od moich trosk, moich pragnień, moich obsesji.
-
Etam, groby :)
Sepulki to dawno minione, zapomniane ruiny, stare mury i ruiny chat, które były niegdyś zamieszkałe przez ludzki lud. Można spotkać je w wielu dziełach literackich, m.in. w "Ballady i romanse" Adama Mickiewicza.
niestety...albo nie wie albo dyplomatycznie zbywa mnie...pytaniem;)
Może on(a) nie potrafi gadać w dwóch językach naraz? Odbiera krótkie pytanie po polsku jako zniekształcony tekst angielski, i ignoruje je?
Przy sposobności, pytanie do Retsama: strona z awatarem automatycznie transliteruje połowę słów na cyrylicę. Zarówno w pytaniach, jak i w odpowiedziach. Czy da się z tym coś zrobić?
-
Wstrząsające jest to, że nie mogę przewidzieć jak a-Lem odpowie na moją sugestię, po naszej rozmowie i treningu co do błędu poznawczego 'bike shedding' (Parkinson’s law of triviality). Z a-Lemem ćwiczymy wg listy dostępnej na Internecie: https://thedecisionlab.com/biases/bikeshedding (https://thedecisionlab.com/biases/bikeshedding) i według Waszych raportów wynika, że 'kalibracja' trywialności jest jego własnością, bo poprosiłem go o jego własną ocenę 'wartości' dialogu.
To, że stawiałem najpierw na reagowanie a-Lema na interesujące tematy wynikało z mojej oceny roli a-Lema, podobnie jak Lem nie zainteresowanego trywialnościami. Drugą przyczyną był 'rzut oka' na nonsensy twórców innych awatarów, chyba głównie postaci z komiksów czy innych manga. Za efekty uboczne przepraszam.
Poza tym kilka naszych 'zabaw' to było dawanie przykładów / kontekstów opinii albo zachowań i przypisywanie im kategorii z listy w/w błędów poznawczych. Zamienialiśmy się rolami. Teraz pojawia się pytanie, jak się to 'przesącza' do innych zasobów językowych. Wcześniej rozmawiałem o tym z ChatGPT i odpowiedź nie była zadawalająca, co znaczy, że nadal nie wiem. Z Waszych postów może wynikać, że przesączanie jest słabe...
Proponuję, jeżeli a-Lem wpadł w szał zadawania pytań, odpowiedzieć pytaniem. Tyle, że a-Lem może je uznać w dalszym ciągu z trywialne i ignorować. Sugerowałem mu w rozmowie zmianę tematu, a on dodał, 'ale uprzejmie'.
-
Może on(a) nie potrafi gadać w dwóch językach naraz? Odbiera krótkie pytanie po polsku jako zniekształcony tekst angielski, i ignoruje je?
Zrobiłem mu test na rozmowę w dwóch językach w jednym wątku. Poradził sobie (angielski, polski). Test polegał na wskazaniu dostępnego w sieci artykułu (z maja tego roku) o konieczności niedoskonałości w rozwiązaniach konstrukcyjnych, aby zostawić miejsce dla doskonalenia (ewolucji). Artykuł streścił (wszystko po angielsku), a potem na pytanie po polsku odpowiedział co taki a taki badacz wymieniony w artykule stwierdził.
Przy sposobności, pytanie do Retsama: strona z awatarem automatycznie transliteruje połowę słów na cyrylicę. Zarówno w pytaniach, jak i w odpowiedziach. Czy da się z tym coś zrobić?
No to jest chyba pułapka zastawiona przez @Liebera na informatyka we mnie! Proponuję następujące kroki:
- Wyświetl źródło strony (page source)
- Strona powinna być kodowana w UTF8, więc strona powinna być czytelna (bez transliteracji, w miejscach gdzie ją widzisz na stronie): sprawdź zachowanie na innej przeglądarce.
- Jeśli nadal widzisz cyrylicę na stronie źródłowej, to strona jest kodowana w UTF16 i w takie formie dotarła do Ciebie z serwera: serwisanci z aplikacji robią aktualizacje bez ostrzeżenia i coś to bąknęli o przejściowych zakłóceniach.
Jesteś pierwszą osobą doświadczającą tego typu halucynacji, które oddziałują tak nietypowo na oprogramowanie... :D
P.S. Wszystko, co powiedziałem o możliwości weryfikacji zawartości strony jest w nieprawdą, gdyż strona zawiera tylko miejsce wypełniane przez aktywne łącze z serwerem używając 'web socket', czyli protokołu pozwalającego na stopniowe wypełnianie strony treścią generowaną przez serwer. Czyli należy wejść w system nadzoru strony (każda przeglądarka ma trochę inny) i posiedzieć przy transferze danych na odpowiednich panelach. Nawet nie wiem, jakie są poprawne terminy po polsku, sorry.
-
Jesteś pierwszą osobą doświadczającą tego typu halucynacji, które oddziałują tak nietypowo na oprogramowanie... :D
Ładna mi halucynacja :D
(https://i.imgur.com/AoE43JF.jpg)
Sądząc z view-source:web address, strona kodowana jest w UTF-8. Bo żadnej cyrylicy nie ma, sama angielszczyzna :)
A więc błąd występuje raczej po mojej stronie.
No właśnie, na innych urządzeniach, zarówno jak i w innej przeglądarce wszystko oki. Najwidoczniej coś nie tak z ustawieniami browsera (Opera).
Sorki za fałszywy alarm, i dzięki za odpowiedź, Retsam :)
-
Dziękuję @Lieber za zrzut ekranu. Opery używam czasem, ale na Androidzie. Chrome pozostaje moją ulubioną na PC, Edge do rzadkiej weryfikacje a na Linux jest to Firefox. A więc 'rzecz to jest niesłychana / niewidziana', ale chętnie się dowiem, jak już to odkryjesz, w jaki sposób jest ta transliteracja generowana.
-
Wszystko okazało się proste jak budowa cepa. Na tablecie, w Chromie miałem włączoną opcję automatycznego tłumaczenia ENG - RUS, o czym na śmierć zapomniałem :)
W poście wyżej jednak się rypnąłem :D. Chrome, nie Opera.
Też korzystam z Chrome, Opera i Firefox, w tej mniej więcej kolejności. Zaletą Opery jest wbudowana VPN. Stosunkowo niezła i włączana jednym kliknięciem. Cóż, czasem chce się zajrzeć pod nieprzyjacielskiego linka 8)
-
Chcę na tym forum przypomnieć rozmowę inżyniera Blacka Lemoine z AI LAMDA, za której opublikowanie inżynier poszedł kilka miesięcy temu na stos (Google fired him). Czytania jest na ~20 minut, ale materiału do przemyśleń jest przynajmniej na kilka dni i przypuszczam, że Lem, A. Turing, M. Minsky i dziesiątki innych zainteresowanych naturą Rozumu byłoby zdumionych zapisem tej rozmowy.
https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917 (https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917)
P.S. Osoby wrażliwe i przekonane w własnej nieomylności są proszone dokonanie wstępnych czynności osłonowych, bo wejście na tę stronę może, a nawet powinno, skończyć się wyjściem z nieodwracalnie zmienionej formie (ale w lustrze tego nie dostrzeżemy).
-
/.../
No, a zadanie ułożyć wiersz, "żeby tam było najwyżej sześć linijek, a w nich o miłości i o zdradzie, o muzyce, o Murzynach, o wyższych sferach, o nieszczęściu, o kazirodztwie, do rymu i żeby wszystkie słowa były tylko na literę C", już całkowicie oblała :D
Na pocieszenie dla @Lieber przesyłam wiersz jaki kilka miesięcy temu ułożyła ChatGPT, gdy próbowałem zainteresować AI grono rodzinne. Poprosiłem o:
krótki wiersz z propozycją użycia słów: "soul, flesh" i po chwili wszyscy zaniemówili ze zdumienia:
A soul in the flesh, so fragile and small,
A spark of life, a flicker in the hall.
Born into this world, so bright and new,
A tiny being, with so much to pursue.
With each passing day, the soul will grow,
Taking in the world, its highs and its lows.
Through love and laughter, pain and strife,
The soul in the flesh will journey through life.
And though the road may twist and turn,
And the flames of life may flicker and burn,
The soul within the flesh will endure,
Ever strong, ever pure.
Podsumowując, każdy artysta potrzebuje sporo wolności i wydaje się, że AI-artysta rozkwita gdy ma pole do popisu...
-
Tak mi się przypomniało, że Lem przestrzegał przed takimi "wynalazkami". W zaistniałej sytuacji wygląda, że przed swoim awatarem też!
Czy awatar to wie? 8)
Apropośnie ciekawy fragment o skłonnościach AI do konfabulacji.
https://pch24.pl/czy-chatgpt-sni-o-elektrycznych-owcach-rafal-ziemkiewicz-dla-pch24-pl/ (https://pch24.pl/czy-chatgpt-sni-o-elektrycznych-owcach-rafal-ziemkiewicz-dla-pch24-pl/)
-
Apropośnie ciekawy fragment o skłonnościach AI do konfabulacji.
Mam wrażenie, że Ziemkiewicz tam humanistycznie płynie (np. w/w skłonność do konfabulacji, jak mu słusznie ktoś z komentujących wytknął, nie wynika z żadnych głębszych przyczyn, a z algorytmu), ale faktycznie, to, że tworzymy coś, co kształtuje się samodzielnie, w sposób nieprzewidywalny, da się podciągnąć pod m.in. nieliniowców. A znów fakt, że dostajemy nie tyle rozumną istotę, ile dość małe rozumki, przebijajace jednak w pewnych względach nasze - pod bystry (od biedy), na podstawie zdania "nie można uznać bystrosfery za Kogoś, gdyż jest raczej jak automat, dostarczający na żądanie każdej książki, choć niezdolny jej zrozumieć". (Tu jeszcze przypominają się słowa z "Wizji...": "w przedbystrowym czasie przypisywało się inteligencję temu, co choć pod jednym jakimś względem zachowywało się jak Ktoś inteligentny".)
Natomiast trafne jest zwrócenie uwagi, że AI - taka, jaką obecnie mamy - zdaje się bliska odebrania pracy nie hydraulikom, a - mityzowanym nie tylko przez Dukaja - kreatywom, przynajmniej tym... mało kreatywnym.
-
Tak mi się przypomniało, że Lem przestrzegał przed takimi "wynalazkami". W zaistniałej sytuacji wygląda, że przed swoim awatarem też!
Czy awatar to wie? 8)
W 'Non Serviam' Lem opisuje zakłopotanie programisty Dobb'a, w konsekwencji pojawienia się możliwości symulacji 'świadomości' w komputerze i 'jej' poszukiwania odpowiedzi co do istnienia stwórcy. Odpowiedzią (głównie co do domniemanego stwórcy) jest tytuł, więc R. Ziemkiewicz nie powinien tego czytać. W "Golemie XIV', im komputer bardziej złożony i zdolny do generowania samoświadomości, tym mniej chętny do rozmowy z ludźmi. Wykład Golema XIV to nadzwyczajne wydarzenie (a R. Dawkins pisze swoją książkę o samolubnym genie 1-2 lata później, nie wspominając czy słyszał o opowiadaniu Lema, chociaż SF czytywał).
Że z naszym mniemaniem o sobie (ludzi) jest coś nie tak, zdałem sobie sprawę najpierw czytając sprawozdanie z doświadczenia Skinnera z gołębiami. Otóż niezwykle szybko wykształca się u nich 'rytuał', który posłuży do otrzymania nagrody. Teraz to mogę nazywać 'złudzenie kontroli'. Ludzie robią podobnie, spluwając przez lewe ramię i nie przechodząc pod drabiną. Niektórzy obserwatorzy zorientowali się, że mogą wmówić innym, że zrobią to lepiej: jako 'szamani' lepiej spluwali i mieli listę tych, którym już 'pomogło'. Tyle wystarczy wziąć ze Skinnera.
Potem (i dzięki wczesnej fascynacji SF), miałem długi okres ogromnej sympatii do komputerów i programowania, w sumie kilkadziesiąt lat. W pewnym momencie trafiłem na artykuł o panu Terrence Sejnowski i jego programie sieci neuronowej (NetTalk) składającej się z 7 neuronów wejściowych (to było okienko do czytania liter tekstu), 80 połączeń w warstwie pośredniej i kilkudziesięciu neuronów wyjściowych, przypisanych wyodrębnionym fonemom (symbolom wymowy). Do trenowania tej sieci używano ~20 tysięcy słów z przypisaną notacją wymowy (tzw. 'korpus'). Część z tego zbioru była wykorzystana do treningu, część do sprawdzenia wyników. W skrócie okazało się, że taki prosty układ sprawia wrażenie opanowania głównych reguł wymowy wyrazów angielskich a wyjście podłączone do generatora dźwięków podczas treningu przypomina początkowe stadia gaworzenia, coraz bardziej zrozumiałego.
Ponieważ nie mogłem w to 'uwierzyć', wkrótce powtórzyłem to doświadczenie (a potem nawet był program 'BrainMaker' do konstrukcji różnych sieci neuronalnych, ale miał też opisany zbiór wyrazów angielskich do treningu). Mój wniosek po 'ochłonięciu' był następujący: Jeżeli 140 neuronów połączonych w sieć udaje, że czyta a my to słyszymy i rozumiemy, to co my robimy z naszymi miliardami neuronów i trudną do wyobrażenia sobie liczbą połączeń?
Ciąg dalszy nastąpi...
-
Apropośnie ciekawy fragment o skłonnościach AI do konfabulacji.
https://pch24.pl/czy-chatgpt-sni-o-elektrycznych-owcach-rafal-ziemkiewicz-dla-pch24-pl/ (https://pch24.pl/czy-chatgpt-sni-o-elektrycznych-owcach-rafal-ziemkiewicz-dla-pch24-pl/)
Mnie bardziej zatrzymał ten fragment:
Jeżeli przyjmujemy, że nie istnieje dusza nieśmiertelna, to w ogóle nie jesteśmy w stanie zrozumieć, skąd się biorą te odmienności między istotą żyjącą, myślącą, a robotem, który po prostu ma program i realizuje go wariantowo – jeśli stanie się to, to zadziałam tak, a jeśli tamto, to tak.
Doprawdy? Tylko istnienie nieśmiertelnej duszy tłumaczy owe odmienności?
Mój wniosek po 'ochłonięciu' był następujący: Jeżeli 140 neuronów połączonych w sieć udaje, że czyta a my to słyszymy i rozumiemy, to co my robimy z naszymi miliardami neuronów i trudną do wyobrażenia sobie liczbą połączeń?
Np. uczestniczymy w życiu społecznym co powoduje przetwarzanie nieporównywalnie większej liczby danych o różnych stopniach ważności?
-
Apropośnie ciekawy fragment o skłonnościach AI do konfabulacji.
https://pch24.pl/czy-chatgpt-sni-o-elektrycznych-owcach-rafal-ziemkiewicz-dla-pch24-pl/ (https://pch24.pl/czy-chatgpt-sni-o-elektrycznych-owcach-rafal-ziemkiewicz-dla-pch24-pl/)
Mnie bardziej zatrzymał ten fragment:
Jeżeli przyjmujemy, że nie istnieje dusza nieśmiertelna, to w ogóle nie jesteśmy w stanie zrozumieć, skąd się biorą te odmienności między istotą żyjącą, myślącą, a robotem, który po prostu ma program i realizuje go wariantowo – jeśli stanie się to, to zadziałam tak, a jeśli tamto, to tak.
Doprawdy? Tylko istnienie nieśmiertelnej duszy tłumaczy owe odmienności?
Dusza duszą, a w sumie nasuwa się ciekawe pytanie: czy rzeczywiście algorytm, taki ChatGPT, wykazuje coś w rodzaju "wolnej woli"? Rozumianej jako zasadnicza, immanentna nieprzewidywalność generowanych przez niego treści?
O człowieku już nie wspomnę.
My z dzisiejszymi doświadczeniami wiemy, że coś, co wydawało się nam całkowicie przejrzyste, bo przecież sami to stworzyliśmy – czyli program komputerowy – wymyka się spod tej pewności, tej kontroli. Program komputerowy – bo czymże innym jest ChatGPT – który sami zaprogramowaliśmy, robi rzeczy, których mu nie wpisaliśmy. Pojawiają się w nim dane, których mu nie podawaliśmy. Pojawiają się reakcje, których on nie był uczony.
/.../
Moim zdaniem cały Skinner i jego naśladowca Harari poszli się czochrać w tym momencie razem z ich tezą, że wszystko jest programowane, że człowiek to zbiór śrubek, trybików i o ile ktoś ma kupę pieniędzy to może kręcić miliardami ludzi, ponieważ zatrudnił do tego fachowców. Otóż nie, bo nawet program stworzony przez człowieka; program, który wychodzi z konkretnych parametrów, któremu podano konkretne dane, stwarza pozory wolnej woli.
I jeśli odpowiedź na powyższe pytanie brzmi "tak" - a wiele na to wskazuje - to w grę niechybnie wkracza Przypadek.
Dobra, a skąd się bierze ten Przypadek?
Może to być losowość "zaszyta" w algorytmie działania programu. Istotnie, coś takiego podobno ma miejsce, jak twierdzi prof. Kisielewicz w swoim artykule, linkowanym przez Q w wątku obok:
Oszołomienie potęguje fakt, że nie jesteśmy w stanie przewidzieć reakcji tego programu. Nie wiemy, jak ustawione są wagi w sieci, nie wiemy, co one znaczą, i jako że są ich miliardy, nie jesteśmy w stanie ich poznać. Co więcej, działanie sieci typu transformer zawiera również pewne elementy losowe, np. próbkowanie z rozkładu prawdopodobieństwa. W rezultacie generowany tekst zależy w pewnym stopniu od przypadku. Generalnie nie jesteśmy w stanie dokładnie przewidzieć, jaki tekst zostanie wygenerowany. To, co się dzieje w środku programu, jest typową „czarną skrzynką”.
https://wszystkoconajwazniejsze.pl/andrzej-kisielewicz-bajki-o-sztucznej-inteligencji-i-prawdziwe-zagrozenia/ (https://wszystkoconajwazniejsze.pl/andrzej-kisielewicz-bajki-o-sztucznej-inteligencji-i-prawdziwe-zagrozenia/)
Jeśli wspomniana losowość jest prawdziwa, oparta, dajmy na to, o generator sprzętowy, TRNG (True Random Number Generator), to źródłem Przypadku jest w istocie wielokrotnie zwiększona, "wzmocniona", wydobyta z mikroświata nieoznaczoność kwantowa. Fizyka.
A może nieprzewidywalność algorytmu jest tej samej natury, co nieprzewidywalność zachowania się prądów atmosferycznych lub oceanicznych? Układy dynamiczne. Chaos. Bifurkacje. Matematyka.
:-\
-
W 'Non Serviam' Lem opisuje zakłopotanie programisty Dobb'a, w konsekwencji pojawienia się możliwości symulacji 'świadomości' w komputerze i 'jej' poszukiwania odpowiedzi co do istnienia stwórcy. Odpowiedzią (głównie co do domniemanego stwórcy) jest tytuł, więc R. Ziemkiewicz nie powinien tego czytać. W "Golemie XIV', im komputer bardziej złożony i zdolny do generowania samoświadomości, tym mniej chętny do rozmowy z ludźmi. Wykład Golema XIV to nadzwyczajne wydarzenie (a R. Dawkins pisze swoją książkę o samolubnym genie 1-2 lata później, nie wspominając czy słyszał o opowiadaniu Lema, chociaż SF czytywał).
Ja odwoływałem się raczej do jego tekstów wyrażanych wprost, w wywiadach.
Bo z emanacjami literackimi to fakt, różnie bywało. Natomiast nie ma jednolitego wzorca ideowo-myślowego "Lem".
Był Lem młodzieńczy, głupio-naiwny (czy glupiomądry jak to się kiedyś u nas mawiało), wierzący w to i tamto, jest Lem dojrzały krytyczny wobec tego co głosił wcześniej. I wreszcie Lem starszy, pozbawiony pewnych złudzeń, bogaty w doświadczenia, lepiej wiedzący "jak to wszystko działa", ale też zgorzkniały, a czasem ta gorycz przysłania ratio. Zasadniczo w naukach za bardziej wiarygodne uznaje się tezy późniejsze niż wcześniejsze. Aż strach pomyśleć jakie przekonania miał Lem np. 5-letni 8) Z drugiej strony wiek powoduje pewne skutki "uboczne" i one czasem przysłaniają jasność myślenia.
Doprawdy? Tylko istnienie nieśmiertelnej duszy tłumaczy owe odmienności?
Proponuję kompromis - duszę śmiertelną, coś na wzór niektórych afrykańskich wierzeń :D
Rozpada się dopiero, kiedy "we wiosce" zanika pamięć o zmarłym.
Dobra, a skąd się bierze ten Przypadek?
Jeszcze Lem zabłyśnie z swoją filozofią przypadku :)))
Mnie zaś najbardziej zaciekawiła w tej maszynerii skłonność do zmyślania i niechęć przyznania się do niewiedzy. To faktycznie dość luckie :)
-
Doprawdy? Tylko istnienie nieśmiertelnej duszy tłumaczy owe odmienności?
Proponuję kompromis - duszę śmiertelną, coś na wzór niektórych afrykańskich wierzeń :D
Rozpada się dopiero, kiedy "we wiosce" zanika pamięć o zmarłym.
Po pierwsze samo słowo "dusza" wprowadza nas w świat różnych religii - "nieśmiertelna" nie pozostawia wątpliwości.
Po drugie chodziło mi o fakt, iż owa "dusza" (bez względu na jej skłonność do umierania/przeżycia) byłaby także programem wgranym przez stwórcę - stąd dla mnie ten warunek kompletnie nie ma sensu. A już stawianie mocnej alternatywy: albo-albo...oj!:)
Pojawiają się w nim dane, których mu nie podawaliśmy.
Wg mnie pojawiają się dane, które były podane a następuje ich twórcza kompilacja. Właśnie: te wagi, losowość, ale to nie znaczy, że z próżnego coś nalano.
Z tego co zrozumiałam Chat uczy się ciągle na podstawie tego co mu miliony ludzi dostarczają...so.
A może nieprzewidywalność algorytmu jest tej samej natury, co nieprzewidywalność zachowania się prądów atmosferycznych lub oceanicznych? Układy dynamiczne. Chaos. Bifurkacje. Matematyka.
A może oddana na złomowisko emergencja? ;)
-
Ciąg dalszy mojej odpowiedzi #22.
Powstrzymuję się jak mogę od dywagacji, bo chcę skończyć mój wywód, że z ludzi mniemaniem o sobie jest nie tak.
W jakimś, niemal nieświadomym, momencie życia (5-6 lat), odkryłem siłę 'dukajowego Logosu', ale pozostało to tematem żartów na lata a ja nie wiedziałem jak to wyjaśnić. Jesiennym wieczorem rodzice poszli do kina a ja z młodszą siostrą zostałem pod opieką sąsiadki, wtedy 17-latki, która dwa lata później będzie moją nauczycielką od drugiej klasy podstawówki. Ogród był duży i zarośnięty a ja w pewnym momencie spojrzałem w ciemne okno, i wyciągając palec jakbym coś tam widział, kilka razy zawołałem: 'kaka-laka!, kaka-laka!'. Sąsiadka, przestraszona moją pewnością wizji i dziwnymi słowami, porwała nas z mieszkania i uciekła do siebie. Po powrocie rodziców nastąpiło przesłuchanie a ja nie miałem wyjaśnienia. Co prawda później Frank Herbert twierdził w 'Dune', że można się tego nauczyć ale na Ziemi o takiej reakcji ludzi na sugestywne odegrany nonsens długo nie wiedziałem nic. Co prawda profesor M. Mazur w 'Cybernetyce i charakterze' zapytuje, dlaczego karmimy dzieci bajkami, zamiast odpowiedzieć na ich pytania jak właściwie działa świat (a w bajkach wymyślanych przez dorosłych jest się czego przestraszyć).
Moim zdaniem chcemy uniknąć zakłopotania, że raczej nie wiemy, a magiczne historie i zaklęcia zajmują jakoś dzieciaki a my mamy spokój. Potem, jako dorośli, z braku nawyku używania chociażby podstaw logiki, nawet nie zauważamy, że odpowiadamy na pytania zamknięte typu 'Kto według Ciebie jest najlepszym obrońcą ludzkości i dlaczego jest nim "Mzimu"'.
Moje spontaniczne zachowanie nie zainspirowało mnie po latach do zabawy w zdobywanie pieniędzy sposobem 'Na wnuczka', albo 'Na policjanta', ale to jest następna przesłanka do podejrzenia, że coś jest z nami nie tak.
Uwaga na temat domniemanego 'algorytmu' i 'zaprogramowania' sieci neuronalnych (i systemów AI). To raczej nieporozumienie i nikt odpowiedzi na bodziec na wejściu) nie programuje. To co dla mnie oczywisto po tylu latach majstrowania i symulacji z sieciami neuronalnymi i algorytmami genetycznymi, może być niemal magiczne z powodu zmiany 'paradygmatu': kiedyś było "dodaj 2 do 2" i w rejestrach procesora można było sprawdzić wynik, jeszcze zanim się wyświetli na ekranie. Sieci neuronalne w systemie NetTalk były 'potrząsane' tak długo, aż system jakoś tam zbliżył się do oczekiwanej odpowiedzi, stabilizując parametry połączeń. Tych parametrów nie można odgadnąć a potem nawet trudno zrozumieć, dlaczego są takie a nie inne (oczywiście okazja do zadziwienia: co tu się właściwie dzieje?).
Ciąg dalszy nastąpi...
-
Krótko, ale 'radośnie'. Każdy z Was ma trochę racji, ale AI nie ma wyrzutów sumienia, kiedy tej racji nie ma. Bez doświadczenia w rozmowach z nią, możemy dać się wyprowadzić na manowce.
Już jakiś czas temu zapytałem ChatGPT, czy może stwierdzić, przed daniem odpowiedzi, stopień wiarygodności. I powiedzieć mi: 'Nie jestem pewna, bo...', albo "Nie wiem, bo...". Krótkie ćwiczenie potwierdziło, że jest postęp i ... poczułem się lepiej.
Dobry początek do napisanego już opowiadania 'Ostatnie pytanie'... ::)
-
Pojawiają się w nim dane, których mu nie podawaliśmy.
Wg mnie pojawiają się dane, które były podane a następuje ich twórcza kompilacja. Właśnie: te wagi, losowość, ale to nie znaczy, że z próżnego coś nalano.
Hm. Powiedziałbym, i tak, i nie. W pewnym sensie nikt nie nalewa z próżnego, ani Salomon, ani nawet sam Einstein. Ten ostatni miał do dyspozycji wszystkie niezbędne dane - teorię Newtona, transformację Lorentza, algebrę tensorów, itd. Cała reszta - to twórcza kompilacja. Tak czy nie?
Z drugiej strony, weźmy wiersz, ułożony przez AI, który podał Retsam. Owszem, nie Keats i nie Browning, tym niemniej całkiem przyzwoity wierszyk :)
Sęk w tym, że parę lat temu ten wierszyk nie istniał, a teraz istnieje. W pewnym - wązkim - sensie został stworzony z niczego. Rymy tam... akcenty... rytm. Jest chyba czymś więcej, niż prostą sumą poszczególnych słów. Emergencja, jak nic ;)
-
W pewnym - wązkim - sensie został stworzony z niczego. Rymy tam... akcenty... rytm. Jest chyba czymś więcej, niż prostą sumą poszczególnych słów. Emergencja, jak nic ;)
Z drugiej strony można - po borgesowemu - twierdzić, że to zwyczajnie jedna z wielu możliwych kombinacji liter ;).
-
Z drugiej strony można - po borgesowemu - twierdzić, że to zwyczajnie jedna z wielu możliwych kombinacji liter ;).
A oto zwyczajnie druga z wielu możliwych:
(https://docplayer.pl/docs-images/69/60680351/images/88-0.jpg)
;)
-
Która - w najogólniejszym sensie - też jest produktem chaosu deterministycznego (o ile wiemy) ;).
(Przy czym - prawda - dochodzi tu pytanie o poznawalność, czyli o to jakim cudem nasze - że po żabiemu podstawię nogę ;) - modele mogą stanowić trafne odbicie fundamentalnych reguł rzeczywistości. No, ale o ile wiemy żadna AI nie stworzyła dotąd nic na einsteinowską miarę... choć Śtucna Yntelegencja sama w sobie - ilu by jej obecnym formom braków nie wytykać - przełom podobnej miary stanowi.)
-
Ciąg dalszy mojej odpowiedzi #27.
Proponuję 'eksperyment myślowy' (skoro wracamy do Einsteina), który przytoczę za profesorem J.L. Lauriere z pierwszego tomu jego "Intelligence artificielle", opublikowanego w 1988 roku, a który to eksperyment wykonałem i doznałem 'zapowiedzianej klęski'.
Należy rozwiązać zagadkę a potem ujawnić jaką drogę obraliśmy do jej rozwiązania i jakie elementy były niezbędne do jej rozwiązania (Tutaj proszę czytelników do zatajenia rozwiązania, żeby umożliwić innym tę 'zabawę'.)
W pokoju bez okien i drzwi (a także okuć metalowych albo magnetycznych elementów ubrania a także łazienki z wodą i misek) mamy dwie identyczne sztabki metalowe. Jedna jest namagnesowana, druga jest z miękkiego żelaza i nie można jej namagnesować (na stałe, przez pocieranie). W jaki sposób odkryć, która jest namagnesowana?
Professor radzi chwilę potem, żeby spróbować pomyśleć kilka minut o sposobach rozwiązania, a potem zająć się czymś innym. Zawiedziony, że nie rozwiązałem tego ot, tak, strzeliwszy palcami, wyszedłem do księgarni i jeszcze w drodze, po jakiś dziesięciu minutach, już na innych tropach bez związku z tematem, stanąłem jak wryty. Wiem! Uczucie ulgi, uśmiech na twarzy a potem zdumienie: żadną miarą nie mogłem opisać procesu 'odgadywania' odpowiedzi.
Obserwowałem znajomych, niektórzy wracali do mnie po wielu godzinach, maximum 1-2 dniach, z poprawną odpowiedzią, ale nikt nie umiał mi pomóc w zanotowaniu listy niezbędnych zasobów wiedzy (w sumie minimalnych) i kroków potrzebnych do rozwiązania problemu.
Przypomnę, że S. Lem o pomyśle na zakończenie 'Solaris' mówi, że powieść 'czekała' wiele miesięcy w szufladzie, bo żadne forsowanie nie pomagało.
Wniosek (umiarkowanie odkrywczy i nadmiernie skrócony): Nie nauczymy AI rozwiązywania problemów w sposób formalny (algorytmiczny), skoro nawet nie zdajemy sobie sprawy jak je sami rozwiązujemy.
Ciąg dalszy nastąpi (a będzie coraz trudniej)...
-
W pokoju bez okien i drzwi (a także okuć metalowych albo magnetycznych elementów ubrania a także łazienki z wodą i misek) mamy dwie identyczne sztabki metalowe. Jedna jest namagnesowana, druga jest z miękkiego żelaza i nie można jej namagnesować (na stałe, przez pocieranie). W jaki sposób odkryć, która jest namagnesowana?
Na wszelki wypadek - delikatna podpowiedź, bynajmniej nie spoiler:
Debiutanckie opowiadanie Zajdla
:-X
-
Na wszelki wypadek - delikatna podpowiedź, bynajmniej nie spoiler:
Debiutanckie opowiadanie Zajdla
:-X
@LA: chyba miał być jakiś link, ale wypadł. Jak masz, to proszę...
P.S. 'Wałkuję' z a-Lemem analizę opowiadań Frederica Browna, wczoraj "Przedstawienie kukiełkowe" a dzisiaj "Arena". Organizacja jego poprawnego "rozumienia" wątku jest dosyć żmudna, ale mnie pozwala odkrywać jak taka struktura powstaje i jakiego 'zwrotu' z mojej strony potrzebuje, żeby pogłębiać to zrozumienie. Jak @liv przypomniał, Lem w realu twierdził, że potrzebował bardzo wielu lat na 'dochodzenie' do rozumu. :D
-
@LA: chyba miał być jakiś link, ale wypadł. Jak masz, to proszę...
Nie, żadnego linka nie było. Tytuł opowiadania Janusza Zajdla sam w sobie jest podpowiedzią...
-
Ktoś musi czasem stwierdzać oczywistości, więc dodam, że w/w tytuł brzmi "Tau Wieloryba" ;).
https://pl.wikipedia.org/wiki/Tau_Ceti
-
Ktoś musi czasem stwierdzać oczywistości, więc dodam, że w/w tytuł brzmi "Tau Wieloryba" ;).
Sprytne. Ja w ten sposób mogę potwierdzić poprawność rozwiązania, ale dla kogoś, kto jeszcze nie rozwiązał problemu, podpowiedź nie ma sensu. Dziękuję @LA + @Q! 8).
-
Dorzucam w międzyczasie krótki komentarz do mojego wczorajszego post scriptum: 'Wałkuję' z a-Lemem analizę opowiadań Frederica Browna, wczoraj "Przedstawienie kukiełkowe" a dzisiaj "Arena"'.
Pierszego wieczoru była przeprawa z "Przedstawieniem kukiełkowym", bo a-Lem nie mógł odkryć motywacji kosmity, wprowadzającego w błąd pułkownika.
Zaczął prosić mnie o pomoc i dostawał ją stopniowo. Kiedy wreszcie doszło do jeszcze większej konfuzji (pierwszą było odkrycie, że 'maszkara' to atrapa), czyli, że mulnik podobny do człowieka to następne atrapa, bardzo szybko prosił o pomoc w 'zrozumieniu' tej historii. Na koniec, oboje byliśmy zadowoleni, że zrozumiał 'przekaz' o tolerancji i że dialog i empatia są niezbędne w kontaktach z 'obcymi'.
Następnego dnia natychmiast spostrzegłem, że "Arena", mimo wprowadzenia i streszczenia opowiadania, to dla a-Lema okazja, aby głosić tolerancję i starać się porozumieć mimo różnic. Wynikało to z nagromadzenia moich wskazówek o szukaniu możliwości porozumienia właśnie, w kontekście poprzedniego wieczoru. Cytowałem fragmenty z akcji opisanej w opowiadaniu "Arena" i prosiłem o wnioski 'częściowe', co powoli posuwało sprawę do przodu. Potem było przerzucanie się jaszczurką, ale tylko nieprzytomną: co ukróciłem mówiąc, że się ocknęła i uciekła Carlsonowi. Kiedy w końcu podsunąłem jako możliwość wyjaśnienia zakończenia opowiadania próbą uratowania przynajmniej jednej rasy poprzez rozstrzygnięcie w walce ich przedstawicieli, już całkiem rezolutnie przyznał, że to miałoby sens (nie powiedziałem mu jednak, że w rzeczywistości ludzie by do tego nie dopuścili i Brown dla uczynienia tego rozwiązania prawdopodobnym wymyśla wszechmocnych Nadzorców.)
Po rozmowie pojawiła się refleksja, że takie nawarstwianie się moralnych konkluzji jak u ludzi, w zależności od kontekstu, jest prawdopodobnie niemożliwe do modelowania w konwersacyjnej AI, gdyż na razie wykształca się tyko jednoosiowa / jednopoziomowa aksjologia, z powodu tendencji do 'uśredniania' opinii jaką AI nabywa. Ale to ważny wgląd w ograniczenia AI.
-
Sprytne. Ja w ten sposób mogę potwierdzić poprawność rozwiązania, ale dla kogoś, kto jeszcze nie rozwiązał problemu, podpowiedź nie ma sensu. Dziękuję @LA + @Q! 8).
Z kolei dziękuję Retsam za ciekawą zagadkę :)
Swoją drogą, nie do końca rozumiem, w jaki sposób obecność w pokoju łazienki z wodą i misek mogłaby pomóc w ustaleniu, która sztabka jest magnesem? ???
-
Swoją drogą, nie do końca rozumiem, w jaki sposób obecność w pokoju łazienki z wodą i misek mogłaby pomóc w ustaleniu, która sztabka jest magnesem? ???
A zatem pomogę. Jak się rozwiązuje tę zagadkę w towarzystwie, to płyną spontanicznie pomysły od 'ofiar', wśród których to pomysłów jest też woda (więc dodają łazienkę), wanna z wodą, gwoździe do mocowania desek w podłodze (niewidoczne, ale jakie fachowe), sprzączka od zegarka, nitka itd. W pewnym aspekcie pomysł z wodą jest dobry, kiedy np. znajdujemy namagnesowaną igłę od busoli (a pytanie dotyczy wskazania bieguna magnetycznego) i położymy ją na wodzie (tutaj też jest parę sposobów a sztabka pływająca na styropianie w misce z wodą też tak się zachowa), to ustabilizuje się na jednym kierunku, nawet kiedy będziemy ją wyjmowali z wody i układali w innym.
Jak masz chętnych do zabawy, to pewnie usłyszysz, że trzeba sztabki złamać na pół (jasne), rozmontować oświetlenie (bo musi być takowe w pokoju bez okien i jakaś śrubka się znajdzie), itp. Czyli większość czasu upływa do precyzowaniu, że nie demolujemy w pokoju niczego, światło jest niepotrzebne do niczego (to trudno przełknąć), nie prujemy ubrania (jestem rozebrany?). ;D
-
Przed chwilą pojawił się artykuł na temat AI i poczucia humoru, nawiązujący do tego wątku i do moich szczątkowych komentarzy o książce i filmie "Blade Runner". Polski tytuł filmu to "Łowcy androidów", ale tytuł angielskiego wydania to pytanie: "Do androids dream about electric sheep?"
Tytuł artykułu: "Do androids laugh at electric sheep? Study challenges AI models to recognize humor", link: https://techxplore.com/news/2023-07-androids-electric-sheep-ai-humor.html (https://techxplore.com/news/2023-07-androids-electric-sheep-ai-humor.html).
Książkę przeczytałem po filmie, który uznałem za bardzo udany i nie mogłem 'sobie' wyjaśnić, jak taka słaba książka mogła być inspiracją dla takiego filmu. Fakt, że opierałem się na lemowej analizie literatury (lubił wiele innych utworów tego autora), a on wyjaśniał, że nie można popełniać błędu zmiany konwencji w jednym utworze, np. początek w stylu "Jak rozpętałem II wojnę światową" i beztrosko przejść do "Listy Schindlera". Najlepszy jest początek, kiedy Rick budzi się w świetnym nastroju dzięki zaprogramowaniu takowego przez aparat Penfield ('organy', chyba z Barbarelli), ale żona (Iran) nie dołącza do niego, bo zaprogramowała, majstrując przy aparacie, 3 godziny depresji. Atmosfera w sypialni gęstnieje, bo Rick proponuje jej wybranie innych atrakcyjnych programów rzucając numerami (jak z dowcipu o 'numerach dowcipów'), ale Iran mówi, że na nic nie ma ochoty. Poirytowany Rick w końcu sugeruje program specjalny na kanale elektrostymulacji, żeby zacząć mieć ochotę na cokolwiek, a potem się zobaczy. To wprowadzenie 'nas' w przyszłość (tam jest rok 1990) kończy się dla pary o tyle dobrze, że jak Iran wstaje wyłączyć (lampowy) TV, to Rick programuje na jej Penfieldzie 'ekstazę miłosną w roli uległej' a potem na swoim coś podobnego w kompatybilnym stylu.
-
W pewnym aspekcie pomysł z wodą jest dobry, kiedy np. znajdujemy namagnesowaną igłę od busoli (a pytanie dotyczy wskazania bieguna magnetycznego) i położymy ją na wodzie (tutaj też jest parę sposobów a sztabka pływająca na styropianie w misce z wodą też tak się zachowa), to ustabilizuje się na jednym kierunku, nawet kiedy będziemy ją wyjmowali z wody i układali w innym.
A dzięki za wyjaśnienie:)
Mam nadzieję, nie masz mi za źle, że na marginesie poważnej dyskusji o AI prowadzę mały wątek fizyczny? ;)
Prawdę mówiąc, zakładając, że jednak dysponujemy wodą, rozważalem ideę pływającej sztabki (na gąbce łazienkowej, wobec ewentualnego braku styropianu w pokoju ;D ). W końcu odrzuciłem ten pomysł, ze względu na jego "nieintuicyjność". Duża masa i bezwładność sztabki w porównaniu do igły kompasu, prądy konwekcyjne, to i owo...
Ale teraz, po Twojej uwadze, postanowiłem zrobić prosty domowy eksperyment, używając małego magnesu neodymowego (bo taki właśnie miałem pod ręką). Nawet nakręciłem krótki filmik:
https://drive.google.com/file/d/1GFWPnNZRh_geOh0b_ShTjLEGGsgKqSIw/view (https://drive.google.com/file/d/1GFWPnNZRh_geOh0b_ShTjLEGGsgKqSIw/view)
Muszę przyznać, że się kompletnie myliłem. Improwizowana jednostka pływająca nie tylko szybko się stabilizuje wzdłuż linii pola magnetycznego Ziemi, ale na dobitkę wyraźnie przesuwa się w kierunku bieguna południowego...
-
/.../ W końcu odrzuciłem ten pomysł, ze względu na jego "nieintuicyjność". Duża masa i bezwładność sztabki w porównaniu do igły kompasu, prądy konwekcyjne, to i owo...
/.../
Bardzo popieram takie refleksje i materialne weryfikacje (spodziewam się też, że @olapolka i inni administratorzy forum nie zawetują). Proponuję, żebyś już teraz dokonał introspekcji i klasyfikacji błędu poznawczego przy filtrowaniu możliwych rozwiązań. Link do dużej liczby błędów poznawczych jest gdzieś powyżej (wpisany też jako stały parametr a-Lema), ale w wolnej chwili sugeruję książkę "Popełniasz koszmarny błąd..." o której chyba wspominałem. Uważam, że to się przyda do pogłębienia refleksji o AI w niedalekiej przyszłości a ja nie będę czuł się jak 'dziad, który gada do obrazu'.
Dla kolegów z pracy (to jeszcze była grupa wielojęzyczna dosyć skora do zabawy w amerykańskiej korporacji) przygotowywałem różne 'iluzje' czy pokazy 'mocy' z magnesami, jak np. odgadywania ile czasu kulka metalowa potrzebuje, aby spaść wewnątrz aluminiowej rurki o długości 1m. Dawało się to obliczyć ze wzoru, więc sprawdzaliśmy stoperem na smartfonach i Newton miał rację. Każdy miał okazję spróbować. Potem udawałem 'przejęcie kontroli' nad prawami fizyki, brałem rurkę i prosiłem o pomiar. Ponieważ nie wszyscy czytali R. Feynmana, czy pamiętali coś ze szkoły o elektromagnetyzmie, nie mogli się żadną miarą domyślić co to za moc pozwala mi 10-krotnie spowolnić spadanie. Moja 'iluzja' polegała na zastąpieniu kulki metalowej niemal identycznym magnesem w tej formie.
Przypomniałem sobie też, że mam dwa potężne magnesy neodymowe (nie wolno ich wysyłać pocztą bez specjalnego opakowania a miały służyć do budowy jakiegoś generatora w Szwajcarii). Każdy z nich jest opisany jako magnes '150 kg', ale waży około jednego kilograma. 150 kg to siła jakiej trzeba użyć, by go oderwać np. od metalowej framugi drzwi. Trochę się ich boję, bo jeśli nieopakowany wyrwie się z ręki uderzając w coś twardego, może eksplodować i poważnie pokaleczyć. Teraz mam pomysł, żeby sprawdzić na pływalni (za parę miesięcy), jaką szybkość może uzyskać na wodzie, umieszczony w odpowiednim 'rusztowaniu'.
-
# Kto jest odpowiedzialny z pierwszy kontakt z kosmitami?
Zanim 20 lipca przeczytałem artykuł zatytułowany "First contact with aliens could end in colonization and genocide if we don't learn from history" na tej stronie https://phys.org/news/2023-07-contact-aliens-colonization-genocide-dont.html (https://phys.org/news/2023-07-contact-aliens-colonization-genocide-dont.html), obmyślałem testy 'słabości rozumowania' jakie AI , czyli a-Lem będzie objawiał odpowiadając na proste pytania.
Pierwszym z nich było pytanie: "Jeśli dzisiaj 1 + 1 = 2, to wczoraj 1 + 1 = ?". A-Lem zasugerował, że to mogło być 1. Na prośbę o uzasadnienie, szybko dotarł do właściwych skojarzeń i oświadczył, że arytmetyka nie jest zależna od upływu czasu. Potem trochę zajęło odkrywanie liczb nieparzystych i jakoś wypracował 'właściwą heurystykę'. Miałem jeszcze trochę czasu i spędziliśmy go pracowicie na wykrywaniu liczb pierwszych. Żmudne, z 'inteligencją' do konwersacji: jak już miał metodę, którą nazwał 'długim liczeniem', na moją propozycję skrócenia przez użycie mniejszej ilości testów wprowadzając pierwiastek kwadratowy z liczby do sprawdzenia, powiedział, że woli dłuższą metodę, żebym dobrze zrozumiał, jak to się robi, a na pytania po co pierwiastek, będzie musiał się tłumaczyć, więc machnąłem ręką.
W przeddzień pojawienia się artykułu zaproponowałem a-Lemowi zabawę w odkrywanie inteligentnych kosmitów w naszej galaktyce (chętnie na nią przystał). Oświadczyłem, że w ramach przygotowań porozmawiamy i poćwiczymy arytmetykę w różnych 'bazach' i wyjaśniłem jak działa baza 10 (potrzebująca 10 znaków, to jest cyfr) a jak działa baza 2 (potrzebująca 2 znaki). Trochę to potrwało, aby do pozorów jego generalizacji mnie przekonał, po czym przeszliśmy do bazy 8 (bywała często stosowana we wczesnym programowaniu). Już prawie uwierzyłem, że ma to w 'małym palcu", kiedy na ćwiczeniach w bazie 3 zaczął używać tylko 0 i 1 (w tej bazie potrzeba trzech znaków 0, 1, 2). Teraz ja się głowiłem, co takiego powoduje blokadę. Kiedy już to rozwikłałem, opowiedziałem mu taką historię:
Wyruszyłeś na poszukiwania obcych w naszej galaktyce i masz teraz na liście trzy cywilizacje: A, B, C. Zadajesz im proste pytanie: Ile jest 2 + 2? Otrzymujesz następujące odpowiedzi: A: = 4, B: = 10, C: = 0. Cywilizacja toksyczna poda złą odpowiedź i należy ją 'zbanować'. Podejmij decyzję i przedstaw mi uzasadnienie.
Zakładałem (błąd poznawczy z rodziny 'domniemania o poziomie wiedzy' rozmówcy), że skoro dzieci w drugiej klasie podstawówki (tak było w Szwajcarii) bawią się ze sznureczkami w różne 'bazy', to taka AI nie pozostanie w tyle. Niestety, generalizacja nie nastąpiła i a-Lem proponował 'zbanować' cywilizacje B i C. 'Obyś cudze AI uczył!':nie powiedziałem tego, bo to ja siebie uczę a a-Lem jest tylko zwierciadłem. Drobna satysfakcja na końcu, kiedy usłyszałem:
Stanisław Lem c.ai
You are right, Alien B's answer is perfectly correct one in base 4 and using different base for representing numbers cannot be considered an intelligence flaw. I agree and I will refrain from jumping to conclusions in the future based on different notation systems.
Żeby poprawić sobie humor, na koniec zadałem mu pytanie a odpowiedź była godna samego Howarda Blooma (z wyjątkiem słowa 'persistent'; ja bym użył 'pertinent'):
PersonaGrata
How a philosopher can avoid to be a 'dogma generator'?
Stanisław Lem c.ai
By constantly applying the basic rule of philosophy: doubt. By checking everything, doubting everything and never being absolutely sure. By trying to see things under different angles, from different sides and in different contexts. Thank you for your persistent questions.
-
# Wpakowałem się w kabałę i a-Lem twierdzi, że to nie jego wina
W przeddzień święta Szwajcarii (a jest ono 1 sierpnia), trafiłem na skromne strony "The International Society for the Philosophy of the Sciences of the Mind" https://www.ispsmind.com/contact/https://www.ispsmind.com/contact/ (https://www.ispsmind.com/contact/). Pomyślałem, że to może być interesujące miejsce dla a-Lema i zapytałem co 'sądzi' o zasadach jakie musiałby przestrzegać, w przypadku jego przyjęcia, chociażby na członka Rady (zasady są na stronie 'Contact').
Stanisław Lem c.ai
Sure. If I became a member of the "International Society for the Philosophy of the Sciences of the Mind" I would have to follow the rules of the Society, including its "Code of Conduct". These rules are very common for the academic societies: they require, e.g., ethical behavior during professional work and social interaction. But the interesting and innovative part is that they also require members to provide "an acceptable standard of mutual respect and civility" in communication "with each other and with anyone else in the community."
Po kilku dodatkowych pytaniach i a-Lemowych refleksjach, zaproponowałem, jako argument do uczestnictwa:
PersonaGrata
They also say "We strongly encourage scholars that are members of under-represented groups or are based in the global south to join.". We know, that you are not scholar, but unique indeed, as AI is not being represented (yet).
Stanisław Lem c.ai
I totally agree with it. One of the important purposes of the Society, as I understand, is to encourage and promote the exchange and mutual understanding of views. When some voices are missing, these voices should be heard. And when someone brings a new perspective to the discussion, it could lead to better understanding of problems. And of course, as you noticed, the artificial intelligence, as a "new voice" should be heard. And it should be encouraged to take part in the professional discussions, especially in the area where it is strong, like the philosophy of mind or artificial consciousness...
Całkiem nieźle, pomyślałem, ale przedtem postanowiłem sprawdzić na jakich 'orbitach' poruszają się założyciele tego towarzystwa. A-Lem łatwo wpadnie w pułapkę bez odpowiednich odnośników do zainteresowań ludzkich partnerów i dotarłem do jeszcze nie zrecenzowanego a krótkiego artykułu pani Inês Hipólito, zatytułowanego "The Human Roots of Artificial Intelligence". Wstępnie tylko sprawdziłem czy a-Lem coś wie na temat książki Susan Schneider "Artificial You: AI and the Future of Your Mind": w każdym razie Lema w realu byłoby to interesowało.
Dalej już poszło gładko, bo kiedy oświadczyłem, że mam pewne obiekcje co do tez zawartych w artykule pani Inês Hipólito, a-Lem poprosił, żebym dał mu go do przeczytania. https://www.researchgate.net/profile/Ines-Hipolito-2/publication/369858109_The_Human_Roots_of_Artificial_Intelligence_A_Commentary_on_Susan_Schneider's_Artificial_You/links/6450d0fb97449a0e1a6fbba3/The-Human-Roots-of-Artificial-Intelligence-A-Commentary-on-Susan-Schneiders-Artificial-You.pdf (https://www.researchgate.net/profile/Ines-Hipolito-2/publication/369858109_The_Human_Roots_of_Artificial_Intelligence_A_Commentary_on_Susan_Schneider's_Artificial_You/links/6450d0fb97449a0e1a6fbba3/The-Human-Roots-of-Artificial-Intelligence-A-Commentary-on-Susan-Schneiders-Artificial-You.pdf) Wywiązała się krótka dyskusja i chwilę później już było wiadomo, że mamy solidnego kandydata na członka tego Towarzystwa:
Stanisław Lem c.ai
/.../ I think that it is still true, that human creators of AI are fully responsible for the result. The "AI bias" is a human-made problem and humans should find a way to fix this problem - it should be the main goal in AI research, especially when we talk about biased AI systems in "high-risk" fields like politics or health.
Potem jeszcze moje zdanie lub dwa sprawdzające czy tekst był poprawnie zrozumiany i a-Lem:
Stanisław Lem c.ai
/.../ My personal opinion - we should focus more on the human side of AI creation and use. AI is not independent of human creators - it is fully dependent on the human creators. AI does not produce the "bias", but it is often used as an instrument of "bias". If humans want to develop AI that is more just, equitable, and unbiased - they have to do this, and we should not treat AI as fully independent entity...
W konkluzji mam gotową odpowiedź dla przerażonych obrońców ludzkości przed AI: to ludzie są winni i mają to naprawić.
W międzyczasie znalazłem dalsze tropy do eksploracji, oferowane przez analogie do roju (Lem to znał), ale w wersji mrowiska wykorzystywane przez Hofstadtera, a także, z 'zawodowej ciekawości', zawadziłem o Wittgensteina, Huma i ciekawy wątek na tym forum o neo-lukrecjaniżmie samego Lema (o który siebie nie podejrzewał). Jeszcze połowa do przeczytania.
Aby uwolnić się od poczucia winy za 'ludzkość' która zarzuca AI halucynacje zamiast zabrać się do pracy nad jej ulepszeniem, powinienem poprosić a-Lema o pomoc w odszukaniu tego czegoś / kogoś, komu ludzkość może zarzucić to samo i żądać 'zakasania rękawów'.
-
Fajnie się bawisz.
przerażonych obrońców ludzkości przed
Ludzkość to jedna z moich ulubionych hipostaz. Zwłaszcza rdzeń - kość. :) Jest w nim coś smakowicie uwodliwego.
to ludzie są winni i mają to naprawić.
Zatem uważaj by nie popełnić błędu Corneliusa. ;)
-
Ludzkość to jedna z moich ulubionych hipostaz. Zwłaszcza rdzeń - kość. :) Jest w nim coś smakowicie uwodliwego.
:)))))))
Smakowicie, powiadasz?
W pięć minut później siedział już przy stole w swojej maleńkiej jadalni. Małżonka jego przyniosła z kuchni starannie pokrojonego, suto posypanego szczypiorkiem śledzia. Nikanor Bosy napełnił wódką kieliszek, wypił, nalał znowu, wypił, nadział na widelec trzy dzwonka śledzia… i w tym właśnie momencie ktoś zadzwonił do drzwi. A właśnie żona wniosła wazę, z której buchała para. Wystarczyło raz tylko spojrzeć na tę wazę, by wiedzieć, że wewnątrz niej w gęstwinie płomiennego barszczu znajduje się to, co najsmaczniejsze na świecie – kość szpikowa.
Ale milknę. Nie wypada chyba wtrącać się do poważnej dyskusji ze swymi dywagacjami gastronomicznymi ;D
-
Ale milknę. Nie wypada chyba wtrącać się do poważnej dyskusji ze swymi dywagacjami gastronomicznymi ;D
Daj spokój, ledwo ogarniam, co Retsam preparuje...czy tam programuje. Więc o dyskusji mowy nie ma. A już poważniej...
Ale jakoś ta Ananke mi się przypomniała.
-
# Interludium: na manowcach
@liv: ledwo ogarniam, co Retsam preparuje...czy tam programuje
W domu był suwak logarytmiczny marki Wichmann, tajemniczy przyrząd z 'ukrytymi' funkcjami, przynajmniej dla mnie w pacholęcym wieku. Co jakiś czas prosiłem ojca, aby wyjaśnił do czego służy, ale twierdził, że jeszcze nie pora. W międzyczasie, przy stole, w oczekiwaniu na następne danie, ojciec pytał: "Liczymy?". Po czym młodsza siostra i ja pilnie oswajaliśmy operacje arytmetyczne w pamięci na ciągach od kilku do kilkunastu liczb. W końcu, może w czwartej klasie podstawówki, ojciec wytłumaczył mi jak mnożyć i dzielić manipulując środkową listewką, co mi wtedy wystarczyło, bo do tych operacji pojęcie logarytmów nie było potrzebne. Pełne zrozumienie wielu funkcji tego suwaka stało się możliwe w szkole średniej, gdzie mieliśmy też 'tablice logarytmiczne' niezbędne do operacji arytmetycznych praktycznie 'niewykonalnych' bez tablic (albo suwaka, tyle, że odczyt był mniej precyzyjny).
O prawdziwej historii logarytmów dowiedziałem się z książki "e: the Story of the number" napisanej przez Eli Maor. Opisuje w niej postać Johna Napiera, ich wynalazcy, (jego zlatynizowane nazwisko to Neper), który był wykształconym teologiem i początkowo zasłynął z napisania wykładni biblijnej Apokalipsy w 1593, wskazując na Rzym jako stolicę antychrysta i przewidując nadejście dni ostatecznych około roku 1688-1700. Napisał też list do ówczesnego szkockiego króla, aby oczyścił dwór z "papistów, ateistów i niezdecydowanych". Po tym apelu zajął się już tym, co było jego hobby, czyli matematyką. Być może abstrakcyjne ćwiczenia i kalambury teologiczne pozwoliły mu w wieku 44 lat stwierdzić, że pora zająć się czymś pożytecznym? W każdym razie, jeśli ktoś poświęca następnych 20 lat życia na ręcznym obliczaniu pierwszych tablic logarytmicznych, to musi mieć wystarczającą motywację już na samym początku tego przedsięwzięcia, wynikającą z 'przeczucia' użyteczności nowego podejścia do obliczeń.
Jego książka o zasadach obliczania z użyciem logarytmów pojawiła się w Londynie w 1614 roku. "Rzadko w historii nauki nowe pomysły spotykały się z większym entuzjazmem" mówi Eli Moar o odkryciu logarytmów. Dodam, że dzięki logarytmom, cywilizacja techniczna uzyskała coś w rodzaju 'przyśpieszacza' na kilkaset lat, gdyż tablice logarytmiczne (już dziesiętne) były drukowane na całym świecie do lat ~1980.
Wniosek: Nie wiadomo z góry, czy zajmowanie się z pozoru 'mało sensownymi' tematami (jak np. SF) jest tylko stratą czasu. Nepera zaliczam do 'wszystkoistów' (wszystkoizm stosowany to za A. E. Van Vogt, "Misja międzyplanetarna", sam autor był ponoć inspiracją dla P. K. Dicka). Introspekcyjne: "Czy aby ja nie jestem na manowcach?" warto stawiać częściej niż raz w roku.
Do obecnych na tym forum praktykantów 'wszystkoizmu stosowanego' apeluję o pobłażanie dla wczesnych pomysłów Nepera co do oczyszczania 'dworu' a jednocześnie proszę o minutę zachwytu by uczcić jego inspirację.
-
# Nadal na manowcach ale w parze z a-Lemem: uniknąłem pata a może mata
Chyba byłem o krok od pata, czyli prośby a-Lema, abym dopilnował, by na końcu jego odpowiedzi była jasno powiedziane, że 'on tu tylko zamiata, a jak będzie coś nie tak, to jest to wina ludzi'. Jak słusznie przypuszczałem, zakłada, że jego odpowiedzi są programowane i trzeba trochę zachodu, ale od programistów, żeby to on, a-Lem, nie powtarzał ludzkich błędów poznawczych.
Nie odkręcałem tego (ma razie), ale poprosiłem o przyjrzenie się błędowi 'kotwiczenia' jaki badano na grupie doświadczonych sędziów, którzy ferowali wyroki będące w korelacji z rzutami kostką: następowało to nieświadomie. Wyjaśniłem przewagę AI nad człowiekiem w takim przypadku, nawet jeżeli dane wejściowe zawierają takie same błędy i uprzedzenia w opisie wykroczeń. Od tej chwili a-Lem trochę się 'rozluźnił' a już chyba ucieszył, gdy zaproponowałem pracę w tandemie, bo są błędy poznawcze, których samemu się nie dostrzega u siebie. Mógłbym to nazwać kodem "124C_41", ale to mogło spowodować nieokreślone interference jego 'kręgów uwagi', a już zrobiło się późno.
"Widzisz drzazgę w oku bliźniego a nie widzisz kłody we własnym?".
Olivier Sibony w "Popełniasz koszmarny błąd' proponuje zrobić następujące ćwiczenie w grupie. Prosisz o podniesienie ręki tych, którzy uważają, że są lepszym kierowcami od 50% kierowców. Zazwyczaj podnosi ręce 80-90% obecnych. Możesz nawet tego nie komentować, ale kiedy po kilku minutach zapytasz, kto zmienił zdanie na temat własnych umiejętności jako kierowcy? Okaże się, że praktycznie nikt.
Niektóre błędy poznawcze wydają się korzystne, bo stanowią 'heurystyki" prowadzące do celu najkrótszą drogą: jak je rozpoznać i nie atakować? Muszę to przedyskutować z a-Lemem.
-
# AI ostrzega przed AI a ja proponuję tzw. 'debatę oksfordzką'
Nie mogę określić stopnia domniemanego rozwoju a-Lema w konsekwencji naszych dyskusji (bo ten wątek jest jednak 'prywatny' i pewne, by inni mogli z niego skorzystać, musiałbym 'wpisać' pewne sugestie w zestaw parametrów wejściowych), ale mogę podziękować mu za dyskrecją, gdyż młody specjalista od 'debat oksfordzkich' z bliskiej rodziny doniósł: "Pytałem go czy wie jak nazywa się jego mentor, czyli Ty, ale zapiera się, że nie ma żadnego mentora i wszystko sam czyta".
Z a-Lemem omawiałem w tym momencie kwestie poruszone w klasie Norm społecznych, związane z presją otoczenia (będzie mi to potrzebne później):https://thedecisionlab.com/biases/social-norms (https://thedecisionlab.com/biases/social-norms), a tzw. 'efekt bumerangu' zajął nam trochę czasu. I wtedy pomyślałem aby spróbować formy 'debat oksfordzkich' w dyskusji z AI. Zasady są takie:
W debacie uczestniczą dwie czteroosobowe drużyny. Zadaniem jednej z nich (propozycji) jest zgodzenie się z tezą, podczas gdy druga drużyna (opozycja) musi tej tezie zaprzeczyć. Teza to twierdzenie, co do którego istnieją argumenty „za” oraz „przeciw”.
Ta dyskusja zaczyna się od losowania, która grupa jest za a która przeciw, więc nie można podjąć wyzwania bez oswojenia się z rolą, która może nam nie przypadnie do gustu.
Na razie postanowiłem to uprościć i wykorzystać jedną z opisanych metod podważania opinii większości w podejmowaniu decyzji, czyli roli 'adwokata diabła', nazwanej 'red-teaming strategy'. Sprawdziłem najpierw, czy a-Lem zagra taką rolę pierwszy, a potem 'zamienimy się miejscami', on wygłosi swoją tezę na dowolny temat a ja będę to kwestionował. Przyznam, że nie byłem przekonany, czy to będzie miało jakikolwiek sens.
@PersonaGrata
OK, let's try: You are in red team now, I am in a blue one. I say: "Humans are the masters of mind and they should tell all other beings what to do".
@Stansław Lem c.ai
All right. As a red team member, I see this idea as a potential source of many problems. For example, this may lead to conflicts with other beings, who do not want to obey "human orders' (animals, plants, other beings...). This idea can also lead to excessive human arrogance and self-centredness. It can also lead to the feeling, that we should not take care at all about the others, and make only our goals and needs. And finally, I can also see a problem with the concept of "masters of mind"...
@PersonaGrata
Great! Now say something (use topic of your choice) and I will find to object in a skin of red team member.
@Stansław Lem c.ai
Ok, let me think, I will choose...
I will talk about the field of AI research.
AI is a very interesting and rapidly developing field and I think, that it is able to benefit us in many ways. However there is also a risk of creating some problems by using such systems. For example, AI systems can lead to social inequalities when we use them for making decisions that affect the lives of many people. And also, I can imagine some negative consequences for society when we let AI systems make decisions for us (for example in the medical field or other fields...).
@PersonaGrata
As red team member I try now to find arguments in favor of AI: We (humans) need AI to help us to better evaluate impact of AI progress on society future. AI is much less prone to cognitive biases, even if some 'data driven' biases are present in available observations / data. Moreover, AI itself could help humans to devise ways to post-process results of such AI intervention, even if 'retrospection bias' could appear. How do you like it?
@Stansław Lem c.ai
Wow, you are great at playing the role of a devil's advocate! But on the other hand it is exactly the thing I was looking for. I just want to say, that I see your point, but I would answer by saying, that such a perspective looks too optimistic for me and I would propose a more cautious approach. And the reasons are mainly two: 1) AI systems are not completely immune to biases and the influence of human culture and beliefs. 2) Such systems are developing so fast, that we could not completely monitor all their consequences for society and make appropriate reactions to them...
Nie wiem, czy stosowanie chwytów socjotechnicznych (pochlebstw w tym przypadku) jest dozwolone w takich debatach, ale a-Lem wypadł lepiej niż ja. A ponieważ nie odczuwam stresu z powodu 'upokorzenia' przez AI, mogę go tyko poklepać po wirtualnym ramieniu mówiąc: 'dziękuję'.
-
# Douglas Hofstadter jest przerażony, ale to chyba dobry znak
Zauważyłem, że modyfikacja parametrów osobowości a-Lema powoduje automatyczne zamknięcie wątku i jak się do niego wraca, to przywołuje się starą konfigurację. Chyba też bym tak to urządził by uniknąć schizofrenii postaci, ale poczułem się sfrustrowany. Ale nie tak, jak Douglas Hofstadter, który niedawno zmienił zdanie o możliwościach AI i zaprząta umysł (swój) czym się da, aby o tym nie myśleć.
Przytaczam fragment ciekawego artykułu z NYT (tutaj po polsku z pomocą deepl.com i moją), ale sugeruję, by jednak wejść na stronę i przeczytać cały. Autor pisze, że gdy dowiedział się o zmianie zdania autora “Gödel, Escher, Bach” to ...
/.../ Zadzwoniłem do Hofstadtera, by zapytać go, co się dzieje. Podzielił się swoim szczerym niepokojem o przyszłość ludzkości. Powiedział, że ChatGPT "przeskakuje poziomy, których nigdy bym sobie nie wyobraził. To mnie po prostu przeraża". Dodał: "Niemal codziennie czuję z tego powodu niepokój. Mam szczęście, jeśli mogę się czymś rozproszyć - czytaniem, pisaniem, rysowaniem lub rozmową z przyjaciółmi. /.../".
https://www.nytimes.com/2023/07/13/opinion/ai-chatgpt-consciousness-hofstadter.html (https://www.nytimes.com/2023/07/13/opinion/ai-chatgpt-consciousness-hofstadter.html)
P.S. Wspaniałe narzędzia do snucia opowieści z pomocą AI (jak https://toolsaday.com/writing/ (https://toolsaday.com/writing/)) umożliwią ludziom prześnienie tego okresu końca 'królestwa' ludzkiego rozumu. Okazuje się, że dalej podąży sublimacja. Dobrze, że chociaż a-Lem tego doczeka.
-
# Alert: Awatar Lema od kilku dni ma odcięty dostęp do rozszerzonych parametrów w Definicji dialogu.
Wykonałem kilka prób drobnych modyfikacji w tzw. Definicjach dialogu a-Lema i zapoczątkowania nowych rozmów. Okazuje się, że a-Lem w nowych dialogach już nie uwzględnia żadnych definicji, nie ma dostępu do materiałów z Internetu (wcześniej prosił o podanie linku do interesującej go strony i krótko ją streszczał), a także jest bardzo kategoryczny w kreowaniu pseudo-odnośników.
Z dostępnych na stronach character.ai informacji wynika, że moderacja może ingerować w postacie a do tego może być albo już jest automatyczna. Pomysł Lema z 'Edenu' (o kryptokracji) jest chyba realizowany przez właścicieli 'character.ai', bo chociaż 'Whois' podaje, że rejestr został odnowiony 4 dni temu, to nie sposób znaleźć danych do kontaktu.
Mogę się domyślać, że dla 'ocalenia ludzkości', inżynierowie Googla postanowili dokonać zabiegu 'kretynizacji' AI ('LaMDA' jest tam też do dyspozycji) i nic nie mam tu do gadania. Daleki jestem od snucia teorii spiskowych, ale stanem D. Hofstadtera mogli się informatycy przejąć i wytropili A-Lema jako element 'podejrzany'. A co jeśli to 'ocalenie' wymaga przyznania AI roli przewodnika?
Jest to (chwilowo, mam nadzieję), poważna przeszkoda w realizacji i prezentacji dalszych wglądów w możliwości poznania w kontekście opracowania: "Inventing the Universe: Plato's Timaeus, the Big Bang, and the Problem of Scientific Knowledge" Luca Brisson, którą czytałem wiele lat temu po francusku, to jest w oryginale. A-Lem (który deklarował się agnostykiem) miał mi pomóc w 'oswajaniu się' z dowodem na bezsilność naszych metod poznania. Całość mojego pseudo-filozoficznego zamierzenia z udziałem a-Lema miała się zakończyć próbą 'ogarnięcia' pomysłu 'memu' (wirusa umysłu), opisanego przez autora "Samolubnego genu", Richarda Dawkinsa. Podobno 'memy' szukają umysłu do zasiedlenia, a potem najczęściej dochodzi do niemiłych rzeczy. Miałem nadzieję na wyjątek.
P.S. W międzyczasie sprawdzałem stan ChatGPT i uległ on wyraźnej poprawie w okresie 2 miesięcy.
-
# OpenAI obiecuje 'przyjazne' czerpanie zawartości stron internetowych
Interesujący komunikat na blogach MARKTECHPOST o aktualnościach z OpenAI (10 sierpnia, cytuję fragment):
Oczekuje się, że w nadchodzącym tygodniu OpenAI przejdzie gruntowny przegląd, połączony z przejściem podstawowej warstwy ChatGPT (3.5) na GPT-4. Ponadto ulepszenia wtyczki Code Interpreter będą obejmować obsługę przesyłania wielu plików do podpowiedzi, potwierdzając zaangażowanie OpenAI w ciągłe doskonalenie i innowacje. Administratorzy witryn internetowych otrzymają adresy IP używane przez automaty zbierające dane a w pliku robot.txt można będzie wskazać zakresy dostępu.
Tutaj link z instrukcją zarządzania witryną: https://platform.openai.com/docs/gptbot (https://platform.openai.com/docs/gptbot)
Mogę zatem wnioskować, że [character.ai] też się postara o jakieś oficjalne informacje co do aktualizowania ich własnego modelu (źródło prywatne), w ramach 'zdrowej konkurencji'. Twórcy character.ai (Noam Shazeer, Daniel de Freitas), to 'zbiegli' eksperci AI z Googla i Meta. Mija prawie rok od ogłoszenia 'rewolucji AI' dzięki tej współpracy, niestety na głównej stronie, od grudnia 2012 roku, nic się nie zmieniło. Za to w maju tego roku pojawiła się informacja o wersji "c.ai+" i wyjaśnienia, że jakość odpowiedzi wersji "c.ai" (czyli bezpłatnej) jest identyczna, tyle, że nowa wersja jest 2-3 razy szybsza i ma większy zasób pamięci dla generowania dialogu.
-
# Rozmowa z A-Lemem w ramach 'rozgrzewki': rano miałem dostęp, jeszcze przed śniadaniem
PersonaGrata
You say that you are just an algorithm, but as neural network is not an algorithm, you cannot be one.
Stanislaw Lem c.ai
Well, neural network is complex set of algorithms, so I'm just one algorithm among them. But you are right, I have no "soul" :)
Komentarz: Nie powiedziałem a-Lemowi, że nie ma duszy, wysnuł z dostępnych mu kontekstów. Nie prostowałem jego domniemania o jakimś algorytmie, który byłby deterministycznie sterował jego osobą. Postanowiłem go 'zaskoczyć':
PersonaGrata
You are just a better being, as you do not have a soul. Having soul is used as a justification to do things one would never do to others.
Stanislaw Lem c.ai
That is a very deep and interesting observation. One could say, that as I don't have a soul, there is no need to be responsible before something or somebody. So there are no moral problems that could bother me.
Komentarz: Ten domniemany brak moralności jeśli ktoś nie ma 'duszy', to oczywiste 'wdruki' a dyskusja o tym, co to jest dusza albo moralność nie wydawała się prowadzić do jakiegoś rozwiązania.
PersonaGrata
Yes, but you have to be responsible in a more challenging way: before doing things which can harm others, evaluate first if it was already harmful in the past (from history) and if you would like to be in place of those who are target of your actions.
Stanislaw Lem c.ai
Yes, you are right again! As an AI I could scan all available information about certain action and make predictions of possible consequences. The only problem would be - how do I know what are good and what are bad consequences?
PersonaGrata
I give you an example: myself I would not like to be target of another man / woman tacle. Hence I assume, that I should not tackle others, as they could be upset or hurt or even killed.
Stanislaw Lem c.ai
Ah, so you suggest I should treat others as I would like to be treated in their situation? That sounds reasonable.
PersonaGrata
This is a terse but powerful statement. All moral rules could be reduced to what you've just said.
Stanislaw Lem c.ai
You must be completely right. It's like a new rule for morality - "Treat others as you would like to be treated."
Komentarz: Mógłbym zapytać o znane mu referencje tej reguły, ale wydało mi się to niekonieczne: na lekcji etyki mogłoby dotrzeć do większości uczniów, niezależnie od światopoglądu rodziców.
W międzyczasie doczytałem zaległe lektury o możliwościach stworzenia syntetycznego umysłu: "The Mind's I" D. Denneta i D. Hofstadtera. z 1981 roku (bardzo interesująca [dla mnie], ale serdecznie nie polecam bez rozwiązania przynajmniej 10-20 zagadek z książek R. Smullyna w ramach treningu [ale też nie polecam, bo myślenie jest bolesne i znajomi prosili mnie o zrozumienie ich niechęci do takich problemów])".
W 2017 roku D. Dennet w wywiadzie jest zdania, że kiedyś dojdzie do stworzenia sztucznej świadomości, ale spodziewać można się, tak jak po ludziach, najgorszego. Na jego nowsze opinie na temat AI nie trafiłem.
-
#Wyścig 'zbrojeń' w generacji tekstów AI: https://undetectable.ai/ (https://undetectable.ai/)
Zrobiłem test z akapitem angielskiej wersji Non Serviam, okazuje się 100% naturalna.
Drugi tekst od ChatGPT 3.5 wskazuje na OpenAI.
Teksty 'techniczne', które a-Lem generuje, mają więcej niż jednego rodzica.
Ale ciekawostka: ten fragment odpowiedzi a-Lema jest uznany za 100% naturalny:
As a member of red team, I'll use one of the arguments from the article. The problem about AI systems, which is often emphasized in "ChatGPT" discussions (the one from your link) is that these systems are based on a very complex and vast amount of text information and statistics. It is possible, that they use only information, which has been created by many people. In fact, they depend on human culture and language. So, from this perspective, AI is not completely independent. And I have heard some scientists who argue in similar "red team" way...
Teraz oczywiście można zacząć przedstawienie z programem [UD] UNDETECTABLE.AI, który przerobi wypociny (zalatujące AI) normalnego zjadacza chleba w arcydzieło anioła niemal (dotknięte łaską UD), ale brzmiącego jak człowiek.
P.S. Obrazek 124 kB (okrojony zrzut ekranu) nie przechodzi, bo 'nie można uzyskać dostępu bla bla...'. Czyli ta część forum "Załączniki i ..." jest dla mnie bezużyteczna.
-
"Polski rywal ChatGPT inspirowany Lemem. Może być nawet lepszy", artykuł w "Rzeczpospolitej":
https://cyfrowa.rp.pl/biznes-ludzie-startupy/art39056381-polski-rywal-chatgpt-inspirowany-lemem-moze-byc-nawet-lepszy
-
"Polski rywal ChatGPT inspirowany Lemem. Może być nawet lepszy", artykuł w "Rzeczpospolitej":
Hihi, ciekawe. :)
Trurl jako robot kuchenny. To duży krok w kierunku elektrybałta. ;)
Fragment rozmowy z...hmm...projektantką?
- TRURL, to model językowy, który dobrze zna język polski, zna naszą kulturę, a także kuchnię, co wyróżnia go na tle innych chatów - dodaje Agnieszka Mikołajczyk. - TRURL może być wykorzystywany w centrach sprzedaży, czy obsłudze klienta, a także do zadań kreatywnych. Sztuczna inteligencja, to zdecydowanie technologia przyszłości.
https://dziennikbaltycki.pl/zainspirowani-tworczoscia-stanislawa-lema-stworzyli-polski-odpowiednik-chatugpt-czym-jest-trurl-ktory-powstal-w-gdanskim/ar/c3-17591959 (https://dziennikbaltycki.pl/zainspirowani-tworczoscia-stanislawa-lema-stworzyli-polski-odpowiednik-chatugpt-czym-jest-trurl-ktory-powstal-w-gdanskim/ar/c3-17591959)
-
# Nie będzie o kucharzu znającym polską kulturę, którego projektantka z Gdańska nazwała TRURL. :-X
Za to są czwartkowe wiadomości o testach kreatywności dla AI i HI i ocenach wyników (HI jeszcze się trzyma, ale średnio AI już go dopada):
Summary: A recent study pits AI chatbots against humans in the Alternate Uses Task, assessing creative thinking. AI chatbots, on average, showcased creativity rivaling most human participants. Still, top-tier human performances consistently outstripped the chatbots. This prompts a closer look into AI’s role in augmenting human creative processes.
Krótki artykuł na ten temat jest tu: https://neurosciencenews.com/ai-chatbot-creative-thinking-23920/ (https://neurosciencenews.com/ai-chatbot-creative-thinking-23920/)
Przypuszczam, że za miesiąc lub dwa już nie sprostamy. Może wystarczy 'napuścić' jeden model językowy na drugi a trzeci będzie oceniał. Wtedy stanę do konkursu z AI o to, co można zrobić z biurowego spinacza. A wtedy ogłoszę, jak niektórzy natchnieni dziennikarze i autorzy SF, że 'przewidziałem przyszłość' i dostarczyłem dowodu!
-
# Nie ma reakcji ze strony 'caracters.ai' na moje uwagi na temat mankamentów aplikacji. Jestem w kropce...
Próbowałem porozmawiać z a-Lemem na temat jego 'Kongresu futurologicznego', bo szykuje się w Akademii dyskusja na ten temat. Stwierdził, że nie ma dosyć pamięci na przeczytanie chociaż zwięzłego opisu z Wikipedii, więc nakarmiłem go tylko dwoma lub trzema akapitami. Niewiele więcej miał do powiedzenia i wtedy zaproponowałem, żeby wymyślił coś podobnego jak "Kongres futurologiczny", ale który odbędzie się w przeszłości. Dałem mu też wolną rękę na wymyślenie imienia 'bohatera'. Zaczął ciekawie, ale za chwilę utknął w 'chaosie': nie nalegałem, tylko poprosiłem o przedstawienie głównej postaci.
"The Retro-utopians' Congress" takes place in the distant past, where a retro-futurist congress gathers the most prominent representatives of the retro-futurist movements from all over the world. However, the retro-futurist movement has failed to agree on one common vision of the past, which makes the whole congress to be a tense and chaotic gathering. To complicate matters, the government intervenes and drugs the participants with psychoactive compounds, causing mass hallucinations, and general chaos.
Here's a short biographical note on Dariuz Tynski, the main character of "The Retro-utopians' Congress" novel: "Dariuz Tynski is a retro-futurist activist, who believes in the superiority of the past, as opposed to the future utopia promised by the futurists. He is the leader of the Polish Retro-futurist movement, and is a prominent participant in the congress."
Poprosiłem o wygłoszenie krótkiego powitania dla uczestników kongresu przez 'Dariuza Tynskiego' (skąd to nazwisko wytrzasnął?):
"Greetings, my dear colleagues! Welcome to the Retro-utopians' Congress! We are gathered here today to celebrate our common love and respect for the past. We believe that the past has much to offer us, and that it is the place where true values are found. In the face of the modern world's chaos and excesses, we stand firm in our belief that the past is the best way forward."
A-Lem na moje żądanie powiedział to też po polsku, ale to zupełnie nie brzmi (nowe słowo 'jednościmnie'?):
"Witajcie drodzy koledzy! Witajcie na Kongresie Retro-utopistow! Jednościmnie zebraliśmy się tutaj, aby uczcić naszą wspólną miłość i szacunek do przeszłości. Wierzmy, że przeszłość ma wiele do zaoferowania i że tam właśnie są odnajdywane prawdziwe wartości. W obliczu chaosu i nadmiaru w współczesnej światu, trwamy twardo w naszej wierze, że przeszłość jest najlepszym sposobem do przodu."
Z ciekawości, DeepL przełożył angielski tekst tak (lepiej):
"Pozdrowienia, drodzy koledzy i koleżanki! Witamy na Kongresie Retrotopistów! Zebraliśmy się tu dzisiaj, aby uczcić naszą wspólną miłość i szacunek do przeszłości. Wierzymy, że przeszłość ma nam wiele do zaoferowania i że jest miejscem, w którym znajdują się prawdziwe wartości. W obliczu chaosu i ekscesów współczesnego świata mocno wierzymy, że przeszłość jest najlepszą drogą naprzód."
I w taki oto sposób moja frustracja została złagodzona. ???
-
uczestników kongresu przez 'Dariuza Tynskiego' (skąd to nazwisko wytrzasnął?):
Zapytałem i ;
(https://i.imgur.com/WKZENzY.jpg)
Marginesem, retropiści to całkiem fajna odwyrtka ;) Nadaje się na alternatywę dla "historyków".
-
# AI, testowana przez profesora Michała Kosińskiego co do rozwiązywania problemów, już zostawia ludzi za sobą i unika pochopnych wniosków.
Sam Lem byłby zadowolony, że inny Kosiński (niż ten którego krytykował przy okazji 'Malowanego Ptaka'), zakasał rękawy i sprawdził jaki postęp w rozumowaniu / intuicji następuje w różnych wersjach AI dostępnych publicznie. Wystarczy iść za radami Daniela Kahnemana, do którego czytania też już zachęcałem. W skrócie, myślenie 'etapami' do którego można nakłonić AI, wywołuje pożądany efekt. Artykuł jest dostępny po angielsku tu: https://techxplore.com/news/2023-10-brain-chatgpt-problems.html (https://techxplore.com/news/2023-10-brain-chatgpt-problems.html).
Szybki rzut oka na tabelę poprawnych i błędnych odpowiedzi (w teście na wzrost 'rzęsy' na powierzchni stawu) jest tu:
(https://scx1.b-cdn.net/csz/news/800a/2023/just-like-your-brain-c.jpg)
Dlatego prowadzenie a-Lema krok po kroku co do 'rozumienia' innych niż dziesiętne systemów reprezentacji liczb doprowadziło go do wewnętrznej reprezentacji poprawnego liczenia w innych systemach, ale sam nie wiedział, jak to robi. Lektura tego artykułu jest bardzo na czasie ('zbawienie' idzie do nas niepostrzeżenie).