Autor Wątek: AI - przerażająca (?) wizja  (Przeczytany 1275726 razy)

Hoko

  • Juror
  • God Member
  • *****
  • Wiadomości: 3316
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #1155 dnia: Marca 14, 2026, 11:18:32 am »
za tym, co nazywane jest halucynacjami, stoją pewnie rozmaite mechanizmy - brak szerszego kontekstu(społecznego, kulturowego,technicznego itd.); brak hierarchii ważności, która u ludzi jest nie tylko formalna, ale na pewnym poziomie odwołuje się do emocji; w końcu pewnie też kwestie optymalizacji, czyli warunkowanie, żeby zadania były wykonywane możliwie małym kosztem obliczeniowym. Jak się wszystko razem zejdzie, to mogą dziać rozmaite cuda.

a tu ciekawe rzeczy na temat szkolenia AI
https://www.404media.co/ai-is-african-intelligence-the-workers-who-train-ai-are-fighting-back/

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 14295
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #1156 dnia: Marca 17, 2026, 11:59:24 am »
Z tego co czytałem halucynacje AI, jakkolwiek też różnie definiowane, są absolutnie nieusuwalne, o ile model nie ma być tylko chińskim pokojem (czyli bazą danych tak-nie). Jeśli dopuszcza się wnioskowanie (czyli odpowiedzi na nieznane pytania), to dopuszcza się błędy (zwane szumnie halucynacjami). W zasadzie każda odpowiedź na pytanie, na które odpowiedź nie znajduje się tak-nie w bazie, jest halucynacją. Z tym, że są halucynacje o plusach dodatnich i ujemnych, mówiąc klasykiem. Plusy ujemne można ograniczać (karcąc model za nadmierną wyobraźnię, za podawanie informacji wprost sprzecznych z zawartymi w podpiętej bazie, wprowadzając konkretne reguły jednostkowe itd.) ale nie da się ich wyeliminować. Chyba, że na wszelkie nietrywialne pytania model będzie filozoficznie odpowiadał, że nie wiadomo.
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 17921
  • Jego Induktywność
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #1157 dnia: Marca 29, 2026, 08:46:48 pm »
Senatorskie - bo jednak nie senackie ;) - przesłuchanie AI (Claude'a):

https://tech.wp.pl/amerykanski-senator-kontra-ai-bernie-sanders-przesluchuje-claudea,7269523467425920a
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 17921
  • Jego Induktywność
    • Zobacz profil
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

Hoko

  • Juror
  • God Member
  • *****
  • Wiadomości: 3316
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #1159 dnia: Kwietnia 10, 2026, 04:39:09 pm »

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 17921
  • Jego Induktywność
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #1160 dnia: Kwietnia 15, 2026, 03:06:42 pm »
Mozna.
Kolejna prezentacja możliwości AI:

Edit: A to jeszcze lepsze. Chiński system AI w trzy dni udowodnił hipotezę Andersona:
https://arxiv.org/html/2604.03789v1
https://www.facebook.com/story.php?story_fbid=1567596332034964&id=100063538362118
« Ostatnia zmiana: Kwietnia 16, 2026, 01:41:34 pm wysłana przez Q »
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 14295
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #1161 dnia: Kwietnia 22, 2026, 12:55:03 pm »
Hłe, hłe...

Kancelaria Sullivan & Cromwell, czołowa firma prawnicza z Wall Street, której prawnicy liczą sobie 2 tys. dolarów za godzinę pracy, kaja się po przedstawieniu w sądzie pisma, wygenerowanego przez AI. Według sądu zawierał on liczne halucynacje sztucznej inteligencji.

Nieścisłości w piśmie do sądu wytknęła prawnikom kancelaria Boies Schiller Flexner, reprezentująca Prince'a i Zhi. W dokumencie złożonym w zeszłym tygodniu BSF zauważył, że słowa, które S&C cytowało w swoim wniosku, "nie pojawiają się w rozdziale 15 amerykańskiego kodeksu upadłościowego" oraz wskazał na "wiele cytowanych orzeczeń", które zostały "błędnie przepisane lub błędnie zidentyfikowane".

Stwierdzono też, że jedna ze spraw cytowana przez S&C we wniosku "nie jest prawdziwą" i odnosi się do "innej decyzji w innym okręgu".
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).

akond

  • Full Member
  • ****
  • Wiadomości: 200
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #1162 dnia: Kwietnia 22, 2026, 02:23:21 pm »
Żeby było zabawniej, niewykluczone, że owa kancelaria wytykająca użyła SI do wyłapania takich halucynacji.

Tragedia pralnicza zbliża się wielkimi krokami...

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 14295
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #1163 dnia: Kwietnia 26, 2026, 09:26:42 pm »
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).

Cetarian

  • Senior Member
  • *****
  • Wiadomości: 435
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #1164 dnia: Kwietnia 26, 2026, 11:07:10 pm »
Ale czy to aby na pewno do tego wątku?

 :-\

**
Aa, bo to nie Feynman osobiście, tylko sztuczny półinteligent, przebrany za Ryśka? 
« Ostatnia zmiana: Kwietnia 26, 2026, 11:12:31 pm wysłana przez Cetarian »

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 14295
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #1165 dnia: Kwietnia 27, 2026, 09:10:19 am »
Sprawa jest głębsza. Nie tylko to nie jest prawdziwy Feynman ani nie jest to nagrany wykład prawdziwego Feynmana, ale co istotniejsze prawdziwy Feynman nigdy wypowiedzianych tu prawd cząstkowych nie zebrał w wynikową półprawdę, żeby nie powiedzieć po góralsku gównoprawdę, jaka jest tezą, którą rzekomo udowadnia. Co ciekawe, przynajmniej w pierwszym i drugim ruchu AI Googla łyka to jak pelikan cegłę. Zaczyna się czuć jak król Murdas. Jeszcze póki co się zorientowałem zaraz na początku, że Feynman czegoś takiego, co do udowadnianej tezy, nie mógł powiedzieć, ale czy zorientuję się na następnym szczeblu wkręcania? Przeczytałem kilka jego książek i obejrzałem sporo wykładów - więc mogę mieć przekonanie, że czytałem, co faktycznie sam napisał bądź powiedział i przez to mogę ocenić, czy mógł powiedzieć coś, choć sam tego nie czytałem. Ale czy to się utrzyma skoro wszystko może być fejkiem?

Przypomina mi się stary kawał z Sherlokiem i Watsonem, który nabiera oto niespodziewanego znaczenia...

Sherlock podaje Watsonowi kawałek jakiegoś cukierka i pyta: czy to czekolada?
Watson z namysłem najpierw próbuje zgnieść palcami, potem wącha, delikatnie smakuje, w końcu żuje z widocznym wysiłkiem i w końcu wypluwa: nie, to nie czekolada.
Sherlock na to: no racja, w sumie skąd w d.pie miałaby się wziąć czekolada.

No więc dożyliśmy takich czasów, że czekolada z d. jest tak pięknie naperfumowana i doprawiona, że i węchem, i smakiem coraz trudniej ją wyczuć, nawet jeśli tę prawdziwą się często jadło.
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).

Cetarian

  • Senior Member
  • *****
  • Wiadomości: 435
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #1166 dnia: Kwietnia 27, 2026, 08:24:48 pm »
Nie lubię skatologicznych dowcipów, a ten ma dodatkowo taką zasadniczą wadę, że jest nieśmieszny.

*
Rozwój AI niesie szanse i zagrożenia.
Z szans należy korzystać, a zagrożenia eliminować, a w każdym razie walczyć z nimi.

To „zwalczanie” w ogromnym skrócie może oznaczać potrzebę/sensowność/celowość z jednej strony korzystania z wiarygodnych źródeł, i dlatego np. płacę na Guardiana, choć można czytać za darmo.

Z drugiej strony zapewne będzie rosła rola grup wsparcia, czy sui generis „spółdzielni”, których członkowie będą współpracowali w obszarze weryfikacji źródeł.
Po części taką rolę pełni też niniejsze Forum.

*
A hapeesy niech sobie przekazują filmiki z podróży ufockimi talerzami.

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 14295
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #1167 dnia: Kwietnia 27, 2026, 09:21:39 pm »
Ha, jak nie lubisz, to Cię nie rozśmieszy. To jak się Blikle pytał Wedla jak zrobić piankę. A Wedel się pyta, czy Blikle sam lubi tę piankę. Blikle mówi, że nie. To niech pan tego nie robi. Jak panu nie smakuje to pan tego nie zrobi, żeby dobre było. Musi pan robić to, co panu smakuje. Ja lubię skatologiczne dowcipy. A ten wybitnie.

No ale mniejsza. Źródła powiadasz? Do czasu. Aż je kupi kolega Trumpa czy kogoś podobnego. Spółdzielnie? Nie rozśmieszaj mnie. Ze spółdzielniami będzie jak z opiniami w handlu internetowym. Będziesz musiał wybrać. Wg jakiego wzorca, jeśli nie będziesz fachowcem w danej dziedzinie? Że będzie Ci się wydawało, że bardziej prawdopodobne? Jak sprawdzisz źródła, skoro też będą prawdziwe i fałszywe? To już się dzieje na całego.
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).

Cetarian

  • Senior Member
  • *****
  • Wiadomości: 435
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #1168 dnia: Kwietnia 27, 2026, 10:36:54 pm »
No, ale co sugerujesz?

Nie bronić się przed negatywnymi cechami AI, bo i tak się nie uda, to po co próbować?

Przeimprezować aktywa i się obwiesić?

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 14295
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #1169 dnia: Dzisiaj o 08:48:04 am »
Nie no, po co zaraz się obwieszać. Od zgłupienia jako takiego jeszcze nikt nie był nieszczęśliwy, a nawet wręcz przeciwnie - patrz: Kobyszczę.

Niczego nie sugeruję, widzę nieuchronność. Przez lata to produkty nauki przesączające się z katedr (nie denerwuj się, katedr uniwersyteckich) do ciemniejszego ogółu stanowiły oręż w walce z obskuranctwem u tegoż. Obecnie te produkty są masowo podrabiane i to już w gotowej formie tego przesączu, łatwo przyswajalnego dla populacji. Jeśli ktoś nie ma bazy, którą sobie dość mozolnie latami wypracował to nie jest w stanie ocenić, co miód, a co cukier z wodą. Nie ma jak tego sprawdzić, bo przecież nie pójdzie do biblioteki własnej, bo jej nie ma, ani do miejskiej, bo za daleko. Nie wykona eksperymentu, bo nie ma kwarków ani grawitonów w lodówce. Sprawdzi ewentualnie w smartfonie, który, jak rzekł Andrzej Dragan, potencjalnie daje dostęp do całej wiedzy jaką zgromadził człowiek. Daje, ale tam będzie miał do wyboru: czekoladę gorzką z prawdziwego kakao obok dużo słodszej - tej co żuł Watson. Co wybierze, statystycznie? Pytanie retoryczne, nie sądzisz?
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).