Autor Wątek: AI - przerażająca (?) wizja  (Przeczytany 234506 razy)

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 15674
  • Jego Induktywność
    • Zobacz profil
« Ostatnia zmiana: Lipca 22, 2023, 04:37:51 pm wysłana przez Q »
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

Hoko

  • Juror
  • God Member
  • *****
  • Wiadomości: 2943
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #796 dnia: Sierpnia 21, 2023, 04:03:40 pm »

Retsam

  • Full Member
  • ****
  • Wiadomości: 106
  • Niepowodzenie jest najlepszym nauczycielem
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #797 dnia: Sierpnia 23, 2023, 11:37:33 pm »
Wywiad z profesorem Duchem już omawiałem w innym wątku, ale proszę o uwagę w tych momentach (po jakieś 2 minuty):

2:09:20 Plastyczność mózgu*
2:16:10 Teorie spiskowe
2:19:10 Archetypy

W pewnym sensie pomoże to porozmyślać o ewentualnym przekształceniu ('bootstrapie') człowieka według osi wybranej przez niego (to może być 'taki sobie pomysł', jeśli motywacją będzie uczestnictwo w 'Hotel Paradise').

*InfoTrop: 'Okienko' plastyczności mózgu otwiera się na krótko przy pobudzeniu magnetycznym, elektrycznym odpowiedniego fragmentu tego mózgu a także przez aktywacją nerwu błędnego. Po ustaniu pobudzenia zmiany zastygają. Prof. Duch wspomina o jakimś szykowanym start-upie jednego z doktorantów wykorzystującego prace wykonane pod jego kierownictwem. W dostępnych (do wglądu, do września 2022 roku) pracach doktoranckich nie ma wskazówek, jakich metod dokładnie użył. Mogę to rozwinąć, ale chyba nie ma chętnych.
« Ostatnia zmiana: Sierpnia 24, 2023, 02:55:23 pm wysłana przez Retsam »
'The mind that opens to a new idea never returns to its original size': Albert Einstein

Hoko

  • Juror
  • God Member
  • *****
  • Wiadomości: 2943
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #798 dnia: Września 18, 2023, 12:05:07 pm »
Rożek u Zychowicza

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 13214
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #799 dnia: Września 19, 2023, 11:18:36 am »
Dzięki, długaśne ale w przeciwieństwie do wielu tasiemców sensowne i treściwe :) .
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).

Retsam

  • Full Member
  • ****
  • Wiadomości: 106
  • Niepowodzenie jest najlepszym nauczycielem
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #800 dnia: Września 19, 2023, 09:00:44 pm »
Pan doktor ma Lema 'Diabeł i arcydzieło' w bibliotece po lewej. Punkt dla niego. ;D

Odwoływanie się do nazistowskich badań w Afryce, by uzasadnić pogląd wyższości białej rasy nad innymi jest 'nadmiarowe'. Z naszego podwórka: Korwin M. ma niezbity argument, że wyższości 'panów' nad 'paniami' nie da się zaprzeczyć, bo... W konsekwencji 'osobowość' AI będzie miała sygnaturę (albo powinna mieć) 'rodziców', by zapobiec rozlewaniu się 'toksyczności'. Dlatego niektórzy powinni zostać 'wykastrowani' by nie przekazywać dalej 'memów' ciemnoty.  :-X

Piotr Zychowicz zachowuje się jak 'opinia publiczna', co do której nie mam wysokiego mniemania.  :(

Wywiad nie ma tempa: proponuję prowadzić na stojąco, jak briefingi w czasie wojny (wszak jest to o wojnie).

Dziękuję!

'The mind that opens to a new idea never returns to its original size': Albert Einstein

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 13214
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #801 dnia: Października 27, 2023, 04:31:26 pm »
Ciekawe doniesienie: narzędzie o nazwie Nightshade pozwala zakłócać dane treningowe, przez co modele językowe generujące obrazy nie są w stanie poprawnie pracować. Zamiast psa są koty, zamiast samochodu krowy, zamiast łatwego zysku z okradania artystów frustracja.

Chodzi o to, że artyści uważają, że "opiekunowie" AI powinni im płacić tantiemy, jeśli trenują swoje AI na ich dziełach - oczywiście opiekunowie nie płacą a droga prawna jest dla artystów kosztowna i niepewna ze względu na kruczki i niedopowiedzenia oraz że ogólnie prawnicy mają węża w kieszeni.
Wymienione narzędzie ukrywa w zdigitalizowanych działach kody niewidoczne dla człowieka, ale czytelne dla maszyny analizującej obraz (w jasnościach pikseli itd) - te kody są zatrute i powodują błędne adaptacje, których nie da się łatwo wykorzenić, bo wszak opiekun AI nie bardzo może nią ręcznie sterować głównie z powodu, że w zasadzie nie wiadomo, jaka adaptacja gdzie siedzi w tej śtućnej mózgownicy i w związku z tym gdzie gmerać swoimi anty-kodami w celu uzdrowienia:


Dla przykładu narzędzie infekuje (zmienia kod) nie tylko słowo "pies", ale wszystkie podobne pojęcia, takie jak "szczeniak", "husky" czy nawet "wilk".

Przypomina to szyfrowanie, ale takie bez możliwości dekodowania. 

Atak trucizną działa również na dłuższe podpowiedzi (prompty), np. jeśli model korzysta z zatrutego obrazu w celu uzyskania dzieła w kategorii "sztuka fantasy", podpowiedzi "smok" i "zamek z Władcy Pierścieni" mogą być zmanipulowane, zamienione w coś innego. Na przykład w "pieczarkę" i "salon piękności w Hollywood".

Nightshade wykorzystuje lukę w zabezpieczeniach generatywnych modeli sztucznej inteligencji, wynikającą z faktu, że są one szkolone na ogromnych ilościach danych.

Artyści, którzy chcą przesłać swoje prace do internetu, ale nie chcą, aby ich obrazy zostały ukradzione przez firmy zajmujące się sztuczną inteligencją, mogą przesłać je do Glaze i zdecydować się na zamaskowanie ich stylem graficznym przez Nightshade.

– Skoro obraz, zdjęcie czy tekst stworzone przez sztuczną inteligencję nie mają ochrony prawnej, to można z nich dowolnie korzystać. To ma swoje plusy (każdy może na nich zarabiać) i minusy – nie ma żadnej gwarancji, że będą indywidualne, unikalne… a nawet legalne – mówiła wówczas prawniczka, przyznając, że nie jest już żadną zagadką, że AI generuje treści na podstawie utworów, które mogły zostać pozyskane nielegalnie.

Ben Zhao, profesor na Uniwersytecie w Chicago, który kierował zespołem, który stworzył Nightshade, mówił w rozmowie z "MIT Technology Review", że ma nadzieję, że pomoże to przechylić równowagę sił z firm zajmujących się sztuczną inteligencją na rzecz artystów, tworząc potężny środek odstraszający przed lekceważeniem praw autorskich i własności intelektualnej.

Na moje oko jest to puszka z Pandora, bo jeśli to działa, to zatruć można wszelkie dane, tocząc cybersabotaż czy cyberwojnę (o czym zresztą artykuł półgębkiem wspomina). Tym niemniej może to być zabawne, ktoś mówi AI, żeby zrobiła obraz Jana Matejki "Bitwa pod Grunwaldem" ale w sztafażu wojen kosmicznych - a tu książę Witold siedzi na wieprzu a w ręce zamiast miecza trzyma szczotkę do kibelka - i nic nie można na to poradzić...
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).

Lieber Augustin

  • God Member
  • ******
  • Wiadomości: 2333
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #802 dnia: Października 27, 2023, 07:54:47 pm »
Cytuj
Wymienione narzędzie ukrywa w zdigitalizowanych działach kody niewidoczne dla człowieka, ale czytelne dla maszyny analizującej obraz (w jasnościach pikseli itd) - te kody są zatrute i powodują błędne adaptacje, których nie da się łatwo wykorzenić, bo wszak opiekun AI nie bardzo może nią ręcznie sterować głównie z powodu, że w zasadzie nie wiadomo, jaka adaptacja gdzie siedzi w tej śtućnej mózgownicy i w związku z tym gdzie gmerać swoimi anty-kodami w celu uzdrowienia
Podejrzewam, że kontrśrodek na te zatrute kody może okazać się bardzo prosty i, by tak rzec, asymetryczny. Czy nie wystarczy na przykład, zanim skarmić obraz AI, najzwyczajniej w świecie przepuścić go przez photoshopa, lekko pobawić się ustawieniami jasności, kontrastu, gammy, rozmiaru w pikselach itp., by te "metadane" diabli wzięli?

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 13214
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #803 dnia: Października 27, 2023, 08:09:05 pm »
Na szybko raczej nie, jeśli kody będą we względnych parametrach. Programy do obróbki grafiki zmieniają rozmaite parametry także nieliniowo, ale jednak jaśniejszy piksel pozostaje względnie jaśniejszym, chyba, że z pozytywu zrobi się negatyw. No oczywista będzie miecz i tarcza. Ależ co za nawiązanie do ludzkiej psyche...
https://pl.wikipedia.org/wiki/Steganografia
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).

Retsam

  • Full Member
  • ****
  • Wiadomości: 106
  • Niepowodzenie jest najlepszym nauczycielem
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #804 dnia: Października 27, 2023, 08:33:09 pm »
@maziek: Co do tantiemów od wygłaszanych mądrości: jestem za. Proponuję jednak tzw. 'kapitał początkowy', po skończeniu np. 18 lat. Można go roztrwonić zbyt szybko i dostać szlaban na jakiekolwiek odpowiedzialne funkcje w administracji / zarządzaniu / sądownictwie, ale jednocześnie powiększać swój kapitał, by móc dostać się do kabaretu albo do zbioru czarnowidzów, szamanów i proroków i innych oszołomów.

Co do przesyłania 'tajnych' wiadomości w niektórych formatach graficznych, nazywa się to steganografia i ponoć zaczęła się od znaczków pocztowych. Jakieś niecałe 20 lat temu pokazałem jak to zrobić na zebraniu grupy w naszym departamencie, ze zdjęciem martwej natury i adresem / telefonami naszego biura. Informacje są 'mieszane', jakość obrazu nieznacznie spada, ale nie można tego odkryć bez klucza.

Co do degradacji modeli 'deep learning' odnośnie tłumaczenia (jak deepl), od ładnych kilku miesięcy wygląda na zaprawiony 'dziegciem': ENU > FRA, ENU > PLK. 

P.S. @maziek dodał (chwilę wcześniej) link, ale byłem chwilę przy impregnacji drewna olejem lnianym (nieśmierdzącym, bo jadalnym) i przegapiłem...
'The mind that opens to a new idea never returns to its original size': Albert Einstein

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 13214
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #805 dnia: Października 27, 2023, 10:06:21 pm »
Matko, cóż za upadek... Olejem? Lnianym w dodatku? U're doing it wrong! Impregnować się należy szpirytusem. No w ostateczności słabszemi środkami, jako to piwo lebo wino. Ale olejem? Co to, człowiek szprotka jest, czy śledź jakiś?! Z lnu to tylko portki na upał są dobre, ale ciężko uprasować i zawsze pomięte.
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).

Retsam

  • Full Member
  • ****
  • Wiadomości: 106
  • Niepowodzenie jest najlepszym nauczycielem
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #806 dnia: Października 27, 2023, 10:20:13 pm »
Matko, cóż za upadek... Olejem? Lnianym w dodatku? U're doing it wrong! Impregnować się należy szpirytusem. No w ostateczności słabszemi środkami, jako to piwo lebo wino. Ale olejem? Co to, człowiek szprotka jest, czy śledź jakiś?! Z lnu to tylko portki na upał są dobre, ale ciężko uprasować i zawsze pomięte.

Prawda! Impregnowałem się (przy raclette, trudno teraz u nas znaleźć), dobrym winem: aż się zdziwiłem. Wszyscy już powyjeżdżali (na groby), albo już są (w tymże miejscu), więc próbowałem jeszcze na innej orbicie. Dzięki!  ;D
'The mind that opens to a new idea never returns to its original size': Albert Einstein

Lieber Augustin

  • God Member
  • ******
  • Wiadomości: 2333
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #807 dnia: Października 28, 2023, 10:26:41 am »
Na szybko raczej nie, jeśli kody będą we względnych parametrach.
Taaa... wygląda na to, że masz słusznego.

Metoda cyfrowego znaku wodnego polega na umieszczeniu cyfrowego sygnału znakującego wewnątrz cyfrowej treści. Taki zapis do pliku unikalnej kombinacji bitów identyfikującej twórcę lub właściciela majątkowych praw autorskich może stanowić trudne do wykrycia i usunięcia zabezpieczenie. Wiąże się to jednak z pogorszeniem jakości danych zapisanych w pliku. Co więcej, każda kopia oryginału posiada ten sam niewidoczny lub niemożliwy do usłyszenia dla człowieka znak wodny. W przypadku statycznego obrazu, znak zachowa się nawet po wydrukowaniu i ponownym zeskanowaniu. Metoda ta jest w dużym stopniu odporna na pakowanie plików algorytmami kompresji stratnej oraz ich modyfikacje (kadrowanie i obracanie obrazu, zmiana głębi kolorów, rozmiaru lub formatu pliku).
https://pl.m.wikipedia.org/wiki/Cyfrowy_znak_wodny

Jeżeli nawet wydrukowanie i ponowne zeskanowanie nic nie daje, to już nie wiem...

Q

  • Juror
  • God Member
  • *****
  • Wiadomości: 15674
  • Jego Induktywność
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #808 dnia: Października 28, 2023, 10:12:46 pm »
Zastanawiam się, czy zastosowana metoda nie jest przypadkiem rozwinięciem opracowanej parę lat temu techniki (która znów stanowiła bardziej wyrafinowany wariant pomysłu kryjącego się za ruchomymi pocztówkami sprzed lat)...
https://actu.epfl.ch/news/rotate-an-image-another-one-appears/
https://mobirank.pl/2015/12/25/technika-druku-ktora-ukrywa-dwa-obrazy/
"Wśród wydarzeń wszechświata nie ma ważnych i nieważnych, tylko my różnie je postrzegamy. Podział na ważne i nieważne odbywa się w naszych umysłach" - Marek Baraniecki

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 13214
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #809 dnia: Października 29, 2023, 08:02:51 am »
Tak, to to samo. U babci mojego kolegi wisiał obraz wykonany tą metodą...
https://archiwum.allegro.pl/oferta/obraz-sakralny-trzy-obrazy-w-jednym-prl-i10586449658.html
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).