Ciekawe doniesienie: narzędzie o nazwie Nightshade pozwala zakłócać dane treningowe, przez co modele językowe generujące obrazy nie są w stanie poprawnie pracować. Zamiast psa są koty, zamiast samochodu krowy, zamiast łatwego zysku z okradania artystów frustracja.
Chodzi o to, że artyści uważają, że "opiekunowie" AI powinni im płacić tantiemy, jeśli trenują swoje AI na ich dziełach - oczywiście opiekunowie nie płacą a droga prawna jest dla artystów kosztowna i niepewna ze względu na kruczki i niedopowiedzenia oraz że ogólnie prawnicy mają węża w kieszeni.
Wymienione narzędzie ukrywa w zdigitalizowanych działach kody niewidoczne dla człowieka, ale czytelne dla maszyny analizującej obraz (w jasnościach pikseli itd) - te kody są zatrute i powodują błędne adaptacje, których nie da się łatwo wykorzenić, bo wszak opiekun AI nie bardzo może nią ręcznie sterować głównie z powodu, że w zasadzie nie wiadomo, jaka adaptacja gdzie siedzi w tej śtućnej mózgownicy i w związku z tym gdzie gmerać swoimi anty-kodami w celu uzdrowienia:
Dla przykładu narzędzie infekuje (zmienia kod) nie tylko słowo "pies", ale wszystkie podobne pojęcia, takie jak "szczeniak", "husky" czy nawet "wilk".
Przypomina to szyfrowanie, ale takie bez możliwości dekodowania.
Atak trucizną działa również na dłuższe podpowiedzi (prompty), np. jeśli model korzysta z zatrutego obrazu w celu uzyskania dzieła w kategorii "sztuka fantasy", podpowiedzi "smok" i "zamek z Władcy Pierścieni" mogą być zmanipulowane, zamienione w coś innego. Na przykład w "pieczarkę" i "salon piękności w Hollywood".
Nightshade wykorzystuje lukę w zabezpieczeniach generatywnych modeli sztucznej inteligencji, wynikającą z faktu, że są one szkolone na ogromnych ilościach danych.
Artyści, którzy chcą przesłać swoje prace do internetu, ale nie chcą, aby ich obrazy zostały ukradzione przez firmy zajmujące się sztuczną inteligencją, mogą przesłać je do Glaze i zdecydować się na zamaskowanie ich stylem graficznym przez Nightshade.
– Skoro obraz, zdjęcie czy tekst stworzone przez sztuczną inteligencję nie mają ochrony prawnej, to można z nich dowolnie korzystać. To ma swoje plusy (każdy może na nich zarabiać) i minusy – nie ma żadnej gwarancji, że będą indywidualne, unikalne… a nawet legalne – mówiła wówczas prawniczka, przyznając, że nie jest już żadną zagadką, że AI generuje treści na podstawie utworów, które mogły zostać pozyskane nielegalnie.
Ben Zhao, profesor na Uniwersytecie w Chicago, który kierował zespołem, który stworzył Nightshade, mówił w rozmowie z "MIT Technology Review", że ma nadzieję, że pomoże to przechylić równowagę sił z firm zajmujących się sztuczną inteligencją na rzecz artystów, tworząc potężny środek odstraszający przed lekceważeniem praw autorskich i własności intelektualnej.
Na moje oko jest to puszka z Pandora, bo jeśli to działa, to zatruć można wszelkie dane, tocząc cybersabotaż czy cyberwojnę (o czym zresztą artykuł półgębkiem wspomina). Tym niemniej może to być zabawne, ktoś mówi AI, żeby zrobiła obraz Jana Matejki "Bitwa pod Grunwaldem" ale w sztafażu wojen kosmicznych - a tu książę Witold siedzi na wieprzu a w ręce zamiast miecza trzyma szczotkę do kibelka - i nic nie można na to poradzić...
