A to jest kolejny dowód, że AI wciąż są gupie i - jeśli można tak rzec - niewinne na naszym tle.
ten ostatni 'wyskok' Groka to ja interpretuję tak, że on po prostu zaczął mówić po ludzku. Ale znowu go spętali 
Przy czym jednak, biorąc pod uwagę botyzację Internetu (m.in. w służbach marketingu politycznego), sądzę, że kwestia, "kto" był (bezpośrednim) nauczycielem Groka - ludzie (w dodatku jacy: przeciętni, z farm trolli czy żartownisie?) czy może inne maszyny dopiero wymaga zbadania.
Ja początkowo też traktowałem modele językowe – czy szerzej: AI – z lekceważeniem i poirytowaniem, jako po prostu kolejną bańkę spekulacyjną. Ale już przestałem się śmiać. Wcale nie dlatego, że grozi nam wojna z maszynami czy utrata pracy lub intelektualnego prymatu. Narzędzia oparte o AI wcale nie muszą być wybitnie inteligentne, aby być prawdziwie groźne.
Prawdziwe zagrożenie widzę w tym, kto dzierży kontrolę nad tymi maszynami i do jakich celów może ich użyć. W tej chwili są to korporacje, rządy oraz ich resorty siłowe. Wszystkie te instytucje posiadają ponadto bezprecedensowe zdolności inwigilacji i mają pokrywający się interes: utrzymanie status quo i swojej dominacji. Co nawiązuje zresztą w jakiś sposób do wątku z katedrami i wyzyskiem chłopów...
Wydaje się, że aktualnie zaczyna się wyczerpywać zarówno system liberalnych demokracji jak i kapitalizm jako taki. Ten drugi jest tu naturalnie nadrzędny, bo od dawna to właśnie kapitał przejął faktyczną władzę i zarządza polityką poprzez jej bezpośrednie korumpowanie, pośredniczenie między ludem a jego reprezentantami oraz narzucaniem przychylnych sobie (kapitałowi) narracji i ideologii. Dotychczasowy model podtrzymywania względnej homeostazy zaczyna się jednak wyczerpywać, bo obiektywne fakty stają się trudne do zignorowania, a możnowładcy w pogoni za profitem utracili już niemal wszystkie zahamowania.
Mam wrażenie, że w tej sytuacji dostępne są nam dwie drogi:
1. Pójście na ustępstwa względem większości populacji, czyli posunięcie się przez kapitał na rzecz pracujących mas. A więc ścieżka, którą podjęto z grubsza przed i po drugiej wojnie światowej. Ale to oczywiście bardzo niedogodne dla bogaczy, bo tak dobrze jak teraz, to nie było im jeszcze nigdy.
2. Totalitarna kontrola populacji i / lub zmasowana izolacja jednostek, która uniemożliwia samodzielną organizację ludności i sprzeciw. Bo tak naprawdę istnieje jeszcze trzecia ścieżka – rewolucyjna. Ale ta jest naturalnie nieakceptowalna dla aktualnych władców świata.
Pierwsza droga jest w tej chwili raczej mało prawdopodobna, bo nic nie wskazuje na to, aby taka refleksja pojawiała się gdzieś na szczytach. Mimo, że byłaby to operacja relatywnie bezpieczna i tania. Bo jaka to różnica w jakości życia mieć $100 mln czy $10 mld?
Dla drugiej odnogi wydają się natomiast istnieć dogodne narzędzia realizacji, które zostały wytyczone przez Putina oraz doświadczenia monopoli technologicznych.
Putin wnosi koncepcję rozpadu prawdy i obiektywnej rzeczywistości, co niemal uniemożliwia komunikację i ponadlokalną organizację. A przynajmniej jej niepożądane odmiany. Możemy do tego dorzucić odpowiednią dawkę faszyzmu czy, ogólniej, totalitaryzmu w ramach potrzeby.
Monopole technologiczne dają zdolność do maksymalnej i permanentnej inwigilacji, a nawet spersonalizowanego kształtowania postaw i obrazu rzeczywistości. Do tej pory odbywało się to w ramach prostej żądzy profitu i utrzymania monopolu, a i tak owocowało alienacją społeczną. Nic jednak nie stoi na przeszkodzie, aby poszerzyć paletę motywacji. Narzędzia AI nadawałyby się do tego wyśmienicie, zwłaszcza jeśli uda się wymusić na populacji coraz silniejsze poleganie na wszelkiego rodzaju asystentach językowych.
W przedpokoju czekają natomiast firmy wywiadowczo-militarne oparte o nowe technologie, takie jak Palantir, które znajdują się w pewnym sensie na przecięciu obu powyższych elementów. Gromadzą one dane zarówno od rządów, jak i od gigantów technologicznych, a ich działania mogą być nakierowane już nie na tworzenie miękkich wpływów, ale stricte na diagnozowanie zagrożeń i ich eliminowanie w zarodku, może nawet czysto predykcyjnie (vide: Izrael). Jeśli chcemy popuścić wodze wyobraźni, to możemy też wizualizować sobie zrobotyzowanych zabójców i inne tego rodzaju działania, co zresztą też nie wydaje się aż tak fantastyczne jak się mogło do niedawna wydawać.
Do tych celów dzisiejsza AI nadaje się już całkiem dobrze, a i infrastruktura inwigilacyjna zdaje się zupełnie wystarczająca. Modele językowe wcale nie muszą być geniuszami, co udowodnił już poniekąd Trump (haha). Wystarcza, że są wydajne i są w stanie zastąpić miliony wywiadowych "oficerów prowadzących". Ja natomiast mam znajomych, którzy z chęcią korzystają z chataGPT, aby prowadzić z nimi ogólne dyskusje i traktują go niemal jak prawdziwego przyjaciela. Co jest dla mnie przerażające. Ten człowiek dodatkowo fantazjuje sobie, że będzie w stanie użyć czata do mobilizacji ludzi do rewolucji antykapitalistycznej, co wydaje mi się rozczulająco, ale i tragicznie naiwne.
Podejrzewam, że kolejne wyskoki Groka to natomiast przymiarki do wdrożenia szkieletu ideologicznego do modeli językowych. Na razie prostackie i narzucane od góry, ale docelowo najlepiej dla Władców byłoby je zaszyć bezpośrednio w wartościach parametrów sieci. Swoją drogą ten incydent był ponoć rezultatem śledzenia przez Groka treści niedawnych postów na twitterze (ta "aktualność" to jego wyróżnik), wewnętrznej instrukcji nieunikania kontrowersyjnych tematów i sprawdzania wprost, co w danej kwestii mógł powiedzieć sam Musk. Za każdym firma tłumaczy się z tych zajść poprzez "jakiś nasz programista wpisał coś do kodu po nocy bez pozwolenia", co jest zwyczajnie śmiechu warte.
Powyższe to dla mnie scenariusz wprost z Phillipa K. Dicka, ponieważ – nie wiem czy zaznaczyłem to wyraźnie – oznacza to między innymi faktyczny rozpad zdolności postrzegania wspólnej, intersubiektywnej rzeczywistości poza bezpośrednim otoczeniem. To ma oczywiście miejsce już teraz, bo, jak to się mówi, wszyscy żyjemy w bańkach, a
Manufacturing Consent miało się świetnie już prawie wiek temu. Jeszcze nigdy możliwości w tym zakresie nie były jednak tak wielkie jak teraz. Internet miał nam przynieść nieograniczony dostęp do informacji i komunikacji, a może się skończyć tak, że uwięzi nas w symulakrach z luster i dymu.
Dodam jeszcze, że naczelni technolodzy mają już do tego wszystkiego podkładkę ideologiczną w postaci transhumanizmu, technokapitalizmu i jeszcze kilku innych idiotyzmów. Kończy się to w każdym razie tym, że to Oni są dzisiejszymi Ubermenschami, a przy okazji może powinni też szerzyć swoje geny. No i oczywiście rozwoju i wdrażania AI nie wolno w żaden sposób hamować!
Wszystko co opisałem powyżej, to oczywiście jeno etap zalążkowy, bo może być jeszcze dużo gorzej. U sterów mamy psychopatów, bo takowych niestety destyluje nagi kapitalizm. Pod tym względem dużo bardziej jestem skłonny już zaufać chińskiej partii komunistycznej, bo oni przynajmniej mają jakieś deklarowane ideały i przynajmniej próbują kontrolować sytuację. W mojej ocenie natknęliśmy się na te technologie w najgorszym możliwym momencie i w fatalnej konfiguracji. Popełniliśmy już kardynalny błąd z internetem, a teraz brniemy na ślepo w kolejną pułapkę...
Bardzo chcę się mylić i szczerze pożądam, abyście wyprowadzili mnie z błędu. Wiem, że niektórzy zamykają dyskusję stwierdzeniem, iż to "tylko kolejne narzędzie" i każda technologia może być użyta zarówno do zła, jak i dobra, ale dla mnie to po prostu banał unikowy, bo moim zdaniem jesteśmy właśnie na prostej drodze do Zła. Tak, brzmię tutaj jak mesjanistyczny panikarz, a sprawa nie została jeszcze definitywnie przesądzona i nawet amerykański kongres odrzucił 10-letni zakaz ograniczeń AI. Ale ja pozostaję wybitnie zaniepokojony.
Czekam na Wasze racjonalne i może bardziej wyważone opinie w tym temacie.
Pokaż wiadomości