Lem to przewidział w Podróży dwudziestej czwartej - jeśli chodzi o rzecz najgrubszą - stworzenie maszyny, która kierując się logika spełni żądania ludzkości by panował ład i porządek. Jeśli chodzi o cieńsze sprawy to już obecnie komputery podejmują tak olbrzymią liczbę decyzji kierując się algorytmami, że nadzór człowieka jest w większości fikcją i polega raczej na zauważeniu skutków, niż korekcie decyzji algorytmu przed jego zadziałaniem. Weźmy takie Huawei - diabli wiedzą, czy prawda, że Chińczycy szpiegują, czy też to tylko wojna rynku - ale jedno jest pewne - jak można przeczytać wywiadownie świata, w tym wszechmocna CIA piszą wprost, że NIE SĄ W STANIE DOJŚĆ, co siedzi w tych czipach, bo nikt nie jest w stanie rozłożyć tego na czynniki pierwsze. Maszyny robią maszyny, które projektują obwody, które wykonują i optymalizują kolejne maszyny i nie ma sposobu, żeby z zewnątrz, dysponując takim smartfonem a nie mając schematu się dowiedzieć, jaka jest jego budowa. Jak sobie to człowiek uświadomi, to się dziwnie robi, bo większość ludzi pamięta jeszcze elektronikę z widocznych po zdjęciu obudowy podzespołów, których schemat połączeń może odrysować ołówkiem dziecko z podstawówki - bo po prostu wszystko widać.
Tymczasem pamiętam jak dość dawno temu byłem zadziwiony informacją, że w procesorze komputera, który właśnie nabyłem jest 50 mln tranzystorów - co dało mi do myślenia, bo było ich więcej, niż obywateli Polski i grubo więcej, niż można sobie wyobrazić licząc coś na sztuki. Mógłbym każdemu współobywatelowi dać jeden tranzystor z mego PC i jeszcze zostałoby mi ich mniej więcej tyle, ile miał mój poprzedni PC. Gdyby chcieć polutować taki układ to poświęcając tylko 1 sekundę na złącze trzeba by lutować prawie 2 lata non stop!
Teraz byle lepszy smartfon ma w procesorze 2 czy 3 miliardy tranzystorów, często drugie tyle w karcie graficznej, nie wspominając o pamięciach, w których jest ich nawet więcej. W każdym smartfonie jest więcej tranzystorów, niż ludzi na Ziemi. A nawet przypuszczalnie w niektórych sztukach więcej, niż ludzi, którzy kiedykolwiek żyli na Ziemi, licząc od Australopiteka. W tej sytuacji jasne jest, że nie ma człowieka, który mógłby na wskroś przyswoić sobie i zrozumieć schemat elektrycznych połączeń w jakimkolwiek współczesnym urządzeniu, nawet nowszej pralce. Może zrozumieć dogłębnie taką część schematu, jaką jest w stanie umieścić w swej ludzkiej pamięci i objąć na raz rozumem. Małe fragmenty schematu są całkowicie zrozumiałe i nie ma tym żadnej tajemnicy, ale sama jego wielkość powoduje, że żaden człowiek nie ogarnia całości "do spodu". Nie ma w tym żadnego AI, teoretycznie wszystko jest pod nadzorem człowieka, on podejmuje decyzje, ale nikt nie wie, co tam jest, bo samo przeczytanie listy składników punkt po punkcie trwałoby kilkadziesiąt tysięcy lat na przykład. I z tego powodu CIA nie jest w stanie dojść, jakie instrukcje tkwią w chińskich smartfonach.
