To, że wkleiłem info o Tegmarku, nie oznacza, że się z nim zgadzam, albo nie zgadzam.
Póki co, nie mam zadania.
Tegmark jest profesorem MIT, co daje mu ca 50 doljodów kredytu zaufania. Słuchałem jego rozmów z Lexem Fridmanem, łatwo dostępnych na YT, i robił na mnie wrażenie dość sensownego człowieka (ca sto doljodów kredytu).
@
maziekNie rozumiem tej koncepcji z myszą i słoniem.
Czytając rozmaite tego typu teksty zdaje mi się, że generalnie obawy o wymknięcie się AI spod kontroli są troską o mysz przemykającą cichcem przez pokój, w którym jakoś nikt nie zauważa stojącego na środku, wkurzonego i ryczącego słonia. AI została stworzona dla osiągnięcia celów, które warte były i są inwestowania w nie setek miliardów dolarów, ze stałą progresją tych wydatków. Te cele to ogólnie mówiąc pieniądze bądź władza - i to ludzie chcą je osiągać a nie zbuntowana AI. Bać się trzeba ludzi, część z nich ma niewątpliwie nierówno pod kopułą.
Zgadzam się, że to ludzie stanowią zagrożenie, ale
poziom tego zagrożenia zależy bardzo silnie od poziomu technologii, którymi ci (jacyś) ludzie dysponują.Japonia nie mogłaby zaatakować Pearl Harbour, gdyby nie miała lotniskowców i samolotów.
Jedne i drugie były dość prymitywne z dzisiejszego punktu widzenia, ale wystarczyły do zatopienia czterech pancerników, uszkodzenia czterech dalszych i generalnie do zadania wielkich i bardzo asymetrycznych strat.
https://en.wikipedia.org/wiki/Attack_on_Pearl_Harbor*
Wyobraź sobie, że na Ziemi nie ma pierwiastków promieniotwórczych (albo są, ale zalegają co najmniej piętnaście kilometrów poniżej poziomu morza, więc są praktycznie niedostępne).
Załóżmy dalej, że historia tego alternatywnego świata, do połowy 1945 roku, byłaby taka sama jak nasza (oczywiście bez dokonań Skłodowskiej i - zwłaszcza – bez projektu Manhattan).
Co by się działo dalej?
Prawdopodobnie wojna z Japonią trwałaby jeszcze wiele miesięcy, może rok. Alianci wygraliby, ale Amerykanie straciliby około 250 tysięcy zabitych i rannych.
Sowieci prawdopodobnie zajęliby Hokkaido.
Jeszcze w trakcie wojny, po kapitulacji Niemiec, znaczna część wojsk amerykańskich zostałaby przeniesiona na Pacyfik.
Po wojnie w Europie pozostałyby tylko amerykańskie siły okupacyjne.
Stalin nie musiałby się obawiać amerykańskiej broni atomowej, ponieważ by jej nie było.W związku z tym, wydaje się dość prawdopodobne, że po roku, dwóch, trzech, Stalin wziąłby sobie całe Niemcy (i Austrię na przystawkę).
Niewykluczone, że to by się odbyło bez jednego wystrzału.
Czy Amerykanom, Francuzom i Brytyjczykom chciałoby się bronić Niemców przed Sowietami? (bronić metodami konwencjonalnymi, bez amerykańskich bomb atomowych, bo nie byłoby ich).
A gdyby jednak chcieli bronić, to ich wojsk okupacyjne zostałyby pokonane raczej w ciągu tygodni, niż miesięcy.
Czy Sowieci zatrzymaliby się na granicy Francji?
Może tak, może.
Ile i jakich wojen stoczono by do roku 2025 – trudno oszacować, ale prawie na pewno byłoby ich więcej.
Jednak
żadna nie zagrażałaby istnieniu ludzkości.
*
Wydaje mi się, że AI/AGI może zmienić świat w sposób równie znaczący, jak zrobił to wynalazek bomby atomowej.
Jak to będzie wyglądało konkretnie, czy jak mogłoby wyglądać, na czym polegać, oczywiście nie wiem, ale wykluczyć takiego zagrożenia nie można.
A to, że Amerykanie wydali 500 miliardów USD (a reszta świata ca 280 miliardów) przybliża nas do AGI – znacznie szybciej, niż gdyby te wydatki były np. o rząd wielkości mniejsze – czyli „marne” ca 80 miliardów USD łącznie.
