Autor Wątek: AI - przerażająca (?) wizja  (Przeczytany 176980 razy)

Lieber Augustin

  • God Member
  • ******
  • Wiadomości: 1809
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #480 dnia: Czerwiec 21, 2022, 07:39:43 pm »
Kobiety z rowerem nie odróżnił od tła.
To jest fakt.
Cóż, parafrazując łacińskie przysłowie, errare artificiali intelligentium est, perseverare autem humanum 8)

https://spectrum.ieee.org/ai-failures
Jak na mnie, najbardziej zaskakująco wyglądają problemy SI z matmą. Nigdy bym nie pomyślał:
Although conventional computers are good at crunching numbers, AIs "are surprisingly not good at mathematics at all," Berkeley's Hendrycks says. "You might have the latest and greatest models that take hundreds of GPUs to train, and they're still just not as reliable as a pocket calculator."

Jakoś bardzo po ludzku, no nie? :)

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 12472
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #481 dnia: Czerwiec 21, 2022, 07:54:51 pm »
Mnie się zdaje, że to jest źle powiedziane. Jak niby sprawny procesor może mieć jakiekolwiek kłopoty z matematyką? To tak, jakby sprawna przekładnia zębata miała problem ze stosunkiem przełożenia wejście-wyjście. To jest raczej problem szykowania danych niż ich obrabiania. W tym sensie ludzie na ogół nie mają żadnych problemów w interakcji z rzeczywistością - raczej dość szybko potrafią pojąć sytuację. Trudno powiedzieć, czy ludzie w ogóle myślą matematycznie (i to może być problem AI, że tak być może musi myśleć).
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).

miazo

  • Juror
  • Senior Member
  • *****
  • Wiadomości: 400
  • Ken sent me.
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #482 dnia: Czerwiec 21, 2022, 09:27:24 pm »
Cytuj
Kobiety z rowerem nie odróżnił od tła.
To jest fakt.

Nie przesadzajmy - czy w sytuacji, w której w nocy osoba ubrana na czarno nagle wkracza pod koła jadącego dość szybko samochodu człowiek poradziłby sobie lepiej?

Cetarian

  • Full Member
  • ****
  • Wiadomości: 175
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #483 dnia: Czerwiec 22, 2022, 08:10:41 am »
Cytuj
Kobiety z rowerem nie odróżnił od tła.
To jest fakt.

Nie przesadzajmy - czy w sytuacji, w której w nocy osoba ubrana na czarno nagle wkracza pod koła jadącego dość szybko samochodu człowiek poradziłby sobie lepiej?

Przestawiłem w YT prędkość odtwarzania filmu na minimalną, czyli 0,25 normalnej i kilka razy obejrzałem początek filmu. Szacuję, że kiedy „coś”, czyli przeszkoda (na początku niezdefiniowana) pojawia się na filmie, samochód jest od niej oddalony o około trzydzieści metrów. Ale film ma słabą jakość, sądzę, że w praktyce człowiek-kierowca zobaczyłby przeszkodę raczej z odległości 35-40 metrów.
Gdzie ty tam widzisz ”osobę ubraną na czarno”? Kobieta ma na sobie dżinsy, białe buty, rama roweru jest czerwona.

Wg policji samochód jechał z prędkością 40 mil, czyli 64 kilometry na godzinę, czyli osiemnaście metrów na sekundę.
Kierowca miałby zatem około dwóch sekund na reakcję.

https://www.smartdriver.pl/droga-hamowania-samochodu-a-predkosc

Fachowcy od bezpieczeństwa na drodze wyliczyli, że przy przeciętnej reakcji kierowcy na pojawienie się przeszkody przed maską samochodu oraz biorąc pod uwagę to, że potrzeba 0,3-0,4 sek. na zadziałanie układu hamulcowego, samochód zatrzymuje się w czasie 1,1-1,4 sek. Jeśli pojazd porusza się ze stałą prędkością, to w zależności od szybkości przy hamowaniu przejeżdża dystans wynoszący:
·   11-12 m – przy 30 km/h,
·   15-19,5 m – przy 50 km/h,
·   21-27 m – przy 70 km/h,

Była szansa na wyhamowanie do zera, a nawet przy uderzeniu z prędkością poniżej 15 km/h byłaby szansa na to, że kobieta odniesie tylko obrażenia nie zagrażające życiu.

Poza tym kierowca, jeśli oceniał, że nie zdąży wyhamować, mógłby i powinien podjąć próbę ominięcia pieszej. Albo od prawej po pasie postojowym i trawniku, albo od lewej. Z przeciwka nic nie jechało, rzut oka w lusterko, czy akurat ktoś go nie wyprzedza i można było kobietę ominąć od lewej.
Co więcej, gdyby kierowca (jednocześnie hamując) tylko odbił do linii środkowej, nie przekraczając jej i nie ryzykując, że uderzy go pojazd wyprzedzający (bo nie spojrzał w lusterko) byłaby duża szansa, że tylko uderzyłby w tylne koło roweru. Kobieta była przed rowerem, więc takie uderzenie raczej by jej nie przewróciło.       

*
I co to znaczy „Nagle wkracza”? Prowadziła rower, więc szła powoli. Szła od lewej, czyli najpierw przeszła przeciwległy pas. Czyli na pas, po którym jechał samochód Ubera weszła anty-nagle, bo najpierw szła po przeciwległym pasie, sygnalizując czynem, że za chwilę będzie przekraczała pas, po którym jechał samochód Ubera.   

*
No i pytanie: jak to było możliwe, że przeszkoda nie została rozpoznana przez LIDAR? Był wyłączony? Czy Uber woził atrapę?   

*
I jeszcze:
https://www.nbcnews.com/tech/tech-news/self-driving-uber-car-hit-killed-woman-did-not-recognize-n1079281

“A self-driving Uber car that struck and killed an Arizona woman wasn't able to recognize that pedestrians jaywalk, federal safety investigators revealed in documents released earlier this week.
The fatal accident came as a result of the automated Uber's not having "the capability to classify an object as a pedestrian unless that object was near a crosswalk," said one of the documents released by the National Traffic Safety Board, or NTSB.”

Program (jego programiści) nie uwzględniał tego, że ludzie przechodzą przez ulice poza wyznaczonymi przejściami? (??!!) Przecież to jakaś paranoja. 

“The NTSB also said Uber's Advanced Technologies Group had a technical system safety team in place but failed to "have a standalone operational safety division or safety manager." The company also "did not have a formal safety plan, a standardized operations procedure (SOP) or guiding document for safety."”
« Ostatnia zmiana: Czerwiec 22, 2022, 08:16:20 am wysłana przez Cetarian »

miazo

  • Juror
  • Senior Member
  • *****
  • Wiadomości: 400
  • Ken sent me.
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #484 dnia: Czerwiec 22, 2022, 10:33:28 pm »
Na marginesie: ta historia nie jest nowa (ma już 4 lata), jest nawet o niej artykuł w Wikipedii: Death of Elaine Herzberg.

Odnośnie obliczeń: auto poruszało się z prędkością 69 kilometrów na godzinę, co oznacza, że w ciągu sekundy z tą prędkością pokonywało mniej więcej 19 metrów. 38 metrów w dwie sekundy. Ze względu na (nie)dokładność filmu ciężko wywnioskować ile czasu upływa pomiędzy pojawieniem się pieszego w polu widzenia a zderzeniem, ale jest to pomiędzy 1 a 2 sekundami. Myślę, że do tego momentu jesteśmy z grubsza zgodni, chociaż naciągasz fakty w swoją stronę (piszesz o prędkości 64 vs. 69, raczej o dystansie 35-40 vs. 29 (tyle by było dla 1.5 sekundy), drodze hamowania wynoszącej 21-27 metrów przy prędkości 70 km/h vs. 36 metrów przy prędkości 64 km/h). Wszystkie te czynniki się kumulują, ale przede wszystkim nie przemawia do mnie powoływanie się na tych "fachowców od bezpieczeństwa", bo przypuszczam, że wyniki ich badań były uzyskane w dość sterylnych warunkach przy założeniu (jest to wspomniane w części artykułu, której akurat nie cytujesz), że średni czas reakcji kierowcy to około 1 sekundy. Przypuszczam, że mówimy tu o osobie wypoczętej, prowadzącej pojazd za dnia, przy dobrych warunkach widoczności. Mając jako-takie doświadczenie własne w prowadzeniu auta także w nocy (staram się tego jednak unikać), po prostu w to nie wierzę - w takich warunkach po pierwsze wzrok męczy się bardzo szybko, po drugie - właśnie ze względu na dużo gorsze oświetlenie - raz po raz jest "oszukiwany" różnymi mijanymi kształtami, odblaskami, itp., które mózg ludzki zdecydowanie wolniej niż za dnia jest w stanie poprawnie rozpoznać. Dlatego też nie uważam, aby kierowca w sytuacji jak na filmie mógł istotnie lepiej zareagować. Może zdążyłby trochę zahamować, może trochę skręcić. Ale nie wiem, czy by to wystarczyło.

"Nagle wkracza" oznacza, że wychodzi z cienia i pojawia się na pasie, którym jedzie samochód, a nie widać jej wcześniej, jak "szła od lewej, przeszła przeciwległy pas".

Aha, i żeby była jasność: nie jest moją intencją obrona Ubera czy tego akurat kierowcy - uważam, że w tej sprawie są winni. Nie podoba mi się tylko ogólne negowanie skuteczności metod maszynowego rozpoznawania obrazu na podstawie jednego filmu kiepskiej jakości w popularnym serwisie internetowym.

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 12472
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #485 dnia: Czerwiec 23, 2022, 10:22:12 am »
Jeżeli prawdą jest, że "the fatal accident came as a result of the automated Uber's not having >>the capability to classify an object as a pedestrian unless that object was near a crosswalk<<" to analizowanie czy komputer wykrył, czy nie wykrył i czy mógł coś w tym czasie zrobić, czy nie - są bezcelowe. Komputer nie miał takiego wzorca, więc "nie widział" pieszego i nie mógł go zobaczyć bo mu się "we łbie nie mieściło", że w takim miejscu może być pieszy -> ergo pieszego nie było. Ciekawe, czy ta maszyna zapisuje "przebieg myśli" to można by to odtworzyć ale zdaje się zapisanie "krok po kroku" jak "myśli" Ai jest awykonalne. Być może jednak zapisywane były choć wynikowe ciągi przyczynowo-skutkowe na zasadzie "zidentyfikowano zakręt - to skręcam".
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).

miazo

  • Juror
  • Senior Member
  • *****
  • Wiadomości: 400
  • Ken sent me.
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #486 dnia: Czerwiec 23, 2022, 11:07:08 am »
A to akurat jest wspomniane w artykule - system najpierw zidentyfikował nie-wiadomo-co, później uznał, że to auto, a następnie, że rower. A i tak nic nie zrobił, bo reagowanie w takich sytuacjach "nagłych" było wyłączone (o ironio, ze względów bezpieczeństwa, by samochód nie zachowywał się "nienormalnie").

The recorded telemetry showed the system had detected Herzberg six seconds before the crash, and classified her first as an unknown object, then as a vehicle, and finally as a bicycle, each of which had a different predicted path according to the autonomy logic. 1.3 seconds prior to the impact, the system determined that emergency braking was required, which is normally performed by the vehicle operator. However, the system was not designed to alert the operator, and did not make an emergency stop on its own accord, as "emergency braking maneuvers are not enabled while the vehicle is under computer control, to reduce the potential for erratic vehicle behavior"

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 12472
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #487 dnia: Czerwiec 23, 2022, 01:13:20 pm »
Czyli jednak zawiódł człowiek, który wyłączył hamowanie a nie komputer, który z dużym wyprzedzeniem zaczął analizować sytuacje i aczkolwiek nie wprost to na końcu podjął właściwą decyzję - ale nie mógł jej wyegzekwować.
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).

Cetarian

  • Full Member
  • ****
  • Wiadomości: 175
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #488 dnia: Czerwiec 24, 2022, 10:07:25 am »
Na marginesie: ta historia nie jest nowa (ma już 4 lata), jest nawet o niej artykuł w Wikipedii: Death of Elaine Herzberg.

Odnośnie obliczeń: auto poruszało się z prędkością 69 kilometrów na godzinę, co oznacza, że w ciągu sekundy z tą prędkością pokonywało mniej więcej 19 metrów. 38 metrów w dwie sekundy. Ze względu na (nie)dokładność filmu ciężko wywnioskować ile czasu upływa pomiędzy pojawieniem się pieszego w polu widzenia a zderzeniem, ale jest to pomiędzy 1 a 2 sekundami. Myślę, że do tego momentu jesteśmy z grubsza zgodni, chociaż naciągasz fakty w swoją stronę (piszesz o prędkości 64 vs. 69, raczej o dystansie 35-40 vs. 29 (tyle by było dla 1.5 sekundy), drodze hamowania wynoszącej 21-27 metrów przy prędkości 70 km/h vs. 36 metrów przy prędkości 64 km/h). Wszystkie te czynniki się kumulują, ale przede wszystkim nie przemawia do mnie powoływanie się na tych "fachowców od bezpieczeństwa", bo przypuszczam, że wyniki ich badań były uzyskane w dość sterylnych warunkach przy założeniu (jest to wspomniane w części artykułu, której akurat nie cytujesz), że średni czas reakcji kierowcy to około 1 sekundy. Przypuszczam, że mówimy tu o osobie wypoczętej, prowadzącej pojazd za dnia, przy dobrych warunkach widoczności. Mając jako-takie doświadczenie własne w prowadzeniu auta także w nocy (staram się tego jednak unikać), po prostu w to nie wierzę - w takich warunkach po pierwsze wzrok męczy się bardzo szybko, po drugie - właśnie ze względu na dużo gorsze oświetlenie - raz po raz jest "oszukiwany" różnymi mijanymi kształtami, odblaskami, itp., które mózg ludzki zdecydowanie wolniej niż za dnia jest w stanie poprawnie rozpoznać. Dlatego też nie uważam, aby kierowca w sytuacji jak na filmie mógł istotnie lepiej zareagować. Może zdążyłby trochę zahamować, może trochę skręcić. Ale nie wiem, czy by to wystarczyło.

"Nagle wkracza" oznacza, że wychodzi z cienia i pojawia się na pasie, którym jedzie samochód, a nie widać jej wcześniej, jak "szła od lewej, przeszła przeciwległy pas".

Aha, i żeby była jasność: nie jest moją intencją obrona Ubera czy tego akurat kierowcy - uważam, że w tej sprawie są winni. Nie podoba mi się tylko ogólne negowanie skuteczności metod maszynowego rozpoznawania obrazu na podstawie jednego filmu kiepskiej jakości w popularnym serwisie internetowym.

Jesteśmy zgodni, że Uber zawinił. Nie jesteśmy zgodni w kwestii stopnia winy, ty twierdzisz, że zadanie uniknięcia zderzenia w tym konkretnym przypadku byłoby bardzo (ekstremalnie) trudne dla kierowcy-człowieka, ja się z tym nie zgadzam.
Oczywiście, jazda w nocy (po zapadnięciu zmroku, bo to może być godzina 17.00 w grudniu) jest trudniejsza niż w dzień. Ale gdyby było aż tak trudno, jak twierdzisz, to limity prędkości do jazdy w nocy powinny być obniżone chyba do połowy limitów do jazdy w dzień.

Ja z własnego doświadczenia pamiętam takie sytuacje, że jechałem po zmroku poza terenem zabudowanym, przy małym ruchu, tzn. bez pojazdów jadących z przeciwka, bez jakichkolwiek punktów świetlnych choćby w oddali, tylko pola, albo las. Po pasie postojowym w kierunku jazdy szedł człowiek ubrany na czarno, albo prawie na czarno, czarne spodnie, i czarna lub ciemnoszara kurtka, do tego być może kaptur na głowie, żadnych elementów nie czarno-szarych.
Taki ktoś rzeczywiście wyłania się z mroku na ułamki sekund przed tym, jak samochód się z nim zrówna i ja miałem taką refleksję, że gdyby taki ktoś, trzeźwy czy pijany, zatoczył się, czy potknął i przewrócił w stronę pasa, po którym jechałem, to, biorąc pod uwagę, że on szedł 0,5-0,7 metra od linii ciągłej i ja jechałem 0,5-0,7 metra od tej linii po drugiej stronie, to on upadłby prawie dokładnie głową pod prawe koło. I byłoby zero czasu na jakąkolwiek reakcję.
Podobnie, gdyby taki ktoś zrobił zwrot o 90 stopni w lewo i (samobójczo) wtargnął na jezdnię.

Ale w przypadku Elaine Herzberg było zdecydowanie inaczej. Po pierwsze, jak już pisałem, nie była „ubrana na czarno”. Miała na sobie ciemną kurtkę, ale niebieskie dżinsy i białe buty. Do tego prowadziła rower, który miał czerwoną ramę. (A na nim wisiały jeszcze jakieś siatki z zakupami).
Szacuję, że rury ramy mają łącznie około dwóch metrów długości i cztery centymetry średnicy. To daje osiemset centymetrów kwadratowych przekroju. Powiedzmy, że Herzberg zasłaniała sobą połowę, zostaje około czterysta centymetrów kwadratowych w kolorze czerwonym.
Światła w samochodach standardowo są ustawiane tak, żeby nie oślepiać jadących z przeciwka, ale właśnie spodnie niezbyt wysokiej kobiety, rama roweru i oczywiście buty znajdowały się poniżej poziomu dolnej linii szyby w przeciętnym samochodzie. Czyli były oświetlone dość wcześnie.
Herzberg szła od lewej strony, z grubsza prostopadle do kierunku ruchu. Jak szybko poruszała się Herzberg? Miała, 49 lat, była niezbyt wysoka, raczej trudno jest iść szybko, prowadząc rower (a jeszcze miała na nim siatki z zakupami). Szacuję zatem, że szła z prędkością trzech kilometrów na godzinę. To 0,83 metra na sekundę.

Do wypadku doszło w Tempe w Arizonie.
Wg Wikipedii:

“Herzberg was crossing Mill Avenue (North) from west to east, approximately 360 feet (110 m) south of the intersection with Curry Road, outside the designated pedestrian crosswalk”
 
Obejrzałem sobie to miejsce w Google Street View.
Na linkowanym wcześniej filmie tuż przed wypadkiem po prawo widać zawieszoną na latarni tablicę z grubą strzałką.
W Street View widać taki napis na tablicy (podaję to dla ułatwienia identyfikacji miejsca):
BEGIN
RIGHT TURN LANE     
[Gruba czarna strzałka skierowana skośnie w lewo w dół]   
YELD TO BIKES

Szacuję, że pasy ruchu mają tam po cztery metry szerokości. 
Herzberg znalazła się dokładnie na środku pasa, po którym jechał Uber, kiedy samochód był jeszcze oddalony o około, szacuję, dwadzieścia metrów (w tym momencie miała złączone stopy). Zdążyła zrobić potem jeszcze co najmniej dwa kroki, co trwało około sekundy.

Z jak prędkością jechał samochód Ubera?
Ok, wg Wikipedii NTSB ustaliła, że to było 43 mile na godzinę, 69 kilometrów, czyli ca 19 metrów na sekundę. Poprzednio pisałem o 40 milach, bo taką prędkość podała policja w innym filmie, którego tu nie linkowałem.
 
Pięć sekund przed zderzeniem Herzberg (jej linia centralna) była w odległości 3,33 metra od środka pasa Ubera (4,16 od miejsca zderzenia), 1,33 metra na lewo od linii rozdzielającej pasy. Samochód był w odległości 95 metrów.
Cztery sekundy przed zderzeniem Herzberg była w odległości 2,5 metra od środka pasa Ubera (3,33 metra od miejsca zderzenia), 0,5 metra w lewo od linii rozdzielającej pasy. Samochód był w odległości 76 metrów.
Trzy sekundy przed zderzeniem Herzberg była w odległości 1,66 metra od środka pasa Ubera (2,5 metra od miejsca zderzenia), 0,34 metra w głębi pasa Ubera. Samochód był w odległości 57 metrów.

Ponad trzy sekundy przed zderzeniem była już na pasie Ubera.

Dwie sekundy przed zderzeniem Herzberg była w odległości 0,83 metra od środka pasa Ubera (1,66 od miejsca zderzenia), 1,13 metra w głębi pasa Ubera. Samochód był w odległości 38 metrów.

Piszesz, że film „kiepskiej jakości”. To prawda.
Tu
&t=1s

film (Briana Kaufmana) z tej drogi, o dużo lepszej jakości.
Miejsce wypadku pojawia się około 33 sekundy.

W jednym z komentarzy pod tym filmem postawiono trafne pytania:
 David Currey
„Thanks. The questions then are (1) Was the video [ z wypadku – C.] intentionally altered to mislead the public and the investigation? or (2) Was the video not altered, but known to be misrepresentative, and submitted anyway to mislead the public and the investigation? or (3) Was the video not known to be misrepresentative (because of incompetence) when it was submitted to the public and the investigation?”

Moim zdaniem, biorąc pod uwagę warunki oświetlenia, pokazane na filmie Kaufmana, przeciętny kierowca, jako tako wyspany i patrzący przed siebie, prawie na pewno zobaczyłby Herzberg i jej rower z odległości minimum 60-57 metrów (Herzberg była już wtedy na pasie ruchu, po którym jechał samochód Ubera, czyli była na wprost przed kierowcą) i miałby co najmniej trzy sekundy na reakcję. Dość, żeby się zatrzymać albo ominąć Herzberg.

Cetarian

  • Full Member
  • ****
  • Wiadomości: 175
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #489 dnia: Czerwiec 24, 2022, 10:21:09 am »
Widzę, że darmo zjadłem kiedyś własny krawat jako koszt sprzeczki z Cetarianem, czy samochody są już inteligentne (ja twierdziłem, że nie są i szybko nie będą)...

Rozmawialiśmy, ale to było dawno, dziesięć lat temu? Dwanaście? (Wydaje mi się, że to było przed wygraniem przez Watsona Jeopardy, do czego doszło w 2011 r., ale może się mylę). Na pewno znaczna część dyskusji, jeśli nie całość, toczyła się wokół DARPA Grand/Urban Challenge z lat 2004, 2005 i 2007 r.

Ja na pewno z nikim (ani na Forum, ani poza nim) nie zakładałem się o zjadanie czegokolwiek, więc konsumpcja krawata (surowy? z grilla?) musiała być chyba wykonaniem własnego wniosku o samoukaranie.
Ale za co?
Piszesz jednak, że zjadłeś „[na] darmo”, czyli niepotrzebnie? W jakim sensie?
 
Ja, szczerze mówiąc, własnego stanowiska nie pamiętam. Z kontekstu wynika, że chyba w Twojej ocenie byłem (nieco?) większym optymistą od ciebie, co do możliwości powstania samochodu autonomicznego?
 
Ale tak czy owak, minęło co najmniej dziesięć lat. Biorąc pod uwagę, że zorganizowanie lądowania na Księżycu zajęło Amerykanom osiem lat, zbudowanie samochodu autonomicznego w ciągu tych dziesięciu (dwunastu) lat nie byłoby chyba jakimś wielkim zaskoczeniem?

A przede wszystkim: jakie jest twoje stanowisko dziś? Ja w zasadzie nie mam zdania.

Może do jakiegoś przełomu dojdzie za kilka lat, czy nawet za rok, dwa, a może nieśmiałe jazdy po (zmapowanych) przedmieściach będą trwały jeszcze dekady.
Zabrałem głos głównie dlatego, że wszelkie głosy inne niż krytyczne wobec Lemoine’a uważam za … ekstremalnie nietrafne.
Mówienie o jakiejś „samoświadomości” programu, w sytuacji, kiedy (oczywiście inne) programy, na które wydano grube miliardy dolarów, nie radzą sobie jako kierowcy, jest absurdem.

Miazo wskazał, że wypadek Ubera to stara sprawa, sprzed czterech lat.
To oczywiście prawda, ale nic nie wskazuje na to, żeby główni gracze dokonali w ciągu tych czterech lat jakiegoś przełomu.

Tesla (Musk) twierdzi, że kiedyś dojdzie do pełnej autonomii, ale na razie oferuje coś w rodzaju rozszerzonego (i ciągle rozszerzanego) wspomagania, a nabywcy samochodów Tesli pełnią nieodpłatnie role „safety drivers”.
Pełnią te role lepiej albo gorzej.

To akurat świeże doniesienia, z początku czerwca br.
   
https://www.wsj.com/articles/nhtsa-upgrades-tesla-autopilot-probe-into-emergency-scene-crashes-11654789798

Updated June 9, 2022 6:02 pm ET

U.S. auto-safety regulators have escalated their investigation into emergency-scene crashes involving Tesla Inc.’s TSLA -3.12% Autopilot, a critical step for determining whether to order a safety recall.
The National Highway Traffic Safety Administration said in a notice published Thursday that it was expanding a probe begun last August into a series of crashes in which Tesla vehicles using Autopilot struck first-responder vehicles stopped for roadway emergencies.
The agency said it was upgrading its earlier investigation to an engineering analysis after identifying new crashes involving Autopilot and emergency-response vehicles.
NHTSA also said it has expanded its examination of Autopilot to include a wider range of crashes, not only those at emergency scenes. The agency said it would further assess how drivers interact with Autopilot and the degree to which it might reduce motorists’ attentiveness.
(…)
NHTSA said in its filing that it has identified 15 injuries and one fatality related to the crashes.


https://fortune.com/2022/06/09/investigation-tesla-crashes-elevated-national-highway-traffic-safety-administration/

June 9, 2022 10:54 PM GMT+2

Teslas with partially automated driving systems are a step closer to being recalled after the U.S. elevated its investigation into a series of collisions with parked emergency vehicles or trucks with warning signs.
(…)
Investigators will evaluate additional data, vehicle performance and “explore the degree to which Autopilot and associated Tesla systems may exacerbate human factors or behavioral safety risks undermining the effectiveness of the driver's supervision," the agency said.
(…)
The agency document all but says Tesla’s method of making sure drivers pay attention isn’t good enough and that it has a safety defect that should be recalled, said Bryant Walker Smith, a University of South Carolina law professor who studies automated vehicles.
(…)
“This is confirmed in study after study,” he said. “This is established fact that people can look engaged and not be engaged. You can have your hand on the wheel and you can be looking forward and not have the situational awareness that's required.”


miazo

  • Juror
  • Senior Member
  • *****
  • Wiadomości: 400
  • Ken sent me.
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #490 dnia: Czerwiec 24, 2022, 12:01:00 pm »
Cytuj
Moim zdaniem, biorąc pod uwagę warunki oświetlenia, pokazane na filmie Kaufmana, przeciętny kierowca, jako tako wyspany i patrzący przed siebie, prawie na pewno zobaczyłby Herzberg i jej rower z odległości minimum 60-57 metrów (Herzberg była już wtedy na pasie ruchu, po którym jechał samochód Ubera, czyli była na wprost przed kierowcą) i miałby co najmniej trzy sekundy na reakcję. Dość, żeby się zatrzymać albo ominąć Herzberg.

Masz rację (że też Ci się chciało tego szukać...). W tym świetle ten pierwotny film wygląda podejrzanie i moje wnioskowanie na jego podstawie (~2 sekundy na reakcję kierowcy) było błędne.

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 12472
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #491 dnia: Czerwiec 25, 2022, 12:07:21 pm »
Rozmawialiśmy, ale to było dawno, dziesięć lat temu? Dwanaście? (Wydaje mi się, że to było przed wygraniem przez Watsona Jeopardy, do czego doszło w 2011 r., ale może się mylę). Na pewno znaczna część dyskusji, jeśli nie całość, toczyła się wokół DARPA Grand/Urban Challenge z lat 2004, 2005 i 2007 r.
Ja na pewno z nikim (ani na Forum, ani poza nim) nie zakładałem się o zjadanie czegokolwiek, więc konsumpcja krawata (surowy? z grilla?) musiała być chyba wykonaniem własnego wniosku o samoukaranie.
Oczywiście. kara musi być. Faktycznie, o ile pamiętam ja uważałem, że szybko samochodu autonomicznego nie będzie (w przeciwieństwie do samolotu), a Ty, że owszem. W danym punkcie wyglądało, że jesteś bliższy prawdy, stąd ta konsumpcja. Na surowo oczywista, bez ułatwień. I tak, chodziło o te wszystkie zabawne wypadki, kolizje i zwiechy AI podczas DARPA Challange. Problem można różnie ująć, np. od strony etycznej (że samochód autonomiczny będzie musiał umieć wybrać mniejsze zło) - ale ja dziś przejechałem się rowerkiem kilkanaście km krętymi, leśnymi ścieżkami, może nie super szybko ale te 20 km/h wyciągałem. Widziałem często tylko jakieś 10-20 m przed siebie, dalej ścieżyna na szerokość jednego człowieka ginęła za zakrętem i tylko w jednym czy dwóch miejscach migała gdzieś dalej w przerwie między zaroślami - i na tej podstawie, rozmyślając zresztą o czym innym, mój mózg odtwarzał topografię 3d dalszego ciągu i ręce wiedziały, jak skręcać a ciało jak balansować. W tym wszystkim omijałem jeszcze odruchowo krótkimi ruchami szyszki i gałązki z sęczkami, żeby nie przebić kichy a także, równie odruchowo, kuliłem się i nastawiałem kapelusz ku przodowi, żeby nie zarobić w papę gałęzią. Na prostszych odcinkach zdejmowałem z paszczy pajęczyny z ich właścicielami i otrzepywałem się z innej fauny, nastawionej głównie na pożywienie się moją krwią. Wszystko to działo się poza głównym torem mej uwagi. Ścieżka nie była oczywiście w żaden sposób oznakowana, zmieniała się często nawierzchnia i koloryt, raz było szerzej, raz jechało się po pas w zielsku zakrywającym całkiem ścieżkę pod nimi. Jak daleko jest do takiej autonomii jakiegoś urządzenia? AI-samochody bazują w dużej mierze na rozmaitych elementach drogi (słupki, linie poziome, znaki itd.) i nieco przypomina to ruch po niewidzialnych szynach. Tak jak samoloty, i mam tu na myśli pasażerskie, które z małym zastrzeżeniem mogą same wystartować, same dolecieć gdzieś po określonej trasie i same wylądować. Czy można mówić o tym, że przeskoczyły już ten etap albo choć go przeskakują i wiedzą, po czym jadą?
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).

Hoko

  • Juror
  • God Member
  • *****
  • Wiadomości: 2779
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #492 dnia: Czerwiec 25, 2022, 12:43:49 pm »

Moim zdaniem, biorąc pod uwagę warunki oświetlenia, pokazane na filmie Kaufmana, przeciętny kierowca, jako tako wyspany i patrzący przed siebie, prawie na pewno zobaczyłby Herzberg i jej rower z odległości minimum 60-57 metrów (Herzberg była już wtedy na pasie ruchu, po którym jechał samochód Ubera, czyli była na wprost przed kierowcą) i miałby co najmniej trzy sekundy na reakcję. Dość, żeby się zatrzymać albo ominąć Herzberg.

No właśnie - przeciętny, wyspany itd... Z tego jednak wniosek, że zdarzają się kierowcy, którzy w takiej sytuacji by nie podołali - potrącenia ludzi przechodzących przez jezdnię są przecież powszechne. Więc należałoby zapytać, jak to wygląda statystycznie. Autonomiczne samochody przejechały już w sumie być może miliony kilometrów - czy spowodowały więcej wypadków niż kierowcy na takiej samej trasie?

Tu autonomizacja kontrolowana - ale to nie dla osobówek
https://electrek.co/2022/06/23/einride-autonomous-electric-trucks-us/

maziek

  • YaBB Administrator
  • God Member
  • *****
  • Wiadomości: 12472
  • zamiast bajek ojciec mi Lema opowiadał...
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #493 dnia: Czerwiec 25, 2022, 01:24:45 pm »
Sęk w tym, że niekoniecznie ludzie pogodzą się ze statystyką (że AI-wóz statystycznie jest bezpieczniejszy), lek pozostanie. Całkiem jak przed podróżą samolotem. Ludzki wariat jest mimo wszystko swojski, zaś zwartusiały komputer to szatan wcielony.
Człowiek całe życie próbuje nie wychodzić na większego idiotę niż nim faktycznie jest - i przeważnie to mu się nie udaje (moje, z życia).

Hoko

  • Juror
  • God Member
  • *****
  • Wiadomości: 2779
    • Zobacz profil
Odp: AI - przerażająca (?) wizja
« Odpowiedź #494 dnia: Czerwiec 25, 2022, 02:01:58 pm »
Też mi się widzi, że wymagania względem autonomicznych samochodów mogą być większe niż w przypadku zwykłych kierwoców. Ale z czasem pewnie się to wyrówna.

Tak czy owak, już jeżdżą, chociaż jeszcze w ograniczonym zakresie, i będzie tego coraz więcej - tu taksówki. Swoją drogą, w takim przypadku można też wykorzystać zdalnego kierowcę, jak przy ciężarówkach

https://techcrunch.com/2022/06/02/cruise-can-finally-charge-for-driverless-robotaxi-rides-in-san-francisco/