Anton Grabolle / Jazda autonomiczna / Licencja CC-BY 4.0
Przez Susan Kelley
Pojazdy autonomiczne (AV) są od dziesięcioleci testowane jako taksówki w San Francisco, Pittsburghu i na całym świecie, a firmy transportowe mają ogromną motywację do ich stosowania.
Jednak firmy AV rzadko udostępniają dane dotyczące wypadków i bezpieczeństwa krytyczne dla poprawy bezpieczeństwa ich pojazdów – głównie dlatego, że mają do tego niewielką motywację.
Czy dane dotyczące bezpieczeństwa AV są własnością intelektualną firmy samochodowej czy dobrem publicznym? Według zespołu badaczy z Cornell może być jedno i drugie – po niewielkich modyfikacjach.
Zespół stworzył plan określający przeszkody i możliwości zachęcania firm antywirusowych do udostępniania danych w celu zwiększenia bezpieczeństwa antywirusów, począwszy od rozwikłania publicznej i prywatnej wiedzy o danych, poprzez regulacje, aż po tworzenie programów motywacyjnych.
„Sednem rywalizacji na rynku AV jest to, kto dysponuje danymi o awariach, ponieważ mając takie dane, znacznie łatwiej jest wyszkolić sztuczną inteligencję, aby nie popełniała tego błędu. Mamy nadzieję, że najpierw uczynimy te dane przejrzystymi, a następnie wykorzystamy je dla dobra publicznego, a nie tylko dla zysku” – powiedział Hauke Sandhaus, MS ’24, doktorant w Cornell Tech i współautor książki „My Precious Crash Data”, opublikowanej 16 października w ACM. na temat interakcji człowiek-komputer i zaprezentowany na konferencji ACM SIGCHI na temat pracy w ramach współpracy wspomaganej komputerowo i informatyki społecznej.
Jej współautorami są Qian Yang, adiunkt w Cornell Ann S. Bowers College of Computing and Information Science; Wendy Ju, profesor nadzwyczajny informatyki i technologii projektowania w Cornell Tech, Cornell Ann S. Bowers School of Computing and Information Science oraz Jacobs Technion-Cornell Institute; oraz Angel Hsing-Chi Hwang, były pracownik naukowy ze stopniem doktora w Cornell, a obecnie adiunkt ds. komunikacji na Uniwersytecie Południowej Kalifornii w Annenberg.
Zespół przeprowadził wywiady z 12 pracownikami firmy AV zajmującymi się bezpieczeństwem w projektowaniu i wdrażaniu systemów AV, aby zrozumieć, w jaki sposób obecnie zarządzają danymi dotyczącymi bezpieczeństwa i udostępniają je, wyzwania i obawy, jakie napotykają w związku z udostępnianiem danych, a także idealne praktyki udostępniania danych.
Rozmowy ujawniły, że firmy AV mają zaskakującą różnorodność podejść, powiedział Sandhaus. „Naprawdę każdy ma swoją niszę, domowy zbiór danych, a wśród tych firm nie ma zbyt wiele wspólnej wiedzy” – powiedział. „Spodziewałem się, że będzie znacznie więcej podobieństw”.
Zespół badawczy odkrył dwie kluczowe bariery w udostępnianiu danych – obie uwydatniają brak zachęt. Po pierwsze, dane dotyczące wypadków i bezpieczeństwa obejmują informacje o modelach uczenia maszynowego i infrastrukturze wykorzystywanej przez firmę do poprawy bezpieczeństwa. „Udostępnianie danych, nawet w obrębie firmy, jest polityczne i ryzykowne” – napisał zespół w gazecie. Po drugie, respondenci uważają, że wiedza na temat bezpieczeństwa AV jest prywatna i daje ich firmie przewagę konkurencyjną. „Ta perspektywa prowadzi ich do postrzegania wiedzy o bezpieczeństwie zawartej w danych jako przestrzeni spornej, a nie wiedzy publicznej służącej dobru publicznemu” – napisał zespół.
A regulacje amerykańskie i europejskie nie pomagają. Proszą jedynie o takie informacje, jak miesiąc, w którym doszło do wypadku, producent i czy odnieśli jakieś obrażenia. Nie obejmuje to nieoczekiwanych czynników, które często powodują wypadki, takich jak nagłe wbiegnięcie osoby na ulicę, kierowcy łamiący przepisy ruchu drogowego, ekstremalne warunki pogodowe lub zgubiony ładunek blokujący drogę.
Naukowcy twierdzą, że aby zachęcić do szerszego udostępniania danych, należy oddzielić wiedzę na temat bezpieczeństwa od danych zastrzeżonych. Na przykład firmy AV mogłyby udostępniać informacje o wypadku, ale nie surowe nagrania wideo, które ujawniałyby infrastrukturę techniczną firmy.
Firmy mogłyby również zaprojektować „pytania egzaminacyjne”, które AV musiałyby zaliczyć, aby wyruszyć w drogę. „Jeśli z jednej strony nadchodzą piesi, a z drugiej pojazdy, można to wykorzystać jako przypadek testowy, przez który muszą przejść także inne pojazdy AV” – powiedział Sandhaus.
Instytucje akademickie mogłyby działać jako brokerzy danych, z którymi firmy AV mogłyby nawiązać strategiczną współpracę. Niezależne instytucje badawcze i inne organizacje obywatelskie stworzyły precedensy, korzystając z wiedzy publicznej partnerów branżowych. „Istnieją porozumienia, współpraca i formy szkolnictwa wyższego, które mogą się do tego przyczynić, niekoniecznie udostępniając cały zestaw danych” – powiedział Qian.
Zespół sugeruje także ujednolicenie oceny bezpieczeństwa AV poprzez skuteczniejsze regulacje rządowe. Na przykład federalna agencja zajmująca się kształtowaniem polityki mogłaby stworzyć wirtualne miasto jako poligon doświadczalny z ruchliwymi skrzyżowaniami i drogami z dużą liczbą pieszych, po których każdy algorytm AV musiałby być w stanie się poruszać – dodała.
Federalne organy regulacyjne mogłyby zachęcać firmy motoryzacyjne do udostępniania scenariuszy w środowisku testowym. „Firmy AV mogą powiedzieć: «Chcę umieścić tam moje przypadki testowe, ponieważ mój samochód prawdopodobnie przeszedł te testy». Może to być mechanizm zachęcający do opracowywania bezpieczniejszych pojazdów” – powiedział Yang. „Proponowanie zmian w polityce zawsze wydaje się nieco naciągane, ale myślę, że w tej przestrzeni istnieją rozwiązania polityczne w najbliższej przyszłości”.
Badania zostały sfinansowane przez National Science Foundation i Schmidt Sciences.
Uniwersytet Cornella
