Oto co potrafi sztuczna inteligencja. Algorytm nie wykrył twarzy czarnoskórej uczennicy

Temat analityki big data, algorytmów uczących się i sztucznej inteligencji jest ostatnio bardzo gorący. W czasie pandemii holenderska studentka Robin Pocornie musiała zdawać egzaminy ze światłem skierowanym prosto na twarz. Jej koledzy, którzy byli biali, nie mieli tego problemu. Oprogramowanie zabezpieczające uniwersytetu dyskryminowało ją i dlatego złożyła skargę do Holenderskiego Trybunału Praw Człowieka (NJCM).

Pocornie powiedziała, że wielokrotnie próbowała zalogować się do systemu zabezpieczającego zdalany egzamin i kilka razy nie pozwolono jej odpowiedzieć na pytania. Zamiast tego oprogramowanie dodawało komentarze, takie jak "pokój jest zbyt ciemny" lub "nie znaleziono twarzy". Oprogramowanie zaczęło działać, gdy świeciła lampą bezpośrednio na twarz.

Sprawa została zgłoszona przez studentkę do Holenderskiego Trybunału Praw Człowieka. NJCM rozpocznie teraz proces badania skargi. Uniwersytet VU, którego uczennicą jest Robin, ma 10 dni na złożenie formalnych wyjaśnień. Następnie Instytut Praw Człowieka zorganizuje przesłuchanie i wreszcie wyda werdykt w ciągu około sześciu miesięcy.

Rada stwierdziła w orzeczeniu pośrednim, że Pocornie przedstawiła wystarczające dowody, aby wskazać, że algorytm był dyskryminujący, a uniwersytet do tej pory nie przedstawił wystarczającej ilości możliwych do sprawdzenia informacji, aby udowodnić coś przeciwnego.

lena