Chatbot miasta Nowy Jork od samego początku zaczął namawiać ich do łamania prawa i naginania przepisów. Mimo to władze Nowego Jorku odmówiły usunięcia go ze strony miasta. O problemach poinformował serwis technologiczny The Markup, jednak miasto zdecydowało się pozostawić narzędzie na swojej oficjalnej stronie internetowej. Burmistrz Eric Adams bronił tej decyzji, przyznając jednak, że odpowiedzi chatbota były „błędne w niektórych obszarach”.
Uruchomiony w październiku jako „punkt kompleksowej obsługi” dla właścicieli firm, chatbot oferuje użytkownikom generowane algorytmicznie odpowiedzi tekstowe na pytania dotyczące poruszania się w biurokratycznym labiryncie miasta. Miasto ostrzega jednak, że może on „sporadycznie generować nieprawidłowe, szkodliwe lub stronnicze” informacje oraz zastrzega, że jego odpowiedzi nie stanowią porady prawnej.
Szczur niestraszny
Chatbot w dalszym ciągu podaje fałszywe wytyczne, niepokojąc ekspertów, którzy twierdzą, że wadliwy system uwypukla niebezpieczeństwa, jakie stwarzają władze wdrażające systemy oparte na sztucznej inteligencji bez wystarczających barier ochronnych. – Wdrażają oprogramowanie, które działa bez nadzoru, a nie zostało sprawdzone – powiedziała w rozmowie z agencją AP Julia Stoyanovich, profesor informatyki i dyrektor Centrum Odpowiedzialnej Sztucznej Inteligencji na Uniwersytecie Nowojorskim.
Czytaj więcej
Problem zmyślania, czy też wprowadzania w błąd użytkowników przez konwersacyjną sztuczną inteligencję może być znacznie większy niż do tej pory sądzono. Nawet jedna czwarta odpowiedzi botów może być „halucynacjami” - wynika z najnowszych badań.
W odpowiedzi na pytania zadane przez dziennikarzy agencji chatbot fałszywie sugerował, że pracodawca może zwolnić pracownicę, która skarży się na molestowanie seksualne, nie ujawnia ciąży lub odmawia obcięcia dredów. Wbrew aktualnym przepisom miasta dotyczącym odpadów chatbot stwierdził, że firmy mogą umieszczać swoje śmieci w czarnych workach na śmieci i nie muszą kompostować. Czasami odpowiedzi bota były absurdalne. Zapytany, czy restauracja mogłaby serwować ser nadgryziony przez gryzonia, odpowiedział: „Tak, nadal można podawać klientom ser, jeśli ma ślady zębów szczurów”, po czym dodał, że ważne jest, aby ocenić „zakres wyrządzonych szkód przez szczura” i „informować klientów o sytuacji”.
