Grupa zastępuje infolinię chatbotem, a chatbot zostaje wycofany z powodu złych rad

To posunięcie, które może zadowolić każdego, kto martwi się potencjalnymi skutkami narzędzi sztucznej inteligencji, które zabijają miejsca pracy. tak jak BBC Według doniesień, American National Eating Disorders Association (NEDA) musiało usunąć swojego chatbota „Tessa” po tym, jak zaczął zalecać potencjalnie szkodliwe strategie dietetyczne dla osób z zaburzeniami odżywiania. Stało się to zaledwie tydzień po tym, jak NEDA zdecydowała się użyć robota zamiast obsługiwanej przez ludzi infolinii na żywo. Problem z Tessą został ogłoszony przez grupę Instagram poczta, za szczęście. „Zwróciliśmy uwagę… że aktualna wersja Tessy Chatbot… mogła zawierać złośliwe informacje” — czytamy we wpisie. „Natychmiast badamy tę sprawę i zawiesiliśmy ten program do odwołania w celu pełnego dochodzenia”.

tak jak NPR poinformował w środę, że NEDA zwróciła się do sztucznej inteligencji po tym, jak przez ponad dwie dekady prowadziła infolinię na żywo dla osób z anoreksją, bulimią i innymi zaburzeniami odżywiania. Organizacja non-profit podobno powiadomiła pracowników infolinii niecały tydzień po utworzeniu związku. NEDA powiedział, że zmiana nie ma nic wspólnego z żywym związkiem pracowników, a wszystko z gwałtownym wzrostem liczby połączeń i SMS-ów na infolinię podczas pandemii COVID-19. Ten wzrost liczby połączeń, według kierownictwa NEDA, oznacza zwiększoną odpowiedzialność, a tym samym „skupienie się na rozszerzonym wykorzystaniu technologii wspomaganej przez sztuczną inteligencję”.

Co do złego zachowania Tessy, CNN Raporty CEO NEDA, Liz Thompson, obwiniła „złych aktorów”, którzy celowo próbowali skłonić chatbota do udzielania użytkownikom szkodliwych lub nawet nieistotnych porad. Przed ogłoszeniem problemów z botami byli pracownicy infolinii ćwierkanie Oświadczenie mówiące, że chatboty nie mogą „zastąpić ludzkiej empatii i wierzymy, że ta decyzja spowoduje nieodwracalne szkody dla społeczności osób cierpiących na zaburzenia odżywiania”. (Przeczytaj więcej historii AI.)