Minulý týždeň generálny riaditeľ DoNotPay (Otvorí sa v novom okne) Joshua Browder oznámil, že AI chatbot spoločnosti bude zastupovať obžalovaného na súde v USA (Otvorí sa v novom okne) , čo znamená prvé použitie umelej inteligencie na tento účel. Teraz bol experiment zrušený, pričom Browder uviedol, že dostal námietky od viacerých štátnych advokátskych komôr.
„Zlé správy: po vyhrážkach od prokurátorov štátnej advokátskej komory sa zdá pravdepodobné, že ma dajú na 6 mesiacov do väzenia, ak dodržím privedenie robotického právnika do fyzickej súdnej siene,“ napísal Browder vo štvrtok na Twitteri. (Otvorí sa v novom okne) „DoNotPay odkladá náš súdny spor a drží sa práv spotrebiteľov.“
Plán bol použiť umelú inteligenciu DoNotPay v prípade prekročenia rýchlosti (Otvorí sa v novom okne) , ktorý sa mal vypočuť 22. februára. Chatbot by bežal na smartfóne a počúval, čo sa hovorilo na súde, predtým, než poskytne pokyny anonymnému obžalovaného cez slúchadlo.
Mnohí štátni prokurátori však nereagovali dobre na navrhovaný trik DoNotPay a napísali Browderovi, aby ho varovali, že by to mohlo byť porušenie zákona. Konkrétne môže byť Browder stíhaný za neoprávnené vykonávanie práva, čo je trestný čin, ktorý ho v niektorých štátoch môže dostať za mreže až na pol roka.
Vo svetle toho sa Browder rozhodol radšej vytiahnuť zástrčku z celého experimentu, než riskovať pobyt vo väzení.
„Aj keby sa to nestalo, hrozba obvinenia z trestného činu stačila na to, aby sme sa toho vzdali,“ povedal Browder pre NPR (Otvorí sa v novom okne) .
Je to asi najlepšie. Legálny chatbot DoNotPay bol vyvinutý pomocou ChatGPT od OpenAI, ktorý, aj keď je nepochybne sofistikovaný pre chatbot AI, má stále značné nedostatky. Spoliehať sa na to pri čomkoľvek dôležitom nie je v tejto fáze najlepší nápad.
Zdá sa, že táto takmer zmeškaná so zlou stranou zákona prinútila DoNotPay prehodnotiť svoje produkty. Predtým spoločnosť ponúkala počítačom generované právne dokumenty pre širokú škálu otázok, pokrývajúcich všetko od platieb výživného na dieťa až po anulovanie manželstva. Teraz Browder oznámil, že DoNotPay sa bude v budúcnosti zaoberať iba prípadmi týkajúcimi sa práva spotrebiteľov, pričom odstráni všetky ostatné služby „s okamžitou platnosťou“.
„Na rozdiel od drámy v súdnej sieni sa prípady [práv spotrebiteľov] dajú riešiť online, sú jednoduché a nedostatočne obsluhované,“ napísal Browder na Twitteri (Otvorí sa v novom okne) . „Uvedomil som si, že právne produkty nesúvisiace s právami spotrebiteľa (napr. listy so žiadosťou o ohováranie, rozvodové zmluvy a iné), ktoré sa veľmi málo využívajú, odvádzajú pozornosť.“
Generálny riaditeľ tiež uviedol, že zamestnanci v súčasnosti pracujú 18 hodín denne (Otvorí sa v novom okne) , aby zlepšili používateľskú skúsenosť DoNotPay, čo sa nezdá byť niečím, čím by sa mohli chváliť.
Hoci by experiment umelej inteligencie DoNotPay aplikoval AI na novú oblasť, nebolo by to prvé použitie umelej inteligencie v súdnej sieni v USA (Otvorí sa v novom okne) . Štáty ako New York a Kalifornia už predtým používali nástroj AI na profilovanie riadenia nápravných trestných činov pre alternatívne sankcie (COMPAS) na posúdenie toho, či je pravdepodobné, že sa niekto znovu dopustí trestného činu, pričom ho zohľadnili pri určovaní kaucie.
Bohužiaľ, aj tento softvér AI je chybný. Štúdia spoločnosti ProPublica z roku 2016 (Otvorí sa v novom okne) zistila, že COMPAS pravdepodobnejšie falošne označí obvinených čiernej pleti za vyššie riziko a zároveň falošne označí bielych obvinených za menej rizikové.
Bohužiaľ, aj tento softvér AI je chybný. Štúdia spoločnosti ProPublica z roku 2016 (otvorí sa v novom okne) zistila, že COMPAS pravdepodobnejšie falošne označí obvinených čiernej pleti za vyššie riziko a zároveň falošne označí bielych obvinených za menej rizikové.