ChatGPT už spôsobuje problémy.
Textový generátor z Open AI je nedokonalý pri vytváraní fakticky presného alebo zaujímavého písania, ale dokáže vytvoriť relatívne vhodný text pre takmer akúkoľvek výzvu. To je dosť pozoruhodné. A dokonca aj s množstvom vstavaných filtrov to môže byť tiež dosť nebezpečné.
Možno nie je prekvapením, že ľudia už našli použitie tohto nástroja, ktoré nie je ideálne. Čokoľvek, čo môže vytvoriť obsah z celej látky, môže pravdepodobne vytvoriť niečo nebezpečné. Je to len otázka času.
Zhromaždili sme šesť desivejších – alebo prinajmenšom pochybných – použití, ktoré už ľudia pre aplikáciu našli. A majte na pamäti, že toto je všetko predtým, ako sa aplikácia stane plne bežnou (Otvorí sa v novom okne) a kým je ešte v plienkach.
1. Vytváranie škodlivého softvéru
Vytváranie škodlivého softvéru ChatGPT je legitímne desivé. Nie v skutočnosti preto, že malvér je niečo nové, ale skôr preto, že ChatGPT to dokáže donekonečna. AI nespia. Infosecurity Magazine napísal, že (Otvorí sa v novom okne) "výskumníci kybernetickej bezpečnosti dokázali vytvoriť polymorfný program, ktorý je veľmi ťažko polapiteľný a ťažko sa dá odhaliť." Aby bolo jasné, nie som odborník na kybernetickú bezpečnosť. V zásade však vedci mohli použiť aplikáciu na vytvorenie kódu pre malvér a potom pomocou aplikácie vytvoriť variácie tohto kódu, aby bolo ťažké ho odhaliť alebo zastaviť.
„Inými slovami, môžeme z rozmaru zmutovať výstup, vďaka čomu bude zakaždým jedinečný,“ povedali výskumníci (Otvorí sa v novom okne) pre Infosecurity Magazine.
2. Podvádzanie v škole
OK, toto je menej desivé, ale predvídateľnejšie. Nástroj, ktorý dokáže vytvoriť text o čomkoľvek... doslova ideálny pre dieťa, ktoré sa snaží podvádzať v škole. A deti milujú podvádzanie v škole. Profesori už povedali (Otvorí sa v novom okne) , že prichytili študentov pri čine, zatiaľ čo školské obvody v celej krajine (Otvorí sa v novom okne) aplikáciu zakázali. Je však ťažké vidieť, že tento trend sa spomaľuje a AI sa pravdepodobne stane ďalším nástrojom, ktorý môžu deti používať na učenie.
3.Using to spam na zoznamovacie aplikácie
Dobre, možno spam nie je ideálne slovo, ale ľudia používajú ChatGPT na chatovanie so zhodami na Tinderi. Ľudia nechávajú AI, aby prevzala prácu nad konverzáciou. Aj keď to nie je nevyhnutne desivé, je dosť znepokojujúce pomyslieť si, že by ste namiesto potenciálneho partnera mohli chatovať s aplikáciou. Je to datovanie prenesené do rastového hackingu.
4. Prijatie práce spisovateľov
Toto je len jeden príklad, ale uhhhh, mám sa báť o svoju prácu?
5. Phishing a podvody
Je ťažšie dokázať, že sa to už stalo, ale je logické, že ChatGPT alebo podobné nástroje na písanie AI by boli ideálne na phishing. Phishingové správy sú často ľahko rozpoznateľné kvôli ich nefunkčnému jazyku, ale pomocou ChatGPT sa to dá všetko opraviť. Odborníci uviedli (Otvorí sa v novom okne) , že ide o celkom jasný prípad použitia aplikácie.
Aby sme zistili, či je to skutočne prijateľné, požiadali sme ju v Mashable, aby opravila chúlostivú angličtinu v skutočnom podvodnom e-maile, a nielenže vykonala pekné vyčistenie v priebehu niekoľkých sekúnd, v jednom z výstupov začala vydierať fiktívneho čitateľa bez toho, aby o to bola požiadaná . do.
