Följande artikel hjälper dig: ChatGPT går in i indisk politik
Valet i USA 2016 var betydelsefullt på mer än ett sätt. Det visade sig att den ryska regeringen drev en kampanj för att smutskasta bilden av den demokratiska kandidaten Hillary Clinton via cyberattacker och luta valet till Trumps fördel. Sagan gjorde det klart att tekniken skulle spela en stor roll i alla valresultat i framtiden. Idag, med framväxten av chatbots och dess genomträngande över domäner, tittar politik potentiellt på ett av dess största hot någonsin.
I ett fält där falsk information och fördomar lätt kan blanda sig i resultaten av politiska kampanjer, kommer en hallucinerande chatbot som ChatGPT att lägga bränsle på elden?
Noterad AI-forskare och författare, Pedro Domingos twittrade och sa, “Den mördare ockupationen för GPT-4 är politiker, eftersom nyckelkvalifikationen är att inte vara rädd för att ljuga (sic)” Även om det är lätt att säga att GPT-4 kan ersätta politiker, låt oss utforska hur indiska politiker och politiska partier utforskar ChatGPT:s användningsfall.
Att prata med SYFTESagar Vishnoi, politisk analytiker på The Ideaz Factory sa att de använder ChatGPT för att planera scheman, marknadsföringsplaner och för att skriva politiska tal. “Det hjälper oss att spara tid och förbättra produktiviteten,” sa han. Verktyget används redan på kontor för parlamentsledamöter, CM:er och tankesmedjor. Som bekräftats av Sagar använder Netri Foundation, en politisk inkubator, ChatGPT redan för att skapa innehåll på sociala medier och forskningsarbete.
Men med chatboten som är känd för hallucinationer och churning desinformation, hur tillförlitliga är de?
Politisk partiskhet
Det har varit långa diskussioner om ChatGPTs politiska läggning och hur dess partiska åsikter tydligt gynnar en viss sida. När en användare bad ChatGPT att skriva en dikt om två presidenter, var svaret inte bara partiskt utan återspeglade vad mainstream media har målat om de två personligheterna.
När ChatGPT sattes genom olika verktyg för att bedöma vilken sida det lutade mot, med hjälp av tester som Political Compass Test, observerade forskaren David Rozado att ChatGPT i huvudsak är vänsterorienterad med en stark libertariansk politisk fördom.
Källa: Twitter
Eftersom vi vet allt vi nu vet om chatbotens felaktiga svar, är det inte lätt att föreställa sig att verktyget kan användas för att fläcka eller glorifiera en viss ledare. Det kan potentiellt användas för att smutskasta politiska kampanjer till nycker och fantasier hos företagen som tillverkar dessa modeller.
ChatGPT anklagade nyligen Brian Wood, borgmästare i Hepburn Shire, för att ha avtjänat ett fängelsestraff för inblandning i en utländsk mutskandal kopplad till Reserve Bank of Australia. I verkligheten var det han som larmade myndigheterna om mutskandalen när han arbetade där. Borgmästaren har nu hotat med att väcka ärekränkningsprocess mot OpenAI om uttalandet inte rättas till.
Det finns många subjektiva variabler när det kommer till att träna en AI-modell. ChatGPT och andra chattbaserade plattformar tränas på stora datamängder som hämtas från olika platser på internet. I huvudsak kommer ChatGPT att ge samma politiska partiskhet som de flesta nyhetsorganisationer har i sina nyhetsartiklar.
ChatGPT: “Cambridge Analytica” i vardande
I en intervju i mars sa OpenAI-chefen Sam Altman: “Val är i vårt sinne.” Hur eller i vilken utsträckning hans företag planerar att bidra till dem är fortfarande okänt. Intressant nog har Altman alltid öppet erkänt den partiskhet som finns i systemet och förutser fler utmaningar i framtiden. Även med det senaste tillkännagivandet om säkerhet och integritet har de inte kommit på något sätt att stävja partiskheten.
det kommer att finnas fler utmaningar som partiskhet (vi vill inte att ChatGPT ska vara pro eller emot någon politik som standard, men om du vill något av det så borde det vara för dig; jobbar på det här nu) och folk som kommer bort oroliga från att prata med en chatbot, även om de vet vad som verkligen händer
— Sam Altman (@sama) 19 februari 2023
Under valet 2020 förbjöd sociala medieföretag som Twitter, Facebook och YouTube enhälligt president Donald Trump på de påstådda skälen för provokation, vilket inte hade bevisats juridiskt. Men det var en tydlig indikator på hur media hade ställt sig mot en part. Med den redan existerande partiskheten i media kan en partisk chatbot vara ännu mer skadlig för valet 2024.
I en podcastintervju med Meghan McCarty Carino, AI-författare och expert, sa Gary Marcus: “Valet 2024 kommer att bli ett tågvrak.” Han uttryckte sin oro över hur det kommer att bli lätt att producera falska nyheter som liknar “äkta publikationer”. Benägenheten att ta bort flera versioner av desinformation kommer att vara så lätt att det kommer att “översvämma området med fullständigt nonsens” och folk kommer inte att kunna se skillnad. Han tror också att det kommer att finnas motkampanjer som så småningom kommer att hamna på en “plats där folk verkligen inte tror på någonting.”
Vad sägs om Föreskrifter?
Med ökande oro kring AI-säkerhet överväger länder att införa stränga policyer. I USA vill Biden-administrationen ta in kontroller av ChatGPT-liknande verktyg på grund av växande oro för att teknik används för att “diskriminera och sprida skadlig information.” Mitt i alla bekymmer håller OpenAI fortfarande fast vid sin hållning att prioritera AI-säkerhet utan att ta itu med chatbotens fördomar och hallucinationer.
Om politiska partier vill använda chatbotgenererad information i sina manifest eller kampanjer, kan en omfattande granskning möjligen ta itu med spridningen av desinformation. Information som genereras via chatboten som kommer utanför partiets område kan dock inte regleras, och konsekvenserna av det är fortfarande okända.
Table of Contents
