Företaget anser att det på så sätt är möjligt att förhindra, så att säga, olämplig användning av boten, i synnerhet att “skriva” uppsatser, abstracts, artiklar och annat material för skolor och högskolor med dess hjälp.
En kryptografisk vattenstämpel är, för att sammanfatta, en typ av digital vattenstämpel som automatiskt bäddas in i en elektronisk fil eller signal via .
Digitala vattenstämplar används nu framgångsrikt för att identifiera ägaren eller ursprunget till en digital fil eller signal för att skydda digitalt innehålls säkerhet från obehörig användning och/eller distribution. En mängd olika “vanliga” vattenstämplar används för att markera fotografier och videor.
OpenAI anser dock inte att ett sådant skydd är tillräckligt effektivt och talar om behovet av att utveckla en speciell kryptografisk vattenstämpel för ChatGPT, som boten kommer att integrera i sin text, och som kommer att vara helt osynlig för läsare, inklusive “författaren” till texten det vill säga ChatGPT-användaren.
OpenAI bygger på det välkända faktum att text skapad av den så kallade “artificiella intelligensen” kan kännas igen utan problem, inte bara av en specialist som vet vad han ska leta efter, utan också av helt enkelt en uppmärksam läsare som kan lägga märke till mönster för att konstruera fraser som är karakteristiska för AI-system och förutsägbar ordföljd. Och det är just denna förutsägbarhet som företaget tänker använda som ett “osynligt vattenstämpel.”
Denna lösning är vad AI-säkerhetsforskaren Scott Aaronson kallar “pseudo-slumpmässig distribution” i sin Search Engine Journal-blogg.
– det är när ord och siffror är ordnade i en viss ordning, vilket av läsaren uppfattas som slumpmässigt (men i själva verket inte är det). Så här kan ChatGPT diskret markera sina texter utan att på något sätt kränka deras integritet:
Lösningen på detta “problem” verkar inte heller mindre enkel och uppenbar: texten skriven av ChatGPT-boten måste “skrivas om”, det vill säga passeras genom alla andra AI-textgenereringsprotokoll.
Så dumt, ja. Texten i sig kommer sannolikt inte att dra nytta av detta kvalitetsmässigt, men hela proceduren kan automatiseras helt och undvika att behöva skriva om allt manuellt i ett försök att ta bort den kryptografiska vattenstämpeln.
Men allt har bara börjat. ChatGPT-boten lägger ännu inte till några sådana “hemliga vattenstämplar” till texter (typ), men eftersom utvecklaren redan är förbryllad över detta, betyder det att inom en snar framtid kommer användarnas motkreativa oundvikligen att rusa i rätt riktning …
[irp]
