Home-theater-designers
Kunstig intelligens (AI) vil transformere hele deler av samfunnet vårt enten vi liker det eller ikke, og det inkluderer World Wide Web.
hvordan slå på bluetooth på mac
Med programvare som ChatGPT tilgjengelig for alle med en internettforbindelse, blir det stadig vanskeligere å skille AI-generert innhold, fra det som er skapt av et menneske. Bra vi har AI-innholdsdetektorer, ikke sant?
MAKEUSE AV DAGENS VIDEO RULL FOR Å FORTSETTE MED INNHOLD
Fungerer AI-innholdsdetektorer?
AI-innholdsdetektorer er spesialiserte verktøy som bestemmer om noe er skrevet av et dataprogram eller et menneske. Hvis du bare Googler ordene «AI-innholdsdetektor», vil du se det er dusinvis av detektorer der ute, alle hevder at de pålitelig kan skille mellom menneskelig og ikke-menneskelig tekst.
Måten de fungerer på er ganske enkel: du limer inn et skriv, og verktøyet forteller deg om det ble generert av AI eller ikke. I mer tekniske termer, ved å bruke en kombinasjon av naturlige språkbehandlingsteknikker og maskinlæringsalgoritmer, ser AI-innholdsdetektorer etter mønstre og forutsigbarhet, og ringer basert på det.
Dette høres bra ut på papiret, men hvis du noen gang har brukt et AI-deteksjonsverktøy, vet du godt at de er truffet og savner, for å si det mildt. Oftere enn ikke oppdager de menneskeskrevet innhold som AI, eller tekst skapt av mennesker som AI-generert. Faktisk er noen pinlig dårlige til det de skal gjøre.
Hvor nøyaktige er AI-innholdsdetektorer?
Hvis du er i USA, er det første Google-søkeresultatet for «AI content detector» writer.com (tidligere kjent som Qordoba; dette er en AI-innholdsplattform som også har sin egen detektor). Men når du limer inn en del av dette tilfeldig Associated Press artikkel i verktøyet, hevder den at det er en veldig god sjanse for at den ble generert av kunstig intelligens.
Så writer.com har tatt feil.
For å være rettferdig, andre AI-innholdsdetektorer er knapt noe bedre. Ikke bare produserer de falske positiver, men de markerer også AI-innhold som menneskelig. Og selv når de ikke gjør det, er det nok å gjøre mindre justeringer av AI-generert tekst til å passere med glans.
hvordan bli kvitt spøkelsesberøring
I februar 2023 testet University of Wollongong-lektor Armin Alimardani og førsteamanuensis ved UNSW Sydney Emma A. Jane en rekke populære AI-innholdsdetektorer, og slo fast at ingen av dem er pålitelige. I deres analyse, som ble publisert i Samtalen , konkluderte Alimardani og Jane med at dette AI 'våpenkappløpet' mellom tekstgeneratorer og detektorer vil utgjøre en betydelig utfordring i fremtiden, spesielt for lærere.
Men det er ikke bare lærere og lærere som har grunn til bekymring: alle gjør det. Etter hvert som AI-generert tekst blir allestedsnærværende, å kunne skille mellom hva som er 'ekte' og hva som ikke er det, dvs. faktisk oppdage når noe er skrevet av AI , vil bli vanskeligere. Dette vil ha en massiv innvirkning på praktisk talt alle bransjer og områder i samfunnet, også personlige relasjoner.
AIs implikasjoner for cybersikkerhet og personvern
Det faktum at det ikke finnes noen pålitelige mekanismer for å avgjøre om noe ble skapt av programvare eller et menneske, har alvorlige implikasjoner for cybersikkerhet og personvern.
Trusselaktører er allerede bruker ChatGPT til å skrive skadelig programvare , generere phishing-e-poster, skrive spam, lage svindelsider og mer. Og selv om det finnes måter å forsvare seg mot det på, er det absolutt bekymringsfullt at det ikke finnes noen programvare som er i stand til pålitelig å skille mellom organisk og bot-innhold.
Også falske nyheter er allerede et stort problem. Med generativ AI i bildet er desinformasjonsagenter i stand til å skalere sine operasjoner på en enestående måte. En vanlig person har i mellomtiden ingen måte å vite om noe de leser på nettet ble skapt av programvare eller et menneske.
Personvern er en helt annen sak. Ta ChatGPT, for eksempel. Det var matet mer enn 300 milliarder ord før lanseringen. Dette innholdet ble løftet fra bøker, blogg- og foruminnlegg, artikler og sosiale medier. Den ble samlet inn uten noens samtykke, og med tilsynelatende fullstendig ignorering av personvern og opphavsrettslig beskyttelse.
Så er det også spørsmålet om falske positiver. Hvis innhold feilaktig blir flagget som AI-generert, kan ikke det føre til sensur, som uansett er et stort problem? For ikke å nevne skaden som blir anklaget for å bruke AI-skapt tekst kan gjøre på ens omdømme, både på nettet og i det virkelige liv.
lage en oppstartbar Windows 10 usb
Hvis det virkelig er et våpenkappløp mellom generativ AI og innholdsdetektorer, vinner førstnevnte. Hva verre er, det ser ikke ut til å være noen løsning. Alt vi har våre halvbakte produkter som ikke engang fungerer halvparten av tiden, eller som kan lures veldig enkelt.
Hvordan oppdage AI-innhold: potensielle løsninger
At vi for øyeblikket ikke ser ut til å ha reelle svar på dette problemet betyr ikke at vi ikke vil ha noen i fremtiden. Faktisk er det allerede flere seriøse forslag som kan fungere. Vannmerking er en.
Når det gjelder AI og dype språkmodeller, refererer vannmerking til å bygge inn en slags hemmelig kode i AI-generert tekst (f.eks. ordmønster, tegnsettingsstil). Et slikt vannmerke ville være usynlig for det blotte øye, og dermed nesten umulig å fjerne, men spesialisert programvare ville være i stand til å oppdage det.
Faktisk, tilbake i 2022, University of Maryland forskere utviklet en ny vannmerkemetode for kunstige nevrale nettverk. Hovedforsker Tom Goldstein sa den gang at teamet hans hadde klart å 'bevise matematisk' at vannmerket deres ikke kan fjernes helt.
Foreløpig er det en vanlig person kan stole på sine instinkter og sunn fornuft. Hvis det er noe uheldig med innholdet du leser – hvis det føles unaturlig, repeterende, fantasiløst, banalt – kan det ha blitt laget av programvare. Selvfølgelig bør du også bekrefte all informasjon du ser på nettet, dobbeltsjekke kilden og holde deg unna lyssky nettsteder.
AI-revolusjonen er i gang
Noen hevder at den femte industrielle revolusjonen allerede er her, ettersom kunstig intelligens står sentralt i det som blir beskrevet som en konvergens av det digitale og fysiske. Enten det virkelig er tilfelle eller ikke, alt vi kan gjøre er å tilpasse oss.
Den gode nyheten er at cybersikkerhetsindustrien tilpasser seg denne nye virkeligheten, og implementerer nye forsvarsstrategier med AI og maskinlæring i forkant.