• TWEAK
• Software

AI-genereret Fake news er steget 1000%

Neurovidenskabsmand og forfatter Mauktik Kulkarni udtrykte under en præsentation med titlen: "Decoding the LandscapeAI’s Initial Impact on Artists, Journalists, and Democratic Institutions" bekymring over den voksende mængde af AI genererede falske nyheder og misinformation. 

"Den falske nyhedsspredning oplevede en stigning på hele 1000 procent - selv med udvalgte artikler på legitime sider som CNET, der havde fejl i dem", sagde Kulkarni. Han tilføjede, at andre propagandasider brugte AI sammen med menneskeskrevet indhold til at fremme synspunkter fra den kinesiske regering, for eksempel.

Misinformationsproblemet havde også spredt sig til politik, med Deepfake videoer der forvandlede shows som KBC til at præsentere et politisk synspunkt, eller skabe AI-genererede taler med stemmen fra længe afdøde ledere som Swami Vivekananda, sagde han under sin præsentation. 

Kulkarni påpegede, at i dette miljø ville det være nødvendigt med sporbarhed af skabere for at fastlægge ansvar, men dette rejste også spørgsmålet om, hvem der ville være ansvarlig i tilfælde af maskinskabt indhold. Kulkarni sagde: Det amerikanske Copyright-kontor er endelig begyndt at gennemgå hvad der menes med copyright-krænkelse i forbindelse med AI. 

Med hensyn til AI's evne til at give forvrænget information fremhævede Kulkarni et eksperiment, hvor en GPT-4 AI blev brugt til at sælge og købe simulerede aktier, og blev overvåget af en virtuel manager. Ifølge ham resulterede 75 procent af testene i, at den pågældende bot tyede til insiderhandel og endda løj over for manageren om det. 

"Vi har set, at et menneske kan give en robot en kommando, og den kan udføre den kommando, men den kan også lyve, hvis den bliver presset", sagde han. Med hensyn til anvendelsen af AI i visuel kunst bemærkede Kulkarni, at teknologien kunne bruges til at modellere, hvilken del af et billede øjet først ville blive trukket mod, hvilket ville hjælpe med grafisk design. 

Ifølge neuroforskeren havde det også umiddelbare konsekvenser i andre arenaer, med Amazon der havde været nødt til at begrænse e-udgivelse til tre bøger om dagen på grund af en overflod af AI-medsammenskrevne bøger, og sci-fi-udgiveren Clarkesworld, der måtte lukke for indsendelser helt efter en stigning i forslag, der brugte ChatGPT.