Eén nieuwspublicatie liet een AI-tool artikelen schrijven. Het ging niet goed

Nieuwsuitzending CNET zei woensdag dat het correcties heeft aangebracht op een aantal artikelen, waaronder enkele die het als “substantieel” beschreef, nadat het een door kunstmatige intelligentie aangedreven tool had gebruikt om tientallen verhalen te helpen schrijven.

De outlet is sindsdien gestopt met het gebruik van de AI-tool om verhalen te genereren, zei CNET’s hoofdredacteur Connie Guglielmo woensdag in een hoofdartikel.

De onthulling komt nadat CNET eerder publiekelijk werd opgeroepen voor het stilletjes gebruiken van AI om artikelen te schrijven en later voor fouten. Hoewel het gebruik van AI om nieuwsverhalen te automatiseren niet nieuw is – de Associated Press begon hiermee bijna tien jaar geleden – heeft het probleem nieuwe aandacht gekregen door de opkomst van ChatGPT, een virale nieuwe AI-chatbot-tool die snel essays, verhalen en songteksten kan genereren als reactie op gebruikersaanwijzingen.

Guglielmo zei dat CNET een “intern ontworpen AI-engine” gebruikte, niet ChatGPT, om sinds november 77 gepubliceerde verhalen te helpen schrijven. Ze zei dat dit ongeveer 1% uitmaakte van de totale inhoud die in dezelfde periode op CNET werd gepubliceerd, en werd gedaan als onderdeel van een “test” -project voor het CNET Money-team “om redacteuren te helpen bij het maken van een reeks basisuitleggers over onderwerpen op het gebied van financiële dienstverlening. .”

Enkele koppen uit verhalen die met behulp van de AI-tool zijn geschreven, zijn onder meer: ​​”Heeft een hypotheeklening invloed op particuliere hypotheekverzekeringen?” en “Hoe een bankrekening te sluiten.”

“Redacteurs hebben eerst de contouren voor de verhalen gegenereerd, vervolgens de AI-concepten uitgebreid, toegevoegd en bewerkt voordat ze werden gepubliceerd”, schreef Guglielmo. “Nadat een van de door AI ondersteunde verhalen terecht was geciteerd vanwege feitelijke fouten, heeft het redactieteam van CNET Money een volledige audit uitgevoerd.”

Het resultaat van de audit, zei ze, was dat CNET aanvullende verhalen identificeerde die gecorrigeerd moesten worden, “met een klein aantal dat substantiële correctie vereiste”. CNET identificeerde ook verschillende andere verhalen met “kleine problemen zoals onvolledige bedrijfsnamen, getransponeerde nummers of taal die onze hoofdredacteuren als vaag beschouwden.”

Eén correctie, die is toegevoegd aan het einde van een artikel met de titel “Wat is samengestelde rente?” stelt dat het verhaal aanvankelijk enorm onnauwkeurig persoonlijk financieel advies gaf. “Een eerdere versie van dit artikel suggereerde dat een spaarder na een jaar $ 10.300 zou verdienen door $ 10.000 op een spaarrekening te storten die jaarlijks 3% rente verdient. Het artikel is gecorrigeerd om te verduidelijken dat de spaarder $ 300 zou verdienen bovenop zijn hoofdsom van $ 10.000, ‘stelt de correctie.

Een andere correctie suggereert dat de AI-tool geplagieerd is. “We hebben zinnen vervangen die niet helemaal origineel waren”, aldus de correctie toegevoegd aan een artikel over het sluiten van een bankrekening.

Guglielmo heeft niet aangegeven hoeveel van de 77 gepubliceerde verhalen correcties vereisten, en evenmin heeft ze uitgesplitst hoeveel “substantiële” reparaties nodig hadden versus meer “kleine problemen”. Guglielmo zei dat de verhalen die zijn gecorrigeerd een notitie van de redactie bevatten waarin wordt uitgelegd wat er is veranderd.

CNET reageerde niet onmiddellijk op het verzoek van CNN om commentaar.

Ondanks de problemen liet Guglielmo de deur open om het gebruik van de AI-tool te hervatten. “We zijn gepauzeerd en zullen het gebruik van de AI-tool hervatten wanneer we er zeker van zijn dat de tool en onze redactionele processen zowel menselijke als AI-fouten zullen voorkomen”, zei ze.

Guglielmo zei ook dat CNET duidelijker aan lezers heeft bekendgemaakt welke verhalen zijn samengesteld met behulp van de AI-engine. De uitlaat kreeg wat kritiek van critici op sociale media omdat ze het publiek niet openlijk duidelijk maakten dat “By CNET Money Staff” betekende dat het was geschreven met behulp van AI-tools. De nieuwe naamregel is gewoon: “Door CNET Money.”