Et lydopptak dukket opp på sosiale medier i januar av det som hørtes ut som en rektor ved Pikesville High School i Maryland som kom med rasistiske og antisemittiske kommentarer. Opptaket ble imidlertid gjort ved hjelp av verktøy for kunstig intelligens. (WJZ)
I begynnelsen av januar gikk et stemmeopptak av det som hørtes ut som en rektor ved en videregående skole i Baltimore County, Maryland, med rasistiske og antisemittiske uttalelser viralt på sosiale medier.
hvor er baby gabriel
'Utakknemlige' svarte elever kunne ikke 'teste seg ut av en papirpose,' sa Pikesville High School-rektor Eric Eiswert angivelig i hemmelig innspilt lyd . Han skal også ha sagt: 'Hvis jeg må få en klage til for en jøde til, skal jeg slutte meg til den andre siden.'
Relatert dekning:
-
«Fant du noe blod?»: Kvinne knivstukket kjæresten 1. nyttårsdag og kom deretter med uoppfordrede belastende kommentarer om volden, opplyser politiet
-
«Jeg har nettopp sendt babyen vår til Gud»: Mor skjøt en 1 år gammel datter dødelig foran sin 2 år gamle søster, opplyser politiet
-
«Du blør over hele leiligheten»: Sheriffens stedfortreder biter kvinnen under vold i hjemmet og truer deretter med å «drepe henne», sier politiet
Men det viser seg at opptaket var falskt og laget ved hjelp av kunstig intelligens-programmer. Politiet hevder den atletiske direktøren ved skolen, 31 år gamle Dazhon Darien, produserte opptaket for å gjengjelde Eiswert for å ha åpnet en etterforskning av Dariens misbruk av skolemidler. Darien er siktet for tyveri, forstyrrelse av skoleoperasjoner, gjengjeldelse mot et vitne og forfølgelse.
Opptaket skapte kaos på skolen og forstyrret normal drift, sa Baltimore County Police i en arrestasjonserklæring innhentet av loven.
Politiet arresterte Darien torsdag morgen på Baltimore/Washington internasjonale Thurgood Marshall flyplass for et brudd på en erklært pistol han hadde i bagasjen, sa politisjef Robert McCullough i Baltimore County. Flyplasstjenestemenn innså at Darien hadde en arrestordre og tok ham i varetekt. McCullough sa at det ikke er klart om Darien prøvde å flykte fra arrestasjonen.
'I dag er vi lettet over å ha noen avslutning på opprinnelsen til denne lyden,' sa Baltimore County Executive Johnny Olszewski torsdag på en pressekonferanse. «Det er imidlertid klart at vi går inn i en ny, dypt bekymrende grense. Når vi fortsetter å omfavne fremvoksende teknologi og dens potensial for innovasjon og sosialt gode, må vi også være årvåkne mot de som misbruker den i ondsinnet hensikt. Det vil kreve at vi er mer bevisste og mer kresne når det gjelder lyden vi hører og bildene vi ser. Vi må være forsiktige med vår dømmekraft.'
Baltimore County Police begynte å etterforske 17. januar. I et intervju med etterforskere benektet Eiswert å ha kommet med uttalelsene og sa at han trodde opptaket var AI-generert. Eiswert mistenkte også Darien som den skyldige.
Etterforskerne fikk vite at lydklippet kom mellom klokken 21.47. og 21:57. via e-post fra [email protected] . E-posten gikk til Darien og to andre ansatte på skolen, som var nær ham, heter det i erklæringen. Innen 30 minutter var klippet allerede i ferd med å gå rundt på sosiale medier, sa etterforskere. Politiet intervjuet de andre mottakerne av e-posten. Medarbeideren, hvis navn er fjernet fra erklæringen, snakket med detektiver, men nevnte aldri Darien ved navn eller om hans engasjement. Da hun ble konfrontert med dette faktum, ble hun 'tårende' og sa at hun ikke visste hvorfor hun ikke nevnte navnet hans, heter det i erklæringen.
Hun skal også ha sagt at hun hadde det 'vanskelig' med å jobbe med Eiswert. Den ansatte sa at hun sendte opptaket til en student som hun visste ville spre det på sosiale medier og videresendte det til nyhetsmedier.
Selv om Darien bare hadde vært skolens atletiske leder siden juli 2023, hadde han flere «arbeidsrelaterte utfordringer», bemerket detektiver. Eiswert skal ha irettesatt Darien etter at han sparket en mangeårig trener uten godkjenning. Darien var også opprørt over at Eiswert ga andre administratorer til å føre tilsyn med ham. Etterforskere fikk vite at Eiswert i desember åpnet en intern etterforskning for misbrukte midler. Darien har angivelig autorisert bruken av skolemidler til å betale romkameraten og ungdomstreneren nesten 00 for å være assisterende fotballtrener til tross for at han aldri gjorde jobben.
Todd Kendhammer
Darien nektet for detektiver å ha vært involvert i opptaket. Han hevdet at han ikke visste e-postadressen der opptaket kom fra. Men et søk på IP-adressen spores tilbake til et hjem i Los Angeles som tilhører Dariens bestemor, heter det i erklæringen. Telefonnummeret som angivelig var knyttet til kontoen var Dariens. Etterforskere fant også at Darien 18. og 19. desember og 15. januar foretok søk på Baltimores skolenettverk etter OpenAI-verktøy, heter det i erklæringen.
I tillegg fortalte to AI-eksperter detektiver at de trodde opptaket ble gjort ved å bruke ukjente AI-programmer, ifølge erklæringen.
Baltimore County Public Schools Superintendent Myriam Rogers sa på pressekonferansen at Dariens arrestasjon har utløst en etterforskning som kan føre til at han får sparken. Distriktet vil også etterforske noen av Dariens påståtte medsammensvorne. Rogers sa at de midlertidige rektorene ved Pikesville High vil forbli på plass resten av skoleåret. Tjenestemenn vil diskutere Eiswerts fremtidige rolle med distriktet etter at skoleåret er over, sa hun.
Politiet tok Darien til fengsel etter at han ble arrestert på flyplassen, og han stilte 5000 dollar i kausjon. Hans neste rettsdato er berammet til 11. juni.