Ein Sportdirektor einer Highschool aus der Gegend von Baltimore wurde am Donnerstag festgenommen, nachdem er mithilfe einer Software für künstliche Intelligenz einen rassistischen und antisemitischen Audioclip produziert hatte, in dem er sich als Schulleiter ausgab, teilte die Polizei mit.
Der Sportdirektor der Pikesville High School, Dazon Darren, hat die Aufnahme erfunden – einschließlich einer Tirade über „undankbare schwarze Kinder, die es nicht schaffen, aus einer Papiertüte herauszukommen“ –, um den Schulleiter Eric Eiswert zu diskreditieren, so The Verge. Polizeibehörde des Baltimore County.
Die gefälschte Aufnahme, die Mitte Januar auf Instagram gepostet wurde, verbreitete sich schnell viral Öffentliche Schulen im Baltimore CountyEs ist der 22. Schulbezirk des Landes und betreut mehr als 100.000 Schüler. Während der Ermittlungen in der Gegend wurde Herr Eiswert, der die Äußerungen bestritt, in seiner Sicherheit bedroht, teilte die Polizei mit. Nach Angaben des Schulbezirks wurde er außerdem in Verwaltungsurlaub genommen.
Jetzt wird Herrn Darren unter anderem wegen Störung des Schulbetriebs und Stalking gegen den Schulleiter vorgeworfen.
Herr Eiswert leitete eine Bitte um Stellungnahme an die Berufsgruppe der Schulverwaltung, den Rat der Verwaltungs- und Aufsichtsangestellten, weiter, der einen Anruf eines Reporters nicht beantwortete. Herr Darren, der am Donnerstag eine Kaution hinterlegt hatte, war für eine Stellungnahme nicht sofort zu erreichen.
Der Fall Baltimore County ist nur das jüngste Anzeichen für den Anstieg des KI-Missbrauchs in Schulen. In vielen Fällen handelt es sich um Deepfakes, digital veränderte Videos, Audiodateien oder Bilder, die überzeugend echt aussehen können.
Seit letztem Herbst bemühen sich Schulen in den Vereinigten Staaten darum, besorgniserregende Deepfakes-Vorfälle zu bekämpfen, bei denen männliche Schüler mithilfe künstlicher Intelligenz „Stripper“-Apps gefälschte Nacktfotos ihrer Klassenkameradinnen erstellten, von denen einige Mittelschüler im Alter von nur 12 Jahren waren Jahre alt. Der Audio-Deepfake-Vorfall in Baltimore County weist auf eine weitere KI-bezogene Bedrohung für Schulen im ganzen Land hin, diesmal für erfahrene Lehrer und Bezirksleiter.
An jedem Arbeitsplatz kann es zu tiefgreifender Vergeltungsmaßnahme kommen, doch für Schulbeamte, die für den Schutz und die Bildung von Kindern zuständig sind, ist dies ein besonders beunruhigendes Gespenst. Ein Beamter des Baltimore County warnte am Donnerstag, dass die rasche Verbreitung neuer generativer künstlicher Intelligenz-Tools den Schulschutz und die Landesgesetze übersteige.
„Wir betreten auch eine neue Grenze, die zutiefst besorgniserregend ist“, sagte Johnny Olszewski, Geschäftsführer des Baltimore County, während seiner öffentlichen Kommentare zur Verhaftung am Donnerstag. Er fügte hinzu, dass Gemeindevorsteher „einen umfassenderen Blick darauf werfen müssen, wie diese Technologie genutzt und missbraucht wird, um anderen zu schaden“.
Der Polizeibericht im Fall Baltimore County zeigt, wie schnell sich böswillige Fehlinformationen in Schulen verbreiten und Lehrern, Schülern und Familien dauerhaften Schaden zufügen können.
Polizeidokumenten zufolge erstattete Herr Darren im Dezember Anzeige gegen Herrn Eiswert, nachdem der Schulleiter mit den Ermittlungen gegen ihn begonnen hatte. Die Polizei sagte, Herr Darren habe eine Zahlung in Höhe von 1.916 US-Dollar an seinen Mitbewohner genehmigt, „unter dem Vorwand“, dass der Mitbewohner Co-Trainer der Mädchenfußballmannschaft von Pikesville sei.
Kurz darauf nutzte Herr Darren die Internetdienste des Schulbezirks, um nach Tools für künstliche Intelligenz zu suchen, darunter von OpenAI, dem Entwickler des ChatGPT-Chatbots, und Bing Chat von Microsoft, teilte die Polizei mit.
(New York Times Reichen Sie eine Klage dagegen ein OpenAI und sein Partner Microsoft wurden im Dezember wegen Urheberrechtsverletzung an Nachrichteninhalten im Zusammenhang mit Systemen der künstlichen Intelligenz angeklagt.)
Nach Angaben der Polizei schickte Herr Darren Mitte Januar per E-Mail einen gefälschten Audioclip, in dem er sich als Rektor von ihm selbst und zwei anderen Angestellten der High School ausgab. Die E-Mail mit der Betreffzeile „Pikesville Principal – Disturbing Recording“ wurde von einem Gmail-Konto gesendet, das offenbar einem unbekannten Dritten gehörte, laut Polizeidokumenten jedoch mit der Mobiltelefonnummer von Herrn Darren verknüpft war.
Ein Schulangestellter schickte die gefälschte Aufzeichnung dann an Nachrichtenorganisationen und die National Association for the Advancement of Colored People, heißt es in Polizeidokumenten. Sie schickte die Nachricht auch an eine Schülerin, die „wusste, dass sie die Nachricht schnell über verschiedene soziale Medien und in der gesamten Schule verbreiten würde“, heißt es in den Dokumenten.
Ein Instagram-Account, der lokale Kriminalität verfolgt, veröffentlichte schnell die rassistische gefälschte Audioaufnahme mit der Aussage, es handele sich um „Gerede über schwarze Schüler“, und nannte den Schulleiter als Sprecher. Der Audioclip, der weniger als eine Minute dauert, wurde mehr als 27.000 Mal geteilt und löste mehr als 2.800 Kommentare aus, von denen viele die Entlassung des Schulleiters forderten.
Die Polizei sagt, die Schimpftirade habe „tiefgreifende Auswirkungen“ gehabt und das Vertrauen zwischen Familien, Lehrern und Administratoren der Pikesville High School erschüttert.
Wütende und verärgerte Eltern und Schüler überschwemmten die Schule mit Anrufen. Die Polizei sagte, dass einige Lehrer „die Möglichkeit befürchteten, an verschiedenen Stellen in der Schule Aufnahmegeräte anzubringen“. Um Sicherheitsbedenken auszuräumen, hat die Polizei ihre Präsenz in der Schule verstärkt.
Die Polizei überwachte auch die Sicherheit von Herrn Eiswert, der eine Flut belästigender Briefe und Telefonanrufe erhielt, von denen einige ihm und seiner Familie mit Gewalt drohten.
In öffentlichen Kommentaren während einer Schulratssitzung im Januar sagte William Burke, geschäftsführender Direktor des Rates für Verwaltungs- und Aufsichtspersonal, der den Schulleiter vertritt, dass soziale Medien und Nachrichtenmedien es Kommentatoren ermöglicht hätten, Herrn Eiswert „ohne Beweise“ zu verurteilen. „Keine Verantwortung.“
„Bitte urteilen Sie nicht voreilig“, flehte Herr Burke. „Bitte gestalten Sie die Ermittlungen sicher und fair.“
Zwei externe Experten, die die Aufzeichnung später für das Baltimore County Police Department analysierten, kamen zu dem Schluss, dass der Audioclip manipuliert worden war. Ein Experte sagte, es enthielt „Spuren von KI-generierten Inhalten mit nachträglicher Bearbeitung durch Menschen“, heißt es in Polizeidokumenten.