Die Westfield Public Schools veranstalteten Ende März eine regelmäßige Vorstandssitzung in der örtlichen High School, einem roten Backsteinkomplex in Westfield, New Jersey, mit einer Anzeigetafel draußen, auf der die Besucher der Sportmannschaften „Heimat der Blue Devils“ stolz begrüßt wurden.
Doch für Dorota Mani lief es nicht wie gewohnt.
Im Oktober machten einige Mädchen der 10. Klasse der Westfield High School – darunter Frau Manis Tochter, die 14-jährige Francesca – die Schulleitung darauf aufmerksam, dass Jungen in ihrer Klasse mithilfe von Software für künstliche Intelligenz sexuell eindeutige Bilder von sich selbst hergestellt hatten und die Fälschung verbreiteten Bilder. Foto. Fünf Monate später, sagen die Manesses und andere Familien, habe der Bezirk wenig unternommen, um die manipulierten Bilder öffentlich anzusprechen oder die Schulrichtlinien zu aktualisieren, um den ausbeuterischen Einsatz künstlicher Intelligenz zu verhindern.
„Es scheint, als würden die Verwaltung der Westfield High School und der Bezirk einen Meisterkurs organisieren, um diesen Vorfall in Luft auflösen zu können“, warnte Frau Manney, die Gründerin einer örtlichen Vorschule, die Vorstandsmitglieder während der Sitzung.
Der Schulbezirk teilte in einer Erklärung mit, dass er eine „sofortige Untersuchung“ eingeleitet habe, nachdem er von dem Vorfall erfahren habe, sofort die Polizei benachrichtigt und konsultiert habe und Gruppenberatung für die zweite Klasse angeboten habe.
„Alle Schulbezirke stehen vor den Herausforderungen und Auswirkungen künstlicher Intelligenz und anderer Technologien, die den Schülern jederzeit und überall zur Verfügung stehen“, sagte Raymond Gonzalez, Superintendent der Westfield Public Schools, in der Erklärung.
Letztes Jahr waren Schulen in den USA schockiert über die plötzliche Beliebtheit von KI-gestützten Chatbots wie ChatGPT und beeilten sich, textgenerierende Bots einzusetzen, um Schüler am Betrügen zu hindern. Nun erschüttert ein noch alarmierenderes Phänomen bei der KI-Bildgenerierung die Schulen.
Jungen in vielen Staaten haben weit verbreitete „Stripping“-Apps genutzt, um echte, erkennbare Fotos von bekleideten Klassenkameraden, die bei Veranstaltungen wie Schulkonzerten gezeigt wurden, in überzeugende grafische Bilder von Mädchen zu verwandeln, deren Brüste und Genitalien durch künstliche Intelligenz entblößt wurden. In einigen Fällen teilten die Jungen die gefälschten Fotos in der Schulkantine, im Schulbus oder über Gruppenchats auf Plattformen wie Snapchat und Instagram, wie aus Schul- und Polizeiberichten hervorgeht.
Solche digital veränderten Bilder – sogenannte „Deepfakes“ oder „Deep Nudes“ – können verheerende Folgen haben. Die Verwendung nicht einvernehmlicher, von KI erzeugter Bilder zur Belästigung, Demütigung und Schikanierung junger Frauen kann ihrer geistigen Gesundheit, ihrem Ruf und ihrer körperlichen Sicherheit schaden und ein Risiko für ihre Universitäts- und berufliche Zukunft darstellen, sagen Experten für sexuelle Ausbeutung von Kindern. Letzten Monat hat das F.B.I Er warnte, dass es illegal sei Verbreitung von computergeneriertem Material über sexuellen Missbrauch von Kindern, einschließlich realistischer, durch künstliche Intelligenz generierter Bilder von identifizierbaren Minderjährigen, die sich sexuell eindeutig verhalten.
Der Einsatz ausbeuterischer KI-Apps durch Schüler in Schulen ist jedoch so neu, dass einige Bezirke offenbar weniger darauf vorbereitet sind als andere. Dies kann Garantien für Studierende riskant machen.
„Dieses Phänomen ist sehr plötzlich aufgetreten und kann dazu führen, dass viele Schulbezirke unvorbereitet und unsicher sind, was zu tun ist“, sagte er. Rihanna Pfefferkornein Forscher am Stanford Internet Observatory, der darüber schreibt Rechtliche Fragen im Zusammenhang mit computergenerierten Bildern von sexuellem Kindesmissbrauch.
An der Isaacs High School in der Nähe von Seattle fragte im vergangenen Herbst ein Polizist, der die Beschwerden von Eltern über explizite KI-generierte Fotos ihrer 14- und 15-jährigen Töchter untersuchte, einen stellvertretenden Schulleiter, warum die Schule den Vorfall nicht der Polizei gemeldet habe zu einem Bericht der Isaac Police Department. Der Schulbeamte fragte sie dann, „was sie melden sollte“, heißt es in dem Polizeidokument, was den Ermittler dazu veranlasste, ihr mitzuteilen, dass Schulen gesetzlich dazu verpflichtet sind, sexuelle Übergriffe, einschließlich möglicher Darstellungen von sexuellem Kindesmissbrauch, zu melden. Die Schule meldete den Vorfall daraufhin dem Kinderschutzdienst, heißt es in dem Polizeibericht. (Die New York Times erhielt den Polizeibericht durch eine Anfrage nach öffentlichen Aufzeichnungen.)
Der Issaquah School District sagte in einer Erklärung, dass er im Rahmen seiner Untersuchung des Deepfakes mit Schülern, Familien und der Polizei gesprochen habe. Auch die Region.“Teilen Sie unser MitgefühlIn der Erklärung heißt es, dass den betroffenen Studierenden Unterstützung geboten werde.
Der Bezirk meldete die „KI-generierten gefälschten Fotos“ aus großer Vorsicht dem Kinderschutzdienst, heißt es in der Erklärung weiter und stellte fest, dass „nach Angaben unseres Rechtsteams wir nicht verpflichtet sind, gefälschte Fotos der Polizei zu melden.“ “
An der Beverly Vista Middle School in Beverly Hills, Kalifornien, riefen die Schulleiter im Februar die Polizei an, nachdem sie erfahren hatten, dass fünf Jungen explizite, KI-generierte Fotos von Klassenkameradinnen erstellt und geteilt hatten. Zwei Wochen später stimmte die Schulbehörde der Ausweisung von fünf Schülern zu, sagte er Gebietsdokumente. (Der Bezirk sagte, das kalifornische Bildungsgesetz verbiete es ihm, zu bestätigen, ob es sich bei den ausgewiesenen Schülern um die Schüler handelte, die die Fotos gemacht haben.)
Michael Briggi, Superintendent des Beverly Hills Unified School District, sagte, er und andere Schulleiter wollten einen landesweiten Präzedenzfall dafür schaffen, dass Schulen Schülern nicht erlauben sollten, sexuell eindeutige Bilder von Gleichaltrigen zu erstellen und zu veröffentlichen.
„Das ist extremes Mobbing, wenn es um Schulen geht“, sagte Dr. Bregi und wies darauf hin, dass die expliziten Bilder „verstörend und beleidigend“ für die Mädchen und ihre Familien seien. „Das ist etwas, was wir hier niemals tolerieren werden.“
Schulen in kleinen, wohlhabenden Gemeinden Beverly Hills Und Westfield Sie gehörten zu den Ersten, die Deepfakes-Vorfälle öffentlich zugaben. Einzelheiten zu den Fällen – beschrieben in der Kommunikation des Bezirks mit den Eltern, in Schulratssitzungen, in Anhörungen zum Gesetzgeber und in Gerichtsakten – verdeutlichen die Variabilität der Reaktionen der Schulen.
Der Vorfall in Westfield begann letzten Sommer, als ein High-School-Schüler auf Instagram darum bat, sich mit einem 15-jährigen Klassenkameraden anzufreunden, der einen privaten Account hatte, wie aus einer Klage der jungen Frau und ihrer Familie gegen den Jungen und seine Eltern hervorgeht. (Die Manis sagten, sie seien nicht an der Klage beteiligt gewesen.)
Nachdem sie den Antrag angenommen hatte, kopierte die Studentin Fotos von ihr und mehreren anderen Klassenkameraden von ihren Social-Media-Konten, heißt es in Gerichtsdokumenten. Anschließend nutzte er die App für künstliche Intelligenz, um sexuell eindeutige und „vollständig identifizierbare“ Bilder der Mädchen zu erstellen und diese über eine Snapchat-Gruppe mit ihren Schulkameraden zu teilen, heißt es in Gerichtsdokumenten.
Westfield High begann Ende Oktober mit den Ermittlungen. Francesca Mani sagte, dass die Beamten, während die Beamten einige der Jungen für ein ruhiges Verhör beiseite nahmen, sie und zwei andere Mädchen der 10. Klasse anriefen, die durch die Bekanntgabe ihrer Namen über die Gegensprechanlage der Schule in das Schulbüro gelockt wurden.
In dieser Woche schickte die Schulleiterin der Westfield High School, Mary Asfendis, eine E-Mail an die Eltern, in der sie sie auf eine „Situation aufmerksam machte, die zu einer weit verbreiteten Verbreitung von Fehlinformationen geführt hat“. In der E-Mail wurde der Deepfake weiter als „sehr schwerwiegender Vorfall“ beschrieben. Sie sagte auch, dass die Schule trotz der Bedenken der Schüler hinsichtlich der Möglichkeit einer Weitergabe der Bilder davon ausgeht, dass „alle Bilder, die erstellt und nicht verbreitet wurden, gelöscht wurden“.
Dorota Mani sagte, Westfield-Beamte hätten ihr mitgeteilt, dass der Bezirk den Studenten, der beschuldigt wurde, die Fotos gefälscht zu haben, für ein oder zwei Tage suspendiert habe.
Bald darauf begannen sie und ihre Tochter, über den Vorfall zu sprechen und forderten Schulbezirke, staatliche Gesetzgeber und den Kongress auf, Gesetze und Richtlinien zu erlassen, die explizite Deepfakes ausdrücklich verbieten.
„Wir müssen damit beginnen, unsere Schulpolitik zu aktualisieren“, sagte Francesca Mani, jetzt 15, kürzlich in einem Interview. „Denn wenn die Schule KI-Richtlinien hätte, wären Schüler wie ich geschützt.“
Eltern, darunter Dorota Mani, reichten im vergangenen Herbst wegen der expliziten Fotos ebenfalls Belästigungsbeschwerden bei Westfield High ein. Während der Sitzung im März teilte Frau Mani den Schulvorstandsmitgliedern jedoch mit, dass die High School den Eltern noch keinen offiziellen Bericht über den Vorfall vorgelegt habe.
Die Westfield Public Schools sagten, sie könnten sich aus Gründen der Vertraulichkeit der Schüler nicht zu Disziplinarmaßnahmen äußern. In einer Erklärung sagte Dr. Gonzalez, der Superintendent, dass der Bezirk seine Bemühungen verstärkt, „indem er unsere Studenten ausbildet und klare Richtlinien festlegt, um sicherzustellen, dass diese neuen Technologien verantwortungsvoll genutzt werden“.
Die Beverly Hills Schools haben in der Öffentlichkeit eine härtere Haltung eingenommen.
Als die Beamten im Februar erfuhren, dass Achtklässler der Beverly Vista Middle School explizite Bilder ihrer 12- und 13-jährigen Klassenkameradinnen erstellt hatten, schickten sie schnell eine Nachricht – Betreff: „Schrecklicher Missbrauch von KI“ – an alle. Bezirkseltern, Mitarbeiter sowie Schüler der Mittel- und Oberstufe. In dem Brief wurden die Gemeindemitglieder aufgefordert, Informationen mit der Schule zu teilen, um sicherzustellen, dass der „beunruhigende und unangemessene“ Einsatz von KI durch die Schüler „sofort“ eingestellt wird.
Es wurde auch gewarnt, dass die Region bereit sei, strenge Sanktionen zu verhängen. „Jeder Student, bei dem festgestellt wird, dass er durch künstliche Intelligenz erzeugte Bilder dieser Art erstellt, veröffentlicht oder besitzt, muss mit Disziplinarmaßnahmen rechnen“, heißt es in dem Schreiben, einschließlich einer Empfehlung zum Ausschluss.
Dr. Prije, der Schulleiter, sagte, Schulen und Gesetzgeber müssten schnell handeln, da der Missbrauch von KI dazu führe, dass sich Schüler in Schulen unsicher fühlen.
„Wir hören viel über körperliche Sicherheit in Schulen“, sagte er. „Aber wovon man nichts hört, ist diese Verletzung der persönlichen und emotionalen Sicherheit der Schüler.“