Digitale Gewalt durch KI
Warum wir das endlich ernst nehmen müssen
Manchmal liest man etwas und denkt: Das ist doch ein Einzelfall. Eine schräge Geschichte aus der digitalen Welt. Und dann merkt man, wie nah das eigentlich ist. Wie real. Der Fall von Collien Fernandes gehört genau in diese Kategorie. Er hat mich nicht nur erschüttert. Er hat mich wütend gemacht. Richtig wütend. Nicht wegen der Technik. Die ist am Ende nur ein Werkzeug. Sondern wegen der Haltung dahinter. Oder besser gesagt: wegen der fehlenden Haltung. Denn ganz ehrlich – was bringt einen Menschen überhaupt auf die Idee, so etwas zu tun?
Warum ich darüber schreibe
Das Verhalten meiner Mit-Männer macht mich sauer. KI ist ein wertvolles aber auch ressourcenhungriges Arbeitsmittel, das mit Bedacht eingesetzt werden sollte. Digitale Gewalt durch KI ist ein No-Go und ich habe mir Gedanken gemacht, wie wir als Gesellschaft und Politik das Problem in den Griff bekommen können bevor es ausartet, wie die sozialen Medien.
Das Problem ist nicht neu. Es ist nur sichtbarer geworden.
Ob es die eigene Partnerin ist oder eine völlig fremde Person – spielt das wirklich eine Rolle? Für mich nicht.
Allein der Gedanke, jemanden digital zu entblößen, zu manipulieren, bloßzustellen – das zeigt doch, wie tief das Problem sitzt. Tiefer als jede Software, tiefer als jede neue KI-Anwendung.
Wir tun oft so, als hätte die Technik das Problem erschaffen. Hat sie nicht.
Sie macht es nur einfacher. Schneller. Und leider auch massentauglich.
Das Problem Gedankenlosigkeit ist nicht neu.
Es ist nur sichtbarer geworden.
Was mich fast noch mehr beunruhigt: Viele Täter denken wahrscheinlich gar nicht, dass sie Gewalt ausüben.
Kein Unrechtsbewusstsein. Kein Innehalten. Kein „Moment mal, darf ich das überhaupt?“.
Stattdessen: ein paar Klicks, ein bisschen Neugier, vielleicht ein dummer Impuls – und am Ende steht eine massive Grenzüberschreitung.
Das ist kein Randproblem. Das ist ein gesellschaftliches.
Denn wo klare Grenzen fehlen, entstehen Grauzonen. Und in diesen Grauzonen passiert genau das.
Altes Muster, neue Geschwindigkeit
Seien wir ehrlich: Das Grundproblem kennen wir längst.
Rachepornos, intime Bilder nach Trennungen, sexualisierte Kommentare im Netz – all das gibt es seit Jahren. Leider.
Deepfakes setzen da einfach noch einen drauf.
Sie sind kein neues Kapitel. Eher eine Eskalation desselben Buches.
Der Unterschied? Früher brauchte man Zugriff auf echte Bilder, Zeit, vielleicht sogar kriminelle Energie.
Heute reicht oft ein halbwegs guter Rechner und ein paar Minuten.
KI ist nicht schuld – aber sie ist auch kein Freifahrtschein
Ich halte viel von künstlicher Intelligenz. Wirklich.
Sie kann Prozesse vereinfachen, Arbeit erleichtern, Dinge möglich machen, die vor ein paar Jahren noch Science-Fiction waren.
Aber genau deshalb braucht sie Regeln.
Ein Rechenzentrum entscheidet nicht, was damit passiert. Menschen tun das.
Und wenn wir zulassen, dass jeder täuschend echte Fake-Inhalte erstellen kann – ohne Hürden, ohne Kontrolle – dann tragen wir auch die Folgen.
Und die sind nicht virtuell. Die sind real.
Verantwortung kann man nicht outsourcen
Es wäre bequem, jetzt einfach auf „die Plattformen“ zu zeigen. Oder auf „die Politik“.
Aber so einfach ist es nicht.
Ja, Plattformen müssen stärker eingreifen.
Ja, der Gesetzgeber muss endlich klare, durchsetzbare Regeln schaffen.
Und ja, Ermittlungsbehörden brauchen Werkzeuge, die nicht aus dem letzten Jahrzehnt stammen.
Aber auch die Tech-Branche steht in der Pflicht.
Wer solche Systeme entwickelt, kann sich nicht wegducken und sagen: „Wir liefern nur die Technik.“
Das ist zu kurz gedacht.
Was jetzt passieren muss
Wir brauchen endlich klare Linien. Keine Debatten im Konjunktiv, sondern konkrete Schritte:
- Deepfake-Missbrauch muss eindeutig strafbar sein – und zwar so, dass Täter auch wirklich verfolgt werden.
- Es braucht technische Hürden. Nicht jeder darf alles einfach erzeugen können.
- Unternehmen müssen Schutzmechanismen einbauen, bevor sie Tools auf den Markt werfen.
- Und Ermittlungsbehörden müssen in der Lage sein, digital Schritt zu halten – personell wie technisch.
Klingt aber offensichtlich einfacher, als es ist, sonst hätten wir diese Regelungen bereits. Wichtig ist mir festzuhalten, dass das auch ohne den Fall Fernandes schon lange notwendig war.
Ja, es ist ein feministisches Thema. Aber nicht nur.
Frauen sind besonders oft betroffen. Das ist Fakt.
Aber wer glaubt, dass es dabei bleibt, macht es sich zu einfach.
Digitale Gewalt kann jeden treffen. Nach einer Trennung. Im Job. Im Freundeskreis.
Ein falscher Kontext, ein verletzter Ego, ein paar Klicks – und schon wird aus Privatem etwas Öffentliches.
Mobbing in der Schule. Wie einfach ist es für Heranwachsende am Handy mit entsprechenden Apps diese Fakes zu erstellen und da ist das Verantwortungsbewusstsein und die Medienkompetenz (so sollte man zumindest meinen) weniger ausgeprägt, als bei Erwachsenen.
Am Ende geht es um etwas Grundlegendes: Würde.
Und um die Frage, wer über dein digitales Abbild bestimmen darf.
Fortschritt ohne Regeln ist kein Fortschritt
Ich bin kein Technikgegner. Ganz im Gegenteil.
Aber ich glaube nicht an blinden Fortschritt.
Fortschritt braucht Leitplanken. Sonst wird er zur Gefahr.
Oder anders gesagt:
Technologie kann unglaublich viel.
Aber wir müssen entscheiden, was wir davon zulassen.
