KI in der Kriminalität: Herausforderungen für die IT-Forensik
Kriminelle nutzen KI für ihre Zwecke, und KI-generierte Daten stellen eine große Herausforderung für die Strafverfolgung und die digitale Forensik dar. Auf dem 12. Anwendertag IT-Forensik, organisiert vom Fraunhofer-Institut für Sichere Informationstechnologie (SIT) in Darmstadt, diskutieren Experten aus Forschung, Industrie und Behörden die Potenziale und Risiken von KI-generierten Medien und wie man sie von menschengemachten Inhalten unterscheiden kann.
Künstliche Intelligenz ist längst kein unbekannter Begriff mehr – Plattformen wie ChatGPT zeigen, wie fortschrittliche KI-Modelle Texte generieren können, die von menschlichen Schreibern kaum zu unterscheiden sind. Doch mit dem Fortschreiten der KI-Technologie steigt auch das Risiko, dass Kriminelle diese für ihre Zwecke nutzen. KI-generierte Medien, wie gefälschte Fotos oder manipulierte Videos, können das Vertrauen in digitale Inhalte untergraben und die Strafverfolgung vor neue Herausforderungen stellen.
Unter dem Motto „KI-generierte Daten auf dem Prüfstand“ beleuchtet der Anwendertag IT-Forensik am Fraunhofer SIT die verschiedenen Aspekte von KI-generierten Daten. Die Veranstaltung, die am 14. September stattfindet, bringt Experten aus Forschung, Industrie und Sicherheitsbehörden zusammen, um die Chancen und Risiken dieser neuen Technologien zu diskutieren.
Ann-Katrin Riedel, IT-Forensikerin am Fraunhofer SIT und Organisatorin des Anwendertags, betont die Bedeutung dieses Themas: „Mit der zunehmenden Verbreitung von KI-Technologien werden auch Kriminelle diese für ihre Zwecke nutzen. KI-generierte Daten stellen daher bereits jetzt eine große Herausforderung für die Strafverfolgung und digitale Forensik dar.“
Die Veranstaltung deckt eine Vielzahl von Themen ab, darunter die Vertrauenswürdigkeit von Beweismitteln und biometrischen Gesichtsbildern, die Manipulation von Audiodateien und die Erkennung von Deepfakes. Deepfakes sind täuschend echte Manipulationen von Videos, die zunehmend ein Problem in Gerichtsverhandlungen darstellen. Simone Salemi und Bianca Steffens vom Zentrum für Recht und Digitalisierung sprechen über die Auswirkungen von Deepfakes auf Strafverfahren.
Ein weiterer Vortrag beschäftigt sich mit der synthetischen Generierung von Gesichtsbildern und zeigt auf, wie einfach es mit KI-Anwendungen geworden ist, gefälschte Fotos zu erstellen. Dominik Lawatsch von secunet Security Networks erläutert die technischen Ansätze, um solche KI-generierten Inhalte zu erkennen und zu analysieren.
Patrick Aichroth vom Fraunhofer IDMT zeigt in seinem Vortrag, wie Audio-Fakes und Desinformationen mit Hilfe von KI erkannt und analysiert werden können. Denn nicht nur visuelle, sondern auch akustische Fälschungen stellen ein wachsendes Problem dar.
Die Veranstaltung richtet sich an IT-Sicherheitsexperten, Ermittelnde aus Sicherheitsbehörden und Unternehmen, Forschende aus den Bereichen IT-Sicherheit und KI sowie Nutzende aus den Bereichen Data Science und Data Analytics. Die Teilnahme ist sowohl online als auch vor Ort möglich.
Die Diskussion auf dem Anwendertag IT-Forensik bietet eine wichtige Plattform, um sich mit den Herausforderungen von KI-generierten Daten auseinanderzusetzen. Eine solche Auseinandersetzung ist für die Entwicklung von Strategien unabdingbar, um diese Technologien effektiv zu kontrollieren und zu regulieren. Weitere Informationen zur Veranstaltung und zur Anmeldung finden Interessierte unter https://www.sit.fraunhofer.de/anwendertag-it-forensik/.
