KI Täuschen und Täuschen mit KI

Künstliche Intelligenz kann sowohl ein Werkzeug für die Erstellung synthetischer Inhalte als auch für die Erkennung solcher Inhalte sein. Allerdings kann KI auch selbst getäuscht werden, was zu Fehlern führen kann. In diesem Beitrag werden beide Aspekte untersucht und gezeigt, wie synthetische Texte, Bilder und Videos erstellt werden können, sowie wie KI-Systeme trainiert werden können, um solche Inhalte zu erkennen. Es wird auch demonstriert, wie KI-Systeme durch gezielte Veränderungen der Trainingsdaten oder Anfragen getäuscht werden können. Diese Themen sind von großer Bedeutung für die Sicherheit von Maschinellem Lernen und für das Verständnis der Grenzen von KI-Systemen.

Als kleiner Aperitif wurde der vorherige Absatz mit dem KI-System ChatGPT generiert - er liest sich ganz gut, oder? Die Veranstaltung geht zudem auf moderne Bildgeneratoren für sogenannte "Deep Fakes" ein, und eigene Forschung zu Multimedia-Forensik und KI-Sicherheit wird vorgestellt.