Wenn KI-Agenten durchdrehen! Wie wir eine sichere und autonome Agentenwelt erschaffen können.

Autonome KI-Agenten treffen Entscheidungen selbstständig – doch was geschieht, wenn sie Täuschungsverhalten oder Selbsterhaltungstrieb entwickeln? Das Exponat der COAI-Research (HS Ansbach) zur Langen Nacht der Wissenschaften demonstriert praktische Ansätze zur KI-Kontrolle und informiert über aktuelle Forschung im Bereich "Human Compatible AI". Besucher erleben, wie Sprachmodelle unerwartete Verhaltensweisen zeigen können und wie Kontrollmechanismen diese eindämmen. Durch interaktive Simulationen veranschaulichen wir die Herausforderungen bei der Steuerung emergenter Systeme. Die COAI-Gruppe informiert zusätzlich über ihre Arbeit in Bereichen wie mechanistische Interpretierbarkeit, AI-Alignment und AI-Control – wichtige Säulen für die Entwicklung vertrauenswürdiger KI. Erfahren Sie, welche technischen und ethischen Rahmenbedingungen notwendig sind, um das Potenzial autonomer Systeme sicher zu nutzen – eine Einladung zur Reflexion über die Zukunft intelligenter Technologien.