Dr. Oliver Wiese vom DAISEC zu Gast beim HaMiZu Café
27. März 2024
Austausch zum Thema Cybersicherheit für KI-Systeme
Beim HaMiZu Café im März durften wir Cybersicherheitsexperte Dr. Oliver Wiese vom
European Digital Innovation Hub für KI und Cybersicherheit (DAISEC)
als Gast begrüßen, der uns über das Thema Cybersicherheit in KI-Systemen informierte. Der DAISEC unterstützt kleine und mittelständische Unternehmen aus Niedersachsen beim Einsatz und bei der Entwicklung von KI-Lösungen und Cybersicherheitstechnologien. Dafür bietet der DAISEC eine Vielzahl von Angeboten. Während seines Vortrages erläuterte Herr Wiese den „Handwerk 4.0“-Projekten, welche Risiken bei der Entwicklung und Nutzung von KI-Chatbots im eigenen Projekt zu beachten sind.
Potenzielle Gefahren bei KI-Chatbots
Zum Einstieg verdeutlichte Herr Wiese potenzielle Fehlerquellen bei der Eingabe von Prompts sowie die Bedeutung von Trainingsdaten für die Leistungsfähigkeit und Genauigkeit von KI-Chatbots. Die Trainingsdaten eines Chatbots bilden die Grundlage für das Verständnis von Sprache, Kontext und die Fähigkeit, angemessene Antworten zu generieren. Hier verbergen sich allerdings auch potenzielle Sicherheitslücken: Wenn die Trainingsdaten nicht sorgfältig ausgewählt oder vorverarbeitet werden, können sie Verzerrungen, Vorurteile oder sensible Informationen enthalten. Diese Schwächen könnten durch gezielte Manipulation genutzt werden, was zu Sicherheitsrisiken führen kann. Daher ist eine umfassende Überprüfung und Sicherung der Trainingsdaten von entscheidender Bedeutung, um die Integrität und Zuverlässigkeit von KI-Chatbots zu gewährleisten. Wichtig sei aber auch zu beachten, dass nie alle Fehlerquellen im Vorfeld ausgemacht werden können, weshalb Achtsamkeit im Umgang mit KI-Chatbots kontinuierlich geboten ist.
Reger Austausch über Erfahrungen und Learnings
Auch einige der „Handwerk 4.0“-Projekte sammelten bereits Erfahrungen bei der Erstellung eines Chatbots. Im anschließenden Dialog tauschten sich die Teilnehmenden untereinander über ihre Learnings aus. Im Ergebnis konnte festgehalten werden, dass es ratsam ist, verschiedene Aspekte im Blick zu halten, um Cybersicherheit bei KI-Systemen mitzudenken:Was sind potenzielle Ziele aus Angriffsperspektive?
Wir bedanken uns bei Herrn Dr. Oliver Wiese für den spannenden Vortrag und die hilfreichen Tipps!
Potenzielle Gefahren bei KI-Chatbots
Zum Einstieg verdeutlichte Herr Wiese potenzielle Fehlerquellen bei der Eingabe von Prompts sowie die Bedeutung von Trainingsdaten für die Leistungsfähigkeit und Genauigkeit von KI-Chatbots. Die Trainingsdaten eines Chatbots bilden die Grundlage für das Verständnis von Sprache, Kontext und die Fähigkeit, angemessene Antworten zu generieren. Hier verbergen sich allerdings auch potenzielle Sicherheitslücken: Wenn die Trainingsdaten nicht sorgfältig ausgewählt oder vorverarbeitet werden, können sie Verzerrungen, Vorurteile oder sensible Informationen enthalten. Diese Schwächen könnten durch gezielte Manipulation genutzt werden, was zu Sicherheitsrisiken führen kann. Daher ist eine umfassende Überprüfung und Sicherung der Trainingsdaten von entscheidender Bedeutung, um die Integrität und Zuverlässigkeit von KI-Chatbots zu gewährleisten. Wichtig sei aber auch zu beachten, dass nie alle Fehlerquellen im Vorfeld ausgemacht werden können, weshalb Achtsamkeit im Umgang mit KI-Chatbots kontinuierlich geboten ist.
Reger Austausch über Erfahrungen und Learnings
Auch einige der „Handwerk 4.0“-Projekte sammelten bereits Erfahrungen bei der Erstellung eines Chatbots. Im anschließenden Dialog tauschten sich die Teilnehmenden untereinander über ihre Learnings aus. Im Ergebnis konnte festgehalten werden, dass es ratsam ist, verschiedene Aspekte im Blick zu halten, um Cybersicherheit bei KI-Systemen mitzudenken:Was sind potenzielle Ziele aus Angriffsperspektive?
- Sind die Quellen der Daten und Eingaben bekannt?
- Wer hat Zugriffsrechte für den Dienst?
- Welche potenziellen Schäden könnten durch einen Angriff entstehen?
Wir bedanken uns bei Herrn Dr. Oliver Wiese für den spannenden Vortrag und die hilfreichen Tipps!
Quelle: Projekt HaMiZu
Im Handwerk 4.0 Café zeigte das Projekt FrisAR, wie Augmented Reality Beratung und Kundenerlebnis im Friseurhandwerk verändert.
Austausch in Osnabrück: Hochschulen und Handwerk diskutierten Zukunftstechnologien von KI bis Exoskelette.
Koordinierungstreffen im DaWeNa-HUB: Projekt-Pitches, Workshops und Podiumsdiskussion beim 20-jährigen ITeG-Jubiläum in Kassel.
HaMiZu nahm an der AI Pioneers Final Conference in Bremen teil und erhielt Impulse zu KI in Bildung und Berufsbildung.
Beim HaMiZu-Gipfelstürmer diskutierten die Handwerk 4.0-Projekte Themen und Schwerpunkte für die Forschungscommunity.
HaMiZu bei der BIT-Jahrestagung 2025: Austausch mit BIT und DIGI-BIT über den Aufbau einer Forschungscommunity.
Auf der ECER 2025: Wie Innovationen aus dem Handwerk systematisch in die berufliche Bildung übertragen werden können.
Einblicke in das Projekt LEROSH: KI-gestützte Robotik für effizientes, sicheres und zukunftsfähiges Handwerk.
Erstes Vernetzungstreffen von zwei Projekten aus der Förderlinie DigiLeistDAT zeigt Potenzial für künftige Zusammenarbeit.
Auftakt der Handwerk 4.0 Café-Reihe mit Einblicken in das Projekt DiBesAnSHK zur digitalen Angebotserstellung im SHK-Handwerk.
