Blog-Layout
Dr. Oliver Wiese vom DAISEC zu Gast beim HaMiZu Café
März 27, 2024
Austausch zum Thema Cybersicherheit für KI-Systeme
Beim HaMiZu Café im März durften wir Cybersicherheitsexperte Dr. Oliver Wiese vom
European Digital Innovation Hub für KI und Cybersicherheit (DAISEC)
als Gast begrüßen, der uns über das Thema Cybersicherheit in KI-Systemen informierte. Der DAISEC unterstützt kleine und mittelständische Unternehmen aus Niedersachsen beim Einsatz und bei der Entwicklung von KI-Lösungen und Cybersicherheitstechnologien. Dafür bietet der DAISEC eine Vielzahl von Angeboten. Während seines Vortrages erläuterte Herr Wiese den „Handwerk 4.0“-Projekten, welche Risiken bei der Entwicklung und Nutzung von KI-Chatbots im eigenen Projekt zu beachten sind.
Potenzielle Gefahren bei KI-Chatbots
Zum Einstieg verdeutlichte Herr Wiese potenzielle Fehlerquellen bei der Eingabe von Prompts sowie die Bedeutung von Trainingsdaten für die Leistungsfähigkeit und Genauigkeit von KI-Chatbots. Die Trainingsdaten eines Chatbots bilden die Grundlage für das Verständnis von Sprache, Kontext und die Fähigkeit, angemessene Antworten zu generieren. Hier verbergen sich allerdings auch potenzielle Sicherheitslücken: Wenn die Trainingsdaten nicht sorgfältig ausgewählt oder vorverarbeitet werden, können sie Verzerrungen, Vorurteile oder sensible Informationen enthalten. Diese Schwächen könnten durch gezielte Manipulation genutzt werden, was zu Sicherheitsrisiken führen kann. Daher ist eine umfassende Überprüfung und Sicherung der Trainingsdaten von entscheidender Bedeutung, um die Integrität und Zuverlässigkeit von KI-Chatbots zu gewährleisten. Wichtig sei aber auch zu beachten, dass nie alle Fehlerquellen im Vorfeld ausgemacht werden können, weshalb Achtsamkeit im Umgang mit KI-Chatbots kontinuierlich geboten ist.
Reger Austausch über Erfahrungen und Learnings
Auch einige der „Handwerk 4.0“-Projekte sammelten bereits Erfahrungen bei der Erstellung eines Chatbots. Im anschließenden Dialog tauschten sich die Teilnehmenden untereinander über ihre Learnings aus. Im Ergebnis konnte festgehalten werden, dass es ratsam ist, verschiedene Aspekte im Blick zu halten, um Cybersicherheit bei KI-Systemen mitzudenken:Was sind potenzielle Ziele aus Angriffsperspektive?
Wir bedanken uns bei Herrn Dr. Oliver Wiese für den spannenden Vortrag und die hilfreichen Tipps!
Potenzielle Gefahren bei KI-Chatbots
Zum Einstieg verdeutlichte Herr Wiese potenzielle Fehlerquellen bei der Eingabe von Prompts sowie die Bedeutung von Trainingsdaten für die Leistungsfähigkeit und Genauigkeit von KI-Chatbots. Die Trainingsdaten eines Chatbots bilden die Grundlage für das Verständnis von Sprache, Kontext und die Fähigkeit, angemessene Antworten zu generieren. Hier verbergen sich allerdings auch potenzielle Sicherheitslücken: Wenn die Trainingsdaten nicht sorgfältig ausgewählt oder vorverarbeitet werden, können sie Verzerrungen, Vorurteile oder sensible Informationen enthalten. Diese Schwächen könnten durch gezielte Manipulation genutzt werden, was zu Sicherheitsrisiken führen kann. Daher ist eine umfassende Überprüfung und Sicherung der Trainingsdaten von entscheidender Bedeutung, um die Integrität und Zuverlässigkeit von KI-Chatbots zu gewährleisten. Wichtig sei aber auch zu beachten, dass nie alle Fehlerquellen im Vorfeld ausgemacht werden können, weshalb Achtsamkeit im Umgang mit KI-Chatbots kontinuierlich geboten ist.
Reger Austausch über Erfahrungen und Learnings
Auch einige der „Handwerk 4.0“-Projekte sammelten bereits Erfahrungen bei der Erstellung eines Chatbots. Im anschließenden Dialog tauschten sich die Teilnehmenden untereinander über ihre Learnings aus. Im Ergebnis konnte festgehalten werden, dass es ratsam ist, verschiedene Aspekte im Blick zu halten, um Cybersicherheit bei KI-Systemen mitzudenken:Was sind potenzielle Ziele aus Angriffsperspektive?
- Sind die Quellen der Daten und Eingaben bekannt?
- Wer hat Zugriffsrechte für den Dienst?
- Welche potenziellen Schäden könnten durch einen Angriff entstehen?
Wir bedanken uns bei Herrn Dr. Oliver Wiese für den spannenden Vortrag und die hilfreichen Tipps!
Quelle: Projekt HaMiZu
Einblicke in Öffentlichkeitsarbeit und eine Workshopidee zur Entwicklung von Lernsituationen für die Handwerk 4.0-Projekte.
Einblicke in KI und moderne Fertigungstechnologien für die Mitarbeitenden der Handwerkskammer Braunschweig-Lüneburg-Stade.
HaMiZu erkundet auf der Hannover Messe 2024 innovative Schleiftechnologien von Lerosh für das Handwerk.
Erfolgreiches 52. Kontaktstudium in Chemnitz: Handwerksbildung im Fokus
Beim Workshop am 17.04.24 ging es um die Dimension Mitarbeitende und deren Well being in Reifegradmodellen.
Unser Präsenztreffen stand ganz im Zeichen unserer bisherigen erreichten Meilensteine und Zusammenarbeit.
Branchenakteure aus dem Bereich des SHK versammelten sich zu einem Auftakttreffen zur Bildung einer SHK-Forschungscommunity.
Es wurden rechtliche Fragen der Projekte diskutiert, um einen angepassten Workshop zur Lösung dieser Herausforderungen anzubieten.
Erfolgreicher zweiter Lenkungskreis des Projekts Minerva: Meilensteine und Zukunftspläne enthüllt.
Austausch über "Henne-Ei-Probleme" in Handwerk 4.0 Projekten.
