KI sicher einsetzen: NIST, MITRE & ISO 42001

00:00:00: Mr.

00:00:00: CISO und Mr.

00:00:01: AI im Gespräch,

00:00:03: der Podcast Versicherer und zuverlässige Digitalisierung.

00:00:30: Ja, ein von den Themen was ich ja als Mr.

00:00:32: AI manchmal habe ist wie sieht es jetzt mit Sicherheit aus?

00:00:35: Wie kann man Sicherheit und KI irgendwo zusammenbringen?

00:00:37: Wie können wir das vielleicht auch irgendwo bewerten?

00:00:39: Und ja, für uns spannend!

00:00:41: Wir haben uns noch ein bisschen darüber unterhalten vorab... wie kann man das überhaupt messbar machen?

00:00:46: Strukturiert-Messbar-Macher?

00:00:49: Genau, richtig.

00:00:51: Frameworks gibt's da.

00:00:53: Ja, wir schauen glaube mal... Es geht ganz viel.

00:00:56: Framework oder was...?

00:00:57: Aber es haben wir auch schon Sachen angeschaut, wie früher Podcast oder Webinar.

00:01:01: Ja und für uns ist das schon gesehen.

00:01:03: Genau.

00:01:04: Jetzt schauen wir, weil die drei schauen wir heute auf.

00:01:06: Was haben wir?

00:01:06: risk-management?

00:01:08: Also ich finde das NIST AI Risk Management Framework ja doch schon mal sehr spannend.

00:01:13: von Mitre gibt's ein Atlas

00:01:15: genau bisschen

00:01:15: lass und wer bisschen Informationssicherheit macht kennt ISU seven thousand eins und da gibts auch den forty tausend neun eins als Standard der auch noch möglich ist.

00:01:26: die durch den Standort sich für verschiedene Anwendungsfälle eignet, mit welchen von denen du schon meister bei der Jürgspunkte hast.

00:01:35: Also ich denke was ich am pragmatischsten jetzt auch finde wenn man so ein KI irgendwo im Unternehmen einführen möchte und das irgendwo messbar machen möchte hilft der NIST AI ganz gut weil da hat die verschiedenen Schritte die man irgendwann machen muss recht gut abbilden.

00:01:49: also dann find' ich sehr anschaulich und nachvollziehbar gerade jetzt auch wenn man generell nur KI irgendwie anfühlen möchte

00:01:56: Aus meiner Erfahrung, alle drei Standards haben ihre Daseinsberechtigung und sind es für verschiedene Anwendungsfälle sinnvoll.

00:02:04: Ich frage mich mal beim ISO-Auseinandersetzungen.

00:02:08: Wie gesagt, das ist ein ISO-Standard, ihr könnt nicht sicher ISO-Säbenerzwanzig tausen, falls ihr unsere Podcasts gelost habt.

00:02:14: Und das ist genau der Anflanschungspunkt, den ich dort nehmen würde.

00:02:18: Also falls er bereits nach ISO-Sebene zwanzig Tausend geschaffen hat oder ISO-Nünntausende oder irgendeinen ISO... irgendein ISO-Management-System lohnt sich das auch?

00:02:28: mal die ISO XLIVI und I. Anzuschauen wird die Struktur von der Hauptkapitel, also die Hauptkapitule vier bis zehn oder das ist genau gleich wie in allen anderen Isostandards.

00:02:39: Und das ist ja eine grosse Vorteil wenn wir noch ISO schaffen, dass die Grundstruktur, also das Hauptkapital vier bis zehnt, immergleich.

00:02:46: Und nachher bei den einzelnen Massnahmen, in den einzelne Controls ist es noch eher spezifisch.

00:02:52: Was heisst jetzt die Misa-Zweige?

00:02:55: Die Misa ist in der Nähe von uns, wo zum Beispiel im Siebenundzwanzigdußiger andere schon nicht so feststehen.

00:03:00: Also was heisst das für Themen?

00:03:02: Genau!

00:03:03: Ist es ein Vierzigtausend Eins?

00:03:04: Also was halt da KI spezifisch ist, ist einerseits das Thema Data Management und braucht natürlich gewisse Trainingsdaten, gewisse Sachen, die man aufbereiten muss Und das andere ist, die KI wird ja meistens eingesetzt um gewisse Aktionen zu machen.

00:03:15: Gewisse Entscheidungen auch irgendwo vielleicht zu treffen.

00:03:17: Also muss sie möglichst fair sein sagt man da auch oder darf kein Bayes haben also darf nicht irgendwelche Sachen bevorzugen.

00:03:24: Klassiker ist zum Beispiel wenn man viele Leute eingestellt hat in der Vergangenheit den gewissen Schema entsprochen haben.

00:03:29: Klasiker als männlich und weiß unter zwanzig oder halt zwischen zwanzich und dreißig.

00:03:34: Vielleicht für gewisse Stellen?

00:03:35: Also gibt es da sehr viel positive Trainingsdaten von diesen Leuten und viele Leute die halt dem nicht entsprochen wurden abgelehnt.

00:03:40: Also verhält sich das KI-System dann weiterhin so, was es einfach so gelernt hat.

00:03:44: Das wäre jetzt ein nicht so faires System.

00:03:46: Es hat einen gewissen Beis drin zum Beispiel für Alter und Geschlecht

00:03:49: z.B.,

00:03:50: der Klassiker muss man entsprechend auch schauen wenn man solche Systeme baut dass man die saube bewertet und ausmisst und guckt dass sie wirklich auch neutral sind.

00:03:56: Und das ist vielleicht bei einer Rekordierung das eine Thema ist anders vielleicht wirklich auch was man auch hatte zum Beispiel wenn's im Sicherheitsgesundheitsbereich geht an irgendwo gewisse Personengruppen dann irgendwann benachteiligt wurden, weil es in der Vergangenheit vielleicht irgendwo schlechte Trainingstaten drin waren.

00:04:09: Das natürlich auch kritisch ist.

00:04:11: Man kann sich klar schauen wenn man so Systeme einsetzt oder auch selber baut, dass man die ganz klar auch neutral anschaut.

00:04:16: Ja

00:04:16: genau und da werden wir mal aus dem ISO-Zahlviertel ausgehen, also meine Erfahrung... Ich würde nicht gerade mit diesem starten, wenn jetzt noch gar kein Standards zu oder keine Guidelines zu keinen Einsatz hast.

00:04:31: Es sind wirklich die Unternehmer, die ich schon irgendwo so habe.

00:04:35: Sonst würde ich eher den NIST AI Risk Management Framework nehmen.

00:04:41: So ein Startpunkt.

00:04:42: Dort habe ich auch schon viele gehört, die gesagt haben, okay NIST, das klingt eben nach Government, also grössere Institutionen, wo passt das wirklich für Kai?

00:04:53: Einfach kleine Unternehmensverkleimung... Ich finde es schon mega cool!

00:04:58: Orientierung ist ja.

00:04:59: Erstens ist es ein offener Standard, man kann gerade die Stereologie umsetzen.

00:05:04: Also

00:05:04: der ISO-Standard und man kann hier das auspicken, was man für sich benötigt.

00:05:10: Aber von der Hauptkapitel her gibt es auch eine gute Struktur.

00:05:14: Die Hauptthemen, wo du da drin hast, die ganzen Themen Governance unter Govern, dann sieht man aus, dass braucht eine Rolle in Zuständigkeit, dass brauchen Prozesse wie wir mit Kai umgehen, wie wir Kai unserer Firma ... Implementieren, wie wir sie nutzen.

00:05:29: Und also das Govern ist ein erster Thema und noch einen Map.

00:05:34: Also dass du dir die Vorgaben, die du definierst über den Einsatz von Kai um Verantwortlichkeiten, die definierest nach entsprechenden Maps auf die Services wo hast?

00:05:43: Nutzig!

00:05:44: Super!

00:05:45: Und wenn du sagst so wollen wir arbeiten und das sind unsere Service, die wir darauf gemappelt haben, kannst du im nächsten Kapitel Measure, also eben Messen in wiefern erfüllen wir die Anforderungen und nach einem Measuren sprechen, nachher managen.

00:06:02: So GovernMap, Measure Manage wäre das eine Kapitule.

00:06:06: Also auch wieder Prozessorganisationen.

00:06:08: wo NIST AIR Risk Management Framework.

00:06:12: Das ist übrigens im Kailh-Zeitalter schon alt.

00:06:15: Das haben sie im Dreiundzwanzig war.

00:06:17: Ich finde es aber nach wie vor ein sehr serbes Rahmenwerk.

00:06:23: Das letzte, was wir heute noch mal schauen, ist Mitra Atlas.

00:06:28: Was kannst du dazu sagen?

00:06:32: Wenn man selber Applikation entwickelt, wo KI drin ist und vielleicht auch nutzt und gucken wie sicher die Systeme sind, wenn man das machen möchte, wäre das eine Möglichkeit um so ein bisschen... Was gibt es für technische Risiken auch oder für Angriffsvektoren, die man benutzen kann?

00:06:45: Da finde ich es eigentlich recht praktisch, um das einmal bewährten Tests ausführen zu können Wenn ich da einen guten Erstiegspunkt dafür habe.

00:06:53: Ja, was ich jetzt spannend finde eben Mitra.

00:06:55: Vielleicht können wir mit Mitra attacken.

00:06:58: Das zeigt so Angriffsszenarien oder Angriffspunkte auf Applikationen und Infrastrukturen der üblichen Bekannten Angriffe.

00:07:06: Dort weiss man sehr gut wie die vorgehen oder wie sie Informationen beschaffen, wie sie die Initial-Angriffe oder die Initiale Systeme einkommen, wie sich noch entsprechend verstecken.

00:07:16: Das ist ein gutes etabliertes Framework von Mitra.

00:07:21: von Mitra Attack hat man mit Mitra Atlas für keine Spezifischen Anwendungsfälle, sprich wir greifen kein System an.

00:07:29: Es ist etwas anders als das klassische System anzugreifen, aber wie haben wir es bei keinem System?

00:07:35: Was haben wir denn für den Angriffspunkt?

00:07:37: und was ich da noch cool finde ... Du hast eine Schiebebauke, die kannst du einstellen, also was sind theoretisch mögliche Angriffe?

00:07:48: Im Rahmen der Test-Szenarien dokumentiert die Angriffsszenarie.

00:07:51: und was ist in der Wildnis?

00:07:54: Was ist in den Wilds schon von Angriffe, Gruppen dokumentiert worden.

00:08:00: Das finde ich noch eine coole Möglichkeit zu schauen.

00:08:05: Wie ist jetzt unsere Applikation oder unsere Infrastruktur oder unser Anwendungsfall, das wir gerade anschauen, exponiert gegen ... Also unsere KI-Anwendung explodiert.

00:08:13: keine gesättige Angriffe.

00:08:16: Die anderen Frameworks, die wir angeschaut haben, mehr Strukturorganisationprozesse um das Thema KI im Unternehmen strukturiert angehen.

00:08:26: Mit Mitra Atlas stufen wir Hands on wirklich für die Leute, die für den Entwicklung von KI Produkt verantwortlich sind und sicher werden sie, dass sie sicher sind.

00:08:39: Ich

00:08:39: finde es super, weil gerade der ... Wie kann ich meine eigene Applikation testen?

00:08:43: Das ist mal schwierig.

00:08:44: Und wenn ich sogar sagen kann, die Sachen sind eigentlich realistisch... Also gehe ich mal auf die Tests oder Angriffsfaktoren, die eigentlich schon üblich sind.

00:08:52: Dann kann ich da sehr schnell einfach testen.

00:08:54: Super!

00:08:55: Kann man sicher auch K-Bassier nach Heribin denn wenn man weiß dass es hier vor Mitrappis geht?

00:09:01: Ja, das kann man sich ja gut nehmen, die Taktik hinterher gerade mal von der KI auszuprobieren gegen eine Applikations.

00:09:08: Ich

00:09:08: glaube,

00:09:09: das ist ein anderes Thema.

00:09:10: Das können wir dann auch noch machen,

00:09:11: ne?

00:09:12: Ja gut!

00:09:12: Aber dann nochmal zusammengefasst was ich für etwas gut so e-zusetzen.

00:09:17: Es glaubt wenn du einfach in KMU bist, was so eine bisschen Informationssicherheit und KI kombinieren möchtest ohne jetzt mit ISO Standards zu tun haben wäre sicher das NIST-R Risk Management Framework ein guter Einstieg.

00:09:28: um mal zu gucken was müsste ich machen um meine Organisation strukturiert anzuschauen Wenn ich selber KI-Applikationen entwickle, ganz klar mit dem Maitre Atlas man aufschauen und ein paar Angriffe fahren.

00:09:38: Und als Großorganisation wo alle Isostandats hat braucht man natürlich zweiundvierzigtausendeins um da das letzte Iso Siegel noch zu bekommen.

00:09:46: was man KI einsetzt ist vielleicht auch noch wichtig wenn man irgendwo in einem regulierten Umfeld aktiv ist wo es gewisse Vorgaben gibt jetzt von FINMA oder vom Gesundheitssystem wo man einfach strukturierte Prozesse nachweisen muss.

00:09:57: Ich denke da ist das sicher ein gutes Hilfsmittel, was sicher gut ankommt.

00:10:00: Dass man die eigenen KI-Lösungen, wenn jemand baut vielleicht eigene Modelle trainiert dann sprechen mit so einem Standardmodell auch ganz klar einen Governmentprozess drauf hat und das nachweisen kann.

00:10:09: Dafür ist es wirklich ein großes Hilfsmittel.

00:10:12: Ja bin ich.

00:10:14: Da sind wir wie sein.

00:10:14: Ich glaube am Anfang ob ISO zwei wird, drei Sekunden heißt dass macht dete Sinn um ein bereits Management System Het.

00:10:23: Wenn der noch kein Management System Hent... Keine Einstandards-Fund bietet nicht mit dem Zwei-Vierzig Null eins, das macht einfach keinen Sinn.

00:10:33: Dann wäre es ihr der siebenundzwanzigtausiger?

00:10:35: Wenn er... Ja klar, aber es ist entsprechend noch zertifizierbar, eben Nachweisbarkeit.

00:10:41: Wir haben die Prozesse für die Informationssicherheit und genau... Und tschüss, wenn wir ohne ISO-Bend Prozessen und Organisationen rund umgekommen, anschauen.

00:10:51: Smith AI Risk Management Framework und most hand Hands-on, Framework wird in ABEMATRA.

00:10:57: Ich glaube es waren mehr als zwei Sätze.

00:10:59: Ich denke wir müssen an unsere Kürze ein bisschen arbeiten aber ich glaube die Message ist angekommen hoffentlich bei euch.

00:11:04: Zwei lange Sätze!

00:11:08: Ja dann viel Spaß mit diesen drei Frameworks

00:11:12: und... Ja probiert's mal raus und schreibt uns mal wie sie davon einsetzt.

00:11:16: Danke Tobias.

00:11:18: Bis bald!