KI - Chancen und Risiken aus Sicht Informationssicherheit

00:00

«Mr. CISO und Mr. AI im Gespräch»

00:03

Der Podcast für sichere und zuverlässige Digitalisierung.

00:10

Herzlich willkommen zu unserem Podcast «Mr. CISO vs. Mr. AI».

00:17

Heute am Mikrofon Dani Schacher und Tobias Kluge.

00:22

Genau, ich als Mr. CISO und Tobias als Mr. AI.

00:28

Nein, genau. Mein Name ist Dani Schacher. Ich begleite Unternehmen in der sicheren Umsetzung von Digitalisierungsvorhaben.

00:37

Mein Name ist Tobias Kluge und ich bin aus dem Ministerium unterwegs, um Unternehmen im Bereich der Nutzung von künstlicher Intelligenz zu begleiten.

00:44

Genau. Und heute das Thema Chancen und Risiken von KI im Kontext Informationssicherheit.

00:51

Wir haben gesagt, wir machen heute die Rolle ihr.

00:54

Sonst bin ich immer eher der mit den kritischen Aspekten und Tobias der mit der Chance.

00:59

Heute haben wir gesagt, ich fokussiere mich mal auf die Chance.

01:02

Und Tobias, du erzählst uns von den Risiken und Limitierungen in keinem Kontext von Informationssicherheit oder auch generell.

01:12

Finde ich ein spannendes Thema. Ich freue mich, bin gespannt.

01:15

Ja, dann erzähl uns doch mal, Tobias, wo siehst du heute schon Limitierungen im Kontext von KI,

01:22

vielleicht auch im Kontext von Informationssicherheitsthematiken, was sind die Limiten?

01:27

Ich denke, eines von den Themen, was jetzt beim Thema von KI ist, es gibt ja verschiedene Arten von KI-Systemen.

01:32

Es gibt die Large Language Modelle, wie ChatGPT und andere Sachen, die man jetzt kennengelernt hat,

01:38

die jetzt aktuell sehr hype sind, aber die sind recht begrenzt für gewisse Sachen.

01:41

Und es gibt natürlich traditionelle Machine Learning Systeme und Modelle, die man nutzen kann für andere Sachen.

01:47

Also ich glaube, das ist sich schon mal wichtig zu unterscheiden.

01:48

Okay, welchen Bereich von KI nehmen wir jetzt überhaupt dazu her?

01:51

Und je nachdem ist das eine das bessere Werkzeug, der Ankuschrauber vielleicht besser für eine Schraube,

01:56

aber der Hammer ist immer noch gut, um einen Nagel reinzuhauen in die Wand.

01:58

Da muss man sich auch schauen, was das richtige Werkzeug, das richtige KI-Mittel ist.

02:02

Ja, ja.

02:02

Also ich denke, da muss man schon mal überhaupt überlegen, ist es überhaupt das richtige Mittel, um das zu erkennen?

02:07

Und je nachdem, was du so für tolle Sachen damit machen möchtest, werde ich sagen,

02:11

vielleicht nicht das richtige Mittel oder vielleicht gibt es etwas Besseres.

02:13

Also von daher, dann schliess mal los.

02:15

Was hast du so für Themen?

02:16

Ja, ich sehe doch sehr viele Chancen im Kontext

02:19

von Informationssicherheit und jetzt nicht

02:21

nur spezifisch zu LLM,

02:23

sondern eben auch andere KI-

02:26

Thematiken, wo ich dort sicher

02:30

einen grossen Wirkungskreis

02:32

sehe, ist bei der Anomalie-

02:34

Detection, also das automatisierte

02:36

Erkennen von potenziellen

02:39

was ist am wahrscheinlichsten, dass es passiert.

02:41

Umgekehrt kann es natürlich auch sehr gut erkennen,

02:43

wenn etwas passiert, das unwahrscheinlich

02:46

ist oder auch unüblich ist.

02:47

Jetzt sind wir in der Anomalie-Detection, wo ich

02:49

aktuell bei der Überwachung von Systemen

02:52

sehr viele

02:53

Vorteile sehe.

02:56

Anomalie-Detection

02:57

im Netz, wenn

02:59

plötzlich unübliches Verhalten

03:02

entwickelt wird.

03:03

Oder auch auf Benutzerebene.

03:06

Hat ein

03:07

Benutzer ein unübliches

03:09

erhalte, greift er plötzlich auf Elemente zu,

03:11

die er sonst nicht zugreift, wie wahrscheinlich ist das.

03:14

Also dort ist KI sicher

03:15

ein grosser Hebel.

03:17

Wie schätzt du das ein, Tobias?

03:20

Ich denke, da ist eine von den Stärken

03:21

von KI auch, was sehr, sehr hilfreich

03:23

ist, um gewisse grosse Datenmengen

03:25

auch irgendwo schnell und

03:27

effizient zu analysieren und auch zu klassifizieren.

03:30

Dass die am Schluss wissen,

03:31

ist es jetzt eine richtige Erkennung,

03:33

dass es ein böser Eintreffer ist.

03:35

Ja, aus positive to positive.

03:37

Und da ist KI eigentlich sehr stark, aber eher

03:39

klassischen Machine Learning Bereich natürlich.

03:41

Da braucht es nicht unbedingt ein LLM dafür.

03:44

Von daher ist es sicher ein

03:45

Anwendungsfall, der in der Realität schon verwendet

03:47

wird, der auch gut funktioniert.

03:50

Ich habe noch eine Chance

03:52

oder etwas,

03:53

das wieder im LLM-Kontext ist,

03:55

was ich auch schon persönlich erfahren habe,

03:57

dass es einen Mehrwert bringt, zum Beispiel im Thema

04:00

Kommunikation oder jetzt

04:01

im Krisenfall. Wir haben

04:03

in der Vergangenheit relativ viel Zeit

04:05

investiert im Erstellen

04:07

von Kommunikationstemplates

04:10

im Rahmen von Vorfällen etc.

04:12

Dort, das hat sich schon deutlich verändert,

04:14

seit man die LLM hat.

04:16

Ich sage jetzt, dort macht es Sinn,

04:17

eben so Prompts vorzubereiten

04:19

für verschiedene Cases,

04:21

wo man dann abhängig,

04:23

eben in welchem Kontext ist der Vorfall,

04:25

wer ist betroffen,

04:26

dass man einfach diese Parameter kann mitgeben

04:29

und dort sehr gute,

04:31

z.B. Kommunikationen nach intern

04:34

oder auch Krisenkommunikation nach aussen

04:37

etc., wo ich dort

04:38

im grossen Mirrweg sehe,

04:40

dass man diese Sachen auch beschleunigen kann.

04:42

Das wäre jetzt eine Chance oder Möglichkeit

04:45

im LLM-Kontext,

04:46

wo man in den Sinn kommt.

04:48

Ich denke, das ist eine von den Stärken von den LLMs,

04:51

mit Texten zu arbeiten.

04:52

Denk Vorbereitung muss man so oder so machen,

04:54

ob man jetzt ein Template mit speziellen

04:57

Versionen schon vorbereitet,

04:58

im klassischen Sinne, oder den Prompt vielleicht hat,

05:00

die Wörtervorlage, die Informationen, die man hat.

05:03

Und dann redet man wieder beim Thema

05:05

Datenklassifikation. Wenn du jetzt einen Vorfall hast,

05:06

ist der vielleicht eher vertraulich.

05:08

Darfst du das dann überhaupt in der Cloud machen?

05:10

Müsstest du dann irgendwo bei dir vielleicht dein ganzes

05:12

Netzwerk in Fintechs noch einen speziellen PC

05:14

haben oder vielleicht ein MacBook, wo das Ganze

05:16

dann drauf ist, das du dann nutzen kannst,

05:18

um überhaupt damit das so machen zu können,

05:20

wie du es gerne vorbereiten möchtest.

05:22

Das ist ein wichtiger Punkt.

05:25

Datenklassifizierung. Auf was ist

05:26

da zu achten, wenn ich jetzt

05:28

einen von diesen grossen LLM

05:30

nutze im Informationssicherheitskontext?

05:33

Das ist deine Meinung oder deine Schätzung dazu.

05:36

Also ich denke, wichtig ist, was hast du dir vorgenommen?

05:38

Welche Daten darfst du wo und wie verarbeiten?

05:40

Und wenn du sagst, Cloud-Verarbeitung ist okay,

05:43

dann kann man in dem Sinne Public Cloud,

05:44

zum Beispiel Chat-Applikationen verwenden

05:46

oder KI-Systeme, die in der Public Cloud laufen.

05:48

Wenn du sagst, gewisse Dokumente müssen in-house bleiben,

05:51

müsstest du wahrscheinlich sogar die KI-Modelle

05:52

irgendwo in-house betreiben können,

05:54

damit du sie verarbeiten kannst.

05:55

Und dann natürlich, wenn du das ausserhalb betreibst,

05:58

musst du schauen, was passiert mit deinen Daten,

05:59

werden sie für ein Training verwendet oder nicht.

06:01

Wenn du die kommerziellen Abos hast

06:03

Chat-Applikationen ist es in der Regel deaktiviert,

06:05

aber ich würde das sicher kontrollieren.

06:07

Logging ist ein Thema, wo werden die Daten

06:09

vielleicht zwischengespeichert. Ich denke, du als

06:11

Mr. CISO weisst natürlich, worauf man

06:13

achten muss, aber ich denke, das ist sicher wichtig,

06:15

wenn man es selber nicht genau weiss,

06:17

AGBs mal nachschauen oder halt die

06:19

KI des Vertrauens mal beauftragen,

06:21

schau doch mal, was mit meinen Daten passieren würde

06:23

und wo ich vielleicht noch etwas einstellen kann.

06:25

Also es steht am Feld

06:27

mit der Datenklassifizierung,

06:29

dass man intern weiss,

06:31

was wir überhaupt für Daten haben

06:32

und was haben die für einen Schutzbedarf.

06:35

Finde ich super.

06:36

Ich denke, das Hauptproblem, das du natürlich auch hast als Benutzer,

06:39

was darf ich jetzt mit meinen Daten machen

06:41

und sind die Daten auch richtig gelabelt?

06:42

Also das ist für mich ein Thema,

06:44

was vielleicht weniger mit KI zu tun hat,

06:46

aber dass man irgendwann in der Organisation das ganz klar regelt

06:48

und auch wirklich den Leuten klar ist, wie das funktioniert.

06:51

Und im schlimmsten Fall muss man es technisch irgendwo absichern,

06:54

dass man halt vertraulich oder in Heimedokumente

06:56

gar nicht exportieren kann.

06:57

Ja, ein wichtiger Punkt,

06:58

wo ich da nochmal drauf eingehen möchte,

07:01

wenn wir jetzt sagen, es ist zu riskant,

07:04

das Unternehmen KI-Tools

07:06

einzusetzen mit der Argumentation,

07:09

Datenabfluss, Informationssicherheit

07:10

etc. Die Opportunitätsrisiken.

07:13

Die Opportunitätsrisiken im Sinne von,

07:14

wenn wir die Tools nicht einsetzen,

07:16

birgt das auch diverse Risiken.

07:18

Unter anderem, man hat es auch in anderen

07:21

Podcasts, Folgenfischen

07:22

gesagt, Shadow IT

07:25

respektive Shadow KI.

07:26

Wenn man den Weg nimmt, unterstützt,

07:29

besteht einfach das Risiko,

07:31

Fakt ist, dass die Mitarbeitenden

07:33

andere Lösungen suchen

07:35

und eben die privaten Accounts

07:37

von KI, private Chat-GPT-Accounts

07:39

nutzen, die man dann noch viel

07:41

weniger im Griff hat. Darum dort

07:43

unbedingt als Enabler

07:45

wirken. Wie machst

07:47

man das, Tobias? Also ich bin voll bei dir.

07:49

Ich denke, die Realität ist ja, wenn man es als

07:51

Unternehmen noch nicht hat, die Leute nutzen

07:53

es trotzdem. Ob sie es jetzt dürfen oder

07:55

nicht. Entweder machen sie es bewusst

07:57

oder unbewusst. Aber ich bin nicht der Meinung,

07:59

dass man das Zeug verbieten sollte, sondern dass man es sinnvoll nutzt.

08:02

Also dann halt bewusst für gewisse Sachen einfach zugängliche Tools irgendwo schaffen,

08:07

ob es jetzt ein JetGPT-Business ist, ein CodePilot oder was auch immer.

08:11

Es kann auch eine interne Lösung sein, die vielleicht irgendwo intern gehorchtet wird

08:14

und vielleicht den KI-Modellen der Schweiz dann nutzt für die Datenverarbeitung schlussendlich.

08:18

Aber dass man die Hoheit über die Daten hat und die Leute auch richtig Schuld dazu.

08:22

Ich denke, das ist das Wichtigste.

08:24

Also das ist einfach zu sagen, KI interessiert mich nicht, das geht vorbei.

08:29

Ich denke, das ist nicht die Realität.

08:31

KI ist ein starkes Hilfsmittel, wenn man es sinnvoll einsetzt.

08:34

Es ist auch ein Hilfsmittel, wenn man es nicht sinnvoll einsetzt,

08:36

aber man hat halt weniger davon.

08:38

Ich habe das Thema Vertraulichkeit der Daten schon mit lokal,

08:43

also Sachen, die sogar auf dem Endgerät laufen,

08:45

schon sehr positive Erfahrungen gemacht.

08:48

Oder jetzt gerade ein Beispiel durchführen von Audits,

08:52

wo man Daten nicht möchte exponieren,

08:54

wo man jetzt doch mit einem vernünftigen Endgerät doch schon coole Arbeiten durchführen kann auf dem Endgerät.

09:01

Was siehst du dort für Limitierungen?

09:05

Also das eine Thema ist natürlich, KI-Modelle, die auf dem Gerät laufen,

09:08

sind von der Grösse, von der Kapazität her nicht vergleichbar mit dem, was in der Cloud läuft.

09:13

Man kann nicht ein Rechenzentrum, was Milliarden Dollar kostet,

09:16

mit einem kleinen MacBook oder PC irgendwo vergleichen.

09:19

Also ich denke, das ist schon mal eine technische Limitierung, die man einfach hat, mit der man umgehen muss.

09:23

und dann ist natürlich auch die Qualität

09:25

von den Modellen, die man auf seinem Endgerät installieren

09:28

kann, die überhaupt verfügbar sind, verschieden.

09:30

Oder die Open Source, Open Weight Modelle,

09:32

die man nutzen kann, die man auch als

09:33

Privat oder Firma entsprechend, ich sag mal,

09:35

gratis nutzen kann, mit Lizenzbedingungen her,

09:38

die haben nicht ganz die gleiche

09:40

Qualität wie die ganz großen Modelle,

09:42

die man in der Cloud nutzen kann.

09:44

Ich denke, manchmal gibt es

09:46

Probleme mit Sprachen, ist manchmal so, je nachdem,

09:48

was man für ein Modell hat, dass vielleicht Deutsch

09:49

nicht optimal unterstützt wird und wenn man Schweizerdeutsch

09:52

Schreibt wird vielleicht auch nicht immer optimal unterstützt,

09:53

wenn man geradezu Transkriptionen von Sprache macht,

09:55

von Audiodateien oder so.

09:57

Das ist sicher eine Einschränkung.

09:59

Und das andere ist natürlich auch recht langsam

10:01

verglichen vielleicht mit einem KI-Modell, wenn man es von der

10:03

gleichen Qualität irgendwo vergleichen würde,

10:05

dass vielleicht die Maschine selber, die man

10:07

hat, die man vielleicht auch im Rechenzentrum irgendwo hat,

10:10

schlussendlich einen Tick langsamer ist, als dass es

10:11

in der Cloud zur Verfügung steht. Aber

10:13

ich denke, ich sage mal, 90 Prozent von der

10:15

Qualität sind sicher machbar

10:17

für die meisten Anwendungsfälle, die man hat.

10:19

Außerdem hat es ganz komplexe Aufgaben, die wirklich länger

10:22

Rechnung her, da braucht es entsprechend

10:23

Kapazität und Hardware auch, die man

10:25

normalerweise lokal nicht hat.

10:27

Ja, das heisst, so ein Fazit, also

10:29

es sind durchaus Sachen, die man gut

10:31

lokal auf dem Endgerät verlaufen kann.

10:34

Wenn man informationssicherheitsmässig

10:36

bedenken hätte, dann würde man

10:37

auch mal von einem Proof of Concept.

10:39

Ja, was ist unser Fazit?

10:41

Aus CISO-Perspektive

10:43

bieten die KI-Tools

10:45

und ich sage jetzt hier LLM sowie andere

10:51

Machine Learning

10:52

KI-Dimensionen

10:54

bieten diverse Vorteile.

10:56

Ich denke vor allem an Anomalie-Detection

10:59

oder auch Unterstützung

11:00

in verschiedensten Templates.

11:03

Automatisierte

11:04

Triage von Inzidenz oder

11:06

Klassifizierung, Einschätzung.

11:08

Das sind immer die gleichen. Oder Checks,

11:11

wo man bisher viel

11:12

manuell gemacht hat, wo man dort sicher

11:14

sehr viel KI-basiert unterstützen kann.

11:16

Also auch aus

11:18

Informationssicherheit sehr viele Chancen,

11:21

wo nicht gesehen wird. Ja, zumindest sind da noch

11:22

ein paar Limitierungen, die es sicher gibt. Einerseits, weil

11:24

die Technologie extrem noch in der Entwicklung ist.

11:27

Wenn man sie wirklich lokal nutzen

11:29

möchte, für ein privates LLM auf eigener

11:31

Hardware im Rechenzentrum oder halt auf der Maschine,

11:33

funktioniert noch nicht alles so optimal.

11:35

Auch die ganze, weißt du schon, Plumbing

11:37

oder das Ganze drumherum, wie kriege ich die Daten

11:39

und die schlussendlich zur KI?

11:40

Das ist sicher auf der eigenen Hardware,

11:43

eigenen Umgebung noch nicht ganz so schön ausgereift

11:44

wie in der Cloud. Aber auch das wird sich

11:46

im nächsten Jahr noch extrem entwickeln.

11:49

Und ja, ich denke, man

11:51

solltest du ja einsetzen. Das hat schon Vorteile,

11:53

das zu nutzen. Top, ja.

11:54

Hey, danke vielmals, Tobias.

11:56

Die coole Folge. Diesmal mal

11:58

Chancen und Risiken, sei so

12:00

Mr. K. umgekehrt.

12:02

Danke, Dani. Bis zum nächsten Mal.

12:04

Ich freue mich. Danke, Tobias.