Digitale Souveränität bei KI-Tools - was du wissen musst

Speaker 1

00:00

Mr. Ciso und Mr.

Speaker 2

00:01

AI im Gespräch. Der Podcast für sichere und zuverlässige Digitalisierung.

Speaker 1

00:06

Mr.

Speaker 2

00:06

Ciso und Mr. AI im Gespräch Was fliegt er so? Das ist der Klick für die Musik, du musst jetzt erzählen. Eins, zwei und drei und vier. Und hier sind wir.

Speaker 1

00:21

Oh no, it's a square.

Speaker 2

00:24

Mr. Ass is Mr. T. So

Speaker 1

00:29

Sky generiert Intro besser.

Speaker 2

00:32

Für die Zehnten machen wir dann mal so ein Moleumschlag.

Speaker 1

00:35

Genau. Herzlich willkommen zu unserem heutigen Podcast zum Thema digitale. Souveränität. Hört am Mikrofon Dani Schacher als Mr. Ziso und Tojas Kluge als Mr. AI. Genau. Digitale Souveränität ist ein Thema, das man aktuell sehr oft hört. Und natürlich hat das auch im Thema KI oder Abhängigkeiten bei KI-Tools. Seine Relevanz. Darum haben wir gedacht, wir machen jetzt heute mal Erfolg dazu.

Speaker 2

01:07

Ich denke, ich höre das auch regelmäßig. Ich finde das ein spannendes Thema. Ich finde es auch ein sehr wichtiges Thema. Ich denke, für mich ist es wichtig, dass ein bisschen aus der technischen Sicht zu betrachten, nicht aus der politischen Sicht, sondern wirklich zu gucken, okay, was ist eigentlich das Problem mit digitaler Souveränität? Was bedeutet das jetzt konkret für mich, für mein Unternehmen oder für meinen Kunden? Und was kann ich dagegen machen, um jetzt zu sagen, es ist alles schlecht und alles gut, sondern was konkret können wir machen? Ja, nicht glaube du als CISO bist ja gewohnt. ein bisschen das neutral anzuschauen und das wirklich irgendwo aufzuarbeiten. Und wie würdest du jetzt vorgehen? Oder was ist deine Meinung dazu?

Speaker 1

01:41

Ja, ich würde es auch insofern betrachten aus Risikoperspektive. Schlussendlich geht es in dem Thema der Souveränität eben auch um Abhängigkeiten. Und das ist ja nichts Neues. Abhängigkeiten, das haben wir schon immer gehabt. Die Frage ist einfach von wem und von was in welchem Kontext möchten wir abhängig sein. Und dazu braucht es eine sauber Risikobetrachtung. Ich möchte heute auf die ganz klassische CIA drei Aden in der Informationssicherheit Wir haben in allen drei Dimensionen dort Themen, die digitale Souveränität. Also das Enten ist schlussendlich auch die Verfügbarkeit. Von dem System oder wir müssen darauf vertrauen, dass der, der uns die Plattformen, die Tools bietet, dass die Tools langfristig verfügbar bleiben. Oder das wäre so die Availability-Dimension von Informationssicherheit. Das ist so. Das Availability-Thema. Und natürlich, was jetzt auch immer stark diskutiert wird, ist die Vertraulichkeit. Dort, wo die Daten liegen, kann ich dem Akteur vertrauen, dass er diese mit ihnen verantwortungsvoll umgeht. Und das ist auch eine Frage, die man sich einfach stellen muss. Aber man darf nicht vergessen, also man darf nicht nur von der Vertraulichkeit reden, wenn es jetzt um als Beispiel Cloud Act etc. Das ist nur eine Dimension. Mindestens so wichtig aus Informationssicherheitsperspektive ist aber das Thema Verfügbarkeit. Wenn sie jetzt aus irgendwelchen Gründen die Plattformen auch nicht mehr verfügbar sind, haben wir dann ein Problem. Das ist einfach ein Thema, das man auch im Kopf machen. und auch das Thema Integrität, wenn wir jetzt von KI reden. Also Daten, die als Grundlage genutzt werden. um die Modell zu trainieren, also die noch Dimension Integrität. Wir haben die volle CIA-Triade in diesem Thema von der digitalen Souveränität. Wie finden wir heraus, wie anfällig oder wie abhängig sind? auf den kritischen Geschäftsprozesse. Also schauen, wie schaffe ich, wie schaffe ich mein Unternehmen, wie verdiene ich Geld, wie erbringe ich meine Dienstleistungen. Und welche Tools brauche ich für das? Und den ganzen Nüchter betrachtet, eben von den kritischen Geschäftsprozessen, Business Impact-Analyse machen, sieht man schauen, welche Tools Brauche ich für das? Und dann eben keine E-Tools brauche ich für meinen kritischen Geschäftsprozesse braucht und entsprechend so agieren. Also dort, wo ich mich nicht gut fühle bezüglich Verfügbarkeit oder Vertraulichkeit der Informationen entsprechende Alternativen prüfen. Und zum Beispiel eine Exit-Strategie haben. Wenn ich jetzt sage, Verfügbarkeit Abhängigkeit, das ist dort das höchste Risiko, überlegen wir, wie komme ich aus diesem Setting rauskommen, wenn sie zwölfmal so weit wäre, dass ich die Plattform nicht nutzen kann. Was gibt es da für Alternativen zu den üblichen Modellen wie von OpenAI oder Microsoft oder die süchten grossen Player von primär aus den USA, wo man könnt. Oder auch China hat das tolle Modelle, aber eben das schwierig Das Gleiche, von dort wären wir da wieder abhängig. Absolut.

Speaker 2

04:44

Also für mich nehmen wir doch mal das Gegenteil davon, oder? Wenn ich sage, ich habe jetzt alle meine Daten. Bei einem ausländischen Anbieter, ich habe keine Ahnung, was da drin ist. Was wäre jetzt das Gegenteil davon? Also ich mache mein eigenes Modell, lasse auf meine eigenen Hardware laufen, trainiere es mit meinen eigenen Daten. Und so ein, sag mal, so ein gutes kommerzielles Modell nachzubauen, ist recht aufwendig. Schweiz hat das letztes Jahr gemacht, ich weiß nicht, wer es mitbekommen hat. Apertus ist das Stichwort, genau. Das ist das Schweizer KI-Modell. Und ich finde es spannend, weil es ist genau eigentlich der Ansatz, um ein eigenes Modell zu bauen, wo man unabhängig ist von irgendwelchen anderen Sachen. Und das kann man auch auf seinem eigenen PC-Mac entsprechend laufen lassen und kann es runterladen. Von der Größe her recht überschaubar. Also man kann es auf einer normalen Hardware, vielleicht mit einer Grafikkarte oder einem Mac mit ein bisschen mehr Arbeitsspeicher gut zum Laufen bringen und kriegt dann eine recht gute Performance. Und wird merken, es ist halt nicht ganz das gleiche wie jetzt die riesengroßen, tollen, megateuren Modelle, die jetzt zum Beispiel in Amerika oder in China entwickelt werden. Ganz einfach, weil da viel mehr Trainingsdaten drin sind. Supertus zum Beispiel basiert auf offenen, freien Trainingsdaten, die man nutzen darf. Andere Modelle geben das zum Teil gar nicht aus, wo die Informationen herkommen. Ist das schon mal wichtig? Also da kann man die Vertraulichkeit, Integrität irgendwo sicherstellen, okay, was genau macht das Ding eigentlich? Wie ist es auch trainiert worden? Was sind gute Sachen, die entsprechend positiv bewertet wurden beim Training und welche negativ? Und bei Apertus kann man das nachvollziehen. Und was man machen könnte, wäre zum Beispiel, wenn man wirklich spezielle Anforderungen hat und das Apertus-Modell nimmt und das für seine eigenen Anwendungsfälle entsprechend so nachtrainiert. Post-Training entsprechend, genau, dass man wirklich die eigenen Daten nimmt, das Feintuning macht, die eigenen Geschäftsprozesse oder eigene Entscheidungen zum Beispiel man braucht oder bestimmte Sprachen, ist auch so ein Thema. Wenn da irgendwas Spezielles braucht, könnte man das nehmen. Das wäre eine Möglichkeit, um ein eigenes Modell zu haben, was man auch auf eigene Hardware laufen lassen kann. Das ist vielleicht ganz okay, ist mal lustig, aber ich glaube, für die meisten von uns ist das einfach zu aufwendig, zu teuer. Und Skalierbarkeit von Unternehmen, ja gut, wenn ich es aufnahme mit einem PC habe, dann kann ich es ja nicht für alle zugänglich machen. Also braucht man ein bisschen mehr Ressourcen, damit das auch skalieren kann, wenn mehrere Leute gleichzeitig damit arbeiten. Und dann ist man relativ schnell und merkt, okay, gut, ich muss eigene Hardware kaufen, das. Schwierig, es ist teuer, ich muss das Zeug irgendwo auch betreiben. Die KI-Modelle entwickeln sich weiter. Also möchte ich die gern irgendwo vielleicht einkaufen als Buy-Entscheid, sozusagen zu sagen, ich möchte jetzt gern irgendeinen Schweizer Anbieter zum Beispiel haben. Der mir aktuelle KI-Modelle, denen ich vertrauen kann, irgendwo bereitstellt, die ich dann für mich im Unternehmen nutzen kann. Schweiz sind es zum Beispiel bei Swisscom oder Infomaniac, die jetzt das auf dem Markt anbieten. Und noch einige andere Unternehmen auch. Und die kann man dann mit eigener Software zum Beispiel kombinieren, mit den eigenen Daten und hat dann ein relativ autonomes System, was man nutzen kann, um die Souveränität aufzubauen. Was ist der Vor- und Nachteil davon? Was man sich einfach im Klaren sein muss, die Modelle, die man dort nutzen kann, sind auch die Open Weights oder Open Source Modelle, Modelle, die von der Leistungsfähigkeit her nicht ganz vergleichbar sind mit den aktuellen Cloud-Modellen, zum Beispiel, oder OpenAir-Modellen. die doch mal deutlich stärker sind. Das ist sicher wichtig, sich das auch irgendwo zu überlegen, passt das für mich, kann ich das eingehen, das Risiko oder die Abhängigkeit oder nicht?

Speaker 1

07:46

Man sagt dort noch Verlösungen auf dem Eigentrecht, wenn man dort mal Sachen ausprobieren kann. Was ist das? LM Studio gehören immer mal wieder.

Speaker 2

07:55

Genau, bei mir zum Beispiel auch drauf. Auch meine Sache, wenn ich jetzt mal Workflow Automations teste mit meinen eigenen Daten, nehme ich das auch manchmal, dass ich dann LM Studio mit den Open Ways Modellen runterlade. und installiere und die kleineren Modelle laufen auf dem MacBook, was ich habe, recht gut. Und dann kann man das nutzen, um zum Beispiel auch mit sensitiven Daten zu arbeiten, Informationssicherheitsanalyse machen möchte von Kundendaten oder so. kann man das auf einer eigenen Hardware machen und dann bekommt gute Ergebnisse, die eben für die meisten Sachen gut genug sind.

Speaker 1

08:22

Was sind so diese Key-Take-Aways zum Thema Digitale Souveränität. Zuerst mal schauen, was sind unsere Risiken überhaupt? Was haben wir für Abhängigkeiten? Was haben wir für Daten, die wir bearbeiten mit diesen Tools? Auf was basiert das Modell, das wir nutzen? Thema Integrität der Daten, auf was ist es trainiert worden? Wenn wir das wissen, dann entsprechend entscheiden, wie sieht das Risikoprofil aus und was machen wir damit?

Speaker 2

08:52

Genau. Ich denke, da muss man wirklich, ich finde es recht sachlich rangehen und sagen, okay, das ist wirklich das Risiko. In der Regel kann man sehr schnell ein anderes Modell auch nutzen, wenn man merkt, okay, das funktioniert jetzt nicht gut, der Anbieter passt vielleicht nicht. Man kann entsprechend da gewisse Risiken, glaube ich, sehr neutral anschauen und gucken, was ist jetzt der einfachste Weg mal zum Starten. Vielleicht auch bewusst vielleicht mit anderen Daten arbeiten, andere Anwendungsfälle und dann Schritt für Schritt sichern. Einarbeiten, ich denke mit eigener Hardware starten, hat eine relativ hohe teure Lernkurve. Yeah, yeah. Und das ist für die wenigsten von uns vielleicht der optimale Start. sich sicher einfacher mit einfacheren Anwendungsfällen, weniger sensitiven Daten, auch niedrigeren Abhängigkeiten, zum Beispiel bei einem Public Cloud oder bei einem Schweizer KI-Host irgendwo zu. zu starten und dann schrittweise das zu erweitern, wenn man die Erfahrung hat oder halt entsprechend sich dann Hilfe auch zu holen, die Sachen mal auszuprobieren und zusammen das dann anzuschauen, was der richtige Weg oder der sinnvolle Weg ist, was man braucht.

Speaker 1

09:42

Also jetzt einmal gefasst. Ja, wir haben zum Teil Abhängigkeiten, die je nach Unternehmenskontext, je nach Daten wahrscheinlich gefährlich sind. Aber zuerst muss man sich die Risikoanalyse bewusst durchführen und dann können die entsprechenden Schritte einleiten. Also Lessons Learn für mich heute, es gibt Alternativen. Mhm, genau.

Speaker 2

10:02

Und für mich ist gerade die Souveränität in Großteil nicht AI-spezifisch, sondern wirklich einfach die Abhängigkeit von externen Quellen. Und KI ist momentan das kleinere Problem eigentlich von den ganzen Themen.

Speaker 1

10:13

Abhängig sind wir immer von irgendetem in der Wertschreibungskette. Wir müssen es einfach fragen, von wem möchten wir abhängig sein.

Speaker 2

10:19

Und den Entscheidung bewusst am Treffen, glaube ich, ist auch noch wichtig. Danke, Dani.