Wenn der Zugang zu KI-Modellen plötzlich fehlt

00:00:00: Mr.

00:00:00: CISO und Mr.

00:00:01: AI im Gespräch,

00:00:03: der Podcast Versicherer und zuverlässige Digitalisierung.

00:00:11: Herzlich willkommen zu unserer Podcastfolge von

00:00:14: Mr.CISO...

00:00:16: Und Mr.AI?

00:00:17: Mr.Ai, ich

00:00:17: habe gerade etwas überlegt mit dem Titel.

00:00:21: Ich hatte es lange Ferien.

00:00:23: Du

00:00:23: und Ferien!

00:00:24: Ja ja du bist mir einer.

00:00:25: Sieht ihr vorhin gerade an uns kamen erhalten was von deiner?

00:00:28: Ja, aber was ist denn heute passiert?

00:00:29: Hey

00:00:30: ja!

00:00:30: Die Kai-Pace, das ist wahnsinnig viel gegangen.

00:00:33: Da sind Modelle aufgekommen und Modelle plötzlich zugänglich zu Modellen wieder verschwunden.

00:00:40: Was ist hier los, Tobias?

00:00:42: Willst du da... Wie gesagt, ich war jetzt ewig in der Vierie.

00:00:45: Ich habe alles nur am Ramm mitbekommen.

00:00:47: Sie waren sehr offline dieser Zeit.

00:00:50: Was hast du da drauf eingehen?

00:00:52: Was genau passiert ist mit Zugänglichkeit zum Modell?

00:00:56: Und die sind plötzlich wieder verschwindet vor der US-Wahl liest.

00:00:59: Ja, also ich habe sicher gemerkt oder Sommer gibt es immer die großen neuen Modellfamilien.

00:01:04: Clothe hat entsprechend, also an Tropic hat neue Modelle vorgestellt, Rebel Thief und entsprechend auch Sonnet Nummer fünf.

00:01:11: Die neuesten Modellversionen und gewisse von denen waren recht schnell wieder gestoppt aus irgendwelchen Gründen und auch von OpenAI.

00:01:17: natürlich gab's einen Fünf Punkt Sechsermodell ein großer Modellwechsel auch da große Updates drei Modelle gleichzeitig noch diesen momentan nicht verfügbar.

00:01:25: Die werden noch geprüft.

00:01:27: Also, man merkt schon KI wird immer mehr ein Mittel wo man nur noch begrenzte Zugänglichkeit hat und das ist für uns beide irgendwo ein bisschen ja schwierig das irgendwie einzuordnen auch zu sagen was mache ich jetzt damit aus dem Unternehmen?

00:01:39: Das kann man auch dagegen machen um sich vielleicht ein bisschen unabhängiger da auch bewegen zu können.

00:01:45: Aber zum Kontext wieso sind die Modelle wieder verschwunden?

00:01:48: Fable Five ist also an Tropic zurückpiffen worden von der amerikanischen Behörde zugänglich zu diesem Modell möge ausserhalb der USA beschränkt werden, respektiv nicht mehr zugänglich gemacht werden zur nationalen Sicherheit.

00:02:04: Und zwar um eine Befürchtigkeit, dass eben diese Tools – wir haben ja auch schon Folgen zu Mythos gemacht – die Modelle genutzt werden zum Cyberkriminellen, weil sie so stark sind im Bereich Schwachstellen erkennen und entsprechend ausnutzen.

00:02:22: Genau das war die Argumentation.

00:02:27: Ich nehme an, bei OpenAI ist es das

00:02:29: Gleiche.

00:02:30: Ja, das klang jetzt ähnlich, dass Sie erst prüfen müssen ob das gut genug auch geschützt ist, dass man Angriffe versucht die entsprechend auch aufgeplockt werden vom Modell.

00:02:38: und da hat's auch das gleiche Thema Sicherheitsprüfung zuerst und dann gehts weiter.

00:02:43: Also für OpenAI oder für Anthropik ist natürlich hervorragende Werbung auch so mächtige Modellen zu haben.

00:02:51: Klar!

00:02:52: Je nachdem mit wem, was wir in der Branche klaren, sind starke Tools und schnelle Tools.

00:02:58: Ich glaube, wir haben auch schon Folgen gemacht.

00:02:59: Aber die Sache hat sich jetzt nicht gross verändert.

00:03:03: Also einen Finder von Schwachstellen aus, Nutzer von Schnachtsstellen wird sich nochmals zusätzlich beschleunigen.

00:03:09: Was aber wichtig ist, wenn man das Ganze anschaut, gibt es Zugänglichkeiten zu diesen Systemen.

00:03:14: D.h.,

00:03:14: wir haben jetzt zum ersten Mal den Fall, dass Unternehmen oder das Zugang zu den Führern zu der führenden Systeme, die

00:03:23: auf Apple-Five ffg

00:03:25: ist oder ist eingeschränkt wird.

00:03:28: Das heisst es ist nicht mehr gewährleistet dass wir Zugang haben in den breiten Massen auf die aktuellsten und schnellsten und wichtigsten Zules.

00:03:36: Und das ist natürlich für uns als unsere Zielgruppen Schweizer KMU oder generell Schweizer Markt ist eine relevante Entwicklung.

00:03:45: Das ist das erste Mal, dass es so etwas gibt.

00:03:48: In den letzten Jahren haben auch die Amerikaner Verschlüsselungstechnologien, also der Export von Verschlüßelungstechnologien behandelt quasi wie Waffen

00:04:00: aus

00:04:00: der Gleichargumentation heraus.

00:04:02: Also ist jetzt historisch gesehen nicht etwas, was komplett neu ist.

00:04:06: Aber in keinem Kontext sicher ein Paradigmenwechsel, aber sicher erst mal

00:04:12: ein

00:04:13: Tool... oder eben ein Modell eingeschränkt wurde, oder der Export eingeschreckt worden ist in dieser Argumentation.

00:04:19: Und das wird wie wir jetzt gerade gesehen und nicht die letzte Mal sein.

00:04:24: Was machen wir jetzt hier aus Schweiz?

00:04:27: Es ist wahrscheinlich wichtig dass wir unsere Modelle, also unsere Eigenständigkeit, Souveränität in diesem Bereich unterstützen.

00:04:35: Was gibt es da für Initiativen Tobias?

00:04:37: Ich denke eine von den spannendsten Sachen im Bereich finde ich das Schweizer KI-Modell Abherdos.

00:04:43: Das ist letztes Jahr vorgestellt worden.

00:04:45: Ich habe letztes ja im Herbst eigentlich eine schweizerweite Aktion, Woche oder sogar Monat eigentlich wo verschiedene Events stattgefunden haben, wo man noch verschiedene Hacks gemacht hat in Daze entsprechend wo man das Ganze ausprobiert und die Leute gebracht hat.

00:05:00: Und einerseits ist es toll weil es gibt ein eigenes Schweizer KI-Modell.

00:05:04: welche Länder haben das sonst noch?

00:05:06: Das finde ich schon mal ziemlich cool Besonder an Apertus verglichen mit den anderen Modellen.

00:05:11: Es gibt ja offene Modelle, wo man die Modelle runterladen kann, die man kostenlos nutzen kann oder auch die kommerziellen Modelle wie jetzt OpenAI Cloud entsprechend auch, die nicht einfach so runter laden kann und die man auch nicht reingucken kann.

00:05:22: Und bei Apertos ist das anders.

00:05:24: also da sind bewusst nur offene Trainingsdaten drin, wo entsprechend die Berechtigungen da sind dass man die Daten nutzen darf.

00:05:30: Alle anderen Modelle nutzen einfach das was sie finden egal ob es sie nutzen dürfen oder nicht.

00:05:34: Thema ISO-Siebendzwanzigtausend Eins Norm, die findest du bei allen Daten wahrscheinlich bei allen KI Systemen.

00:05:39: Außer vermutlich beim Apertos.

00:05:40: Ich muss gestehen ich habe es nicht getestet aber geht davon aus das wäre da nicht drin weil das urberechtlich geschützt ist.

00:05:46: Es wäre spannend.

00:05:46: die Initiative und unterstütze mir... Genau ich finde

00:05:50: das super!

00:05:50: Ich finde das ganz wichtig.

00:05:52: Es braucht offene Modelle dass man halt einerseits unabhängig ist, ah dass man auch die Technologie weiter entwickeln kann.

00:05:59: und daher finde ich das super was halt auch noch Cool ist bei Apertus, was beim anderen auch nicht so ist.

00:06:03: Man kann wirklich die ganzen Trainingsdaten runterladen und alles kripte, also man kann wirklich sein eigenes Apertos-Modell trainieren, komplett offen das machen die andere alle nicht, dass es da alles versteckt.

00:06:11: Also für Forschung weltweit in dem Sinne ist das eine Superbasis.

00:06:14: Die können die Forscher das nehmen und weiterentwickeln.

00:06:17: EPFL und ETH haben das entsprechend mit aufgebaut.

00:06:19: damals Und von daher finde ich das super.

00:06:22: Huts auf der Apple Konferenz war zum Beispiel einer von den Mitentwicklern mit Gründern von Apertuss In dem Sinne.

00:06:27: auch dabei hat das davon erzählt.

00:06:28: Ich find das super Und toll, dass gerade die kleinen Schweizer da sich entsprechend auch weltweit mit so einem Modell profilieren kann.

00:06:38: Ja, danke.

00:06:39: Aber genau aus diesem Kontext raus, den wir vorhin zur Einführung diskutiert haben – also in der Schweiz wird es sehr zentral und sehr wichtig, dass wir unser eigenes Modell unterstützen und den Beitrag leisten, damit man weiterkommt auf alle Fälle.

00:06:53: Ich weiß

00:06:54: nicht, ob du es mal ausprobiert hast oder man kann das nicht mit dem zum Beispiel in Fable Five vergleichen und dass das neueste größte teuerste Modell auf der Welt.

00:07:01: Wir verglichen mit Apertus ist in dem Sinne winzig.

00:07:04: also wirklich wie keine Ahnung.

00:07:06: vielleicht den Fahrrad vs ein Porsche oder so.

00:07:09: Es ist für andere Sachen, dem sind die gut.

00:07:11: Aber es sitzt nicht in das perfekte Modell was alles gut kann sondern es ist ein überschaubbares Modell... ...was jetzt einfach mit gewissen Trainingsdaten mal aufgebaut wurde,... ...aber es kann man jetzt nicht einfach so als Ersatz verwenden.

00:07:22: Im Chat zum Beispiel hat es gewisse Informationen einfach nicht drin, die muss man mitgeben.

00:07:26: Das ist auch nicht optimal.

00:07:28: jetzt zum Beispiel für agentische Anwendungsfälle optimiert momentan in der Version eins Punkt Null.

00:07:33: Es gab eine Weiterentwicklung in Version Eins Punkt Eins wo man noch kleinere Modelle gemacht hat, die man unterwegs nutzen kann.

00:07:39: Ansonsten laufen die auf normalen PC, wo man eine Grafikkarte drauf hat oder einen größeren PC.

00:07:44: Mein Neck hat recht viel Speicher drin und kriege auch das große Modell zum Laufen.

00:07:48: Also es ist okay, ein gutes Modell für einfache Aufgaben aber z.B.

00:07:53: für agentische Anwendungsfälle funktioniert das momentan nicht.

00:07:56: Für einen moralischen ethischen Aspekt, der ja hier sicher auch einen zentralen Wert spielt, hast du vorhin gerade gesagt, dass man in Sicht von den Trainingsdaten hinterher hat etc.

00:08:07: Letztes Mal wieder Artikel gelesen, was andere grössere Anbieter aktuell oder vermeintlich machen.

00:08:14: Es gibt jetzt so Brockenhäuser mit alten Büchern.

00:08:18: Die

00:08:19: finden es massenhaft unternehmen aus der USA primär Brockenhauser aufkaufen.

00:08:28: Also nicht Brockenhausen sondern Bücher in den Brocken-Häusern.

00:08:33: doch klar, was mit ihnen passieren wird.

00:08:36: Die werden einscanned für Sky-Training genutzt.

00:08:40: Der Autor von diesen Büchern sind die meisten wahrscheinlich tot.

00:08:42: Das heisst Intellectual Property wird niemand mehr kommen und zu verklagen.

00:08:47: Und das ist schon ein Spektrum Moralisch Ethisch auch.

00:08:51: Es fragt sich eigentlich darüber schwäbt und da finde ich es sehr cool und richtig und wichtig dass die Schweiz damit eben ab per Tusen Beitrag leistet zum anderen Weg zu gehen und andere Weg zu unterstützen.

00:09:03: Also was ich an Apertus ja auch noch spannend finde, wenn man jetzt das Schweizer Unternehmen gerne ein eigenes Modell nutzen möchte.

00:09:09: Wo wir vielleicht gewisse Daten, die man hat, gewisse Verhaltungsmuster oder so mit einem bestehenden Modell nutzen möchtest.

00:09:15: Das ist eine gewisse Größe von dem Modell, den man entsprechend auch noch fein tun kann.

00:09:18: Das heißt sich für sich selbst nachtrainieren.

00:09:21: also da funktioniert es sicher nicht schlecht.

00:09:23: Man kann's wirklich auch runterladen offline nutzen.

00:09:25: Es funktioniert super.

00:09:27: und jetzt startet auch gerade die nächste Heck-Apertus Woche in diesem Jahr oder auch eigentlich ein halbes Jahr sogar, wo es genau darum geht, Kapertos wieder neue Anwendungsfälle auszuprobieren.

00:09:36: Empfang zu sammeln und das dann auch zunutzen.

00:09:38: Das von daher finde ich super!

00:09:40: Also wenn ihr es noch nicht gesehen habt schaut mal drauf, HackerPertos eingeben bei der Suchmaschine oder dem AirTool Eurer Wahl und euch meine aktuelle Informationen anzuzeigen ist mal auszubrobieren und kommt einmal vorbei über so einem Event.

00:09:50: Ich bin

00:09:51: mega gespannt wie sich das wird entwickeln und ich denke es wäre nicht unsere letzte Folge Sie, die wir über Apertus geredet haben.

00:10:00: Da bin ich überzeugt!

00:10:01: Ich finde das wichtig.

00:10:02: Genau es braucht möglichst große Vielfalt an Modellen.

00:10:05: Es braucht sich auch kommerzielle Anbieter aber auch kleine sehr gute offene Modelle da vielleicht größere offenen Modelle wo man gewisse Sachen nutzen kann aber nicht alles.

00:10:14: Aber das hilft uns einfach die ganze Technologie weiterzuentwickeln und sie auch bestmöglich nutzen zu können.

00:10:19: Genau eben auch unter einem Aspekt dass Zugänglichkeit zu gewissen Modell.

00:10:24: Offensichtlich nicht immer und überall wie Garantiert sie.

00:10:28: Und auch finanziell natürlich, irgendwann wird das richtig Geld kosten.

00:10:31: und dann ist die Frage okay was mache ich jetzt?

00:10:33: Dann ist es immer gut wenn man eine Möglichkeit hat vielleicht für weniger Geld ein ticke schlechtere Modell zu nutzen aber dass man die Freiheit überhaupt hat und sich da bewegen kann.

00:10:41: Und Lock-in-Effekt in KGZ kreieren.

00:10:44: Genau absolut finde ich super.

00:10:46: Hey danke Tobias!

00:10:48: Für die Folg.

00:10:49: Danke Dani bis bald Tschüss!