Start-up Latticeflow AI: Im Einsatz für eine sichere KI

Generative KI muss jede Menge Anforderungen erfüllen. Sie muss gesetzeskonform sein, muss sich an den Datenschutz halten und sie sollte weder diskriminierende noch falsche Inhalte generieren. Je nach Einsatzbereich und -zweck kommen ausserdem noch spezifische Einschränkungen oder Vorgaben dazu. Petar Tsankov, Mitgründer von Latticeflow AI und Security-Spezialist, beschäftigt sich bereits seit vielen Jahren mit dieser Thematik. 2017 wirkte er gemeinsam mit seinem ehemaligen Studien­kollegen Pavol Bielik an einem wissenschaftlichen Projekt mit, das zum Ziel hatte, eine Bildgenerierungs-KI bewusst zu fehlerhaften Ergebnissen zu bewegen. Im Paper legten Tsankov und seine Kollegen dar, wie die KI überhaupt aufgebaut ist, welche Manipulationen sie vorgenommen haben und – der wichtigste Teil – mit welchen Massnahmen solche betrügerischen Vorfälle verhindert werden können.

Von der wissenschaftlichen Arbeit zur eigenen Firma

Die Publikation erregte grosse Aufmerksamkeit und wie Tsankov rückblickend erzählt, hätten sich diverse grosse europäische Unternehmen wie Bosch, Siemens, Airbus sowie hierzulande die SBB an die Autoren gewandt. Alle waren sehr am Aufkommen der KI-Technologie interessiert – hatten aber erhebliche Bedenken hinsichtlich der Zuverlässigkeit. Tsan­kov organisierte diverse Meetings mit hochrangigen Führungskräften der besagten Unternehmen, und es wurde jedes Mal dieselbe Frage gestellt: «Wir verstehen nicht, wie die KI-Software im Kern funktioniert und wie wir sie sicher und gewinnbringend in unserem Unternehmen einsetzen können.»

Alle Interessenten erwarteten von Tsan­kov, dass er die Lösung auf dem Silbertablett präsentiert. Aufgrund dessen erkannte Tsankov ein riesiges Bedürfnis in der Industrie und er kontaktierte Co-Autor Bielik, um ihm mitzuteilen, dass die Gewährleistung von Sicherheit und Zuverlässigkeit ein riesiges Business sein werde und sie doch schnellstmöglich eine Firma gründen sollten, die genau dieses Bedürfnis adressiert. Bielik wollte jedoch nicht ganz so überstürzt loslegen wie Tsankov und erst noch eigene Nachforschungen betreiben, insbesondere auch in anderen Ländern. Schliesslich kam er aber zum selben Schluss wie Tsan­kov, und so gründeten sie gemeinsam mit den früheren Arbeitskollegen und ETH-Professoren Martin Vechev sowie Andreas Krause 2020 Latticeflow AI als ETH-Spin-Off.

Schweizer Standort ist optimal

Der gebürtige Bulgare Petar Tsankov hebt die Vorteile des Schweizer Standortes und insbesondere von Zürich hervor. Die Schweiz sei einer der Hauptschauplätze, wenn es um Datensicherheit und Zuverlässigkeit von Cloud- und KI-Anwendungen geht. Der Gründer betont aus­serdem die Bedeutung der ETH – da die Hochschule begabte Absolventen ausbildet und erstklassige Forschung betreibt. Tsankov ist allerdings seinen Wurzeln treu geblieben, denn Latticeflow AI unterhält einen zweiten Standort in der bulgarischen Hauptstadt Sofia, weil dort das Institute for Computer Science, Artificial Intelligence and Technology (Insait) beheimatet ist, das ebenfalls zukünftige Talente im Bereich KI ausbildet. Zu guter Letzt verfügt das Start-up über einen Standort in San Francisco, jedoch ohne eigene Räumlichkeiten. Tsankov wollte ursprünglich dort den Hauptsitz der Firma anmelden, entschied aber, dass die Schweiz, was die Forschung im Deep-Tech-Bereich angeht, der global beste Platz sei, trotz der hierzulande hohen Personalkosten. Dass sich auch andere KI-Unternehmen in der Limmatstadt niederlassen, bestätigt gemäss Tsankov die Tatsache, dass Zürich ein europäischer KI-Hotspot zu werden scheint.

Wachstum steht über Profit

Heute zählt Latticeflow AI 44 Mitarbeitende, von denen 25 in Zürich arbeiten. Weitere R&D-Mitarbeitende befinden sich in Sofia, und ein Teil des Go-to-Market-Teams sowie das Customer-Success-Team arbeiten von San Francisco aus. Gestartet hat das Unternehmen mit dem Eigenkapital der vier Gründer, doch bereits früh wurde Latticeflow AI von B2venture mit knapp drei Millionen Franken unterstützt, einem Fonds, der zukunftsträchtige Start-ups finanziert. Weitere zwölf Millionen Franken konnte das Start-up durch Atlantic Bridge gewinnen. Zuletzt investierte zudem die Schweizer Regierung 2,9 Millionen Franken in das Unternehmen. Tsankov erzählt stolz, dass nur wenige Unternehmen mit einem grossen wirtschaftlichen Potenzial in den Genuss dieser Förderung kämen. «Es fördert die Motivation ungemein, wenn man sogar die eigene Regierung hinter sich stehen weiss», sagt er.

Trotz der hohen Investitionen, die sich Latticeflow AI sichern konnte, ist der Breakeven noch nicht erreicht – und er steht auch nicht zuoberst auf der Prioritätenliste. «Wir sind kein Lifestyle-Unternehmen, sondern wir haben eine Mission: Wir wollen Künstliche Intelligenz sicherer und zuverlässiger gestalten. Das heisst, wir wollen so schnell wie möglich wachsen, um dieses Ziel zu erreichen. Solange wir unter dieser Prämisse weiter wachsen, können wir dazu stehen, dass wir Geld verbrennen. Natürlich wollen wir irgendwann profitabel operieren, aber das ist derzeit nicht auf unserem Radar», stellt Tsankov klar.

Schnittstelle zwischen KI und Regulierungen

Latticeflow AI selbst erstellt keine KI- oder Sprachmodelle, sondern analysiert Lösungen von Drittanbietern im Auftrag von Kunden, um festzustellen, unter welchen Bedingungen die Systeme ordnungsgemäss und wo fehlerhaft funktionieren. Insbesondere den Trainingsdaten wird dabei grosse Aufmerksamkeit gewidmet. Tsankov erläutert die Herausforderungen beim sicheren Betrieb anhand der zugrundeliegenden Daten: «Eine herkömmliche Software wird manuell programmiert, daher ist stets klar und auch nachvollziehbar, weshalb eine Software etwas tut oder eben nicht. Eine KI greift dagegen auf Daten zurück und es ist schwierig nachzuvollziehen, wie diese Daten interpretiert werden».

Das Start-up analysiert den Datensatz der Trainingsdaten und kann dadurch auch Fehler erkennen und beheben. Tsankov vergleicht seine Arbeit mit der eines Examinators: Die Studenten lernen im Unterricht etwas (die Datenverarbeitung der KI), anschliessend wird die Anwendung des Wissens geprüft (die Analyse von Latticeflow AI). Auch im Audio-Bereich ist Latticeflow AI tätig . So kann das Unternehmen durch die Analyse der Audiospur Deepfakes zuverlässig identifizieren. Gemäss Tsankov sind Hintergrundgeräusche der ausschlaggebende Punkt. Wenn jemand spricht und im Hintergrund sind keinerlei Fremdgeräusche zu erkennen – und sei es nur ein sanftes Rauschen –, so ist die Aufnahme mit höchster Wahrscheinlichkeit eine Fälschung. Zu den Kunden des Unternehmens gehören Firmen, die mit sensiblen Daten bereits produktiv arbeiten. Tsankov nennt die Sektoren öffentliche Sicherheit, industrielle Fertigung sowie Banking. Total zählt das Unternehmen bis dato 25 Kunden, von denen rund 20 Prozent aus der Schweiz stammen, der Rest ist global verteilt.

Qualität garantiert

Wenn die KI der Prüfung von Latticeflow AI standhält, dann entspricht dies einem Qualitätssiegel. So können die Kunden wiederum ihren Kunden eine höhere Sicherheit und Zuverlässigkeit bei der Nutzung der entsprechenden KI garantieren. Weiterhin hat das Unternehmen in Zusammenarbeit mit der ETH Zürich und Insait den Benchmark-Test Compl-AI entwickelt, der die Konformität einer KI mit der aktuellen europäischen Gesetzgebung – dem European AI Act – prüfen soll. Tsankov sagt, dass die Nachfrage im Compliance-Bereich besonders gross sei. Besteht eine KI den Test nicht, so erhalten die Entwickler die entsprechenden Hinweise, welche Punkte verbessert werden müssen, damit die Software nicht mit europäischen Gesetzen in Konflikt gerät.

Tsankov ist überdies stolz darauf, dass sein Team es geschafft hat, eine Dienstleistung anzubieten, die auf dem Markt Erfolg hat – insbesondere im hart umkämpften Segment der KI-Software. In diesem Sektor kämen nämlich gleich mehrere Faktoren erschwerend hinzu: «Wir müssen ausgesprochen agil agieren. Wir können nicht wie in anderen Branchen einen Dreijahresplan erstellen, da die Vorzeichen sich im Bereich der KI alle paar Wochen ändern. Ausserdem ist es tatsächlich so, dass viele Kunden die Technologie zwar nutzen möchten, aber eigentlich nicht genau wissen, welche Herausforderungen sie damit angehen wollen.» Diese Kunden abholen zu können und ihnen erfolgreich ein Produkt zu verkaufen, sei ein Meilenstein, den Tsankov als besonders wichtig erachte. (dok)