Sophos hat ein Open-Source-Framework zusammengestellt, welches Unternehmen nutzen können, um domänenspezifisches Wissen in ein Large Language Model (LLM) zu implementieren. Damit können die Benutzer eines solchen erweiterten LLMs spezialisiertere Aufgaben übernehmen, die aktuelles sowie proprietäres Wissen erfordern, um sie entsprechend auszuführen. Die Version des Frameworks, die
Sophos als Open Source im Github-Repository des Unternehmens
freigibt, kann im Amazon Web Services Sagemaker Service für maschinelles Lernen ausgeführt, aber auch an andere Umgebungen angepasst werden.
Das Framework wurde mit Deepspeed, einer von Microsoft entwickelten Bibliothek, mit der die Inferenz eines Modells mit Billionen von Parametern trainiert und abgestimmt werden kann, entwickelt. Unternehmen, die es nutzen möchten, können sich somit die ressourcenintensive Zeit sparen, die es braucht, um einem LLM das firmenspezifische Wissen zu vermitteln.
(dok)
