Nachdem
Google gerade erst mit Gemini 1.0 Ultra ein stark verbessertes KI-Modell vorgestellt hat, folgt jetzt bereits der nächste Schritt. Wie CEO Sundar Pichai via Blog Post
ankündigt, kann mit Gemini 1.5 bereits das Modell der nächsten Generation vorgestellt werden, das in verschiedener Hinsicht dramatische Verbesserungen bringen soll.
Gemini 1.5 wird wie der Vorgänger in drei verschiedenen Versionen erscheinen. Das erste jetzt verfügbare Modell trägt die Bezeichnung Gemini 1.5 Pro und soll leistungsmässig dem bisherigen Top-Modell Gemini 1.0 Ultra entsprechen, aber weniger Rechenleistung benötigen. Laut Google konnte bei Gemini 1.5 Pro auch ein Durchbruch beim Verstehen langer Kontexte gelungen sein, so soll das Modell bis zu eine Million Tokens aufs Mal verarbeiten können. Unter Tokens werden Bestandteile von Texten oder multimedialen Inhalten verstanden. Die Menge entspricht einer Stunde Video, 11 Stunden Audio, 30'000 Code-Zeilen oder 700'000 Wörtern.
Gemini 1.5 basiert auf einer sogenannten MoE-Architektur (Mixture-of-Experts). Anders als bei bisherigen Modellen wird dabei nicht auf ein grosses neurales Netzwerk, sondern auf mehrere kleinere Experten-Netze gesetzt. Bei einer Anfrage kommt dann das jeweils am besten geeignete Netzwerk zum Zug, was laut
Google die Effizienz steigern soll.
Google hat mit dem Launch eine limitierte Preview von Gemini 1.5 Pro für Entwickler und Unternehmenskunden gestartet. Zu Beginn wird ein Kontext-Fenster von 128'000 Tokens unterstützt, das dann im Verlauf der Preview auf eine Million Tokens hochgefahren werden soll. Entwickler, die sich für die Preview interessieren, können sich in eine
Warteliste eintragen, während Unternehmenskunden sich mit dem Vertex-AI-Account-Team in Verbindung setzen sollen.
(rd)