Chatbot-Wettrennen: Meta kommt mit LLAmA
Quelle: Depositphotos

Chatbot-Wettrennen: Meta kommt mit LLAmA

Meta hat ein eigenes Natural-Language-Processing-Modell namens LLaMA entwickelt, das als Basis für KI-Chatbots dienen und trotz geringerem Ressourcenverbrauch GPT-3 leistungsmässig überflügeln soll.
27. Februar 2023

     

Nach Microsoft und Google will nun auch Meta ins Wettrennen der KI-Chatbots einsteigen. Der Zuckerberg-Konzern hat ein KI-basiertes Sprachmodell entwickelt und veröffentlicht, das hauseigene und externe Forscher bei ihrer Arbeit an Konkurrenten zu ChatGPT und Bard unterstützen soll. Die Technologie nennt sich LLaMA (Large Language Model Meta AI) und soll in Zukunft die Meta-Plattform anreichern – im Moment wird sie in Facebook, Instagram & Co. noch nicht eingesetzt.

Bei LLaMA handle es sich um ein kleineres und leistungsfähigeres Modell, das Forschern ohne Zugang zu riesigen Infrastrukturen zugutekommen soll. Damit, so ein Blogpost von Meta AI, werde der Zugang in diesem wichtigen, sich schnell verändernden Teilbereich der KI-Forschung demokratisiert, denn solche kleineren Modelle liessen sich mit weniger Computing-Aufwand trainieren, testen und einsetzen. LLaMA ist in verschiedenen Grössen von 7 bis 65 Milliarden Parametern verfügbar. GPT-3, die Basis von ChatGPT, arbeitet dagegen mit 175 Milliarden Parametern. Meta selbst hat LLaMA mit Text in den 20 meistverbreiteten Sprachen trainiert, der Schwerpunkt lag auf Sprachen mit lateinischem oder kyrillischem Alphabet. Dabei sollen ausschliesslich öffentlich verfügbare Quellen genutzt worden sein.


Laut dem Forschungspaper des LLaMA-Teams von Meta bringt LLaMA mit 13 Milliarden Parametern in den meisten Benchmarks eine höhere Leistung als GPT-3 mit 175 Milliarden Parametern, und mit 65 Milliarden Parametern ist LLaMA den derzeit besten Sprachmodellen Chinchilla70B und PaLM-540B mit 70 beziehungsweise 540 Milliarden Parametern ebenbürtig. (ubi)


Weitere Artikel zum Thema

Meta kommt mit Verifikations-Abo

20. Februar 2023 - Nach Twitter lanciert nun auch Meta ein kostenpflichtiges Abo für verifizierte Konten inklusive Nachahmerprofilschutz und Support. "Meta Verified" ist ab 12 US-Dollar pro Monat zu haben.

Meta ändert Werbe-Richtlinien

12. Januar 2023 - Meta möchte jungen Usern zumindest teilweise die Kontrolle über die Werbung geben, die sie sehen. Aus eigenem Antrieb macht der Konzern das allerdings nicht.

Meta arbeitet an Echtzeit-Übersetzung für über 100 Sprachen

25. Februar 2022 - Facebooks Mutterkonzern Meta arbeitet an einer universalen Übersetzungslösung, die mit Hilfe von künstlicher Intelligenz in Echtheit mit über 100 Sprachen zurechtkommt.


Artikel kommentieren
Kommentare werden vor der Freischaltung durch die Redaktion geprüft.

Anti-Spam-Frage: Vor wem mussten die sieben Geisslein aufpassen?
GOLD SPONSOREN
SPONSOREN & PARTNER