Facebook-Mutterkonzern
Meta will auch im KI-Hype rund um die Software-Programmierung ein gewichtiges Wort mitreden und hat Code Llama vorgestellt. Dabei handelt es sich um ein Large Language Model, dass explizit für Programmieraufgaben kreiert worden ist, ähnlich wie Microsofts Github Copilot.
Wie die Macher in einem Blog-Beitrag
erklären, soll Code Llama anhand von Texteingaben Code erstellen und untersuchen können. Das KI-Modell soll Workflows beschleunigen und die Effizienz von Programmierern anheben. Dazu soll damit auch die Barriere für Neueinsteiger gesenkt werden. Meta verspricht weiter, dass Programmierer in die Lage versetzt werden, robustere und besser dokumentierte Software zu erstellen. Auch soll es möglich sein, bestehenden Code zu ergänzen oder ein Debugging durchzuführen. Aktuell werden mitunter die Programmiersprachen Python, C++, Java, PHP, Typescript, Bash oder C# unterstützt. Code Llama kann frei genutzt werden, inklusive für kommerzielle Zwecke.
Meta hat Code Llama in drei Grössen veröffentlicht, und zwar mit 7, 13 oder 34 Millliarden Parametern, wobei jedes Modell mit 500 Milliarden Tokens trainiert wurde. Das kleinste Modell soll sich auf einem einzigen Grafikprozessor einsetzen lassen, während das 34-Milliarden-Modell erwartungsgemäss die besten Ergebnisse liefert. Die beiden kleineren Versionen sollen dafür schneller sein und sich besser für Aufgaben eignen, die kürzere Latenzzeiten erfordern wie etwa die Code-Vervollständigung.
(rd)