Alpaca

Über Alpaca

Alpaca ist Stanfords Beitrag zur Open-Source-KI-Bewegung und hat gezeigt, wie man mit wenig Geld viel erreichen kann. Durch Fine-Tuning von LLaMA auf nur 52.000 Instruktionen, die von GPT-3.5 generiert wurden, entstand ein Modell, das bei vielen Aufgaben mit deutlich größeren Modellen mithalten kann. Die Kosten für das Training? Unter 600 Dollar. Das war revolutionär und hat eine Welle von ähnlichen Projekten ausgelöst. Alpaca folgt Anweisungen zuverlässig und kann eine Vielzahl von Aufgaben bewältigen – von Textzusammenfassungen über Übersetzungen bis zu einfacher Code-Generierung. Die Qualität ist nicht perfekt, aber für ein so kostengünstiges Modell beeindruckend. Stanford hat mit Alpaca bewiesen, dass man nicht Millionen ausgeben muss, um ein nützliches KI-Modell zu erstellen. Die Methodik – synthetische Daten von einem stärkeren Modell generieren lassen – wurde von vielen anderen Projekten übernommen. Alpaca ist ein Meilenstein in der Demokratisierung von KI.