AI – Kryptonews
Das wichtigste in Kürze:
- Einführung von Phi-3 durch Microsoft: Microsoft hat die Veröffentlichung von Phi-3 angekündigt, der dritten Iteration der Phi-Familie von Small Language Models (SLMs). Dieses Modell gilt als das leistungsstärkste und kostengünstigste SLM, das derzeit verfügbar ist und übertrifft vergleichbare Modelle in seiner Klasse sowie einige größere Modelle.
- Eigenschaften von Phi-3 Mini: Phi-3 Mini, die kleinste Version von Phi-3, ist ein 3,8 Milliarden Parameter Modell, das auf 3,3 Billionen Tokens trainiert wurde. Trotz seiner kompakten Größe ist Phi-3 Mini in der Lage, 128K Tokens Kontext zu verarbeiten und kann damit mit GPT-4 konkurrieren und Modelle wie Llama-3 und Mistral Large in Bezug auf die Token-Kapazität übertreffen.
- Einsatz auf Smartphones: Eine signifikante Eigenschaft von Phi-3 Mini ist seine Fähigkeit, auf typischen Smartphones zu laufen. Microsoft testete das Modell auf einem iPhone 14, wo es problemlos lief und 14 Tokens pro Sekunde generierte. Phi-3 Mini benötigt nur 1,8 GB VRAM, was es zu einer leichten und effizienten Alternative für Benutzer mit spezifischen Anforderungen macht.
- Anwendungsgebiete von Phi-3 Mini: Obwohl Phi-3 Mini möglicherweise nicht für hochrangige Programmierer oder Nutzer mit umfassenden Anforderungen geeignet ist, kann es eine effektive Wahl für Personen mit spezifischen Bedürfnissen sein. Startups, die einen Chatbot benötigen oder Personen, die LLMs für Datenanalyse einsetzen, können Phi-3 Mini für Aufgaben wie Datenorganisation, Informationsextraktion, mathematische Schlussfolgerungen und Agentenaufbau nutzen.
- Unterschiede zu Vorgängermodellen: Im Gegensatz zu seinem Vorgänger Phi-2 ist Phi-3 nicht Open Source, sondern ein “Open Model”, was bedeutet, dass es zugänglich und nutzbar ist, aber nicht über die gleiche Open-Source-Lizenzierung wie Phi-2 verfügt. Microsoft plant, weitere Modelle der Phi-3 Familie, einschließlich Phi-3 Small und Phi-3 Medium, in den kommenden Wochen zu veröffentlichen. Die Verfügbarkeit von Phi-3 Mini erstreckt sich auf Plattformen wie Azure AI Studio, Hugging Face und Ollama, wobei das Modell für den Einsatz auf verschiedenen Hardware-Plattformen optimiert wurde.
Microsoft stellt bahnbrechendes Phi-3 Mini Language Model vor
In einer kürzlich veröffentlichten Ankündigung hat Microsoft seine neueste Errungenschaft vorgestellt: Phi-3 Mini, das kleinste Mitglied der Phi-Familie von Small Language Models (SLMs).
Phi-3 Mini: Effizienz und Leistung vereint
Phi-3 Mini ist ein 3,8 Milliarden Parameter Modell, das auf 3,3 Billionen Tokens trainiert wurde. Trotz seiner vergleichsweise kleinen Größe übertrifft es andere Modelle in seiner Klasse und bietet bemerkenswerte Leistungsfähigkeit. Es kann 128K Tokens Kontext verarbeiten und ist in der Lage, mit führenden Modellen wie GPT-4 zu konkurrieren.
Vielseitige Anwendungsmöglichkeiten auf Smartphones
Eine herausragende Eigenschaft von Phi-3 Mini ist seine Kompatibilität mit typischen Smartphones. Microsoft testete das Modell auf einem iPhone 14, wo es reibungslos funktionierte und 14 Tokens pro Sekunde generierte. Mit nur 1,8GB VRAM ist es eine leichte und effiziente Option für Nutzer mit spezifischeren Anforderungen.
Optimale Nutzung für spezifische Anforderungen
Obwohl Phi-3 Mini möglicherweise nicht für hochrangige Programmierer oder Nutzer mit umfangreichen Bedürfnissen geeignet ist, stellt es dennoch eine effektive Alternative für Anwender mit spezifischen Anforderungen dar. Startups, die einen Chatbot benötigen oder Personen, die LLMs für Datenanalysen einsetzen, können von Phi-3 Mini für Aufgaben wie Datenorganisation, Informationsgewinnung, mathematisches Schlussfolgern und Agentenaufbau profitieren.
Überlegene Leistung und Zukunftspläne
Phi-3 Mini glänzt durch herausragende Testergebnisse, die auf Microsofts Fokus auf eine sorgfältige Zusammenstellung des Datensatzes zurückzuführen sind. Microsoft plant, weitere Modelle der Phi-3 Familie, darunter Phi-3 Small und Phi-3 Medium, in den kommenden Wochen zu veröffentlichen.
Zusammenfassung und Verfügbarkeit
Abschließend sei noch erwähnt, dass Phi-3 Mini, obwohl nicht Open Source wie sein Vorgänger Phi-2, dennoch als “Open Model” zugänglich ist und für verschiedene Plattformen wie Azure AI Studio, Hugging Face und Ollama verfügbar ist.
Insgesamt markiert die Einführung von Phi-3 Mini einen bedeutenden Schritt in der Evolution von Small Language Models und bietet Nutzern eine leistungsstarke und effiziente Lösung für spezifische Anforderungen im Bereich der künstlichen Intelligenz.
Quelle:
Zum englischen Artikel auf Decrypt