Apple nutzt Google Gemini, um kleinere Siri-Modelle zu destillieren, iOS 27 Smart Assistant erhält überarbeitete Version

Technologie-Medien The Information enthüllt die Hintergründe der AI-Zusammenarbeit zwischen Apple und Google: Google gewährt Apple vollständigen Zugriff auf das Gemini-Modell. Apple kann nicht nur direkt Gemini anrufen, um Siri-Antworten bereitzustellen, sondern auch die „Destillation“-Technologie nutzen, um anhand der Ausgaben von Gemini kleinere, auf dem iPhone laufende AI-Modelle zu trainieren, die ohne Internetverbindung funktionieren.

Destillationstechnologie: Verwendung der Inferenzen eines großen Modells, um ein kleines Modell zu trainieren

Beim Modell-Distillation (Model Distillation) besteht die Methode darin, dass ein großes „Lehrmodell“ (Gemini) eine Reihe von Aufgaben ausführt und hochwertige Ergebnisse sowie detaillierte Aufzeichnungen der Inferenzen liefert. Diese „Antworten + Inferenzpfade“ werden dann in ein kleineres „Schülermodell“ eingespeist, um es zu trainieren, sodass das kleine Modell die internen Rechenlogiken von Gemini erlernt.

Das Ergebnis ist: Apple kann kleine Modelle entwickeln, die nahezu die Leistung von Gemini erreichen, aber deutlich geringere Rechenanforderungen haben. Diese eignen sich für den Einsatz auf Mobiltelefonen, um eine niedrige Latenz zu gewährleisten und die Privatsphäre zu schützen, da sie lokal auf dem Gerät laufen.

Wharton-Professor Ethan Mollick: Destillierte Modelle sind kaum in der Lage, echte AI-Agenten zu unterstützen

Der KI-Forscher Ethan Mollick äußert sich skeptisch und sagt: „Ich bin mir nicht sicher, ob das Destillieren von Gemini in ein auf dem Handy laufendes Modell wirklich die erwartete allgemeine KI-Agentenfähigkeit hervorbringen kann.“ Mehrere Ingenieure diskutieren ebenfalls, dass die Destillation nur das Problem der Modellgröße löst, aber für echte AI-Agenten zuverlässige Werkzeuge, persistenten Zustand und komplexe Inferenzen erforderlich sind. Diese Fähigkeiten gehen bei der Komprimierung oft erheblich verloren.

Einschränkungen von Gemini und parallele Entwicklung eigener Apple-Modelle

Der Bericht von The Information weist außerdem darauf hin, dass Apple bei der Integration von Gemini auf ein Problem gestoßen ist: Gemini wurde hauptsächlich für Chatbots und Programmier-Entwicklungsszenarien feinjustiert und entspricht nicht vollständig den Anforderungen von Apple. Zwar hat Apple Anpassungen an Gemini vorgenommen, doch bleiben diese begrenzt.

Es ist bemerkenswert, dass das Apple Foundation Models-Team weiterhin eigene KI-Modelle entwickelt, die vollständig unabhängig von Gemini sind. Mit anderen Worten: Für Apple ist Gemini eher eine „Übergangsbrücke“ als ein langfristig zentraler Baustein.

iOS 27 Siri: Umfassendes Chat-Upgrade

Laut bekannten Informationen wird die neue Version von Siri in iOS 27 eine Frage-Antwort-Fähigkeit auf Chatbot-Niveau besitzen, inklusive Beantwortung von Fragen, Zusammenfassung von Dokumenten, Geschichten erzählen, emotionale Unterstützung, Reisebuchungen und mehr. Dies ist die größte Funktionssteigerung seit der Einführung von Siri im Jahr 2011 und könnte entscheidend sein, ob Apple im Markt der KI-Assistenten mit ChatGPT und Gemini Schritt halten kann.

Dieser Artikel zeigt, dass Apple mithilfe von Google Gemini ein kleineres Siri-Modell durch Destillation entwickelt. Das große Update für den iOS 27 Smart Assistant wurde erstmals bei Chain News ABMedia veröffentlicht.