12. Juni 2024 Lesezeit: 8 Min.

Nexus 212: Apple Intelligence ist Mixture of Experts auf Betriebssystemebene

Nexus 212: Apple Intelligence ist Mixture of Experts auf Betriebssystemebene

Hi,

was ist das Äquivalent zur OpenAI-Partnerschaft von Apple, fragt Benedict Evans: Intel, Google Maps oder Google search?

Meine Vermutung: Es ist eine Mischung aus Maps und Suche. Maps, weil GPT-4o nicht die einzige externe Option bleiben wird; Suche, weil ich nicht glaube, dass Apple in absehbarer Zeit in der Lage sein wird, ein Frontier Foundational Model zu entwickeln, das so gut wie die besten ist.

Vor dem Hintergrund: Bei KI wird sich die exklusive Partnerschaft, wie es zwischen Apple und Google der Fall ist, nicht wiederholen.
Und: Rein kalkulatorisch kann man sagen, Apple wird einen Teil des Geldes von Google nehmen, um OpenAI zu bezahlen.
Last not least: OpenAI kann mit einer LLM-basierten Suche dafür sorgen, dass Apple Intelligence mehr und mehr vom Zeitbudget von Google wegnimmt. Das Gleiche gilt für Perplexity, das ebenfalls ein Kandidat für eine Partnerschaft ist.

Mehr zu Apple Intelligence in dieser Ausgabe.

Wer sich mit Tech-Strategie beschäftigt und das nicht spannend findet, ist innerlich tot.
Marcel

Im Fokus dieser Ausgabe:

  • Apple Intelligence ist ein Mix aus Apple-Modellen, die auf dem Gerät arbeiten, Apple-Modellen in einer Apple-Cloud und externen Modellen, das erste wird GPT-4o sein. Apple Intelligence wird Apple maximale Kontrolle über KI auf ihren Systemen geben und ihnen einen signifikanten Machthebel verschaffen.
  • Sam Altman durfte nicht ins WWDC-Video.
  • Betriebssysteme sind die wichtigsten Plattformen.
  • und mehr

Zitat des Tages

My favorite feature of inviting OpenAI researchers to hang out with startups is that they can be 100% consistently relied upon to ask every founder "what makes you think the next generation of the foundation models won't do this?" build with, not against the capability tide!

Sarah Guo

Größenwahn bei OpenAI ist nicht neu. Aber ein bisschen Paranoia kann nicht schaden. Oder positiv formuliert: Baue mit, nicht gegen die Zunahme der Fähigkeiten!


Themen der vorherigen Mitglieder-Ausgabe

Nexus 211: Creance AI -- Was uns das Joint Venture zwischen PwC und Aleph Alpha wirklich sagt, und mehr:


neunetzcast 104: Rezension von Ethan Mollicks „Co-Intelligence", mit Roman Zenner

Erste Crossover-Ausgabe des neunetzcasts.

neunetzcast 104: Rezension von Ethan Mollicks „Co-Intelligence", mit Roman Zenner:

Marcel Weiß wurde von Roman Zenner in den Hirnbrise-Podcast eingeladen, um über Ethan Mollicks Buch Co-Intelligence zu sprechen. Es ist eine gute informative wie unterhaltsame Buchrezension geworden.

Grund genug für die erste Crossover-Episode in der Geschichte des neunetzcasts.


Thema der Woche: WWDC + Apple Intelligence

Was Apple Intelligence bedeutet

Ein vielversprechender Modellansatz bei LLMs ist Mixture of Experts (MoE). Statt ein großes monolithisches Modell zu bauen, werden mehrere kleine spezialisierte Modelle (Experts) miteinander verbunden (Mixture). Mistral aus Paris verfolgen diesen MoE-Ansatz erfolgreich mit ihren Mixtral-Modellen. Diese Modelle sind dadurch vergleichsweise klein und kosteneffektiv, bekommen aber trotzdem gute Ergebnisse hin.

Apple Intelligence ist MoE auf Betriebssystemebene.

Apples neues KI-Layer besteht aus:

  • Apple-Modelle on-device (Image Playground, Index für Personalisierung & Kontext)
  • Apple-Modelle in der neuen Apple-Cloud
  • GPT-4o-Anbindung (Anbindung an weitere externe Modelle wurde angekündigt)

Je nach Anwendungsfall werden die Modelle dann angewählt, von einem orchestrierenden On-Device-Modell, nehme ich an.

Der Ansatz ist sehr smart und pragmatisch:

  • Apple baut eine eigene Cloud, die eine Erweiterung der Geräte darstellt (aus Apples M-Chips bestehend), und ebenso sicher sein wird.
  • Was sie mit eigenen Modellen abdecken können, decken sie selbst ab, möglichst viel lokal, alles andere in der eigenen Cloud.
  • Was sie nicht können, landet beim externen Partner. (Endnutzer:innen müssen das jedes Mal bestätigen, datensicher, wird aber nervig sein.)
  • Der externe Partner wird Konkurrenz bekommen. Es wird keine Wiederholung der exklusiven Google-Partnerschaft geben.

In der FAZ ordne ich Apple Intelligence ein in die klassische Apple-Strategie, die "Cook-Doktrin": Apple Intelligence: Die neue KI-Ebene für Apple-Betriebssysteme

Auch eine Hypothese im Text: Apple macht GPT-4o kostenfrei in Apple Intelligence verfügbar. Damit OpenAI den Deal bekam, vermute ich, mussten sie das Top-Modell effizienter und damit kostensparender hinbekommen, da die Integration für Apple ein Costcenter wird. (und/oder für OpenAI ein teurer Leadgen) GPT-4o sieht in meinen Augen wie eine direkte Folge der Apple-Anforderungen aus.

Ein kostengünstigeres, effizienteres Modell ist natürlich aus vielen Gründen sinnvoll, siehe auch Nexus TK.

Offene Fragen & ein Apple Intelligence Store

Unter anderem noch unklar ist für mich, wie stark Apple Intelligence ein Distributionskanal für LLM-Anbieter werden wird. ChatGPT-Abonnenten werden Bezahlfeatures reinholen können, hieß es. Was genau das bedeutet, blieb aber unklar. Und vor allem: Wird man ChatGPT direkt über Apple Intelligence abonnieren können?

Ich sehe perspektivisch für Apple durchaus eine Art Apple Intelligence Store kommen, bei dem sich weitere KI-Services hinzubuchen oder verbinden lassen, die dann über die APIs in Apps verfügbar sein werden.

KI-Dienste haben im Gegensatz zu "klassischen" Konsumentenangeboten relevante variable Kosten, was ein Mitdenken von etwa extern abgeschlossenen Abos notwendig macht.

Wo die Reise hingehen wird

Wo die Reise für iOS und co. hingeht, konnte man vor ein paar Monaten bereits mit dem Forschungspaper zu "Ferret UI" sehen, an dem Apple beteiligt war. Ich hatte hier darüber geschrieben: TK
Der Text in der FAZ: * KI-gesteuerte Smartphones: Apples und Googles Pläne für die Zukunft

Das wurde bereits mit On-Screen-Awareness angedeutet. Ist aber wie so vieles Zukunftsmusik Apple Intelligence wird selbst als Beta erst im Herbst starten (als im September zum Start der neuen iPhones). In erster Linie haben wir einen ersten Blick auf die gewählte Architektur von Apple bezüglich KI bekommen.

OpenAI ↗️ Sam Altman ↘️

Es fiel mir erst auf, als ich Holger Schmidts heutiges Editorial des FAZ-D:Economy-Briefings las (LinkedIn). Darin schreibt er:

Nachdem Altmans Reputation mit den Turbulenzen um seine Entlassung zuletzt gelitten hatte, ist der Deal mit Apple nun wie ein Ritterschlag.

Das Gegenteil ist der Fall. Immer wenn Apple eine signifikante Partnerschaft bekannt gibt, laden sie ein:e Vertreter:in auf die Bühne ein.
Das war direkt in der Keynote beobachtbar. Jemand von Ubisoft sprach über neue Gaming-Features und kommende Games.

Sam Altman, CEO von OpenAI, war nicht auf der Bühne.

KI ist das Tech-Thema seit Ende 2022. OpenAI ist der Marktführer, der es ins Rollen brachte. Apple Intelligence ist die große, wichtige Neuerung für Apples Betriebssysteme für mindestens dieses Jahr. In jeder anderen Konstellation wäre ein Partner auf die Bühne eingeladen worden.

Das ist nach dem Board-Chaos das zweite Mal, dass Altmans öffentlich angekratztes Bild deutliche Folgen hat. Das erste Mal war, als Microsoft Ex-Deepmind-Gründer Mustafa Suleyman und Team von Inflection AI gepseudoacquihired hat, um intern ein Gegengewicht zu OpenAI aufzubauen (und mit Suleyman ein zumindest in der Branche bekanntes Gesicht als potenzielles Gegengewicht zu Altman).

Sam "her" Altman bleibt die große Wildcard bei OpenAI.

OpenAI ist der Gewinner, Altman der persönliche Verlierer. Auch wenn er im Hintergrund den Deal eingefädelt hat.


🤖 KI

Nutzung von KI bei Lehrenden, Studierenden und Schüler:innen in USA sehr hoch

Sehr überraschend hohe Zahlen in den USA, via Ethan Mollick:


🎛 Plattformen

Betriebssysteme sind die wichtigsten Plattformen

Es wird (zu Recht) viel Augenmerk auf Plattformen wie Google, TikTok, YouTube, Instagram oder Amazon gelegt.

Betriebssysteme sind in meinen Augen die wichtigsten Plattformen, die gleichzeitig unter dem Radar der Öffentlichkeit fliegen.

Die marktgestalterische Macht zeigt sich diese Woche wieder bei Apple Intelligence. Apple sitzt da, wo die Nutzer:innen sind mit seinen Betriebssystemen. Apple Intelligence ist so smart und pragmatisch, weil es bereits andeutet, wie stark Apples Macht gegenüber KI-Diensten sein wird.

Ich hatte unter anderem in Nexus 183 über Betriebssysteme geschrieben:

Eine meiner Arbeitshypothesen ist, dass Betriebssysteme völlig anders reguliert werden müssen als jede andere Form von Plattform.

Warum kann man gut daran sehen, was Apple mit iOS gerade macht.

Beides sind Folgen der konstanten Konnektivität:

Apple, Microsoft und Google schicken Updates ihrer Betriebssysteme via Internet an die Nutzer (im Gegensatz zu Pappschachteln, die im Laden verkauft wurden, oder vorinstallierten OSs in neuer Hardware, wie früher neue Versionen den Weg zu den Usern fanden.)

Außerdem sind die heutigen Betriebssysteme die Hauptdistributionskanäle (App Stores) für die Programme (Apps), die auf ihnen laufen (im Gegensatz zu Pappschachteln früher you get my drift).


🚌 Transportsektor

Jelbi wird fünf

Die Berliner ÖPNV-gestützte Mobilityplattform Jelbi wird fünf. Michael Bartnik von Jelbi auf LinkedIn:

Heute haben wir 14 Angebote mit 70.000 Fahrzeugen verfügbar. Wem das zu viel ist, kann sich Jelbi einfach „customizen“ — ob mit oder ohne Führerschein, nur E-Autos, nur Öffis usw.



🏗️ Gutscheine, Mobilitätsbudget, Rückgabefoto, bessere Stationsdarstellung, besserer Bezahlprozess, besserer Support, bald unser Weiterempfehlungsprogramm: Nicht nur die Mobilitätsangebote, auch die Features wurden immer mehr.



🏆 Laut civity Management Consultants die beste MaaS-App in 🇩🇪🇦🇹🇨🇭 Vielleicht aus deshalb wurde die Jelbi-App bereits 885.000x heruntergeladen.



🌍 Zürich, Brüssel, Vilnius, München, Southampton: Die gelb gebrandete Trafi-App hinter Jelbi ist Exportschlager!

Trafi ist eine White-Label-Lösung aus Litauen.

Der Plattformansatz von Jelbi kann Vorbild für andere staatliche Ansätze sein, Plattformumgebungen gestalterisch (statt verbotsgetrieben) zu formen.

Mehr zum Thema:


✴️ Mehr Wissenswertes

Mistral sammelt 640 Millionen $ ein. Venturebeat:

A year after entering the generative AI race with Europe’s largest-ever seed round of $113 million, Mistral AI is raising more cash — lots more, like, almost 6X that amount.
The Paris-based startup today announced it has secured $640 million series B funding in a combination of debt and equity, taking its valuation to nearly $6 billion.

Unmöglich zu quantifizieren, aber der Microsoft-Deal hat ganz offensichtlich Türen geöffnet für Mistral. Das sieht man bereits an der vergleichsweise hohen Runde.


Aufstieg und Fall des indischen Twitter-Klons Koo. Rest of World:

Koo was being downloaded by millions of users, and by July 2022, the app had reached a peak of more than 9 million monthly active users, according to news reports. And the company was spending to bring in the users: Koo spent almost $16.5 million on advertising and promotions during the 2022 financial year, when its revenue was over $650,000, according to an analysis by local tech media platform Entrackr.
The first signs of trouble at Koo began to show at the end of 2022: The global startup funding environment had slowed down, leading several Indian startups to either shut down or downsize their workforce. In September that year, Koo had let go of 5% of its workers.
Today, Koo faces several challenges, starting with engagement. The company’s active user base dropped from 7.2 million to 2.7 million between June 2023 to February 2024, according to Inc42.

Insgesamt selbst beim Peak sehr kleine Zahlen.


Stratechery über die Hardware, die KI braucht. Stratechery:

That, by extension, is why the Ray-Ban glasses come with an app, and thus have a chance of succeeding; one of Humane’s fatal flaws was their insistence that they could stand alone. Moreover, the longer that the smartphone is a prerequisite for new experiences, the more likely it is to endure; [...]
First, to the extent that AI can be done locally, it will depend on the performance and battery life of something that is smartphone-sized at a minimum. Second, to the extent that AI is done in the cloud, it will depend on the connectivity and again battery life of something that is smartphone-sized as well. The latter, meanwhile, will come with usage costs, which is a potential tailwind for Apple (and Google’s) App Stores: those usage costs will be paid via credits or subscriptions which both platforms will mandate go through their in-app purchase systems, of which they will take a cut.

Marcel Weiß
Unabhängiger Analyst, Publizist & Speaker ~ freier Autor bei FAZ, Podcaster auf neunetz.fm, Co-Host des Onlinehandels-Podcasts Exchanges
Großartig! Du hast Dich erfolgreich angemeldet.
Willkommen zurück! Du hast Dich erfolgreich eingeloggt.
Du hast neunetz.com erfolgreich abonniert.
Dein Link ist abgelaufen.
Erfolg! Suche Dein in Deiner E-Mail nach einem magischen Link zur Anmeldung.
Erfolg! Deine Zahlungsinformationen wurden aktualisiert.
Deine Abrechnung wurde nicht aktualisiert.