Briefing 251: Was bauen Telekom und Perplexity zusammen; KI vs. B2B-SaaS

Hi,

dieses Podcastinterview von Ezra Klein mit dem ehemaligen KI-Advisor der Biden-Administration ist ausgesprochen hörenswert. Klein ist einer der seltenen echten Intellektuellen. Auch: Die US-Regierung nimmt KI und die Wahrscheinlichkeit von „AGI“ sehr ernst, egal ob Demokrat oder Republikaner. Ich sehe das nicht hierzulande, was vielleicht auch daran liegt, dass es hierzulande keine KI-Labs gibt, die Frontier-Modelle bauen.

Was „AGI“ angeht, war ich bis Ende 2024 skeptisch. Selbst ohne „AGI“ stellen die heutigen KI-Systeme einen massiven technologischen Sprung dar, der uns ohne Weiteres 10 bis 20 Jahre beschäftigen würde, selbst wenn die Technologie auf magische Weise aufhören würde, weiterentwickelt zu werden.

Seit den ersten Reasoning-Modellen und den zunehmend einhelligen Äußerungen aus der Branche, dass AGI innerhalb der nächsten Jahre erreicht wird, ist meine Skepsis weiter und weiter gesunken. Hinzu kommt, was ich oberflächlich in der KI-Forschung sehe, wenn ich meine Übersichten für die FAZ erstelle. Die Weiterentwicklungen finden an jeder Stellschraube statt. Am greifbarsten hat sich das bei den Reasoning-Modellen manifestiert, die für alle deutlich gezeigt haben, dass die Trainingsphase nicht die einzige Dimension ist, die zu besserer Qualität skaliert.

Was neben Reasoning noch in der Inferenz stattfinden kann, habe ich unten mit Bezug auf einen FAZ-Text von mir ebenfalls geschrieben: Mit Titans kommt ein vielversprechender Anlauf, den KI-Modellen Erinnerungsvermögen, und damit Lernfähigkeit, zu geben.

Stück für Stück, Baustein für Baustein, bauen wir etwas vollkommen Neues.

Und Klein hat recht: Selbst diejenigen von uns, die einen massiven Umbruch kommen sehen, können sich nicht so richtig angemessen darauf einstellen. Denn wenn wir das könnten, würden wir ganz andere Debatten führen und Vorkehrungen treffen.

Marcel

Im Fokus dieser Ausgabe:

Telekom & Perplexity: Gemeinsames "KI-Smartphone"-Projekt zeigt aktuell eher noch begrenzte Ambitionen in KI
KI vs. B2B-SaaS: Wie KI traditionelle Enterprise-Software herausfordert und warum Klarna Salesforce den Rücken kehrte
Titans: Googles neue KI-Architektur mit Gedächtnis und Lernfähigkeit könnte der nächste große Durchbruch nach Transformers sein
und mehr

Zitat des Tages

It lies between people who implicitly assume that it's even possible to arrive at abstract positions that are sturdy enough to act upon, vs. those who are at peace with the fact that the universe is very complicated; that we don't have all of the information we need to make sense of it; that a lot of the information we do have is questionable; and that our intellectual powers are limited. That we are, in short, wrong a lot. A word for this is Fallibilism.

Neil Stephenson in Wrong 1

🇪🇺 Europa

Im Rahmen der jüngsten Entwicklungen möchte ich diese Aussage aus Briefing 249 noch einmal zitieren:

Helsing + Mistral ist auch ein hervorragendes geopolitisches Zeichen: Ein deutsches Unternehmen und ein französisches Unternehmen arbeiten gemeinsam daran, das europäische Militär für moderne Einsätze zu rüsten.

Bitte mehr davon.

🤖 KI

GPT-4.5 & Amazon Nova: Ich habe mich geirrt

First things first. Wer sich mit KI intensiv beschäftigt, lernt, dass es trotzder vielen Benchmarks schwer ist, neue Modelle einzuordnen. Expert:innen wie Ethan Mollick bezeichnen die Fähigkeiten und Grenzen der KI als "Jagged Frontier"(zerklüftete Grenze). Diese Metapher beschreibt, dass die Leistungsfähigkeit von KI-Systemen ungleichmäßig und schwer vorhersehbar ist.

Das wirkt sich auf die Einordnung neuer Modelle aus. Zwei Mal habe ich zu früh ein Urteil getroffen und mich geirrt.

Ich habe im Dezember in der FAZ über Amazons neue LLM-Familie Nova geschrieben und deren Qualität überschätzt. Nova-Modelle haben dank der Optimierung auf die Chips von AWS auch heute noch sehr kompetitive Preise. Aber sie sind nur in wenigen Fällen die qualitative erste Wahl. Der von mir gesehenen Qualitätsvorsprung hat sich nur kurz gehalten. Amazon wurde sofort von Google, Deepseek und je nach Lesart auch von OpenAI und Anthropic überholt. Die Geschwindigkeit der Entwicklung macht es schwer, handfeste Veränderungen korrekt zu identifizieren.
In der letzten Ausgabe habe ich GPT-4.5 als Modell abgeschrieben, und gemutmaßt, dass es aufgrund der hohen Kosten und geringfügig besseren Qualität nicht von Dauer sein wird. Ich habe dieses Modell kaum getestet und mich auf die ersten Aussagen aus der Branche verlassen. Ein eindeutiger Fehler. Mittlerweile mehren sich die positiven Urteile zum Modell.

In beiden Fällen habe ich die Komplexität der Situation unterschätzt, die Einordnungen, besonders frühzeitige Einordnungen, erschwert. Food for thought.

Deutsche Telekom und Perplexity bauen ein “KI-Smartphone”

Eine gemeinschaftliche Interpretation des Themas von neunetz.com und Ideogram

Der Text “KI-Browser - Warum Perplexity und Co. Browser bauen” aus dem letzten Mitgliederbriefing ist jetzt öffentlich lesbar.

Techcrunch: „Deutsche Telekom and Perplexity announce new ‘AI Phone’ priced at under $1K“

Die Deutsche Telekom entwickelt ein "KI-Telefon" in Zusammenarbeit mit Perplexity, Picsart und weiteren Partnern. Zusätzlich plant sie eine KI-Assistenz-App namens "Magenta AI". Das Smartphone soll in der zweiten Jahreshälfte 2024 vorgestellt werden und ab 2026 für unter 1.000 Dollar erhältlich sein. Laut einem Unternehmenssprecher ist zunächst nur der europäische Markt anvisiert.

Das ist zumindest mal eine Initiative. Aber:

Die Telekom entwickelt kein eigenes Gerät. Sie nehmen die Hardware eines OEMs, Android (sicherlich mit Google Play Store) und Perplexity-Software.
Die Telekom orchestriert das und vertreibt es (und packt ihr Logo darauf). Ist das ein „eigenes Produkt“?
Was kommt von der Telekom selbst und wie viele Iterationen wird es geben? Ist das eine neue Produktlinie oder doch nur Trendhopping?

Interessant die Diskrepanz zwischen den Partnern. Nach den ersten Medienberichten dämpft Perplexity etwas die Erwartungen.

Der Perplexity-CEO auf X:

Just to be clear: Perplexity is not building a “new” hardware device. The Perplexity Assistant on DT’s AI Phone will be a native Android OS AI that can answer questions and take some basic actions and personalize to the user’s preferences with specific context. I don’t think the phone is going away anytime soon.

Das klingt insgesamt, wenn man gemein sein will, lediglich danach, dass der im Januar vorgestellte AI Assistant für Android von Perplexity auf dem Telekom-AI-Phone vorinstalliert sein wird.

Demgegenüber freut man sich bei der Telekom sehr:

“We are becoming an AI company,” Claudia Nemat, a DT board member who oversees tech and innovation at the telecom, said during a press conference Monday. It’s not building foundational large language models, she was quick to add, “but we do the AI agents.”

Wie schnell oder langsam diese Partnerschaft voranschritt, zeigt sich auch daran, dass sie im April 2024 verkündet wurde und die Deutsche Telekom erstmals auf dem letztjährigen MWC von einem „AI Phone“ sprach.

Deutsche Telekom gehört zu den wenigen deutschen Konzernen, die zumindest ihre Fühler Richtung KI kontinuierlich ausstrecken. DT hat etwa einige Mitarbeitende, die auf Hugging Face aktiv sind.

Das nun angekündigte „KI-Phone“ würde ich aber nicht überbewerten. Ohne Produktroadmap, eigene Abteilung mit Ressourcen und Agency und dem Willen, eigene Modelle oder zumindest eigene Multi-Modell-Systeme zu entwickeln, bleibt so ein „KI-Phone“ nicht mehr als eine Marketinghülle.

Das wäre dann doch wieder zu wenig für das Thema.

KI vs. B2B-SaaS

Sebastian Siemiatkowski, Mitgründer und CEO von Klarna, auf LinkedIn, was wirklich passiert ist, als Klarna Salesforce für eine KI-Lösung verließ (die Älteren erinnern sich an den Aufruhr):

At Klarna, we decided early to explore the potential of AI and LLMs--mostly ChatGPT--while being open to testing all things that seemed to be trending.

Eine Entscheidung, die sie nicht öffentlich machen wollten, die aber aus einem Investorencall geleakt ist.

Klarna erlaubte Mitarbeitern, KI-Tools wie ChatGPT eigenständig zu erkunden, statt strikte Vorgaben zu machen. Frühe Ernüchterung: Einfaches Einlesen von PDFs und Unternehmensdaten in LLMs führte zu schlechten Ergebnissen. (RAG hat Grenzen, besonders wenn die Datenmengen zu groß werden.)

Zentrale Fragen, die sich heraussschälten:

Welche Daten sind wirklich wertvoll?
Wo gibt es Duplikate oder Widersprüche?
Auch: Was können wir von Wikipedia als Vorbild für Wissensorganisation lernen?

Klarna hat hier früh gelernt (und implementiert), was sich in der Zwischenzeit als allgemein anerkanntes Wissen eingebürgert hat. Die Datenpipeline und die Datensituation sind weitaus wichtiger als oft in Unternehmen angenommen.

Klarna arbeitet jetzt unter anderem mit dem Graphdatenbank-Startup Neo4j zusammen, das unter anderem die Datenseite für LLMs vorbereiten kann.

Die Grundaussage des Klarna-CEOs ist eindeutig. Er sieht einen deutlichen Bruch zwischen der alten SaaS-Welt und dem, was KI heute für Unternehmen intern ermöglichen kann.

• Seine Haupterkenntnis: Das Unternehmenswissen war stark fragmentiert über verschiedene SaaS-Tools verteilt. (Dokumentation, Projektmanagement, Analytics, CRM etc.)

Probleme dieser Fragmentierung:

Hoher Einarbeitungsaufwand / Onboardingkosten
Administrativer Overhead
Ineffiziente Parallelstrukturen bei Standardfunktionen (Versionierung, Zugriffsrechte etc.)

Lösung, die nicht zuletzt dank KI überhaupt erst möglich wurde: Konsolidierung und Vereinheitlichung der Wissensbasis.

Abbau von Silos
Standardisierung der Datenhaltung
Als Nebeneffekt: Kündigung vieler SaaS-Abonnements
Kosteneinsparungen waren nicht Hauptmotivation, sondern positive Begleiterscheinung

Betrachtet man SaaS von dieser Seite, dann dürften vor allem jüngere Unternehmen ohne administrative Altlasten zunehmend weniger auf “klassisches” SaaS setzen.

Was uns zum CEO von Rohlik (Knuspr) bringt.

Tomáš Čupr schreibt auf LinkedIn ebenfalls über SaaS und KI.

Ich fasse das mal zusammen, er sieht das in 3 recht kurzen Phasen:

Phase 1 (Gegenwart):

KI als Unterstützung durch Tools wie Copilot
KI ergänzt bestehende SaaS-Plattformen
Macht diese effizienter und attraktiver

Phase 2 (in 6-12 Monaten):

KI übernimmt aktiv Operationen
Wandel von Assistenten zu autonomen Operatoren
Statt manueller Nutzung von Tools wie Tableau werden wir KI-Agenten direkt Analysen und Optimierungen beauftragen
Expertise wird durch Agenten leicht zugänglich

Phase 3 (in 1-2 Jahren):

Software wird "unsichtbar"
KI-Agenten kommunizieren direkt über APIs
Menschliche Interfaces wie Dashboards werden überflüssig
Fundamentaler Wandel von menschen- zu agentengesteuerter Software

Die Gewinner werden nicht die sein, die KI am schnellsten integrieren, sondern Unternehmen, die offene, Agent-kompatible APIs anbieten.

Meine Position:

Ich stimme ihm größtenteils zu.
Ich halte die Timeline für überoptimistisch, typisch LinkedIn-Post. Wir werden dieses Jahr KI-Agents bekommen. Aber die Implementierung wird nicht bereits großflächig in den nächsten 2 Jahren stattfinden.
Wird Rohlik/Knuspr „Agent-kompatible APIs“ anbieten? Dieses Jahr?

Dazu passt auch, was die ehemalige Risikokapitalgeberin Cass Mao auf LinkedIn schreibt:

Sie beobachtet, dass aktuell viele VCs in den Private Equity (PE) Bereich mit Fokus auf KI wechseln. Die zentrale These dahinter:

Es gibt derzeit enorme Chancen, mit KI Mehrwert für kleine und mittlere Unternehmen (KMU) zu schaffen
ABER: Die Adoption von KI ist langsam, der Markt fragmentiert und es gibt viele konkurrierende Tools

Daher erscheint es vielen attraktiver:

Ein kleines Unternehmen zu kaufen
Dort die Technologie-Adoption voranzutreiben
Direkt vom finanziellen Erfolg zu profitieren

Dies wird als bessere Alternative gesehen als:

Kapital in einem überhitzten KI-Markt zu investieren
Mit hohen Bewertungen, hoher Fluktuation und starker Konkurrenz zu kämpfen (man denke an meine Herausforderungen, neueste Modelle einzuordnen)
Eines von vielen Tools zu sein, die um Marktanteile ringen

Besonders interessant: Günstige Tools (20$/Monat) können richtig eingesetzt heute Kosten in fünfstelliger Höhe einsparen. Daher ist es aus Sicht eines KMU besser, Zugriff auf 50 verschiedene kostensparende Tools zu haben, als eines von 50 SaaS-Unternehmen zu sein, die jeweils nur 240$ pro Jahr verlangen.

All das sind natürlich nur die ersten Vorläufer des Wandels hin zu „Outcome as a Service“ und dessen seismischen Auswirkungen, die wir letztes Jahr in Briefing 215 angeschaut haben.

Last not least, Shopify-CEO Tobi Lütke auf X:

Pretty sure I’m typing more into AI models windows than into email or company slack these days. Work has shifted dramatically already

Titans: KI mit Erinnerung (und damit Lernfähigkeit)

Titans ist das nächste Paper von Google-Forschern, das einschlagen könnte wie Transformers, schreibe ich in der FAZ: Titans als der nächste große Durchbruch nach Transformers

Das Paper: „Titans: Learning to Memorize at Test Time“

Das vorgestellte neuronale Langzeitgedächtnismodul in "Titans" ermöglicht KI-Systemen das dynamische Lernen während der Verarbeitung von Eingabedaten - eine Funktion, die bislang nur in der Trainingsphase möglich war. Das System erkennt und speichert automatisch relevante Informationen und basiert auf drei Säulen:

1. Kurzzeitgedächtnis für unmittelbare Aufmerksamkeit

2. Langzeitgedächtnis als neuronales Speichermodul

3. Persistentes Gedächtnis mit trainierbaren Grundparametern

Ähnlich wie beim Menschen stößt auch Titans bei zu großen Informationsmengen an seine Grenzen - eine Herausforderung, die auch andere Gedächtnisstützen wie RAG betrifft.

Eine der wesentlichen Innovationen im Paper ist ein Vergessensmechanismus, der die Informationen gewichtet:

Echtes Gedächtnis bei der NutzungEine „Überraschungs“-Metrik für ErinnerungenIntelligentes Vergessen

Die Titans-Architektur hat also Mechanismen, um Informationen aus der laufenden Benutzung der KI zu speichern („Gedächtnis“), diese Informationen zu gewichten („überraschende“ neue Informationen) und darauf aufbauend über einen langen Zeitraum („Langzeitgedächtnis“) die wichtigsten Informationen zu behalten und weniger wichtige Informationen wieder zu „vergessen“.

Die Implikationen einer lernenden, sich erinnernden KI sind immens: Das beginnt beim Lock-in, der aus der Nutzung entsteht bis hin zu Einsatzzwecken, die um ein Vielfaches mehr sind als das, was heute möglich ist.

KI liest Gedanken

Ein Paper aus meinem Forschungsüberblick:

Ein Team von Forschern der Meta AI, der École Normale Supérieure und weiterer Institutionen hat eine neue nichtinvasive Methode entwickelt, um Sätze direkt aus der Hirnaktivität zu dekodieren. Das System namens Brain2Qwerty erreicht bei Magnetoenzephalographie (MEG) eine Fehlerrate von nur 32 Prozent bei der Zeichenerkennung, bei den besten Probanden sogar nur 19 Prozent.

Ich formuliere das noch mal einfach verständlich: Das System kann nicht-invasiv Hirnaktivitäten lesen und interpretieren.

Dieses Forschungsergebnis erinnert mich außerdem an das Paper „Predicting Human Brain States with Transformer“ aus meinem letzten Überblick zur KI-Forschung.

Paper: Brain-to-Text Decoding: A Non-invasive Approach via Typing -- Meta, PDF, Begutachtung im Prozess

Journalist:innen und AGI

Stell dir vor, es ist die größte technologische Entwicklung mindestens seit dem Internet und von entsprechender gesellschaftlicher Relevanz und Journalist:innen sehen sich sozialem Druck ausgesetzt, es nicht ernst zu nehmen:

Themen der vorherigen Mitglieder-Ausgaben

Briefing 250: Warum KI-Browser gebaut werden, Der wichtigste Satz in der GPT-4.5-Ankündigung:

Briefing 249: Helsing+Mistral, Figure Helix, Google Co-Scientist, Neura Robotics aus Deutschland:

Briefing 248: Nach dem langen 20. Jahrhundert, Inferenz-Revolution, Javons Flatline:

📺 Medienwandel und vernetzte Öffentlichkeit

Youtube: 1 Milliarde Podcast-Zuschauer:innen jeden Monat

Das passt zur jüngsten News, dass Netflix Videopodcasts von Creators auf der eigenen Plattform haben will.

YouTube podcast views: one billion people watch on video platform • Hollywood Reporter:

YouTube is sending a message to the podcast industry: It is the biggest player in town.

The streaming video platform on Wednesday disclosed that it now has one billion monthly active users watching podcast content, an astonishing number that makes it the biggest podcast platform in the world.

Es geht immer um unsere Zeitbudgets, das ist das große Nullsummenspiel, und YouTube hat einen großen Teil des Kuchens bei sich.

Man sollte dabei nie vergessen, dass das nur funktioniert, weil das zugrundeliegende Superformat Podcast auf einem offenen Protokoll basiert, das von keiner Plattform kontrolliert wird. Deshalb können Podcasts überall andocken. Die erfolgreichsten Podcasts sind auf jeder Plattform vertreten und dank RSS in allen „echten“ Podcast-Apps abonnierbar.

Neben dem Newsletter ist der Podcast das einzige wirklich selbstbestimmte und damit freie Online-Medium.

Newsletter, you may have guessed, basieren ebenfalls auf der Distribution über ein offenes Protokoll..