Apple fm: Kann die Gratis-KI auf dem Mac Anfragen sortieren?

Mit macOS 27 kam ein kostenloses KI-Modell auf den Mac, das ohne Internetverbindung läuft; im Terminal ruft man es mit dem Befehl fm auf. Schnell machten Beiträge die Runde, nach denen „jetzt jeder Mac kostenlose KI hat“.

Wir bereiteten uns damals darauf vor, eingehende Kundennachrichten mit Jev zu sortieren. Jev ist ein kostenpflichtiges Entscheidungsmodell, das neben jede Antwort einen Wahrscheinlichkeitswert setzt; im Live-Betrieb nutzen wir es noch nicht. Zuerst haben wir das kostenlose Modell getestet und das Ergebnis auf LinkedIn geteilt (auf Türkisch). Als ein Leser einen echten Vergleich wollte, haben wir dieselben Nachrichten auch Jev gegeben. Diese Notiz fasst beide Tests, die Einrichtung und unser Fazit zusammen.

Was ist Apple fm, und ist es auf jedem Mac?

fm ist ein Befehl, mit dem Sie das Sprachmodell von Apple, das direkt auf dem Gerät läuft, aus dem Terminal erreichen. Hinter dem Befehl steht das On-Device-Modell, das Apple Entwicklern als Foundation Models anbietet und das den Kern von Apple Intelligence bildet. Es läuft ohne Internetverbindung, kostet keine Nutzungsgebühr, und Ihre Nachricht verlässt den Computer nicht.

Der Satz „auf jedem Mac“ stimmt allerdings nicht ganz. Laut Apples Seite zu Apple Intelligence braucht man einen Mac mit M1 oder neuer, und Gerätesprache und Siri-Sprache müssen auf dieselbe unterstützte Sprache eingestellt sein; Türkisch gehört dazu. Auf unserem Mac musste außerdem das Modell einmal heruntergeladen und bei der ersten Nutzung eine Lizenz akzeptiert werden.

Was haben wir zu 18 türkischen Nachrichten gefragt?

Wir haben die Nachrichten so geschrieben, wie sie im Posteingang eines Softwareunternehmens, einer Webagentur und eines Restaurants landen könnten: ein Team, das beim Anmelden einen Fehler bekommt, ein Abonnent, der eine Erstattung will, ein Laden, der Kaffeebohnen online verkaufen möchte, eine Spam-Nachricht mit einem Backlink-Paket, ein Bewerber, der seinen Lebenslauf schickt, ein Gast, der schreibt, er habe sich nach dem Essen vergiftet.

Die Antwort auf Ja/Nein- und Auswahlfragen steht meist ausdrücklich in der Nachricht. Abstufungsfragen sind schwieriger: Die Grenze zwischen „mittlerer“ und „hoher“ Dringlichkeit haben wir gezogen, jemand anderes hätte sie anders ziehen können. Die Fehler in dieser Spalte sollte man mit diesem Blick lesen.

Das Ergebnis von fm: 37 von 48 Fragen

fm beantwortete 16 der 18 Nachrichten. Von den 48 Fragen zu diesen 16 Nachrichten beantwortete es 37 richtig, also 77 Prozent. Bei Ja/Nein-Fragen waren 13 von 16 richtig, bei Auswahlfragen 14 von 16, bei Abstufungen 10 von 16.

Zwei der Fehler fallen auf. fm stufte jede Erstattungsnachricht als „hohe Dringlichkeit“ ein; wir hatten bei beiden Erstattungsnachrichten „mittel“ erwartet. Einen Softwareentwickler, der seinen Lebenslauf schickte und nach offenen Stellen fragte, hielt es für einen echten Kunden, der eine Unternehmenswebsite will, und bewertete seine Wärme als „lauwarm“. Alle drei Fragen zu dieser Nachricht beantwortete es in allen 5 Durchläufen gleich falsch.

Die beiden unbeantworteten Nachrichten waren harmlose technische Supportnachrichten. Die eine kam von einem Team, das beim Anmelden einen Fehler bekam, in zwei Stunden eine Kundenpräsentation hatte und dringend Hilfe brauchte; die andere meldete, dass Diagramme auf der Berichtsseite manchmal leer erscheinen. Als wir die Antwort in einer Vorlage mit festgelegten Optionen (einem JSON-Schema) anforderten, blockierte fm beide in allen 5 Durchläufen mit seinem Sicherheitsfilter und ließ sie unbeantwortet. Als Klartext gefragt, beantwortete es dieselben Nachrichten richtig. Die Option --guardrails permissive-content-transformations, die den Filter lockern soll, half nicht.

Dieselben Nachrichten bei einem kostenpflichtigen Modell: der Vergleich mit Jev

Jev bekam dieselben 18 Nachrichten mit denselben Fragen. Bei den 16 Nachrichten, die fm beantwortet hatte, beantwortete Jev 42 der 48 Fragen richtig, also 88 Prozent. Über alle 18 Nachrichten waren es 47 von 54.

Bei Ja/Nein- und Auswahlfragen lag Jev nie falsch. Alle 7 Fehler über die 18 Nachrichten betrafen Abstufungsfragen: Bei vier Supportnachrichten setzte es die Dringlichkeit eine Stufe zu hoch, die Wärme der Spam-Nachricht und der Bewerbung bewertete es als „lauwarm“ statt „kalt“, und das Risiko einer gemischten Restaurantbewertung als „mittel“ statt „niedrig“. Nicht nur fm überschätzte die Dringlichkeit von Erstattungsnachrichten; auch Jev stufte beide Erstattungsnachrichten als „hoch“ ein.

Die vier Nachrichten unten zeigen den Unterschied am deutlichsten. Die Spalte fm zeigt, in wie vielen der 5 Durchläufe dieselbe Antwort kam; die Spalte Jev zeigt den Wert der Antwort. Bei Ja/Nein-Fragen ist dieser Wert die Wahrscheinlichkeit für „ja“. Die Nachrichten sind aus dem Türkischen übersetzt.

Der eigentliche Unterschied: Wie weit können Sie einer Antwort vertrauen?

Wenn Sie ein Modell in einen Arbeitsablauf einbinden, ist die eigentliche Frage, welche Antworten automatisch angewendet werden und welche ein Mensch prüft. Dafür muss das Modell sagen können: „Da bin ich mir nicht sicher.“

Bei fm hatten wir nur ein Signal: wie oft es dieselbe Antwort gab, wenn wir dieselbe Frage 5 Mal stellten. Dieses Signal hat nicht funktioniert: Fast alle falschen Antworten von fm kamen in allen 5 Durchläufen gleich. Dass ein Modell eine Antwort wiederholt, zeigt nicht, dass sie richtig ist.

Jevs Wert dagegen hat die falschen Antworten tatsächlich getrennt:

Die Regel, die wir für Jev geplant hatten, lautete: Antworten mit einem Wert über 0,8 werden automatisch angewendet, die darunter sieht sich ein Mensch an. 0,8 ist kein gemessener Wert, sondern eine Schwelle, die wir gewählt haben. Die Tabelle zeigt trotzdem, warum es funktioniert, niedrig bewertete Antworten an einen Menschen zu geben. Mit fm konnten wir diese Regel nicht aufbauen.

Probieren Sie es auf Ihrem Mac: Einrichtung und erste Befehle

Die Befehle unten haben wir am 2. November 2026 auf einem Mac mit macOS 27 ausprobiert. Sie können das Terminal öffnen und sie der Reihe nach eingeben.

1. 01

   Prüfen, ob das Modell bereit ist

   Geben Sie fm available ein. Ist das Modell bereit, kommt die Antwort „System model available“; wenn nicht, lesen Sie die angezeigte Meldung.

2. 02

   Lizenz akzeptieren

   Öffnen Sie bei der ersten Nutzung mit fm chat einen Chat, akzeptieren Sie die Lizenz mit yes und beenden Sie ihn. Den Lizenztext können Sie mit fm license lesen.

3. 03

   Eine einzelne Frage stellen

   fm respond 'Ihre Frage' beantwortet eine Frage; echo 'Ihre Frage' | fm respond funktioniert auch. Mit -i 'Anweisung' geben Sie dem Modell eine Anweisung.

4. 04

   Die Antwort in ein festes Format bringen

   Mit --schema Datei erhalten Sie die Antwort als JSON mit festen Feldern. In unserem Test liefen zwei harmlose Nachrichten nur in diesem Modus in den Sicherheitsfilter; bleibt etwas unbeantwortet, stellen Sie dieselbe Frage als Klartext.

5. 05

   Die Länge eines Textes messen

   fm count-tokens 'Text' zeigt, wie viele Token ein Text belegt, -q gibt nur die Zahl aus. Der türkische Satz „Merhaba, bugün hava nasıl?“ („Hallo, wie ist das Wetter heute?“) hat 7 Token.

6. 06

   Bei Bedarf einen lokalen Server starten

   fm serve --host 127.0.0.1 --port PORT startet das Modell als lokalen Server auf diesem Computer (ersetzen Sie PORT durch eine freie Portnummer). Anfragen von einer Seite unter einer anderen Adresse lehnt er ab (403); um ihn aus dem Browser zu nutzen, braucht es einen kleinen Zwischenserver unter derselben Adresse. Unserer hat etwa 90 Zeilen Python. fm --help listet alle Befehle auf.

Für welche Aufgaben würden wir es nutzen, für welche nicht?

Liest man beide Tests zusammen, hängt die Entscheidung davon ab, was eine falsche Antwort kostet.

Wenn Sie auf Ihren eigenen Posteingang schauen, lautet die Frage: Was verlieren Sie, wenn eine Nachricht an der falschen Stelle landet? Wenn Sie nur ein Etikett verlieren, reicht das kostenlose Modell. Wenn Sie einen Interessenten verlieren oder am Ende eine falsche Erstattung steht, verlangen Sie neben der Antwort einen verlässlichen Wert und geben Sie niedrig bewertete Antworten an einen Menschen.

Die Grenzen dieses Tests

Der Test ist klein: 18 Nachrichten, 54 Antworten. Die Nachrichten und die erwarteten Antworten haben wir selbst geschrieben; bei Abstufungsfragen ist die erwartete Antwort diskutierbar. fm haben wir auf einer einzigen macOS-Version getestet, und jedes Modell lief an einem Tag. Das Ergebnis zeigt eine Richtung, es ist kein statistischer Beweis. Ein allgemeines Urteil wie „fm ist schlecht in Türkisch“ oder „gut in Türkisch“ ziehen wir auch nicht; wir beschreiben nur, was bei diesen 18 Nachrichten passiert ist.