Warum hat mein Wort einen schlechten Rang?

Du suchst ein Wort aus dem Bereich Küche, tippst Astgabel nicht, sondern Gabel, und bekommst Rang 3.900. Das Wort passt doch. Oder du tippst bei einem Zielwort aus der Natur Bank und bekommst überraschend Rang 180, obwohl du an Sitzmöbel gedacht hast und es um einen Fluss geht.

Beides sind keine Fehler. Es sind vorhersagbare Konsequenzen daraus, was ein Rang tatsächlich misst, und wenn man diese fünf Ursachen kennt, wird aus einem ärgerlichen Rang ein verwertbarer Messwert.

Was ein Rang eigentlich ist

Zuerst die Mechanik, weil sie oft anders vermutet wird.

Jedes der 80.000 Wörter im Vokabular hat einen Vektor. Beim Aufbau der Spieldaten wird einmal für jedes Rätsel die Kosinus-Ähnlichkeit zwischen dem Zielwortvektor und allen Vokabelvektoren berechnet, absteigend sortiert und die Position gespeichert.

Dein Rang ist genau diese Position. Rang 1 ist das Zielwort, Rang 2 sein nächster Nachbar, Rang 80.000 das entfernteste Wort im gesamten Vokabular.

Daraus folgt sofort etwas, das viele unterschätzen: Ein Rang ist eine relative Aussage. Rang 340 heißt nicht „ziemlich nah“, sondern „von 80.000 Wörtern sind 339 näher dran“. Das ist das obere halbe Prozent, und in dieses halbe Prozent passen mehrere komplette Themenfelder nebeneinander.

Ursache 1: Kontextnähe ist nicht begriffliche Verwandtschaft

Das Modell hat nie gelernt, was Dinge sind. Es hat gelernt, welche Wörter in denselben Sätzen stehen.

Gabel und Löffel liegen sehr nah beieinander, weil sie in echten Texten ständig gemeinsam auftreten. Gabel und Astgabel beschreiben beide eine Verzweigung, erscheinen aber in völlig getrennten Textsorten, also liegen sie weit auseinander.

Der Rang beantwortet nie die Frage „sind diese beiden Dinge verwandt“, sondern immer die Frage „stehen diese beiden Wörter in denselben Sätzen“. Wer das einmal verinnerlicht hat, sagt bei einem überraschenden Rang nicht mehr „das kann nicht sein“, sondern fragt sich, in welchen Texten sein Wort eigentlich vorkommt.

Ursache 2: Mehrdeutigkeit verwässert

Bank, Schloss, Strom, Ball, Kiefer: Jedes dieser Wörter hat zwei oder mehr Bedeutungen und bekommt trotzdem genau einen Vektor.

Das Ergebnis ist ein Kompromiss. Der Vektor von Bank liegt irgendwo zwischen Möbelstück und Geldinstitut und gehört zu keinem der beiden Felder richtig. Bei einem Zielwort aus dem Finanzbereich bekommt Bank deshalb einen schlechteren Rang, als du erwarten würdest, weil die Möbelbedeutung den Vektor wegzieht.

Umgekehrt kann derselbe Effekt ein überraschend gutes Ergebnis erzeugen. Wenn ein Wort unerwartet weit vorne liegt, lohnt die Frage: Welche zweite Bedeutung könnte gemeint sein? Das ist eine der zuverlässigsten Methoden, um in ein Feld zu kommen, an das man nicht gedacht hat.

Ursache 3: Gegenteile liegen nah beieinander

heiß und kalt erscheinen in fast identischen Satzmustern. Ihre Kontexte sind deckungsgleich, also sind ihre Vektoren ähnlich, also ist der Rang gut.

Für dich heißt das: Ein sehr guter Rang bedeutet „im richtigen Bedeutungsfeld“, nicht „inhaltlich zutreffend“. Wenn heiß auf Rang 6 liegt, ist die Lösung möglicherweise kalt. Das ist keine Schwäche, sondern nutzbar: Wer ein Wort ganz vorn hat und nicht weiterkommt, sollte als Nächstes sein Gegenteil probieren.

Ursache 4: seltene Wörter sind ungenau eingebettet

Die Vektorqualität hängt daran, wie oft ein Wort im Trainingstext vorkam. Ein Wort mit ein paar hundert Vorkommen hat einen Vektor, der eher Schätzung als Messung ist.

Das trifft im Deutschen besonders lange Komposita und Fachbegriffe. Bei fastText werden solche Wörter zu einem großen Teil aus Zeichenabschnitten zusammengesetzt, und dabei geht Genauigkeit verloren. Ein schlechter Rang für Fahrradreparaturset sagt deshalb wenig darüber aus, ob das Zielwort mit Fahrrädern zu tun hat.

Konsequenz: Miss ein Themenfeld nie an einem einzigen langen Wort. Nimm kurze, häufige Vertreter des Feldes.

Ursache 5: die Buchstabenfalle

Der Vollständigkeit halber die Ursache, die in die andere Richtung wirkt. Weil fastText Zeichenabschnitte mitzählt, können Wörter mit hoher Buchstabenüberlappung einen leicht besseren Rang bekommen, als ihre Bedeutung rechtfertigt. Wachstum und Wachs, Ausland und Auslauf, Verkehr und verkehrt.

Ein Test dafür: Wenn ein Wort auffällig gut abschneidet, probiere ein bedeutungsgleiches Wort mit völlig anderer Schreibweise. Landet das auch vorn, ist das Feld echt getroffen. Bleibt es hinten, war es Buchstabenähnlichkeit. Mehr dazu in Komposita und Teilwörter.

Ursache 6: Wortart und Beugung

Eine Ursache, die im Deutschen besonders oft zuschlägt und die man leicht übersieht: Das Modell kennt Wortformen, nicht Wörter. laufen, läuft, lief und Lauf sind für den Vektorraum vier verschiedene Einträge mit vier verschiedenen Nachbarschaften.

Am größten ist der Unterschied zwischen Verb und dazugehörigem Substantiv. arbeiten steht in Sätzen über Tätigkeiten, Arbeit in Sätzen über Beschäftigung, Ökonomie und Zustände. Beide gehören für uns offensichtlich zusammen, ihre Ränge können trotzdem um Tausende auseinanderliegen.

Praktisch heißt das: Wenn dir ein Wort inhaltlich richtig erscheint und trotzdem schlecht liegt, probiere die anderen Formen desselben Stamms, bevor du das Feld aufgibst. Bei Kontexto ist das Lösungswort immer eine Grundform, also der Infinitiv beim Verb und der Nominativ Singular beim Substantiv. Wer eine gebeugte Form eingibt, misst deshalb nie ganz die Stelle, die gesucht ist.

Ursache 7: Das Wort ist zu allgemein

Der letzte häufige Fall ist der unangenehmste, weil er sich nicht wie ein Fehler anfühlt. Allerweltswörter wie Ding, Sache, Art oder Teil kommen in Texten über alles vor. Ihre Vektoren liegen deshalb ungefähr in der Mitte des Raums, in etwa gleich weit von allem entfernt.

Vor der Entzerrung der Vektoren wäre das sogar noch schlimmer: Dann lägen häufige Wörter bei jedem beliebigen Zielwort weit vorn, und der Rang würde messen, wie gebräuchlich dein Wort ist statt wie passend. Genau deshalb wird der Häufigkeitsanteil vorab entfernt, siehe All-but-the-Top. Der Nebeneffekt ist, dass sehr allgemeine Wörter danach zuverlässig mittelmäßig abschneiden.

Ein Rang um 3.000 für Sache ist deshalb keine Information über das Zielwort. Es ist eine Information über Sache.

Wie man die Ursachen auseinanderhält

Sieben Ursachen sind viel, wenn man mitten in einer Partie steckt. In der Praxis reichen drei Prüffragen, um den häufigsten Fall zu erwischen:

| Beobachtung | wahrscheinliche Ursache | nächster Zug | |---|---|---| | Wort ist mehrdeutig | Vektor ist ein Kompromiss | die andere Bedeutung gezielt ansteuern | | Wort ist selten oder fachsprachlich | ungenaue Einbettung | ein gebräuchlicheres Wort desselben Felds | | Wort ist sehr allgemein | Vektor liegt in der Mitte | ein spezifischeres Wort desselben Felds | | Gutes Wort, schlechter Rang, Feld sonst gut | falsche Wortform | Grundform oder andere Wortart probieren | | Nur ein Wort passt, alle Nachbarn nicht | Buchstabenähnlichkeit | Synonym mit anderer Schreibweise testen |

Die letzte Zeile ist der Test, der am meisten Züge spart: Wenn Fischer gut liegt, Kieme, Schuppe und Teich aber nicht, kam der gute Rang von den Zeichen und nicht vom Inhalt.

Was du aus einem schlechten Rang machst

Ein hoher Rang ist kein verlorener Zug. Er ist meistens der informativere.

1. Er schließt aus. Rang 7.800 für Zeit entfernt das komplette abstrakt-zeitliche Feld aus deinem Suchraum. Das ist mehr Eingrenzung, als ein Treffer auf Rang 400 dir liefert.
2. Er kalibriert deine Intuition. Wenn dein sicherster Kandidat weit hinten landet, war deine Assoziation keine Kontextnachbarschaft. Diese Rückmeldung ist unmittelbar nutzbar.
3. Mehrere hohe Ränge im selben Feld sind ein Abbruchsignal. Fünf gezielte Züge ohne Verbesserung heißen: Feld wechseln, und zwar weit.

Die Zusammenfassung in einem Satz

Der Rang misst nicht, wie verwandt zwei Wörter für dich sind, sondern wie oft sie in echten deutschen Texten in derselben Umgebung stehen. Wer diesen Satz verinnerlicht, ärgert sich seltener und liest mehr aus seinen Zügen heraus.

Wie das Verfahren im Zusammenhang aussieht, zeigt Wenn du feststeckst; die technische Grundlage steht in Worteinbettungen und Kosinus-Ähnlichkeit.