Wie das Lösungswort entsteht: von 2 Millionen Wörtern auf 2.400 Rätsel

Das Wort, das du heute suchst, wurde nicht heute ausgesucht. Es stand schon fest, als wir die Spieldaten das letzte Mal neu gebaut haben, zusammen mit 2.399 anderen. Während du spielst, rechnet Kontexto nichts aus. Es schaut nur nach.

Das hat einen praktischen Grund und eine unangenehme Folge. Der Grund: Das deutsche Sprachmodell braucht mehrere Gigabyte Arbeitsspeicher. Würde es für jedes Wort alles neu berechnen, müsstest du bei jedem Versuch spürbar warten. Die Folge: Jeder Fehler bei der Auswahl steckt für Jahre in den Daten. Das haben wir zweimal auf die harte Tour gelernt. In diesem Artikel nehmen wir dich Schritt für Schritt mit, vom Rohmaterial bis zum fertigen Rätsel.

Schritt 1: das Rohmaterial

Am Anfang steht cc.de.300.bin, das deutsche fastText-Modell von Meta AI Research. Es hat aus Texten im Internet (Common Crawl) und aus der deutschen Wikipedia gelernt. Für rund zwei Millionen Zeichenfolgen kennt es je eine Liste aus 300 Zahlen.

Wir sagen bewusst „Zeichenfolgen“ und nicht „Wörter“. Texte aus dem Internet enthalten Tippfehler, Reste von Webseiten-Code, englische Brocken, Internetadressen und alles, was Menschen sonst so tippen. Das Modell kennt hallooo genauso wie Haus.

Schritt 2: die Wörter, die du eingeben darfst

Aus dieser Masse filtern wir zuerst die Wörter heraus, die du überhaupt eingeben darfst. Ein Wort kommt durch, wenn es zwischen 2 und 25 Buchstaben lang ist, nur aus deutschen Buchstaben besteht (Umlaute und ß eingeschlossen), kein kleines Füllwort ist und von einem Programm namens simplemma als deutsches Wort erkannt wird.

Nach dem Filtern bleiben etwa 116.000 deutsche Wörter übrig. Kontexto nimmt davon die 80.000 häufigsten. Diese Grenze ist kein Zufall: Ab etwa 100.000 kommen fast nur noch seltene Formen und Beugungen, die die Ranglisten verwässern und die niemand eintippt. Unter 80.000 würden dagegen zusammengesetzte Wörter und Fachbegriffe fehlen, die Leute wirklich probieren.

Wichtig fürs Spielgefühl: Diese 80.000 Wörter darfst du eingeben. Einen eigenen Rang bekommen davon rund 51.000, nämlich jede Grundform einmal. Eine gebeugte Form zählt wie ihre Grundform, „Kinder“ also wie „Kind“. Sonst stünden zwischen „Bauch“ und „Magen“ Dutzende Formen ein und desselben Worts. Abgelehnt werden nur kleine Füllwörter wie Artikel, Fürwörter und Bindewörter, nach derselben Liste wie im englischen Original. Tipps kommen nur aus den rund 15.500 Wörtern des Alltags, damit du keine seltenen Zusammensetzungen als Tipp bekommst. Die Liste der nächsten Wörter nach dem Lösen zeigt dagegen jeden Rang von 1 bis 500, auch seltene Wörter. Welche Wörter die Lösung sein dürfen, entscheidet noch einmal ein eigener, strengerer Filter.

Schritt 3: die Bedeutungskarte wird aufgeräumt

Bevor wir irgendetwas sortieren, räumen wir die Zahlen aller 80.000 Wörter auf. Fachleute nennen das „All-but-the-Top“: Wir ziehen den Durchschnitt ab und entfernen danach die drei Richtungen, in denen sich die Wörter am stärksten unterscheiden. Diese Werte berechnen wir nur aus den rund 15.500 Alltagswörtern und wenden sie dann auf alle Wörter an. So verschwinden die Richtungen, die den Alltagswortschatz prägen, und nicht die von seltenen Zusammensetzungen.

Warum das nötig ist: Die rohen Zahlen haben eine gemeinsame Schieflage. Alle Wörter zeigen ein Stück in dieselbe Richtung, und diese Richtung sagt vor allem, wie häufig ein Wort ist. Ohne diesen Schritt lägen häufige Alltagswörter bei jedem geheimen Wort weit vorne, nur weil sie häufig sind. Was dabei genau passiert, erklären wir in All-but-the-Top: warum Kontexto die Wortvektoren entzerrt.

Schritt 4: Kandidaten für die Lösung

Jetzt wird es streng. Wir gehen die Wörter von den häufigsten zu den seltensten durch, und ein Wort muss jede dieser Hürden nehmen:

Zwischen 3 und 15 Buchstaben. Wörter mit zwei Buchstaben machen als Lösung keinen Spaß, sehr lange Zusammensetzungen sind kaum zu erraten.
Kein Füllwort. Rund 200 Wörter wie trotzdem oder jedenfalls sind ausgeschlossen. Du kannst sie eingeben, aber als Lösung wären sie sinnlos, weil sie kaum eigene Bedeutung haben.
Keine doppelte Schreibweise mit ß und ss. Dazu weiter unten mehr, das ist eine eigene Geschichte.
Häufig genug. Gemessen wird das mit der Zipf-Häufigkeit aus dem Programm wordfreq. Wir verlangen mindestens 4,0, das sind ungefähr zehn Vorkommen pro Million Wörter. Das ist eine technische Grenze und keine Garantie, dass jeder Erwachsene das Wort kennt.
Grundform. Das Wort muss selbst seine Grundform sein. häuser fliegt raus, haus bleibt.
Bedeutungsprüfung. Das ist der aufwendigste Schritt, mehr dazu gleich.

Übrig bleiben rund 2.500 Wörter. Daraus werden 2.400 Rätsel, bei einem Wort pro Tag also knapp sechseinhalb Jahre.

Zum Schluss mischen wir die Liste, und zwar immer auf dieselbe Weise. Ohne Mischen wäre sie nach Häufigkeit sortiert. Das Spiel würde also mit den häufigsten Wörtern anfangen und über die Jahre immer schwerer werden. Weil wir immer gleich mischen, ergibt derselbe Datenstand immer dieselbe Reihenfolge.

Schritt 5: die Bedeutungsprüfung

Diesen Schritt gab es am Anfang nicht. Die Lösungen kamen direkt von der Spitze der Häufigkeitsliste. In Texten aus dem Internet stehen dort aber viele Vornamen, Nachnamen, Städte, Marken und englische Wörter. Ein Filter, der nur auf Kleinschreibung und „ist ein bekanntes Wort“ achtet, lässt das alles durch.

So kamen Lösungen wie emma, merkel, berlin, school und music zustande. Für ein Spiel um Bedeutung ist das ein Fehler im Bauplan: Die Nachbarn eines Namens sind vor allem andere Namen. Man kann sich nicht herantasten. Die ganze Geschichte erzählen wir in Warum keine Namen mehr als Lösungswörter auftauchen.

In diesem Schritt entscheidet keine einzelne Regel. Der Filter kombiniert mehrere Prüfungen: welche Wortart ein Wort hat, ob es in Wörterbüchern steht, eine Liste mit Namen, einen Vergleich, wie häufig das Wort im Deutschen und im Englischen vorkommt, und von Hand gepflegte Sperrlisten für Marken, Abkürzungen, religiöse Begriffe und vulgäre Wörter. Die einzelnen Prüfungen und die Grenzfälle beschreiben wir im Artikel über die Namen.

Wichtig dabei: Ein Wort bekommt hier keinen schlechteren Rang. Es wird für die Lösungen entweder aussortiert oder bleibt drin. Ein normales Wort, das zufällig auch ein Name sein kann, darf also bleiben, während ein reiner Name oder ein klar fremdes Wort rausfliegt. Erst danach mischen wir die übrigen Wörter zur Tagesreihenfolge.

Die Grenze ist bewusst streng. Wir haben mehr Kandidaten, als wir Rätsel brauchen. Deshalb ist ein Name, der versehentlich durchrutscht, schlimmer als ein normales Wort, das zur Sicherheit nicht als Lösung genommen wird.

Der Fall „anlässlich“

Eine Sorte von Wörtern hat keiner dieser Filter erwischt. Texte aus dem Internet enthalten beide Schreibweisen der Wörter, die sich mit der Rechtschreibreform 1996 geändert haben. anläßlich und anlässlich stehen beide im Wortschatz, als zwei getrennte Wörter mit zwei getrennten Rängen.

Als anlässlich das Tageswort war, lag anläßlich auf Rang 2. Wer die alte Schreibweise tippte, sah einen Rang, der praktisch „richtig“ schreit, und gewann trotzdem nicht.

Man könnte einfach ß und ss beim Spielen gleich behandeln. Das wäre aber falsch, weil es echte Wortpaare zerstört: Maße und Masse sind verschiedene Wörter mit verschiedener Bedeutung. Wir gehen deshalb gezielter vor: Jedes Wort, das mit ss statt ß genauso aussieht wie ein anderes Wort im Wortschatz, darf nicht die Lösung sein. Eingeben kannst du es trotzdem.

Was am Ende gespeichert wird

Für jedes der 2.785 Rätsel rechnen wir einmal aus, wie ähnlich das geheime Wort allen 80.000 Wörtern ist, sortieren sie und speichern die Rangliste. Das ist eine kleine, gepackte Datei pro Rätsel. Angezeigt wird dir daraus der Platz unter den gewerteten Wörtern.

Dazu kommen noch drei Hilfsmittel: eine Tabelle, die jedem Wort eine Nummer gibt, eine Tabelle, die gebeugte Formen ihrer Grundform zuordnet, und ein sogenannter Bloom-Filter. Das ist eine kleine, schnelle Liste, die sofort sagt, ob das Spiel ein Wort überhaupt kennen kann, bevor eine langsamere Suche startet. Sie irrt sich nur in einem von tausend Fällen, und auch dann nur in eine Richtung.

Wenn du ein Wort eintippst, passiert auf dem Server ungefähr das: kurz prüfen, ob das Wort bekannt sein kann, falls nötig die Grundform nehmen, die Nummer des Wortes nachschauen, an dieser Stelle in der Rangliste von heute nachsehen und dir die Zahl schicken. Kein Modell, keine große Rechnung, kein Warten.

Welche Wörter dabei durchs Raster fallen und was du stattdessen eingeben kannst, steht in Wörter, die Kontexto nicht kennt.