Beim Support geht eine ganz gewöhnliche Frage ein.
„Was ist ein Kundenkonto?“
In der Wissensdatenbank liegen 4.862 Seiten. Die Antwort ist darin enthalten. Sogar mehr als einmal.
Die erste Seite erklärt, was dieser Bereich der Website ist, wie man sich anmeldet und was man dort tun kann. Die zweite ist eine alte Liste von Serviceänderungen. Die dritte ist lang; die Wortgruppe „Kundenkonto“ kommt darin siebenundzwanzig Mal vor. Die vierte erklärt die Passwortwiederherstellung und nennt es „Benutzerprofil“.
Die Suche wählt die dritte Seite.
Sie ist nicht defekt. Sie hat ehrlich mehr Übereinstimmungen gefunden.
Gerade deshalb ist sie gefährlich.
Wer die dritte Seite öffnet, liest lange und kehrt mit derselben Frage zurück. Wer beim passenden Abschnitt der ersten Seite landet, versteht sofort, wozu der Bereich dient. Für diese Anfrage müsste die erste Seite das wichtigste Ergebnis sein. Der Unterschied liegt nicht an der Qualität des Textes oder an der Fähigkeit zu suchen. Er liegt darin, wie das System ein Dokument versteht.
Für Menschen war ein Dokument nie bloß eine Menge von Wörtern. Die Überschrift „Kundenkonto: Anmeldung und Funktionen“ bedeutet etwas anderes als dieselben Wörter im Archiv der Änderungen. Eine Tabelle mit Funktionen, eine Seitenadresse und der Fließtext tragen unterschiedliche Informationen. Die Suche muss das bemerken; sonst liefert sie Anleitung und Schatten der Anleitung mit derselben Sicherheit aus.
BM25F ist eine Antwort auf dieses Problem.
Als Dokumente nicht mehr nur Fließtext waren
Klassische Suchmodelle arbeiteten lange mit einer bequemen Vereinfachung: Ein Dokument war eine Folge von Wörtern. Seltene Wörter waren meist nützlicher als häufige, mehrere Treffer besser als einer. Daraus entstanden TF-IDF zur Bewertung der Wortseltenheit und später BM25 — eine Formel, die gefundene Seiten ordnet.
BM25 setzt zwei wichtige Grenzen. Wiederholungen sollen die Sicherheit nicht endlos erhöhen: Die erste Nennung von „Kundenkonto“ ist wichtig, die zweite bestätigt das Thema, die siebenundzwanzigste macht die Seite nicht siebenundzwanzig Mal nützlicher. Auch ein langes Dokument soll nicht gewinnen, nur weil es mehr Raum für Zufallstreffer hat.
So wurde BM25 zu einer guten Grundlage der Volltextsuche. Doch mit strukturierteren Dokumenten trat eine Grenze hervor: BM25 arbeitet mit Wörtern, weiß aber nicht, wo sie im Dokument stehen.
Eine Wortgruppe — vier verschiedene Signale
„Kundenkonto“ im Seitentitel beschreibt das Thema der Seite.
„Kundenkonto“ in einer Abschnittsüberschrift beschreibt ein bestimmtes Fragment.
„Kundenkonto“ in einer Funktionstabelle kann eine verfügbare Option sein.
„Kundenkonto“ im Fließtext kann Anleitung, Kontext oder beiläufige Erwähnung sein.
Das ist kein Unterschied der Gestaltung. Für die Suche ist es ein Unterschied der Bedeutung.
Der Fehler der naheliegenden Lösung
Als Dokumente strukturierte Teile bekamen, lag eine Lösung nahe: Treffer in Seitentitel, Fließtext und Seitenadresse getrennt zählen und die Bewertungen addieren. Dem Titel den Faktor zehn geben, dem Text den Faktor eins. In einer Dokumentation kommen Abschnittsüberschrift, Position im Inhaltsverzeichnis und Namen wichtiger Objekte hinzu.
Das klingt vernünftig. Aber die Reihenfolge der Berechnung zählt.
BM25 ist so gebaut, dass jede weitere Wiederholung immer weniger Sicherheit hinzufügt. Bewertet man jede Dokumentenpartie erst einzeln und addiert danach die fertigen Werte, verändert sich diese Logik. Jeder Teil erreicht seine eigene Grenze, danach behandelt das System sie als unabhängige Belege.
Das Problem sind nicht die Gewichte. Es ist der Zeitpunkt, zu dem sie in die Suche eingehen.
2004 beschrieben Stephen Robertson, Hugo Zaragoza und Michael Taylor in Simple BM25 Extension to Multiple Weighted Fields einen sorgfältigeren Weg. Daraus entstand BM25F: eine Erweiterung von BM25 für Dokumente mit mehreren Teilen. Mehr dazu in Quelle 1.
Was BM25F verändert
BM25F sammelt zuerst Treffer aus verschiedenen Teilen eines Dokuments und berücksichtigt dabei ihr Gewicht und ihre Länge. Erst danach wendet es die nichtlineare Sättigung von BM25 auf das gemeinsame Signal an.
Für jedes Wort der Anfrage:
gemeinsames Signal =
Seitentitel × sein Gewicht
+ Abschnittsüberschrift × ihr Gewicht
+ Objektnamen × ihr Gewicht
+ Fließtext × sein Gewicht
Danach durchläuft das gemeinsame Signal die BM25-Sättigung.In der vollständigen Formel hat jeder Teil eines Dokuments eine eigene Korrektur für seine Länge. Das ist wichtig: Ein Seitentitel enthält wenige Wörter, der Fließtext kann Tausende enthalten. Für beide dieselbe Längenkorrektur zu verwenden, wäre so falsch wie einen Treffer in Überschrift und Fußzeile gleich zu bewerten.
Ein Gedankenexperiment
In Dokument A steht „Kundenkonto“ im Seitentitel und in der Überschrift „Was kann ich im Kundenkonto tun?“. In Dokument B erscheint dieselbe Wortgruppe achtmal in einem Bereich mit häufigen Fragen.
BM25F muss nicht immer A wählen. Es erlaubt aber nachvollziehbar zu entscheiden, warum zwei starke strukturelle Signale mehr zählen können als acht Wiederholungen in einem langen Text.
In diesem Beispiel sollte die erste Seite zum Hauptergebnis werden, weil sie die Frage vollständig beantwortet. Die lange Änderungsliste bleibt auffindbar, verdeckt aber nicht länger die Erklärung, die der Mensch braucht.
So lässt sich Suche für unterschiedliche Dokumenttypen einstellen. In einem Katalog sind Marke, Kategorie und Produkteigenschaften besonders wichtig. In einer wissenschaftlichen Sammlung zählen Titel, Zusammenfassung und Schlüsselwörter. In einem Hilfebereich zählen Seitentitel, Abschnittsüberschrift und Fließtext.
Wo diese Idee praktisch lebt
BM25F blieb keine Hochschulformel. Apache Lucene besitzt einen Mechanismus, der mehrere Teile eines Dokuments als Ganzes behandelt und ihre relative Bedeutung einstellbar macht. Siehe Quelle 2.
SharePoint nennt seine feldbasierte Variante von BM25 ausdrücklich BM25F und erlaubt Gewichte und Längenkorrekturen für verwaltete Eigenschaften. Siehe Quelle 3.
Manticore Search bietet BM25F als eigene Art, Ergebnisse mit den Gewichten von Dokumentteilen zu ordnen. Siehe Quelle 4.
Man sollte diese Ideen nicht gleichsetzen. Eine Suche über mehrere Teile oder ein künstlicher Vorrang für den Seitentitel ist nicht automatisch klassische BM25F. Ein System kann Teile unabhängig bewerten, bereits gefundene Treffer verstärken oder Text anders zusammenführen. Das kann nützlich sein, verhält sich aber unterschiedlich.
Die Grenze der exakten Übereinstimmung
Kehren wir zur Ausgangsfrage zurück. Solange jemand „Kundenkonto“ eingibt, arbeitet BM25F in seiner starken Zone: Es sieht die Wörter und ihren Platz in der Struktur des Dokuments.
Die Frage kann aber anders lauten: „Wo sehe ich meine Beträge und bezahle eine Rechnung?“ Sie kann zum Kundenkonto führen, enthält aber dessen Namen nicht. Dann kann sich das feldbasierte Modell nicht mehr auf exakte Übereinstimmung stützen.
Das ist kein Mangel von BM25F, sondern die Grenze seiner Aufgabe. Es beantwortet: Wo stehen die Wörter der Anfrage an der passendsten Stelle eines Dokuments? Es muss nicht selbst erkennen, dass zwei verschiedene Formulierungen dieselbe Situation beschreiben.
Suche wählt nicht nur einen Gewinner
Exakter Name, Fehlercode, Einstellungsname oder Artikelnummer — Suche nach exakter Übereinstimmung.
Umformulierte Frage — bedeutungsbasierte Suche, die ähnliche Formulierungen abgleicht.
Verwandte Dokumente — Suche über Verbindungen zwischen Seiten und Begriffen.
Mehrere starke Varianten — ein zusätzlicher Vergleich der Ergebnisse.
In einer guten Suche verdrängen sich diese Verfahren nicht. Die exakte Suche hält Fehlercodes, Tarifnamen, Einstellungsnamen, juristische Formulierungen und Artikelnummern fest. Bedeutungsbasierte Suche hilft, wenn jemand die Situation kennt, aber nicht die genaue Bezeichnung. Anschließend vergleicht das System mehrere starke Ergebnisse und wählt jene, die die ganze Frage beantworten.
Wo Dzen steht
Auch die Wortsuche in Dzen berücksichtigt die Struktur einer Quelle: Seitentitel, Seitenadresse, Überschrift eines Fragments und Fließtext werden unterschiedlich behandelt. Dadurch werden exakte Übereinstimmungen zu einem eigenen Signal statt zu einem zufälligen Nebeneffekt.
Dieses Signal hat jedoch nicht das letzte Wort. Es wird mit bedeutungsbasierter Suche und der Suche über Verbindungen zwischen Seiten zusammengeführt; danach werden mehrere Ergebnisse verglichen, bevor eine Antwort vorbereitet wird. Eine exakte Übereinstimmung in einer Überschrift geht also nicht verloren, kann aber nicht allein entscheiden, welche Quelle jemand sieht.
An BM25F ist die Idee wichtiger als die genaue Formel. Sie erinnert daran, dass Suche die Form des Wissens sehen muss: nicht nur die Wörter eines Dokuments, sondern auch die Rolle, die sie darin spielen.
Wie die Suche eine Seite zum Kundenkonto auswählt
Wechseln Sie die Suchmethode und verändern Sie die Gewichtung von Seitentitel und Abschnittsüberschrift.
