Einfachheit ist für Suchmaschinen von entscheidender Bedeutung, doch die Entwicklung einer Suchmaschine, die diese Einfachheit ermöglicht, ist komplex. In den letzten mehr als 20 Jahren haben die meisten Lösungen für die Website-Suche es ermöglicht, die Suchanfrage eines Kunden mit einem Suchindex abzugleichen. Danach beginnt die Arbeit an der Feinabstimmung der Suchmaschine. Das liegt daran, dass Suchmaschinen die Absichten der Suchenden nicht besonders gut verstehen können.
Sucht jemand, der nach „Was ist Rost?“ sucht, nach dem Korrosionsprozess, einer Programmiersprache oder etwas anderem? Seit Jahren greift jeder, der eine Suchmaschine optimieren muss, entweder auf manuelle Regeln, Synonyme, Keyword-Spamming oder eine andere einfache KI zurück, um die Trefferauswahl „auszubessern“ und so ein besseres Verständnis zu erreichen.
Die Entwicklung einer durchgängigen KI war zwar möglich, ihr Betrieb in großem Maßstab jedoch aufgrund von Kosten- und Leistungsproblemen nicht praktikabel.
Das hat sich nun mit Algolia NeuralSearch geändert, das eine native End-to-End-KI-Verarbeitung umfasst.
Warum End-to-End-KI wichtig ist
Das ist wahrscheinlich ein Thema für sich, aber lassen Sie uns zunächst Klarheit darüber schaffen, warum End-to-End-KI wirklich wichtig ist, bevor wir näher darauf eingehen, was sie eigentlich ist. Daten deuten darauf hin, dass 50–70 % des Umsatzes aufgrund eines nicht optimierten Long-Tail-Bereichs ungenutzt bleiben. Theoretisch könnte man, wenn man über unbegrenzte Zeit und Ressourcen verfügen würde, alles manuell optimieren – doch das übersteigt die menschlichen Möglichkeiten.
Betrachten wir zum Beispiel das Suchprofil zweier großer Einzelhändler in Großbritannien bzw. den USA, die die Mehrheit der Online-Unternehmen sehr gut repräsentieren. Kann jemand diese Art von Long-Tail-Suchanfragen manuell bearbeiten? Lässt sich dies optimieren, indem man die Kern-Suchmaschine oben und unten mit KI-Komponenten ergänzt? Nein, das ist einfach nicht praktikabel.
Hier entsteht der Bedarf, auf die Hilfe der Maschine zurückzugreifen. Algorithmen des maschinellen Lernens können Suchkataloge zu 100 % optimieren. Bislang war dies nicht ohne Weiteres möglich, doch dank der ausgereiften KI-Algorithmen, umfangreicherer Daten und leistungsfähigerer Cloud-Computing-Lösungen können wir KI nun auf Kataloge jeder Größe anwenden. Der durchgängige Einsatz von KI – vom Zeitpunkt der Eingabe der Suchanfrage durch den Verbraucher bis zur Bereitstellung der Ergebnisse – ist die Lösung für diese Herausforderung.
Warum ist also eine durchgängige KI erforderlich? Bislang haben sich die meisten KI-Lösungen nur auf die Bearbeitung einzelner Teile der Suchanfrage konzentriert. Dazu gehören beispielsweise die Suchanfragenverarbeitung – der erste Schritt bei der Ermittlung der Suchergebnisse – oder das Ranking, das in der Regel als letztes erfolgt.
Das fehlende Glied in der Kette war der Einsatz von KI bei der Informationsgewinnung. Unter Informationsgewinnung versteht man den Vorgang, bei dem die Suchmaschine versucht, die relevantesten Informationen zu finden. Man kann wohl sagen, dass KI den größten Einfluss auf die Qualität der Ergebnisse bei der Informationsgewinnung hat. Angesichts des heutigen Reifegrades des maschinellen Lernens im Bereich der KI ist dies nun endlich ein Thema, das angegangen werden kann. Wir werden im Folgenden näher erläutern, wie die einzelnen Phasen der KI funktionieren, um bessere Ergebnisse zu erzielen.
Verständnis der Abfrage:
- KI-gestützte Kategorisierung von Suchanfragen
- Keine Einstellungen für Regeln und Synonyme
Abruf
- Neuronale Hash-Funktionen
- Beliebte Suchbegriffe zur freien Formulierung
Rangliste
- Zusammengeführte Suchbegriff- und Vektor-Ergebnisse
- Personalisierung mithilfe von „Learning to Rank“
Echte End-to-End-KI
Algolia NeuralSearch durchläuft bei jeder Suchanfrage drei Phasen, um die besten Ergebnisse zu liefern. Wir bezeichnen dies als „End-to-End-KI-Suche“, um uns von Lösungen der Konkurrenz abzugrenzen, die KI möglicherweise nur in bestimmten Phasen der Verarbeitung einsetzen (d. h. „Hacky AI“).
Zu diesen Phasen gehören: das Verstehen der Suchanfrage, das Abrufen der Ergebnisse und die Rangfolge. Jede dieser einzelnen Funktionen trägt zur Qualität der Endergebnisse bei.
Verständnis von Abfragen
Das Verständnis von Suchanfragen umfasst die Verarbeitung natürlicher Sprache (NLP) und das Verstehen natürlicher Sprache (NLU). NLP befasst sich mit der Analyse und Verarbeitung der Sprache in einer Suchleiste, um eine Suchanfrage für die Ausführung vorzubereiten. Der Prozess kann so einfach sein wie der exakte Abgleich der Suchanfrage, wie sie eingegeben wurde, mit dem Inhalt des Indexes. Die klassische Stichwortsuche ist jedoch tatsächlich komplexer, da sie die Tokenisierung und Normalisierung der Suchanfrage in kleinere Einheiten – d. h. Wörter und Schlüsselwörter – umfasst. Dieser Prozess kann einfach sein (wenn die Wörter durch Leerzeichen getrennt sind) oder komplexer (wie bei einigen asiatischen Sprachen, die keine Leerzeichen verwenden, sodass die Maschine die Wörter erkennen muss).
Bei NLU liegt der Schwerpunkt eher auf der Ermittlung der Nutzerabsicht.
Es nutzt Intent-Klassifizierung mittels maschinellem Lernen, Semantik, Synonyme und Ontologieerweiterung, um Wörter und Ausdrücke zu verstehen. Dieser Schritt verbessert die Interpretation und das Verständnis der Suchanfrage.
Beispielsweise können zwei Suchanfragen dieselben Begriffe verwenden, die jedoch ganz unterschiedliche Bedeutungen haben:„spülmaschinenfeste Metallflasche“ und „feuersichere Metallbox“
Im ersten Fall wird der Begriff „safe“ als Adjektiv für eine Wasserflasche verwendet, während er im zweiten Fall als Substantiv auftritt – ein Metalltresor zur Aufbewahrung von Wertsachen. In diesen konkreten Beispielen wird die NLP-Tokenisierung eingesetzt, um die einzelnen Phrasen aufzuschlüsseln, und NLU hilft dabei, die Bedeutung jeder Suchanfrage zu interpretieren. Dies gilt sowohl für die Text- als auch für die Sprachsuche, wobei die Sprachsuche bei Homophonen wie beispielsweise „pear“, „pair“ und „pare“ schwieriger werden kann.
Semantische Suche
Die semantische Suche erfordert jedoch einen anderen Ansatz. Sie basiert in der Regel auf großen Sprachmodellen (LLMs), um Vektor-Einbettungen zu erstellen. Vektoren sind mathematische Darstellungen von Wörtern, Bildern, Videos oder nahezu jeder Art von Objekt, das man vergleichen möchte. Maschinelle Lernmodelle ermitteln semantische Beziehungen zwischen Objekten in einem Index. Vektoren können Hunderte oder sogar Tausende von Dimensionen haben, anhand derer Ähnlichkeiten ermittelt werden können. Da es schwierig ist, sich so viele Dimensionen vorzustellen, verwenden wir meist dreidimensionale Darstellungen wie die rechts abgebildete.
Bei der Vektorsuche lassen sich Beziehungen zwischen Wörtern herstellen, und ähnliche Vektoren werden zu Clustern zusammengefasst.
Vektoren lassen sich kombinieren (oder subtrahieren), um neue Bedeutungen zu schaffen und Zusammenhänge zu verstehen; das klassische Beispiel ist „König – Mann = Königin“.
Abruf
Eine bessere Informationsgewinnung kann sowohl die Suchpräzision (Genauigkeit der Ergebnisse) als auch den Recall (Vollständigkeit der Ergebnisse über den gesamten Index hinweg) verbessern. Es ist schwierig, ein Gleichgewicht zwischen Präzision und Recall zu finden; die Verbesserung des einen kann sich negativ auf das andere auswirken.
Suchmaschinen für Schlüsselwörter liefern in der Regel bessere Ergebnisse für Oberbegriffe,
Während die KI-Vektorsuche sich gut für weniger beliebte Long-Tail-Suchanfragen eignet, muss man beide Fälle abdecken – was manchmal als hybride Suche bezeichnet wird.
Die Stichwortsuche stützt sich in der Regel auf statistische Abgleiche unter Verwendung von BM25 oder TF-IDF und verwandten Verfahren, um die Ergebnisse auf der Grundlage der Suchbegriffe zu ordnen, die in den einzelnen Dokumenten vorkommen. TF-IDF berücksichtigt beispielsweise das Verhältnis zwischen der inversen Dokumenthäufigkeit (IDF) und der Termhäufigkeit (TF) eines Wortes, um dessen Bedeutung zu bestimmen. Stoppwörter wie „der“, „und“ oder „oder“ kommen überall häufig vor, während Wörter wie „Zahnbürste“ oder „Wasser“, die seltener vorkommen – also ungewöhnlicher sind –, wahrscheinlich aussagekräftiger für den Inhalt sind. Die Termhäufigkeit kann als Indikator dafür dienen, wie wichtig oder relevant das Dokument ist. Die meisten Modelle, die für den Aufbau einer Stichwortsuche erforderlich sind, stehen zur Verfügung. Viele Unternehmen nutzen nach wie vor Lucene, das traditionsreiche Apache-Projekt, aus dem sowohl Elasticsearch als auch Solr hervorgegangen sind.
Vektoren sind sehr groß, erfordern in der Regel spezielle GPU-gestützte Datenbanken und lassen sich nur mit hohem Kostenaufwand skalieren, ohne dabei an Leistung einzubüßen. Techniken wie HNSW (Hierarchical Navigable Small World), IVF (Inverted File) oder PQ (Product Quantization, eine Technik zur Reduzierung der Dimensionsanzahl eines Vektors) gehören zu den beliebtesten „Approximate Nearest Neighbor“-Methoden (ANN), um Ähnlichkeiten zwischen Vektoren zu ermitteln. Jede Technik konzentriert sich auf die Verbesserung einer bestimmten Leistungseigenschaft, wie beispielsweise Speicherplatzersparnis bei PQ oder schnelle, aber genaue Suchzeiten bei HNSW und IVF. Es ist gängige Praxis, mehrere Komponenten zu kombinieren, um einen „zusammengesetzten“ Index zu erstellen und so eine optimale Leistung für einen bestimmten Anwendungsfall zu erzielen.
Selbst bei den meisten „Approximate Nearest Neighbor“ (ANN)-Verfahren gibt es keine einfache Möglichkeit, einen vektorbasierten Suchalgorithmus zu entwickeln, der für die meisten Produktionsanwendungen praktikabel ist. Zum Beispiel:
- Einfüge-, Aktualisierungs- und Löschfunktionen können graphbasierte Strukturen wie HNSW vor Herausforderungen stellen, da das Löschen in solchen Strukturen sehr komplex ist.
- Das Sharding von Vektorindizes ist sehr rechenintensiv. Die Leistung von HNSW nimmt mit zunehmender Anzahl von Shards nichtlinear ab.
- Die Kombination von Suchbegriff- und Vektor-Ergebnissen ist wirklich schwierig, da die Relevanzberechnung in den einzelnen Systemen völlig unterschiedlich ist und sich die Ergebnisse daher nicht ohne Weiteres vergleichen lassen. Aus diesem Grund sieht man oft, dass ein Vektor-ANN-Index auf eine Suchbegriff-Engine aufgesetzt wird. Im Grunde werden Vektoren nur als „Ausweichlösung“ genutzt, um die Ergebnisse aufzubessern, wenn Suchbegriffe versagen.
Bei Algolia haben wir eine neue Technik namens „Neural Hashing“ entwickelt. Im Wesentlichen nutzen wir neuronale Netze, um Vektoren in winzige Binärdateien zu komprimieren, die dennoch den Großteil der Informationen bewahren. Der Binärvektor ist wesentlich kleiner und lässt sich schneller berechnen als herkömmliche Vektoren, was es uns ermöglicht, Vektor- und Stichwortsuche gleichzeitig und in großem Maßstab auf handelsüblichen CPUs durchzuführen. Anschließend normalisieren und kombinieren wir die Ergebnisse, um innerhalb derselben Abfrage einen einheitlichen Relevanzwert zu liefern.
Diese Kompromisse sowie die mit der Skalierung der Vektorsuche verbundenen Kosten führen dazu, dass der Aufbau einer KI-basierten Relevanz für viele Unternehmen nicht in Frage kommt.
Die Suche auf Websites und in Apps ist nur eine Anwendungsmöglichkeit für Vektoren. An dieser Stelle sei erwähnt, dass Vektoren auch zum Vergleich vieler verschiedener Arten von Objekten wie Bilder, Videos, Symbole oder sogar ganze Dokumente verwendet werden können und zahlreiche Anwendungsfälle in der Praxis finden, beispielsweise in Filmempfehlungssystemen, bei der Gesichtserkennung, der Betrugserkennung und vielem mehr.
Rangliste
Die Produktplatzierung kann einen entscheidenden Einfluss auf den Sucherfolg haben. Bei der Rangfolge der Ergebnisse gibt es eine Positionsverzerrung – die ersten drei Ergebnisse erhalten deutlich mehr Klicks als die weiter unten platzierten. Außerdem müssen die Ergebnisse ständig neu geordnet werden; Ergebnisse, die heute ganz oben stehen, müssen möglicherweise morgen nach hinten verschoben werden, wenn etwas Relevanteres oder Beliebteres verfügbar wird.
Wenn Ihre Trefferquote gut ist (siehe oben), beginnt die Rangfolge von einer besseren Position aus. „Learning-to-Rank“ (LTR), manchmal auch als „Machine Learned Ranking“ (MLR) bezeichnet, ist eine Form des maschinellen Lernens, die die Rangfolge verbessert und zur Präzision beiträgt. Dazu gehören überwachtes, unüberwachtes und verstärkendes Lernen. Es gibt auch Varianten wie das halbüberwachte Lernen. Jede dieser Lösungen bietet KI-basierte Rangfolgefunktionen, um im Vergleich zu einfacheren statistischen Methoden bessere Ergebnisse zu erzielen.
Auch wenn das damit verbundene maschinelle Lernen auf den ersten Blick vielleicht als eine leichter zu bewältigende Herausforderung erscheint als die Relevanz, ist dies möglicherweise nicht der Fall. AirBnB, ein Team aus äußerst talentierten Datenwissenschaftlern und Ingenieuren, benötigte zwei Jahre, um eine KI-basierte Ranking-Lösung zu entwickeln!
In den letzten Jahren haben „Learning-to-Rank“-Verfahren wie das verstärkende Lernen an Beliebtheit gewonnen, da sie den Wartungsaufwand und die Anzahl der Iterationen reduzieren.
Beim verstärkenden Lernen werden Ereignisse wie Klicks, Konversionen, Käufe usw. genutzt, um die Ergebnisse von den beliebtesten bis zu den am wenigsten beliebten neu zu ordnen. Es kann auch das Gegenteil bewirken – nämlich Ergebnisse, die keine gute Leistung erzielen, nach hinten zu verschieben. Die Herausforderung beim Ranking sind die Daten. Verstärkendes Lernen benötigt normalerweise große Datenmengen, um zu funktionieren, doch es kommen immer neue Modelle auf den Markt, die mit weniger Daten bessere Vorhersagen ermöglichen.
Sollte man eine durchgängige KI-Suchfunktion selbst entwickeln oder kaufen?
Jedes Mal, wenn Sie vor der Entscheidung „Kaufen oder selbst entwickeln“ standen, hat Ihnen Ihr Team talentierter Entwickler gesagt: „Halt mal mein Bier, das kriegen wir schon hin.“ Sie argumentieren: „Warum sollten wir Hunderttausende für einen SaaS-Anbieter ausgeben, wenn unser Team eine Open-Source-Alternative auf AWS bereitstellen und selbst betreiben kann?“ Und das hat in der Regel auch funktioniert und dem Unternehmen Geld gespart, das wieder in die Einstellung weiterer Entwickler reinvestiert werden kann.
Künstliche Intelligenz verändert alles.
Die 6 wichtigsten Gründe, warum Sie Ihren KI-Service kaufen sollten, anstatt ihn selbst zu entwickeln
1.Talente: Es ist wirklich schwer, ein großartiges Data-Science-Team aufzubauen
Es ist wirklich schwierig, ein Team talentierter Datenwissenschaftler einzustellen. Der Wettlauf um KI-Talente hat die Gesamtkosten für die Einstellung und Bindung von Mitarbeitern in die Höhe getrieben, insbesondere von Absolventen der Doktorandenprogramme führender Universitäten. Verfügt Ihr Unternehmen über ebenso tiefe Taschen wie die großen Tech-Konzerne, und kann Ihre Unternehmensmarke mit den Googles und OpenAIs dieser Welt mithalten?
Es besteht die Gefahr, dass Sie am Ende ein unterdurchschnittliches Data-Science-Team haben, wenn Sie den Kampf um die besten Talente nicht gewinnen können.
2. Geschwindigkeit: Der Aufbau von Data-Science-Kompetenzen nimmt viel Zeit in Anspruch
Es dauert lange, ein Team von Grund auf aufzubauen, da die Vorlaufzeiten für die Einstellung bei mindestens sechs Monaten liegen. Insbesondere bei Data Scientists dauert die Einarbeitung besonders lange, da die Komplexität der Arbeit und der Daten Experimente erfordert, um Erfahrungen zu sammeln.
Es dauert noch länger, eine neue Kompetenz wie Data Science in Ihrem Unternehmen zu etablieren: Es müssen Tools, Prozesse und Kompetenzen aufgebaut werden, die es bisher noch nicht gab. Sie sollten mit einer Zeitspanne von zwei Jahren oder mehr rechnen – von der Entscheidung zur Einstellung bis zur Markteinführung der ersten Produkte. Kann Ihr Unternehmen so lange warten?
3. Kultur: Bei euch gibt es keine Kultur des Experimentierens
Um beim Aufbau von KI erfolgreich zu sein, braucht man eine Kultur, die wissenschaftliches Experimentieren fördert. Das Lernen in der Produktion ist der einzige Weg, um Modelle zu entwickeln und zu optimieren. Diese Kultur unterscheidet sich stark von der Softwareentwicklung, bei der die Lösung (und die Zeitpläne für die Bereitstellung) oft schon bis ins Detail festgelegt werden können, bevor auch nur eine einzige Zeile Code geschrieben wurde.
KI hingegen bedeutet, in der Praxis (immer wieder) zu scheitern und nicht zu wissen, ob das nächste Experiment funktionieren wird oder nicht. Viele Unternehmen sind einfach nicht in der Lage, eine solche Kultur zu entwickeln und zu pflegen.
4. Daten: Sie verfügen nicht über genügend Daten, um wettbewerbsfähig zu sein
Man benötigt eine große Menge an Daten, um KI-Modelle von Grund auf zu trainieren. Es ist sehr wahrscheinlich, dass Sie nicht über so viele Daten verfügen wie ein Anbieter, der die Daten von Tausenden von Kunden nutzen kann, um ein Modell zu erstellen, das deutlich besser abschneidet als das Ihre.
Ohne Daten in großem Umfang dauert es sehr lange, unsere neuen Experimente zu testen, und Ihre Algorithmen werden sich nur langsam verbessern. Daten sind das Lebenselixier eines KI-Teams, und die meisten Unternehmen verfügen einfach nicht über die nötige Datenmenge, um im Wettbewerb bestehen zu können.
5. Agilität: Die KI entwickelt sich rasant weiter – können Sie da mithalten?
Die KI-Branche entwickelt sich rasant weiter. Wenn Sie sich dafür entscheiden, eigene Kompetenzen aufzubauen, können Sie sich nur so schnell anpassen, wie es Ihr Team zulässt. Kann Ihr Team mit den neuesten Forschungsarbeiten Schritt halten, an Konferenzen teilnehmen und stets auf dem neuesten Stand der Technik bleiben?
Wenn Sie sich dafür entscheiden, Lösungen zu kaufen statt selbst zu entwickeln, können Sie durch die Auswahl der Anbieter flexibel reagieren und vom Know-how der KI-Teams Ihrer Anbieter in Bezug auf die neuesten Entwicklungen profitieren.
6. Zuverlässigkeit: Es ist schwierig, KI-Systeme im Produktivbetrieb zu betreiben
Der Betrieb von KI-Systemen in der Produktion ist eine enorme Herausforderung. Sie erfordern hohe Geschwindigkeit, Echtzeit-Datenpipelines und umfangreiche Rechenressourcen. Sind Sie in der Lage, bei Nachfragespitzen schnell zu skalieren und anschließend wieder herunterzufahren, bevor sich die Kosten häufen? Verfügen Sie über spezialisierte Zuverlässigkeitsingenieure, die sich mit dem Betrieb und der Qualitätssicherung von KI-Modellen auskennen?
Der Vorteil der KI-Anbieter
Anbieter können die Nachfrage verschiedener Kunden bündeln und die Last so verteilen, dass Spitzen zu unterschiedlichen Zeiten auftreten. Anbieter können es sich leisten, spezialisierte Zuverlässigkeitsingenieure einzustellen, um KI-Systeme in großem Maßstab zu betreiben.
Selbst Microsoft – ein Unternehmen, das über die Ressourcen und das Fachpersonal verfügt, um KI zu entwickeln – hat sich dafür entschieden, einen Teil seiner KI-Lösung für Bing zu kaufen.
Die Gründe, eine KI-Lösung zu kaufen statt selbst zu entwickeln, decken sich mit denen für den Erwerb eines Wettbewerbsvorteils. Sie können mit den größten Namen der Tech-Branche in puncto Fachkompetenz und Geschwindigkeit mithalten und profitieren gleichzeitig von den Erkenntnissen und der Systemzuverlässigkeit, die es Ihrem Unternehmen ermöglichen, im Zeitalter der KI mit dem Geschäftstempo Schritt zu halten.
ChatGPT vs. Suche
Seit OpenAI ChatGPT angekündigt hat und die Leute damit angefangen haben, es zu testen, gab es zahlreiche überschwängliche Behauptungen darüber, wie es alles auf den Kopf stellen wird. Einer dieser Bereiche ist die Suche.
Aber mal im Ernst? Nein. Und hier ist der Grund dafür.
- Formulierung der Suchanfrage
Die Antworten von ChatGPT hängen stark von der Formulierung der Eingabeaufforderung (d. h. der Suchanfrage) ab. OpenAI führt dies als „Einschränkung“ auf. Tippfehler und kleine sprachliche Abweichungen können dazu führen, dass ChatGPT versagt. Eine Suchmaschine muss Suchende auch bei Rechtschreibfehlern verstehen, sonst bedeutet dies einen Rückschritt in der Benutzererfahrung. Das Erkennen und Abgleichen unterschiedlicher Schreibweisen ist schwierig.
- Erleben Sie „
“
Suchansichten sind seit Jahrzehnten im Wesentlichen unverändert geblieben. Konkret: eine Reihe von Ergebnissen, sortiert von der höchsten zur geringsten Relevanz (wie auch immer diese gemessen wird). Für Suchende ist es wichtig, Optionen zu sehen, diese mit einem Klick einzugrenzen und generell tief in eine „Entdeckungsphase“ einzutauchen. Dafür ist der Chat nicht geeignet.
- Geschwindigkeit und Kosten
Bei der Suche spielt Geschwindigkeit eine wichtige Rolle. Sowohl Amazon als auch Google haben Studien durchgeführt, die zeigen, dass Verzögerungen von nur 100 Millisekunden Umsatzverluste in Millionenhöhe verursachen können. ChatGPT wird eines Tages schneller sein, aber derzeit ist es noch weit davon entfernt.
Kurz gesagt: ChatGPT ist großartig, insbesondere für Anwendungsfälle im Bereich „Conversational Commerce“, aber wenn es um eine vorhersehbare und schnelle Nutzererfahrung geht, werden sich Kunden weiterhin für die Suche entscheiden.
.webp)
.jpg)
%20(2).svg)
