Suchmaschine für Dokumente

Vektor Space Modell

Hallo zusammen,
ich muss dieses System anfertigen:
Ziel dieser Arbeit ist die Planung und das laufen eines Systems zu der Suche von Informationen basierend auf dem vector model.Der Benutzer des Systems kann seine Fragen durch eine graphische Seite (html) formulieren und das System gibt die Texte wieder anhand der Relativität, mit erstem dem Text der die meiste Relevanz zu der Frage hat .
Damit die Schätzung der Leistung des Systems möglich ist, müssen Sie die Texte der Ansammlung CACM (Archiv cacm.tar.gz, cacm.all) benutzen. Es sind Zusammenfassungen von 3204 Artikeln, die in der anerkannten Zeitschrift Communications of the ACM veröffentlicht worden sind. Jeder Text besitzt eine Gruppe von Feldern. Zwischen diesen Feldern sind der Titel des Artikels, die Autoren sowie die Zusammenfassung am wichtigsten vom Text des Artikels. Diese Ansammlung besitzt auch 64 Fragen (information requests) die im Zusammenhang mit dem Inhalt der Texte der Ansammlung stehen (Archiv query.text). Haben Sie auch werden dem Verwandten Die relevanten für jede Frage Texte sind festgestellt und in dieser Datei gespeichert(Archiv qrels.text).
Mit Hilfe dieser Informationen der relativen Texte auf jeder Frage, schätzen Sie die Leistung des Systems mit der Herstellung eines Precision/Recall Diagramms für jede Frage. Es soll auch das Diagramm der “Average Precision at Seen Relevant Documents” erstellt werden. Die graphische Darstellung von allen Informationen über die Leistung des Systems kann vom gleichen System oder Alternativ mit Hilfe irgendeines Außenprogramms dargestellt werden (z.B. Excel).

Details zur herstellung

Bevor ein Information Retrieval System läuft, müssen zuerst die Schlüsselwörter (keywords ) festgelegt werden mit Hilfe derer die Suche in der Ansammlung der Texte beginnen kann. In dieser Ansammlung, für den Export der Fachwörter müssen Sie sich ausschließlich auf die Bezeichnungen, die Zusammenfassungen, auf den Titeln, sowie auf den Namen der Verfasser basieren und den Rest der Felder der Texte ignorieren.

Sie müssen außerdem die Wörter ignorieren, die in das Archiv common_words.txt enthalten werden ignorieren. Dieses Archiv enthält eine Liste von den allgemeinen Wörtern, die fast in den meisten Texten auftauchen und keinen bestimmten Wert für den Inhalt der Suche haben werden. Für den selben Grund müssen Sie auch die alle Wörter in denen Zahlen auftauchen ignorieren, das heißt sie enthalten nicht andere nicht numerische Buchstaben.

Für die Verbesserung der Qualität der Resultate der Suche, wird Ihnen empfohlen einen
stemming Algorithmus zu verwenden, einen Algorithmus also der die grammatischen Wurzeln von den Wörtern exportiert. Die Bekannteste stemming Algorithmus ist der Algorithmus von Porter und es ist einfach so einen zu finden und zu anfertigen.

Ein anderer wichtiger Parameter, der in den Ersten Schritten des Entwerfens des Systems der Wiederherstellung von Informationen festgestellt werden muss, ist die Struktur von Daten, mit derer die Schlüsselwörter des Wörterbuchs der Ansammlung organisiert werden wird. Die Struktur der Inverted Files, ist die Struktur die die bessere Leistung in den IR Systemen erzielt. In einer solchen Struktur, wird für jedes Schlüsselwort eine Liste von Texten gespeichert in der das jeweilige Schlüsselwort erscheint. Spezifisch für das Vector Modell wird auch alles wesentliche zu der vorbildlichen Information gespeichert das heißt, die Zahl der Texte in denen jedes Schlüsselwort erscheint, und die Frequenz des jeweiligen Schlüsselwortes in jedem Text.
Das ist die Arbeit. Die Archive befinden sich hier:http://rapidshare.com/files/59055129/cacm.tar.gz

Diese Seite kann auch sehr hilfreich sein:
http://www.hray.com/5264/find.htm

Ich willnur ein einfaches IR System dass die Texte durchsucht und die Relevanten findet. Wenn jemmand irgdwann in seinem Leben so etwas gemacht oder infos darüber kennt,bitte ich ihm mir zu helfen.Ich bin einfach zu dumm un unerfahren und in der Klasse hatten wir nur Theorie dazu!

Viele Grüße

die Praktikantin