12. Information Retrieval und Multimedia-Datenbanken

1. 12. Information Retrieval und Multimedia-Datenbanken • Diese Folien stellen eine Auswahl des Foliensatzes der Vorlesung Multimedia-Datenbanken dar, die Herr Dr, Ingo Schmitt an der Uni Magdeburg gehalten hat. • Medium • Medium vermittelt zwischen zwei oder mehreren • Kommunikationspartnern • Sender erzeugt Signale auf Medium • Empfänger (Rezeptor) nimmt Signale auf zur • Interpretation • Wandlung • Weiterleitung • Medium ist Nachrichtenträger • Physische Medien • Schall in festen, flüssigen und gasförmigen Stoffen • elektromagnetische Wellen

2. erzeugt interpretiert Medium Sender Empfänger Medium • Medium vermittelt zwischen zwei oder mehreren Kommunikationspartnern • Sender erzeugt Signale auf Medium • Empfanger (Rezeptor) nimmt Signale auf zur • Interpretation • Wandlung • Weiterleitung • Medium ist Nachrichtenträger • Physikalische Medien • Schall in festen, flüssigen und gasförmigen Stoffen • elektromagnetische Wellen

3. erzeugt interpretiert Abstrakte Medien • Unter Verwendung von physikalischen Medien werden abstrakte Medien erzeugt. Empfänger Sender • Multimedia • Komposition verschiedener Medien • Darstellungsmächtigkeit z.B. Geruch versus Bild • Medienumsetzung oft möglich

4. Klassifizierung der Medien (1) nach Sinnesorganen • visuell (optisch) • sprachlich (symbolgebunden) • Text • Piktogramme • nicht-sprachlich • Grafiken • Gotos • akustisch • Sprache • Musik • haptisch (tasten) • gustorisch (schmecken) • olfaktorisch (riechen)

5. Klassifizierung der Medien (1) nach Zeit • relativ zeitinvariant (statisch): Text, Bild, Photos, ... • relativ zeitgebunden (dynamisch): gesprochene Sprache, Video, engl.: continuous media

6. Medien auf Computern • Text • Grafik • Rasterbild • Tonaufnahmen (Audio) • Bewegte Bilder (Video) Begriffe • Dokument: logisch zusammenhängender, digital kodierter Text • Multimedia-Dokument: besteht aus Text und anderer Medien-Typen • Multimedia-Objekt • computerverwaltete logische Informationseinheit in einem oder mehreren Medien (mindestens ein Medium ist nicht alphanumerisch) • Medien-Daten bzw. Multimedia-Daten • heterogene Menge von Medien-Objekten bzw. Multimedia-Objekten

7. Multimedia-Datenbank-Managementsystem = DBMS + Multimedia-Datenbankmodell • Medien-Typen: Darstellung + Operationen • Substitutions- und Synchronisationsbeziehungen + Information Retrieval (inhaltsbasierte, unscharfe Suche) + Multimediadatenunabhängigkeit • Medienabstraktion • Unabhängigkeit von Speicherformaten • Unabhängigkeit von Speichergeräten • Präsentationsunabhängigkeit + Speicher- und Ein-/Ausgabegeräte + Zeitaspekt (etwa Echtzeit für dynamische Medien) + Benutzerschnittstellen

8. Beispielanwendung • Polizeiinformationsystem • Relationale Daten • Dokumente • Bilddaten • Überwachungsvideos • Telfondaten Anfragen • Image-Query: • Suche alle Bilder, die die selbe Person zeigen wie auf diesem Bild! • entweder über Beschreibungsinformationen oder Bildverarbeitung • Audio-Query: • Kann Person zu gesprochener Stimme identiziert werden? Hat die selbe Person andere Gespräche geführt? • Unter Verwendung von Sprachvektoren • Text-Query: • Finde alle Dokumente, bei denen es um Drogenkartell-Finanztransaktionen mit Firma ABC geht! • keine reine Stichwortsuche  Berücksichtigung von Semantik • Video-Query: • Finde alle Videosegmente, wo das Angriffsopfer erscheint!

9. Komplexe Anfragen • heterogene Query • Finde alle Personen, die des versuchten Mordes in Nordamerika überführt wurden und elektronische Geldüberweisung auf deren Konto von der ABC Corp. kommen! • mehrere heterogene Datenbanken • heterogene Multimedia-Query: • Finde alle Personen, die mit Jose Smith photographiert wurden und als versuchte Mörder in Nordamerika überführt wurden und von ABC Corp. Geld bekommen haben! • Unscharfe heterogene Multimedia-Query: • Finde alle interessanten Personen, die Kontakt zu Jose Smith hatten

10. Prinzipien des Information Retrieval • Einführung • Information-Retrieval-Modelle • Relevance Feedback • Bewertung von Retrieval-Systemen • Nutzerprole • Literaturempfehlungen

11. Motivation • Besonderheit: Verwaltung von Daten anhand ihrer Interpretation • Suche von relevanten Dokumenten • notwendig zur Suche von Multimedia-Objekten in Datenbanken • z.B. Bild mit Flusslandschaft • Information Retrieval versus Daten Retrieval • Datenbankanfrage anhand exakt formulierter Bedingungen select ISBN from Buch where Titel = "Multimedia-Datenbanken". • unscharfe Formulierung in IRS Finde alle Text-Dokumente, die sich mit dem Thema "Multimedia-Datenbanken" beschäftigen. • Information-Retrieval-System (IRS)

12. Historie von IRS • Einsatz in Bibliotheken seit 70er Jahren • Stärke bei Verwaltung schwachstrukturierter Daten, etwa • Text-Dokumente • XML • Aufgrund Datenflut: • Problem des Findens geeigneter Informationen • Thema hatte lange Zeit kaum Relevanz, aber erfährt derzeit wieder eine Art Wiedergeburt! • Internet-Suchmaschinen

13. Grundproblem Inhalt von Dokumenten und Medien-Objekten oft nur schwer anhand Datenbankschema strukturierbar und erschließbar Lösungsansatz: • Ähnlichkeitssuche mittels IR-Techniken Formulierung einer Anfrage • als Dokument (Ähnlichkeitssuche oder query by example) • Liefere alle Text-Dokumente, die zum Text-Dokument #0815 ähnlich sind. • Liefere alle Text-Dokumente die ähnlich zum Multimedia-Dokument "Urlaub Sommer Mittelmeer" sind. • als Anfrage (Eingrenzung durch Bedingungen) • Datenbank and (Bild or Video)

14. Daten versus Information Retrieval • Daten sind unstrukturiert • implizit formulierte Information • erfordert Interpretation • Suche nach Dokumenten, die ausreichend wahrscheinlich relevant bzgl. Anfrage sind • z.B. Suche von Text-Dokumenten anhand eines Texts Toleranz bzgl. Fehler bei Anfrageformulierung • auch irrelevante Ergebnisse möglich • Wiederholung der Anfrage unter Verwendung der bisher erzielten Ergebnisse • Ergebnisreihenfolge ist wesentlich • Einschränkung der Ergebnisgröße durch • Schwellwert • Ergebnisanzahl

15. Zusammenfassung der Unterschiede Merkmal Daten Retrieval Information Retrieval Information explizit implizit Ergebnisse exakt unscharf Anfrage einmalig iterativ verfeinernd Fehlertoleranz keine vorhanden Ergebnistyp Menge Liste

16. Schritte des IR Statt eines direkten Vergleichs zwischen Anfrage und Dokumenten: • Überführung Anfrage und Dokumente in interne Darstellung • Extraktion von Daten, welche Semantik der Dokumente beschreiben • relevante Informationen explizit und kompakt • z.B.: Zusammenfassungen von Texten • Vergleich der internen Darstellungen durch Ähnlichkeitsfunktion • numerischer Relevanzwert drückt Ähnlichkeit aus • abhängig von Distanzfunktion • Ergebnis • Dokumente mit höchsten Relevanzwerten absteigend sortiert • Einschränkung der Ergebnisliste durch Schwellwert bzw. Ergebnisanzahl • Relevanzbewertung und Feedback, wenn Ergebnis nicht zufriedenstellend • Anfrage-Iteration • Modifikation der Anfrage • Modifikation der internen Darstellung

17. Information-Retrieval-Modelle • IR-Modell definiert • interne Dokumentdarstellung, • Anfrageformulierung und interne Anfragedarstellung, • Vergleichsfunktion zwischen jeweils zwei Dokumenten beziehungsweise zwischen Anfrage und jeweils einem Dokument. • Text-Retrieval • Modelle wurden ursprünglich für Text-Retrieval entwicklt. • Indexvokabular • vordefinierte Menge von Indextermen • Darstellung eines Dokumentes über auftretende Indexterme • verschiedene Arten von Termgewichten • Text-Model lässt sich auch auf andere Medien-Typen anwenden.

18. Traditionelle IR-Modelle • Boole'sches Modell • Fuzzy-Modell • Vektorraummodell Boole'sches Modell • basiert auf Mengentheorie und Boole'scher Algebra • sehr einfaches Modell mit klarer Semantik • Dokumente als Mengen von Indextermen • Termgewichte sind binÄR: im Dokument enthalten oder nicht enthalten • Test auf Enthaltensein als Vergleichsfunktion • Verknüpfung von Enthaltenseinsbedingungen mittels • Boole'scher Junktoren • and (Mengendurchschnitt), or (Mengenvereinigung), not (Mengendifferenz)

19. Beispiel • Indexvokabular {Korsika, Sardinien, Strand, Ferienwohnung, Gebirge} • Dokument d1 : {Sardinien, Strand, Ferienwohnung} • Dokument d2 : {Korsika, Strand, Ferienwohnung} • Dokument d3 : {Korsika, Gebirge} • Anfrage • Korsika liefert {d2, d3} • Ferienwohnung liefert {d1, d2} • Ferienwohnung and Korsika liefert {d2} • Ferienwohnung or Korsika liefert {d1, d2, d3} • Ferienwohnung and not Korsika liefert {d1}

20. Neue Anfragesyntax but-Junktor • Anfrage: not Korsika liefert alle Dokumente, die "Korsika" nicht enthalten, • u.U. qualifiziert sich die ganze Dokumentkollektion • Statt dessen Verwendung but-Junktor • (entspricht and not, also Komplement bzgl. einer Vorauswahl) • Beispiel:Ferienwohnung but Korsika of-Konstrukt • Suche nach Dokumenten, die m von n (m < n) Termen enthalten • 2 of (Korsika, Strand, Ferienwohnung) • Ersetzt den komplexen Boole'schen Ausdruck • (Korsika and Strand) or (Korsika and Ferienwohnung) or (Strand and Ferienwohnung)

21. Naive Anfrageauswertung • jeder Term liefert Menge von Dokumenten, die diesen Term enthalten • komplexe Anfrage: Kombination der Dokumentmengen durch entsprechende Mengenoperationen • Normalisierung der Anfrage durch Überführung in DNF • kleine Zwischenergebnisse (zuerst Durchschnitt, dann Vereinigung)

22. Nachteile des Boole'schen Modells • exaktes Modell aufgrund binärer Gewichte • Entspricht eher Daten-Retrieval • keine Ähnlichkeitssuche durch zu scharfe Suche • Größe des Ergebnisses • alle Dokumente sind bzgl. Anfrage gleichrangig  Präsentation der gesamten Ergebnismenge • Ergebnismenge in Abhängigkeit von Anfrage oft zu groß oder zu klein bzw. leer • Boole'sche Junktoren • schwierige Anwendung Boole'scher Junktoren • Verwechslung mit "und", "oder" und "nicht"

23. Milderung Problem "Größe des Ergebnisses" • faceted query • zweistufiges Suchverfahren • Formulierung und Verfeinerung der Anfrage anhand benannter Anfragen und Ergebnisanzahl • Ergebnis zur finalen Anfrage anzeigen • Beispiel: • Korsika liefert Q1: 1345Q1 and Strand liefert Q2: 13 • Anzeige Q2 liefert die 13 Ergebnisdokumente

24. Fuzzy-Modell • Erweiterung des Boole'schen Modells um Unschärfe (fuzzy) • Verallgemeinerung Boole'scher Junktoren • Unschärfe durch graduelle Zugehörigkeit von Dokumenten zu Termen Definition: • Eine Fuzzy-Menge A = {(u,mA(u)} über einem Universum U ist durch eine Zugehörigkeitsfunktion mA: U  [0; 1] charakterisiert, welche jedem Element u des Universums U einen Wert mA(u) aus dem Intervall [0; 1] zuordnet. • Fuzzy-Mengen beim IR • Universum ist Menge aller gespeicherten Dokumente • Term definiert Fuzzy-Menge • Zugehörigkeit (Fuzzy-Wert) des Dokuments d zu Term t durch Wert mt(d) • 0 für keine Relevanz • 1 für maximale Relevanz • Zwischen 0 und 1: graduelle Relevanz

25. Beispiel • Universum umfasst 3 Dokumente {d1, d2, d3} • Dokument d1 : {Sardinien, Strand, Ferienwohnung} • Dokument d2 : {Korsika, Strand, Ferienwohnung} • Dokument d3 : {Korsika, Gebirge} • Fuzzy-Mengen Korsika bzw. Strand drücken Zugehörigkeit zu Term "Korsika" bzw. "Strand" aus: • Korsika = {(d1, 0,1), (d2, 0,6), (d3, 1)} • Strand = {(d1, 0,3), (d2, 0,2), (d3, 0,8)}

26. Fuzzy-Junktoren • Jedes Dokument ist in jeder Fuzzy-Menge vertreten • übliche Mengenoperationen nicht anwendbar • Junktoren ermitteln neue Zugehörigkeitswerte • and durch Min-FunktionmA  B(u) = min(mA(u), mB(u)) • or durch Max-FunktionmA  B(u) = max(mA(u), mB(u)) • not durch Subtraktion von 1:mA(u) = 1 - mA(u) • Beispiel • Q1 = Korsika and Strand • Q2 = Korsika or Strand • Q3 = not Korsika

27. Fuzzy-Anfrageverarbeitung • Überführung der Anfrage in disjunktive Normalform • Jeder Suchterm induziert eine Fuzzy-Menge • Anwendung entsprechender Fuzzy-Operationen auf Fuzzy-Mengen • Erstellung der Rangliste der Ergebnisse: • Dokumente absteigend sortieren nach Zugehörigkeitsgrad Begrenzung Fuzzy-Ähnlichkeitsanfrage • Ergebnis umfasst alle Dokumente des Universums • Begrenzung der Anzahl durch • Schwellwert für Zugehörigkeitswerte • vorgegebene Anzahl von Ergebnisdokumenten • Beispiel: Korsika and Strand • Schwellwert 0,5 liefert d3 • Anzahl 2 liefert d2; d3

28. Berechnung von Zugehörigkeitswerte • viele Möglichkeiten • Beispiel (Ansatz von Ogawa, Morita, Kobayashi): • mittels Term-zu-Term-Korrelationsmatrix • Zeile entspricht Term i und Spalte entspricht Term j • Parameter • ni,j = Anzahl der Dokumente, welche die Terme ti und tj enthalten • ni = Anzahl Dokumente, welche Term ti enthalten • Matrixelemente: ci,j = ni,j / (ni + nj - ni,j) • Zugehörigkeitsgrad eines Terms ti zu einem Dokument djmti(dj) = 1 -  (1-ci,k)k=1,2,..

29. Beispiel (Term-zu-Term Korrelationsmatrix) • Dokumente • d1 : {Sardinien, Strand, Ferienwohnung} • d2 : {Korsika, Strand, Ferienwohnung} • d3 : {Korsika, Gebirge} • Korrelationsmatrix

30. Vektorraummodell • weit verbreitetes Retrieval-Modell • Dokumente als Vektoren eines Vektorraums • Überführung Retrieval-Problem in Gebiet der linearen Algebra • Voraussetzung • Abbildung des Medien-Objekt auf eine feste Anzahl von numerischen Merkmalswerten • Beispiel (Bild-Retrieval): • Vektorwerte etwa anhand Farbverteilung • Beispiel Text-Retrieval: • jeder Indexterm eine eigene Dimension • Termgewicht (meist Häufigkeiten) als Vektorwert einer Dimension

31. Ähnlichkeit im Vektorrraum • Darstellung der Anfrage selbst als Vektor • Ähnlichkeit zwischen Anfrage q und Dokument d über deren Vektoren • Kosinusmaß • Kosinus des eingeschlossenen Winkels als Ähnlichkeitsmaß