Скачать презентацию ΠΡΟΛΟΓΟΣ Η ερώτηση Μπορεί μια ενιαία στατιστική μεθοδολογία Скачать презентацию ΠΡΟΛΟΓΟΣ Η ερώτηση Μπορεί μια ενιαία στατιστική μεθοδολογία

76f563e074c3309acf9d67b4be91f65e.ppt

  • Количество слайдов: 184

ΠΡΟΛΟΓΟΣ Η ερώτηση: Μπορεί μια ενιαία στατιστική μεθοδολογία να απαντήσει σε προβλήματα επεξεργασίας φυσικής ΠΡΟΛΟΓΟΣ Η ερώτηση: Μπορεί μια ενιαία στατιστική μεθοδολογία να απαντήσει σε προβλήματα επεξεργασίας φυσικής γλώσσας πού εμφανίζουν μια ομοιότητα ως προς το στόχο, ο οποίος είναι η επιλογή μεταξύ ανταγωνιζόμενων οντοτήτων; Παραδείγματα ØΑνταγωνιζόμενα έγγραφα στην ανάκτηση πληροφορίας. (Information Retrieval) Ø‘Έννοιες μιας λέξης στο πλαίσιο (context) που εμφανίζεται. (Word Sense Disambiguation) ØΑνταγωνισμός λέξεων για την δημιουργία Collocations (Συνεκφερόμενες λέξεις)

ΠΡΟΛΟΓΟΣ Στατιστική: Ο κλάδος που εφαρμόστηκε με την μεγαλύτερη επιτυχία στην Επεξεργασία Φυσικής Γλώσσας ΠΡΟΛΟΓΟΣ Στατιστική: Ο κλάδος που εφαρμόστηκε με την μεγαλύτερη επιτυχία στην Επεξεργασία Φυσικής Γλώσσας (Natural Language Processing) Παραδείγματα Ø Στα συστήματα για αναζήτηση πληροφορίας (Information Retrieval: IR) Ø Αποσαφήνιση της έννοιας μιας λέξης (Word Sense Disambiguation: WSD) Ø O σχηματισμός συνεκφερόμενων λέξεων (Collocation) Αλλά και Ø Κατηγοριοποίηση Κειμένου (Text Categorization) Ø Απλοποίηση Κειμένου (Text Simplification)

ΠΡΟΛΟΓΟΣ Σκοπός της Διατριβής: Να αναδείξει την εφαρμογή μιας ενιαίας Στατιστικής μεθοδολογίας για τους ΠΡΟΛΟΓΟΣ Σκοπός της Διατριβής: Να αναδείξει την εφαρμογή μιας ενιαίας Στατιστικής μεθοδολογίας για τους παραπάνω τομείς έρευνας Συγκεκριμένα, ανάπτυξη συστημάτων για: n n n Την εύρεση συνεκφερόμενων λέξεων (collocations) σε κείμενα φυσικής γλώσσας, Την αναζήτηση πληροφορίας με βάση το ερώτημα ενός χρήστη (information retrieval), και Την αποσαφήνιση της έννοιας μιας λέξης από τα συμφραζόμενά της (word sense disambiguation).

ΠΡΟΛΟΓΟΣ v Η ανάκτηση πληροφορίας (Information Retrieval) είναι κλάδος της Επεξεργασίας Φυσικής Γλώσσας πού ΠΡΟΛΟΓΟΣ v Η ανάκτηση πληροφορίας (Information Retrieval) είναι κλάδος της Επεξεργασίας Φυσικής Γλώσσας πού ασχολείται με την ανάπτυξη αλγορίθμων και μοντέλων για την αναζήτηση πληροφορίας από διάφορες συλλογές κειμένων (Internet, document depositories). v Με την αναγέννηση των ποσοτικών μεθόδων επεξεργασίας φυσικής γλώσσας, οι στατιστικές μέθοδοι έγιναν η κυρίαρχη προσέγγιση ανάπτυξης συστημάτων για ανάκτηση πληροφορίας.

ΠΡΟΛΟΓΟΣ v Word Sense Disambiguation: Ο κλάδος που ασχολείται με την αποσαφήνιση της έννοιας ΠΡΟΛΟΓΟΣ v Word Sense Disambiguation: Ο κλάδος που ασχολείται με την αποσαφήνιση της έννοιας μιας λέξης μέσα στα συμφραζόμενα της v Οι στατιστικές μέθοδοι θεωρούνται ως το αποκλειστικό εργαλείο για την ανάπτυξη συστημάτων Αποσαφήνισης Εννοιών. v Τέτοια συστήματα είναι πολύ χρήσιμα και βοηθούν τη μηχανική μετάφραση και την κατανόηση κειμένου

ΠΡΟΛΟΓΟΣ Collocations: v Eίναι η εύρεση συνεκφερόμενων λέξεων (collocations), λέξεων δηλαδή πού εμφανίζονται πολύ ΠΡΟΛΟΓΟΣ Collocations: v Eίναι η εύρεση συνεκφερόμενων λέξεων (collocations), λέξεων δηλαδή πού εμφανίζονται πολύ συχνά μαζί και σχηματίζουν ένα νέο σημασιολογικό όρο με σημασία διαφορετική των σημασιών των συνιστωσών μερών. v Παραδείγματος χάριν η έκφραση «Γερό Ποτήρι»

Κίνητρο n Η Επεξεργασία Φυσικής Γλώσσας είναι αναμφισβήτητα επιστημονικός κλάδος με προοπτική. n Όλα Κίνητρο n Η Επεξεργασία Φυσικής Γλώσσας είναι αναμφισβήτητα επιστημονικός κλάδος με προοπτική. n Όλα τα προηγούμενα προβλήματα είναι εξαιρετικά δύσκολα και η επίλυσή τους αναμένεται να επηρεάσει καταλυτικά τις εφαρμογές Υπολογιστικής Γλωσσολογίας και ιδιαίτερα τον κλάδο της Τεχνητής Νοημοσύνης n Μέχρι τώρα πολλές μέθοδοι και συστήματα έχουν προταθεί στην διεθνή βιβλιογραφία για την επίλυση τέτοιων προβλημάτων αλλά με τρόπο αποσπασματικό. n Διαχωρίζοντας μεταξύ τους τα προβλήματα, παρατηρείται ανάπτυξη διαφορετικών μεθόδων για το κάθε πρόβλημα n Αποτέλεσμα: αλγόριθμοι και τεχνικές που δουλεύουν για μια περιοχή της Επεξεργασίας Φυσικής Γλώσσας να μην μπορούν να εφαρμοσθούν σε άλλη.

Η ιδέα n Τα περισσότερα προβλήματα επεξεργασίας φυσικής γλώσσας εμφανίζουν ένα κοινό χαρακτηριστικό, αυτό Η ιδέα n Τα περισσότερα προβλήματα επεξεργασίας φυσικής γλώσσας εμφανίζουν ένα κοινό χαρακτηριστικό, αυτό της επιλογής μεταξύ ανταγωνιζόμενων οντοτήτων για κάποιο συγκεκριμένο στόχο. Παραδείγματα Ανταγωνιζόμενα έγγραφα στην ανάκτηση πληροφορίας που ανταγωνίζονται ως προς τον στόχο πού είναι η συνάφεια με το ερώτημα (query) ενός χρήστη, ανταγωνιζόμενες έννοιες στην αποσαφήνιση της έννοιας μιας λέξης, ή ανταγωνιζόμενα ζευγάρια λέξεων για τον σχηματισμό collocations. Η παρούσα διατριβή αναδεικνύει αυτό το χαρακτηριστικό και απαντάει με μία ενιαία στατιστική μεθοδολογία για την επίλυση των παραπάνω προβλημάτων, συμβάλλοντας στην ολιστική αξιοποίηση της επιστημονικής γνώσης.

Η μεθοδολογία q Στη Στατιστική είναι πολύ καλά θεμελιωμένοι οι έλεγχοι καλού ταιριάσματος (Goodness Η μεθοδολογία q Στη Στατιστική είναι πολύ καλά θεμελιωμένοι οι έλεγχοι καλού ταιριάσματος (Goodness of statistical tests), οι οποίοι ελέγχουν κατά πόσο καλά ταιριάζουν τα δεδομένα σε μια υποκείμενη θεωρητική υπόθεση που θεωρούμε ότι τα διέπει. q Στη διατριβή χρησιμοποιείται ο ‘Χ-τετράγωνον’ στατιστικός έλεγχος «καλού ταιριάσματος» , (Chi-square Goodness of Fit Statistical Test) για την αποτίμηση της σχετικότητας με το στόχο της κάθε ανταγωνιζόμενης οντότητας. q Πιο συγκεκριμένα, διατυπώνεται μια μηδενική υπόθεση (null hypothesis) ότι οι διάφορες ανταγωνιζόμενες οντότητες δεν επιδεικνύουν καμία ιδιαίτερη συμπεριφορά έναντι του στόχου πέραν της τυχαίας. Αυτή είναι η θεωρητική υπόθεση που γίνεται για τα δεδομένα

Η μεθοδολογία q Από τα πραγματικά δεδομένα καταγράφεται η πραγματική συμπεριφορά της κάθε ανταγωνιζόμενης Η μεθοδολογία q Από τα πραγματικά δεδομένα καταγράφεται η πραγματική συμπεριφορά της κάθε ανταγωνιζόμενης οντότητας και πιστοποιείται έτσι μια διαφορά (discrepancy) μεταξύ της πραγματικής συμπεριφοράς και αυτής πού απορρέει από την θεωρητική υπόθεση. q Η διαφορά αυτή ποσοτικοποιείται με την βοήθεια της ‘X 2 κατανομής’ και αυτή η ποσοτικοποίηση είναι ικανή να χρησιμοποιηθεί ως μέτρο της αποτίμησης της σχετικότητας της ανταγωνιζόμενης οντότητας με το στόχο (ranking criterion).

Τι ακολουθεί Ø Αρχικά, παρουσιάζουμε μια εισαγωγή των στατιστικών μοντέλων που χρησιμοποιούνται στην επεξεργασία Τι ακολουθεί Ø Αρχικά, παρουσιάζουμε μια εισαγωγή των στατιστικών μοντέλων που χρησιμοποιούνται στην επεξεργασία φυσικής γλώσσας καθώς επίσης κα των μέτρων αποτίμησης της αποδοτικότητας των συστημάτων αυτών Ø Ακολουθεί η εφαρμογή των στατιστικών ελέγχων στην ανάκτηση πληροφορίας (Information Retrieval). Μέσα στο ίδιο στατιστικό πλαίσιο, παρουσιάζουμε ένα σύστημα για αναζήτηση κειμενικής πληροφορίας από “δεξαμενές” εγγράφων (document repositories) με βάση το ερώτημα ενός χρήστη. Ø Στην συνέχεια, παρουσιάζουμε στατιστικές μεθόδους για την “ανακάλυψη” συνεκφερόμενων λέξεων μέσα σε Ελληνικά κείμενα (Collocations) και ‘θεμελιώνουμε ένα τρόπο εφαρμογής των στατιστικών ελέγχων στην περιοχή αυτή

Τι ακολουθεί Ø Τέλος εφαρμόζουμε τους στατιστικούς ελέγχους στην περιοχή της αποσαφήνισης της έννοιας Τι ακολουθεί Ø Τέλος εφαρμόζουμε τους στατιστικούς ελέγχους στην περιοχή της αποσαφήνισης της έννοιας μιας λέξης (Word Sense Disambiguation). Ένα στατιστικό σύστημα αναπτύσσεται για την αποσαφήνιση της έννοιας μια λέξης από τα συμφραζόμενά της κάνοντας χρήση του ηλεκτρονικού λεξικού Word. Net σαν λεξικολογική πηγή. Ø Τα συμπεράσματα που προκύπτουν μετά από αποτίμηση των μεθόδων πού αναπτύξαμε πάνω σε πειραματικά δεδομένα ελέγχου, είναι ότι τα στατιστικά αυτά συστήματα αποδεικνύονται “εύρωστα” και ικανά να δώσουν αποτελέσματα καλύτερα από αυτά των κλασσικών μεθόδων

ΕΙΣΑΓΩΓΗ § Η στατιστική είναι ο κλάδος της μαθηματικής επιστήμης που έχει χρησιμοποιηθεί ευρύτατα ΕΙΣΑΓΩΓΗ § Η στατιστική είναι ο κλάδος της μαθηματικής επιστήμης που έχει χρησιμοποιηθεί ευρύτατα στην Επεξεργασία Φυσικής Γλώσσας (ΕΦΓ) § Η αλματώδη εξέλιξη της πληροφορικής τα τελευταία χρόνια και η διαθεσιμότητα μεγάλου όγκου κειμένων σε ψηφιακή μορφή, δημιούργησαν τις συνθήκες για την αναγέννηση των ποσοτικών μεθόδων στην (ΕΦΓ) § Με την αναγέννηση των ποσοτικών μεθόδων επεξεργασίας φυσικής γλώσσας, οι στατιστικές μέθοδοι έγιναν η κυρίαρχη προσέγγιση ανάπτυξης συστημάτων για ανάκτηση πληροφορίας

ΕΙΣΑΓΩΓΗ n Οι στατιστικές μέθοδοι θεωρούνται ως το αποκλειστικό εργαλείο για την ανάπτυξη συστημάτων ΕΙΣΑΓΩΓΗ n Οι στατιστικές μέθοδοι θεωρούνται ως το αποκλειστικό εργαλείο για την ανάπτυξη συστημάτων για την Αναζήτηση Πληροφορίας (Word Sense Disambiguation), αποσαφήνιση λεκτικής σημασίας (Word Sense Disambiguation), κατηγοριοποίηση κειμένου, εύρεση Collocations κλπ n Τα προβλήματα αυτά αναγνωρίζονται σαν υπολογιστικά πολύπλοκα προβλήματα στην επεξεργασία φυσικής γλώσσας και η επίλυσή τους αναμένεται να επηρεάσει καταλυτικά την εξέλιξη του κλάδου της υπολογιστικής γλωσσολογίας (Computational Linguistics)

Στατιστικά Μοντέλα στην επεξεργασία φυσικής γλώσσας n Η έρευνα στατιστικά συστήματα επεξεργασίας φυσικής γλώσσας Στατιστικά Μοντέλα στην επεξεργασία φυσικής γλώσσας n Η έρευνα στατιστικά συστήματα επεξεργασίας φυσικής γλώσσας ασχολείται με την ανάπτυξη αλγορίθμων και συστημάτων για την αναπαράσταση, αποθήκευση, οργάνωση, επεξεργασία και προσπέλαση των στοιχείων της πληροφορίας. n Οι πρώτες προσπάθειες για αναπαράσταση και ανάκτηση πληροφορίας ξεκίνησαν με τα συστήματα αναζήτησης πληροφορίας. Αν και παραδοσιακά ο κλάδος ασχολιόταν μόνο με την αναζήτηση κειμένων και την εύρεση εγγράφων, σήμερα, υπάρχει έντονο ενδιαφέρον και για άλλες μορφές πληροφορίας. n Η αναπαράσταση της πληροφορίας σε υπολογίσιμη μορφή παίζει καθοριστικό ρόλο στην ανάπτυξη συστημάτων επεξεργασίας φυσικής γλώσσας.

Μοντέλα Αναπαράστασης Πληροφορίας § Ανάλογα με την φύση της διαδικασίας αναπαράστασης ενός κειμένου σαν Μοντέλα Αναπαράστασης Πληροφορίας § Ανάλογα με την φύση της διαδικασίας αναπαράστασης ενός κειμένου σαν σύνολο από λέξεις κλειδιά, μπορούμε να κατατάξουμε τα πιο σημαντικά μοντέλα αναπαράστασης πληροφορίας στις εξής κύριες κατηγορίες: § § § Δυαδικά μοντέλα (Boolean models) Διανυσματικά μοντέλα (Vector models) Πιθανοτικά μοντέλα (probabilistic models)

Μοντέλα Αναπαράστασης Πληροφορίας Δυαδικά μοντέλα: § Το δυαδικό μοντέλο είναι το πιο απλό μοντέλο Μοντέλα Αναπαράστασης Πληροφορίας Δυαδικά μοντέλα: § Το δυαδικό μοντέλο είναι το πιο απλό μοντέλο το οποίο βασίζεται στην θεωρία συνόλων και την Boolean άλγεβρα § Η πληροφορία αναπαρίσταται υπό μορφή σειράς ψηφίων 0 και 1. Το 1 δηλώνει την παρουσία ενός όρου και το 0 την απουσία § υποφέρει από αρκετά μειονεκτήματα. Πχ, δυσκολία που υπάρχει στο Information Retrieval να εκφρασθεί ένα ερώτημα σε Boolean έκφραση από τον χρήστη

Μοντέλα Αναπαράστασης Πληροφορίας Το διανυσματικό μοντέλο § Το διανυσματικό μοντέλο [1], [2], είναι το Μοντέλα Αναπαράστασης Πληροφορίας Το διανυσματικό μοντέλο § Το διανυσματικό μοντέλο [1], [2], είναι το πρώτο μοντέλο που εφαρμόστηκε πρώτα στην αναζήτηση πληροφορίας. § Σύμφωνα με το διανυσματικό μοντέλο, κάθε όρος kj σε μια κειμενική πληροφορία, χαρακτηρίζεται με ένα θετικό μη μηδενικό πραγματικό αριθμό που καλείται βάρος (weight) και εκφράζει την σημαντικότητα τού όρου στον προσδιορισμό της σημασιολογίας του κειμένου

Το διανυσματικό μοντέλο στην Αναζήτηση Πληροφορίας Στην Αναζήτηση Πληροφορίας § Μπορούμε να αναπαραστήσουμε ένα Το διανυσματικό μοντέλο στην Αναζήτηση Πληροφορίας Στην Αναζήτηση Πληροφορίας § Μπορούμε να αναπαραστήσουμε ένα έγγραφο dj σαν ένα διάνυσμα (w 1 j, w 2 j, …, wt, j), όπου t το πλήθος όρων § Ένα ερώτημα q σαν (w 1 q, w 2 q, …, wtq),

Το διανυσματικό μοντέλο στην Αναζήτηση Πληροφορίας Μπορούμε έπειτα να χρησιμοποιήσουμε το συνημίτονο της γωνίας Το διανυσματικό μοντέλο στην Αναζήτηση Πληροφορίας Μπορούμε έπειτα να χρησιμοποιήσουμε το συνημίτονο της γωνίας (cosine) μεταξύ των δύο διανυσμάτων για να βρούμε την ομοιότητα μεταξύ των δύο πληροφοριών

Τα βάρη στην σημασιολογία του κειμένου Για τον καθορισμό του βάρους ενός όρου καθοριστικό Τα βάρη στην σημασιολογία του κειμένου Για τον καθορισμό του βάρους ενός όρου καθοριστικό ρόλο παίζουν l η συχνότητα του όρου στο κείμενο του εγγράφου l Ο αριθμός του εγγράφων στα οποία συμμετέχει ο όρος Αυτά θα μπορούσαμε να τα συνδυάσουμε σε ένα μοναδικό βάρος Tf-idf σχήματα

Πιθανοτικά Μοντέλα l Στα πιθανοτικά μοντέλα η εμφάνιση ενός όρου μοντελοποιείται σαν ένα “συμβάν” Πιθανοτικά Μοντέλα l Στα πιθανοτικά μοντέλα η εμφάνιση ενός όρου μοντελοποιείται σαν ένα “συμβάν” και του αποδίδεται μια πιθανότητα. l Όσο μεγαλύτερη είναι η πιθανότητα εμφάνισης ενός όρου, τόσο πιο σημαντικός είναι ο ρόλος του στον καθορισμό της σημασιολογίας της πληροφορίας.

Πιθανοτικά Μοντέλα l Πρόσφατα μια νέα προσέγγιση, η μοντελοποίηση γλώσσας (language Modeling) έχει προταθεί Πιθανοτικά Μοντέλα l Πρόσφατα μια νέα προσέγγιση, η μοντελοποίηση γλώσσας (language Modeling) έχει προταθεί στα παραδοσιακά διανυσματικά και τα άλλα πιθανοτικά μοντέλα. l Έχει εφαρμοσθεί με επιτυχία στα συστήματα Αναζήτησης Πληροφορίας [8], [9], [10], [11]. l Ένα στατιστικό μοντέλο γλώσσας είναι ένας πιθανοτικός μηχανισμός παραγωγής κειμένου.

Πιθανοτικά Μοντέλα v Η καταγωγή του μοντέλου γλώσσας ανάγεται στην εποχή του Shannon [12], Πιθανοτικά Μοντέλα v Η καταγωγή του μοντέλου γλώσσας ανάγεται στην εποχή του Shannon [12], ο οποίος διατύπωσε την πολύ γνωστή θεωρία του στον τομέα των επικοινωνιών (source channel perspective) v O Shannon μελέτησε κατά πόσο τα απλά (νγράμματα) μοντέλα (n-gram models) μπορούν να προβλέψουν φυσικό κείμενο v Έχει εφαρμοσθεί με επιτυχία στην Αναγνώριση Λόγου (Speech Recognition)

Πιθανοτικά Μοντέλα l Το μοντέλο γλώσσας εφαρμόστηκε για πρώτη φορά σε εφαρμογές επεξεργασίας πληροφορίας Πιθανοτικά Μοντέλα l Το μοντέλο γλώσσας εφαρμόστηκε για πρώτη φορά σε εφαρμογές επεξεργασίας πληροφορίας κειμένου από τους Ponte και Croft το 1998 στην Ανάκτηση Πληροφορίας [8]. l Στα κλασικά πιθανοτικά μοντέλα Αναζήτησης Πληροφορίας [3], [5], [13], [14], υπάρχει η ανάγκη να κατανείμουμε μια μάζα πιθανότητας (Probability mass) πάνω σε ένα τεράστιο χώρο πιθανών τιμών (εκβάσεων) για τον κάθε όρο (unigram language model) l Εξαιρετικά Δύσκολο. Η μόνη ένδειξη τις περισσότερες φορές είναι οι όροι του ερωτήματος

Πιθανοτικά Μοντέλα l Οι Ponte και Croft [8], αντιμετώπισαν το ζήτημα με μια αντίστροφη Πιθανοτικά Μοντέλα l Οι Ponte και Croft [8], αντιμετώπισαν το ζήτημα με μια αντίστροφη προσέγγιση. Χρησιμοποιώντας μια smoothed εκδοχή του unigram language model, πρότειναν μια μέθοδο να αποδώσουν μια τιμή πιθανοφάνειας (likelihood score), από το έγγραφο στο ερώτημα. l Αυτή η προσέγγιση είναι γνωστή σαν “language modeling Approach” l Ένα μοντέλο γλώσσας θεωρείται σαν ένα θορυβώδες κανάλι ή “noisy channel” ή “translation channel”, το οποίο απεικονίζει τα έγγραφα στα ερωτήματα

Evaluation Measures Μέτρα Αποτίμησης των συστημάτων Επεξεργασίας Φυσικής Γλώσσας Evaluation Measures Μέτρα Αποτίμησης των συστημάτων Επεξεργασίας Φυσικής Γλώσσας

Μέτρα Αποτίμησης n Περιγράφουμε τα μέτρα Αποτίμησης που θα χρησιμοποιήσουμε στην Ανάκτηση Πληροφορίας και Μέτρα Αποτίμησης n Περιγράφουμε τα μέτρα Αποτίμησης που θα χρησιμοποιήσουμε στην Ανάκτηση Πληροφορίας και στα συστήματα Αποσαφήνισης Εννοιών. n Τα μέτρα αυτά εφαρμόζονται και γενικότερα στα συστήματα Επεξεργασίας Φυσικής Γλώσσας

Μέτρα Αποτίμησης Συστημάτων ΕΦΓ Precision και Recall Ας εξηγήσουμε τις έννοιες με όρους από Μέτρα Αποτίμησης Συστημάτων ΕΦΓ Precision και Recall Ας εξηγήσουμε τις έννοιες με όρους από την σκοπιά του Information Retrieval και θα γενικεύσουμε. Έστω ότι στο σύστημα Αναζήτησης Πληροφορίας υποβάλλεται ένα ερώτημα q. Εάν R το σύνολο των σχετικών εγγράφων με αυτό το ερώτημα και A το σύνολο των εγγράφων πού επέστρεψε το σύστημα

Μέτρα Αποτίμησης Συστημάτων ΕΦΓ n Επί πλέον έστω |Ra| ο αριθμός των εγγράφων στην Μέτρα Αποτίμησης Συστημάτων ΕΦΓ n Επί πλέον έστω |Ra| ο αριθμός των εγγράφων στην τομή (Intersection) των R και A Recall = Precision =

Μέτρα Αποτίμησης Συστημάτων ΕΦΓ Δηλαδή για ένα σύστημα Επεξεργασίας n Precision είναι το ποσοστό Μέτρα Αποτίμησης Συστημάτων ΕΦΓ Δηλαδή για ένα σύστημα Επεξεργασίας n Precision είναι το ποσοστό των Επιτυχιών στο σύνολο των Απαντήσεων του συστήματος n Recall είναι το ποσοστό των επιτυχιών στο σύνολο των σωστών Απαντήσεων που υπάρχει. n Συνηθίζουμε να αναπαριστούμε την καμπύλη Precision versus Recall Μάλιστα σε συγκεκριμένα ποσοστά του Recall 0%, 10%, 20%, , 100% Τότε μιλάμε για Precision Versus Recall at 11 Recall Points

Εφαρμογή των Στατιστικών Ελέγχων στην Ανάκτηση Πληροφορίας Εφαρμογή των Στατιστικών Ελέγχων στην Ανάκτηση Πληροφορίας

Εφαρμογή των Στατιστικών Ελέγχων στην Ανάκτηση Πληροφορίας Η Βασική Ιδέα. l Στα περισσότερα μοντέλα Εφαρμογή των Στατιστικών Ελέγχων στην Ανάκτηση Πληροφορίας Η Βασική Ιδέα. l Στα περισσότερα μοντέλα που χρησιμοποιούμε για την Αναζήτηση Πληροφορίας ενδιαφερόμαστε να εκτιμήσουμε πόσο “καλά” το μοντέλο του εγγράφου (document model) “ταιριάζει” στην πληροφοριακή ανάγκη του χρήστη (query model). l Από την άλλη πλευρά στην στατιστική, υπάρχουν καλά θεμελιωμένες τεχνικές για την εκτίμηση του κατά πόσο ένα μοντέλο “ταιριάζει” με κάποιο άλλο μοντέλο Φράγγος Κων/νος – Στατιστικοί Έλεγχοι στην Επεξεργασία Φυσικής Γλώσσας

Η Βασική Ιδέα. l Οι στατιστικοί έλεγχοι καλού “ταιριάσματος” (Goodness of fit statistical tests) Η Βασική Ιδέα. l Οι στατιστικοί έλεγχοι καλού “ταιριάσματος” (Goodness of fit statistical tests) είναι πολύ γνωστές μέθοδοι για την εκτίμηση της υπόθεσης του κατά πόσο ένα θεωρητικό μοντέλο «περιγράφει» καλά ένα σύνολο δεδομένων. l Στη βασική θέση της διατριβής αναπτύσσουμε μια τεχνική για Αναζήτηση Πληροφορίας η οποία στηρίζεται στον Χτετράγωνο έλεγχο καλού “ταιριάσματος” για να εκτιμήσουμε πόσο “καλά” το μοντέλο του εγγράφου ταριάζει στην πληροφοριακή ανάγκη του χρήστη

Εφαρμογή των Στατιστικών Ελέγχων στην Ανάκτηση Πληροφορίας Ø Η τεχνική αυτή εκτός του ότι Εφαρμογή των Στατιστικών Ελέγχων στην Ανάκτηση Πληροφορίας Ø Η τεχνική αυτή εκτός του ότι αποδεικνύεται ιδιαίτερα αποδοτική, είναι και ευέλικτη. Ø Μπορεί να προσαρμοσθεί και σε διαφορετικά προβλήματα, εκεί όπου υπεισέρχεται η έννοια της εκτίμησης του “ταιριάσματος”, όπως πχ στην αποσαφήνιση της έννοιας μιας λέξης.

Εφαρμογή των Στατιστικών Ελέγχων στην Ανάκτηση Πληροφορίας Υλοποίηση Η λογική είναι απλή. Διατυπώνουμε μια Εφαρμογή των Στατιστικών Ελέγχων στην Ανάκτηση Πληροφορίας Υλοποίηση Η λογική είναι απλή. Διατυπώνουμε μια βασική υπόθεση για τα δεδομένα γνωστή και ως “μηδενική υπόθεση ” Σύμφωνα με αυτή: Θεωρούμε ότι δεν υπάρχει καμία ιδιαίτερη σχέση ή δεσμός μεταξύ του ερωτήματος (query) και ενός συγκεκριμένου εγγράφου, εκτός από το ότι οι όροι του ερωτήματος μπορεί να εμφανισθούν σε αυτό το έγγραφο από “τύχη” και μόνο Για να εκτιμήσουμε την υπόθεση αυτή εκτελούμε ένα Χ-τετράγωνο στατιστικό έλεγχο (Goodness of Fit Statistical Test) και με την βοήθεια του ελέγχου αυτού εκτιμούμε την σχετικότητα του εγγράφου με το ερώτημα του Χρήστη. Φράγγος Κων/νος – Στατιστικοί Έλεγχοι στην Επεξεργασία Φυσικής Γλώσσας

Η μέθοδος αυτή εκτιμήθηκε πάνω στα επίσημα TREC δεδομένα για έλεγχο της αποδοτικότητας των Η μέθοδος αυτή εκτιμήθηκε πάνω στα επίσημα TREC δεδομένα για έλεγχο της αποδοτικότητας των Information Retrieval συστημάτων Η αποδοτικότητά της σταθερά πιο πάνω από τα κλασσικά tf-idf σχήματα και την OKAPI μέθοδο Πλεονεκτήματα ØΜη παραμετρική μέθοδος για Information Retrieval ØΠροκύπτουν απλοί τύποι Αναζήτησης Πληροφορίας ØΕναλλακτικοί τρόποι μοντελοποίηση Εγγράφων και Ερωτημάτων

Εισαγωγή στα Στατιστικά μοντέλα Γλώσσας • Διανυσματικά μοντέλα (vector Space models) • Πιθανοτικά μοντέλα Εισαγωγή στα Στατιστικά μοντέλα Γλώσσας • Διανυσματικά μοντέλα (vector Space models) • Πιθανοτικά μοντέλα (Probabilistic models) • Language Modeling Approach

Διανυσματικό μοντέλο. Προτάθηκε από τον Salton [2] το 1972. Μοντελοποιεί τα έγγραφα και τα Διανυσματικό μοντέλο. Προτάθηκε από τον Salton [2] το 1972. Μοντελοποιεί τα έγγραφα και τα ερωτήματα ως διανύσματα και χρησιμοποιεί διανυσματικές μετρικές για να εκτιμήσει την σχετικότητα. Ακόμα και σήμερα βρίσκεται σε χρήση. Πιθανοτικό μοντέλο. Προτάθηκε από τους Robertson και Sparck-Jones [3] το 1975. Χρησιμοποιεί την πιθανότητα εμφάνισης ενός όρου αντί της συχνότητας που χρησιμοποιείται στο Διανυσματικό μοντέλο, και εκτιμά την σχετικότητα του ερωτήματος με το έγγραφο χρησιμοποιώντας κατανομές Παραλλαγές Naïve Bayesian Networks [13] Inquery Retrieval System [14] OKAPI system

Language Modeling Approach Προτάθηκε to 1998 από τους Ponte και Croft [8] Χρησιμοποιεί τα Language Modeling Approach Προτάθηκε to 1998 από τους Ponte και Croft [8] Χρησιμοποιεί τα στατιστικά μοντέλα γλώσσας με όμοιο τρόπο όπως αυτά χρησιμοποιούνται στο Speech Recognition και έχουν την καταγωγή τους από την εποχή του Shannon με το μοντέλο του θορυβώδες καναλιού (noisy channel) [12]. Τα συστήματα αυτά αποδίδουν καλά αλλά έχουν το μειονέκτημα ότι είναι παραμετρικά και χρειάζονται εκτίμηση παραμέτρων πάνω σε training data Παραλλαγές Hidden Markov Models [48], [11] Translation Models [10]

Η δικιά μας Προσέγγιση Goodness of Fit (GOF) Αναζήτηση Για να βαθμολογήσουμε τα διάφορα Η δικιά μας Προσέγγιση Goodness of Fit (GOF) Αναζήτηση Για να βαθμολογήσουμε τα διάφορα έγγραφα βασιζόμαστε στον Χ-τετράγωνο στατιστικό έλεγχο Ο Χ-τετράγωνο έλεγχος περιγράφει το πόσο “καλά” μια υπόθεση (μηδενική υπόθεση), στην οποία θεωρούμε ότι υπόκεινται τα δεδομένα ταιριάζει με τα δεδομένα Πιο συγκεκριμένα διατυπώνουμε την μηδενική υπόθεση ότι όλοι οι όροι του ερωτήματος κατανέμονται “τυχαία” στα διάφορα έγγραφα Μετράμε την συχνότητα κάθε όρου στο έγγραφο (observed) και την συγκρίνουμε με την μηδενική υπόθεση (expected). Εάν η διαφορά είναι μεγάλη αυτό είναι ένδειξη “συσχέτισης” του ερωτήματος με το έγγραφο.

Στατιστικοί Έλεγχοι “Καλού” Ταιριάσματος n Τα στατιστικά προβλήματα ανάγονται συνήθως στον Έλεγχο για την Στατιστικοί Έλεγχοι “Καλού” Ταιριάσματος n Τα στατιστικά προβλήματα ανάγονται συνήθως στον Έλεγχο για την επιλογή μιας από δύο εναλλακτικές υποθέσεις: Την μηδενική (null Hypothesis) H 0, η οποία θεωρεί ότι το δείγμα ακολουθεί την υποκείμενη θεωρούμενη κατανομή, και την εναλλακτική H 1, η οποία θεωρεί ότι αυτό δεν συμβαίνει. n Ένας στατιστικός Έλεγχος θεωρείται ισχυρός εάν η πιθανότητα αποδοχής της H 0 είναι μικρή όταν η H 0 είναι λάθος.

Χ-τετράγωνο Έλεγχος l Ο πιο σημαντικός και ο πιο γνωστός στατιστικός Έλεγχος είναι ο Χ-τετράγωνο Έλεγχος l Ο πιο σημαντικός και ο πιο γνωστός στατιστικός Έλεγχος είναι ο Χ 2 και προτάθηκε από τον Pearson [33], (Pearson’s chisquared test). l Για τον υπολογισμό του η στατιστική που χρησιμοποιείται είναι η εξήs: Όπου Oi η παρατηρηθείσα συχνότητα και Ei η αναμενόμενη συχνότητα από την μηδενική υπόθεση. Η στατιστική Ελέγχου της εξίσωσης 2. 1 ακολουθεί την Χ 2 κατανομή με k -c βαθμούς ελευθερίας, όπου k ο αριθμός των κλάσεων κατηγοριοποίησης των δεδομένων και c o αριθμός των εκτιμώμενων παραμέτρων για την κατανομή που θεωρούμε ότι διέπει τα δεδομένα.

Χ-τετράγωνο Έλεγχος (συνέχεια) l Χρησιμοποιώντας κάποιο στατιστικό πακέτο η πίνακες της Χ 2 κατανομής Χ-τετράγωνο Έλεγχος (συνέχεια) l Χρησιμοποιώντας κάποιο στατιστικό πακέτο η πίνακες της Χ 2 κατανομής υπολογίζουμε την p τιμή (p-value) για την υπολογιζόμενη Χ 2 τιμή από την προηγούμενη εξίσωση. l Εάν η τιμή p είναι πολύ μικρή (τυπικά κάτω από ένα επίπεδο σημαντικότητας) απορρίπτουμε την μηδενική υπόθεση, διαφορετικά την αποδεχόμαστε.

Μέθοδος Αναζήτησης Πληροφορίας με την χρήση του Χ 2 στατιστικού Ελέγχου n Η ουσία Μέθοδος Αναζήτησης Πληροφορίας με την χρήση του Χ 2 στατιστικού Ελέγχου n Η ουσία της προτεινόμενης μεθόδου είναι να συγκρίνει τις παρατηρηθείσες συχνότητες των όρων του ερωτήματος στο έγγραφο με τις αναμενόμενες από την θεωρούμενη υπόθεση της “τυχαίας” κατανομής. n Η σύγκριση αυτή με την βοήθεια του Χ 2 στατιστικού Ελέγχου μπορεί να ποσοτικοποιήσει μια διαφορά (discrepancy), η οποία τελικά να χρησιμοποιηθεί σαν κριτήριο βαθμολόγησης της συνάφειας του ερωτήματος με το έγγραφο.

Μέθοδος Αναζήτησης Πληροφορίας με την χρήση του Χ 2 στατιστικού Ελέγχου (Συνέχεια) n Η Μέθοδος Αναζήτησης Πληροφορίας με την χρήση του Χ 2 στατιστικού Ελέγχου (Συνέχεια) n Η μηδενική υπόθεση απορρίπτεται όταν η υπολογιζόμενη Χ 2 τιμή από την εξίσωση 2. 1 του Pearson είναι μεγαλύτερη από την τιμή που λαμβάνουμε από τους πίνακες της Χ 2 κατανομής για ένα επίπεδο σημαντικότητας α (συνήθως α=0. 05, για βεβαιότητα 95%) n Δηλαδή, όσο μεγαλύτερη είναι η υπολογιζόμενη Χ 2 τιμή τόσο ισχυρότερη είναι η ένδειξη να απορρίψουμε την μηδενική υπόθεση και επομένως να έχουμε μια συσχέτιση (relatedness) μεταξύ ερωτήματος και εγγράφου

Μέθοδος Αναζήτησης Πληροφορίας με την χρήση του Χ 2 στατιστικού Ελέγχου (Συνέχεια) n Επομένως Μέθοδος Αναζήτησης Πληροφορίας με την χρήση του Χ 2 στατιστικού Ελέγχου (Συνέχεια) n Επομένως όσον αφορά την τεχνική μας για την μέτρηση της συνάφειας μεταξύ ερωτήματος και εγγράφου θα μπορούσαμε να χρησιμοποιήσουμε αυτή καθ’ εαυτή την υπολογιζόμενη Χ 2 τιμή χωρίς να ενδιαφερόμαστε πραγματικά να απορρίψουμε την μηδενική υπόθεση n Τα έγγραφα με την μεγαλύτερη αντίστοιχη Χ 2 τιμή θα τοποθετηθούν στην κορυφή της επιστρεφόμενης βαθμολογημένης λίστας με τα σχετικά έγγραφα

Μέθοδος Αναζήτησης Πληροφορίας με την χρήση του Χ 2 στατιστικού Ελέγχου (Συνέχεια) Μέθοδος Αναζήτησης Πληροφορίας με την χρήση του Χ 2 στατιστικού Ελέγχου (Συνέχεια)

Μέθοδος Αναζήτησης Πληροφορίας με την χρήση του Χ 2 στατιστικού Ελέγχου (Συνέχεια) Μέθοδος Αναζήτησης Πληροφορίας με την χρήση του Χ 2 στατιστικού Ελέγχου (Συνέχεια)

Μέθοδος Αναζήτησης Πληροφορίας με την χρήση του Χ 2 στατιστικού Ελέγχου (Συνέχεια) Μέθοδος Αναζήτησης Πληροφορίας με την χρήση του Χ 2 στατιστικού Ελέγχου (Συνέχεια)

Μέθοδος Αναζήτησης Πληροφορίας με την χρήση του Χ 2 στατιστικού Ελέγχου (Συνέχεια) n Πλεονεκτήματα Μέθοδος Αναζήτησης Πληροφορίας με την χρήση του Χ 2 στατιστικού Ελέγχου (Συνέχεια) n Πλεονεκτήματα ¨ Το κύριο πλεονέκτημα είναι ότι η προτεινόμενη μέθοδος δεν είναι παραμετρική. Σε άλλες μεθόδους όπως η KL-Divergence το παραγόμενο μοντέλο χρειάζεται εκτίμηση των παραμέτρων της κατανομής πάνω σε δεδομένα εκπαίδευσης (training data) ¨ Προκύπτει formula) ¨ Μπορούμε απλός τύπος Αναζήτησης (Retrieval να δοκιμάσουμε πολλούς εναλλακτικούς τύπους Αναζήτησης απλά αλλάζοντας την βασική μας υπόθεση για τα δεδομένα (δηλαδή το μοντέλο της τυχαιότητας)

Τα μοντέλα Σύγκρισης n Θα περιγράψουμε δύο δημοφιλή μοντέλα Αναζήτησης Πληροφορίας με τα οποία Τα μοντέλα Σύγκρισης n Θα περιγράψουμε δύο δημοφιλή μοντέλα Αναζήτησης Πληροφορίας με τα οποία θα συγκρίνουμε την προτεινόμενη Χ 2 GOF μέθοδο, τις: – OKAPI μέθοδο, από τα γνωστά tf-idf σχήματα – KL-Divergence από την Language Modeling Προσέγγιση για Information Retrieval

Tf-idf σχήματα, OKAPI τύπος Αναζήτησης l l l Τα tf-idf σχήματα είναι γνωστά και Tf-idf σχήματα, OKAPI τύπος Αναζήτησης l l l Τα tf-idf σχήματα είναι γνωστά και ως μοντέλα διανυσματικού χώρου και προτάθηκαν για πρώτη από τον Salton το 1971, [2]. Σύμφωνα με αυτό το μοντέλο, κάθε όρος kj σε ένα έγγραφο dj συνδέεται με ένα θετικό βάρος wij το οποίο εκφράζει το πόσο σημαντικός είναι ο όρος για τον καθορισμό της σημασιολογίας του εγγράφου και επομένως της σπουδαιότητάς του στο σύστημα Αναζήτησης Επίσης και κάθε όρος του ερωτήματος συνδέεται με ένα αντίστοιχο βάρος

Tf-idf, OKAPI τύπος Αναζήτησης (Συνέχεια) Tf-idf, OKAPI τύπος Αναζήτησης (Συνέχεια)

Tf-idf, OKAPI τύπος Αναζήτησης (Συνέχεια) Tf-idf, OKAPI τύπος Αναζήτησης (Συνέχεια)

Tf-idf, OKAPI τύπος Αναζήτησης (Συνέχεια) l Για να γίνει πιο ανταγωνιστικό το σχήμα χρησιμοποιούμε Tf-idf, OKAPI τύπος Αναζήτησης (Συνέχεια) l Για να γίνει πιο ανταγωνιστικό το σχήμα χρησιμοποιούμε μια παραλλαγή του βάρους σχετικά με αυτό που δίνεται στον τύπο (2. 8), τον OKAPI-TF τύπο γνωστό και ως BM 25 τύπο για το βέλτιστο ταίριασμα (Best matching OKAPI retrieval formula [49]). l Ενώ ο OKAPI TF τύπος σχεδιάστηκε για να χρησιμοποιηθεί με το ΟΚAPI πιθανοτικό μοντέλο, έχει αποδειχθεί ότι όταν χρησιμοποιείται με το διανυσματικό μοντέλο δίνει καλύτερα αποτελέσματα Αναζήτησης [66]

Tf-idf, OKAPI τύπος Αναζήτησης (Συνέχεια) Tf-idf, OKAPI τύπος Αναζήτησης (Συνέχεια)

KL-Divergence n n H KL-Divergence [40], είναι μια ιδιαίτερα αποδοτική μέθοδο η οποία επεκτείνει KL-Divergence n n H KL-Divergence [40], είναι μια ιδιαίτερα αποδοτική μέθοδο η οποία επεκτείνει την προσέγγιση των μοντέλων γλώσσας (language modeling approach) στην περιοχή του Information Retrieval Είναι μια παραμετρική μέθοδο. Η βασική ιδέα έγκειται στην εκτίμηση ενός μοντέλου γλώσσας για το έγγραφο και ενός μοντέλου γλώσσας για το ερώτημα και να τα συγκρίνει με την Kullback-Leibler Divergence

KL-Divergence (Συνέχεια) n H KL-Divergence αν και δεν είναι πραγματική απόσταση (δεν είναι συμμετρική KL-Divergence (Συνέχεια) n H KL-Divergence αν και δεν είναι πραγματική απόσταση (δεν είναι συμμετρική και δεν ισχύει η τριγωνική ανισότητα) είναι ένα πολύ καλό μέτρο μέτρησης της ομοιότητας μεταξύ δύο κατανομών.

KL-Divergence (Συνέχεια) Ο δεύτερος από τα δεξιά όρος είναι μια σταθερά εξαρτώμενη από το KL-Divergence (Συνέχεια) Ο δεύτερος από τα δεξιά όρος είναι μια σταθερά εξαρτώμενη από το ερώτημα, ή καλύτερα από την εντροπία του μοντέλου του ερωτήματος και δεν εξαρτάται από το έγγραφο, για αυτό μπορεί να παραληφθεί. Στον ίδιο τύπο, η σχετικότητα του εγγράφου d σε σχέση με το ερώτημα q εξαρτάται από την εκτίμηση του μοντέλου του ερωτήματος p(w|θq) και του μοντέλου γλώσσας του εγγράφου p(w|θd)

KL-Divergence (Συνέχεια) KL-Divergence (Συνέχεια)

KL-Divergence (Συνέχεια) KL-Divergence (Συνέχεια)

Εκτίμηση του Χ 2 Συστήματος Αναζήτησης Πληροφορίας Στα παραδοσιακά συστήματα Αναζήτησης Πληροφορίας τα έγγραφα Εκτίμηση του Χ 2 Συστήματος Αναζήτησης Πληροφορίας Στα παραδοσιακά συστήματα Αναζήτησης Πληροφορίας τα έγγραφα παραμένουν σταθερά στην συλλογή, ενώ νέα ερωτήματα υποβάλλονται στο σύστημα από το οποίο ζητείται να επιστρέψει τα πιο σχετικά έγγραφα. Αυτό είναι γνωστό ως Ad-hoc Retrieval. Πάνω σε αυτό θα ελέγξουμε την αποδοτικότητα της προτεινόμενης Χ 2 -GOF μεθόδου και θα την συγκρίνουμε με την OKAPI και KL-Divergence μέθοδο για το ίδιο πρόβλημα

Περιγραφή των TREC Δεδομένων Αποτίμησης l Μια συλλογή εγγράφων πού χρησιμοποιείται επί χρόνια για Περιγραφή των TREC Δεδομένων Αποτίμησης l Μια συλλογή εγγράφων πού χρησιμοποιείται επί χρόνια για την αποτίμηση των συστημάτων Αναζήτησης Πληροφορίας είναι η TIPSTER/TREC collection [44] l Λόγω του μεγάλου όγκου της θεωρείται σήμερα σαν standard reference test collection για την περιοχή του information Retrieval l H δημιουργία της συλλογής ξεκίνησε από την Domna Harman, μια διευθύντρια στο National Institute of Standards and technology (NIST), πού είχε την ιδέα της διοργάνωσης ενός διαγωνισμού σε ετήσια βάσει για Information Retrieval συστήματα, υπό το όνομα TREC (Text Retrieval Conference)

Περιγραφή των TREC Δεδομένων Περιγραφή των TREC Δεδομένων

Περιγραφή των TREC Δεδομένων (Συνέχεια) n Επειδή οι συλλογές αυτές δημιουργήθηκαν υπό το χρηματοδοτούμενο Περιγραφή των TREC Δεδομένων (Συνέχεια) n Επειδή οι συλλογές αυτές δημιουργήθηκαν υπό το χρηματοδοτούμενο από το DARPA πρόγραμμα TIPSTER αναφέρονται και σαν TIPSTER ή TIPSTER/TREC test Collection n H TREC Collection αυξάνει σταθερά χρόνο με το χρόνο. Σήμερα διατίθεται επί αγορά σε 6 CD Rom Disks πού το καθένα χονδρικά περιέχει περίπου 1 gigabyte συμπιεσμένο κείμενο n Πηγές Προέλευσης των κειμένων

Περιγραφή των TREC Δεδομένων (Συνέχεια) Δείγμα Εγγράφου στην Συλλογή n Όλα τα έγγραφα στην Περιγραφή των TREC Δεδομένων (Συνέχεια) Δείγμα Εγγράφου στην Συλλογή n Όλα τα έγγραφα στην συλλογή έχουν ετικετοποιηθεί (tagged) με SGML για εύκολο Parsing

Περιγραφή των TREC Δεδομένων (Συνέχεια) Δείγμα Εγγράφου στην Συλλογή (Συνέχεια) Περιγραφή των TREC Δεδομένων (Συνέχεια) Δείγμα Εγγράφου στην Συλλογή (Συνέχεια)

Περιγραφή των TREC Δεδομένων (Συνέχεια) n Η TREC συλλογή περιέχει και ένα σύνολο από Περιγραφή των TREC Δεδομένων (Συνέχεια) n Η TREC συλλογή περιέχει και ένα σύνολο από ερωτήματα (queries) πού είναι αιτήματα που εκφράζουν κάποια πληροφοριακή ανάγκη και με αυτά μπορεί να ελεγχθεί ένας νέος αλγόριθμος ως προς την αποδοτικότητά του. n Στην TREC ορολογία ένα τέτοιο ερώτημα ονομάζεται topic n Παράδειγμα ενός topic είναι το επόμενο

Περιγραφή των TREC Δεδομένων Δείγμα topic (Συνέχεια) Περιγραφή των TREC Δεδομένων Δείγμα topic (Συνέχεια)

Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα OKAPI μέθοδος n n Για να έχουμε μια Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα OKAPI μέθοδος n n Για να έχουμε μια καλύτερη εικόνα της δυνατότητας Αναζήτησης της προτεινόμενης X 2 -GOF μεθόδου, επιλέξαμε να γίνει ο έλεγχος της αποδοτικότητας σε 3 μεγάλες υποσυλλογές της TREC συλλογής, οι οποίες είναι: Tην προτεινόμενη μέθοδο θα την συγκρίνουμε επίσης πάνω στην ίδια συλλογή με την OKAPI μέθοδο που θεωρείται κλασσική για Information Retrieval

Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα OKAPI μέθοδος (Συνέχεια) n Στον πίνακα 2. 1 Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα OKAPI μέθοδος (Συνέχεια) n Στον πίνακα 2. 1 φαίνονται τα στατιστικά στοιχεία των συλλογών αυτών

Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα OKAPI μέθοδος (Συνέχεια) n n n Ως ερωτήματα Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα OKAPI μέθοδος (Συνέχεια) n n n Ως ερωτήματα χρησιμοποιήσαμε τα θέματα 351 -400 ( topics 351 -400), τα οποία χρησιμοποιήσαμε στο συνέδριο TREC-7 Εκτελέσαμε δύο πειράματα με αυτά τα θέματα. Στο ένα χρησιμοποιήσαμε μόνο τους τίτλους από το κείμενο του ερωτήματος και στο δεύτερο χρησιμοποιώντας μια μεγαλύτερη έκδοση των ερωτημάτων Για τα πειράματα αυτά δεν χρησιμοποιήσαμε καμία προεπεξεργασία στα κείμενα, όπως πχ, tokenization, stemming ούτε εφαρμόσαμε καμία λίστα αποκλεισμού συχνών λέξεων (stopword list), όπως άρθρων, συνδέσμων, επιρρημάτων, κλπ. Αντίθετα λάβαμε υπ’ όψιν όλες ανεξαιρέτως τις λέξεις όλων των εγγράφων στην συλλογή

Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα OKAPI μέθοδος (Συνέχεια) Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα OKAPI μέθοδος (Συνέχεια)

Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα OKAPI μέθοδος (Συνέχεια) Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα OKAPI μέθοδος (Συνέχεια)

Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα OKAPI μέθοδος (Συνέχεια) Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα OKAPI μέθοδος (Συνέχεια)

Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα OKAPI μέθοδος (Συνέχεια) Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα OKAPI μέθοδος (Συνέχεια)

Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα OKAPI μέθοδος (Συνέχεια) Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα OKAPI μέθοδος (Συνέχεια)

Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα, OKAPI μέθοδος (Συνέχεια) Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα, OKAPI μέθοδος (Συνέχεια)

Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα, OKAPI μέθοδος (Συνέχεια) Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα, OKAPI μέθοδος (Συνέχεια)

Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα, OKAPI μέθοδος (Συνέχεια) Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα, OKAPI μέθοδος (Συνέχεια)

Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα, OKAPI μέθοδος (Συνέχεια) Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα, OKAPI μέθοδος (Συνέχεια)

Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα, OKAPI μέθοδος (Συνέχεια) Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα, OKAPI μέθοδος (Συνέχεια)

Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα, OKAPI μέθοδος (Συνέχεια) Σύγκριση Αποδοτικότητας με τα tf-idf σχήματα, OKAPI μέθοδος (Συνέχεια)

Σύγκριση με την KL-Divergence και OKAPI στην TREC συλλογή o o Για την καλύτερη Σύγκριση με την KL-Divergence και OKAPI στην TREC συλλογή o o Για την καλύτερη αποτίμηση των δυνατοτήτων της προτεινόμενης X 2 GOF μεθόδου εκτελέσαμε ένα μεγαλύτερο πείραμα πάνω σε όλη την TREC των CD’s 4, 5 συγκρίνοντας αυτή την φορά και με την KLDivergence μέθοδο Τα στατιστικά στοιχεία της συλλογής φαίνονται παρακάτω

Χαρακτηριστικά και πλεονεκτήματα της Προτεινόμενης Χ 2 -GOF μεθόδου n n n Αν και Χαρακτηριστικά και πλεονεκτήματα της Προτεινόμενης Χ 2 -GOF μεθόδου n n n Αν και η προτεινόμενη μέθοδος χρησιμοποιεί για την Αναζήτηση μόνο καθαρές συχνότητες, η μέθοδος ξεπερνά σταθερά την OKAPI BM 25 μέθοδο Αναζήτησης Ωστόσο και στις δύο περιπτώσεις TREC-7 και TREC-8 η KL-Divergence έχει την καλύτερη αποδοτικότητα Η μέθοδος όμως αυτή έχει το μειονέκτημα ότι είναι παραμετρική και χρειάζεται εκτίμηση των παραμέτρων πάνω σε ολόκληρη την συλλογή.

Χαρακτηριστικά και πλεονεκτήματα της Προτεινόμενης Χ 2 -GOF μεθόδου n n n Η απλότητα Χαρακτηριστικά και πλεονεκτήματα της Προτεινόμενης Χ 2 -GOF μεθόδου n n n Η απλότητα είναι ένα από τα βασικά πλεονεκτήματα της προτεινόμενης μεθόδου. Η υπολογιζόμενη X 2 -GOF τιμή βελτιώνει την αποδοτικότητα και επιτρέπει την ανεύρεση εγγράφων που προσεγγίζουν τις συνθήκες του ερωτήματος Η μέθοδος μας επιτρέπει να αποφασίσουμε εάν υπάρχει μια στατιστικά σημαντική σχέση μεταξύ ερωτήματος και εγγράφου Επι πλέον, μας επιτρέπει μέσα στο πλαίσιο των στατιστικών ελέγχων να δοκιμάσουμε εναλλακτικούς τύπους Αναζήτησης, απλά αλλάζοντας την βασική υπόθεση για τα δεοδμένα

Στατιστική Εκτίμηση της Αποδοτικότητας των Συγκρινόμενων Αλγορίθμων n Οι αποδόσεις των συγκρινόμενων αλγορίθμων σε Στατιστική Εκτίμηση της Αποδοτικότητας των Συγκρινόμενων Αλγορίθμων n Οι αποδόσεις των συγκρινόμενων αλγορίθμων σε αυτά τα πειράματα φαίνεται να είναι διαφορετική n Για να το εκτιμήσουμε και πιο τυπικά αυτό θα εκτελέσουμε ένα έλεγχο paired t-test n O έλεγχος paired t-test χρησιμοποιείται για να ελέγξουμε εάν οι μέσες τιμές των πληθυσμών δύο δειγμάτων είναι ίσοι n Στην περίπτωσή μας χρησιμοποιούμε σαν δείγματα τις λαμβανόμενες μέσες τιμές ακρίβειας στα 11 -σημεία από τα πειράματα πού κάναμε

Στατιστική Εκτίμηση της Αποδοτικότητας των Συγκρινόμενων Αλγορίθμων n Εκτελώντας τον έλεγχο paired t-test για Στατιστική Εκτίμηση της Αποδοτικότητας των Συγκρινόμενων Αλγορίθμων n Εκτελώντας τον έλεγχο paired t-test για τα μοντέλα X 2 -GOF και OKAPI, τότε η επιστρεφόμενη πιθανότητα (p-value) για τα θέματα 351 -400 είναι 0. 0326 και για τα θέματα 401 -450 είναι 0. 00010608 n Επομένως συμπεραίνουμε ότι οι λαμβανόμενες μέσες ακρίβειες για τα μοντέλα X 2 -GOF και OKAPI, είναι διαφορετικές με βεβαιότητα 96. 74% και 99. 98% για τα θέματα 351 -400 και 401 -450 αντίστοιχα n Όμοια συγκρίνοντας τα μοντέλα X 2 -GOF και KL-Divergence βρίσκουμε επιστρεφόμενες πιθανότητες 0. 0004 για τα θέματα 351 -400 και 0. 0018 για τα θέματα 401 -450

Αλλάζοντας την Βασική Υπόθεση για τα Δεδομένα o o o Στην εργασία Divergence from Αλλάζοντας την Βασική Υπόθεση για τα Δεδομένα o o o Στην εργασία Divergence from Randomness, Amati [67], προτείνεται ένα βασικό μοντέλο τυχαιότητας της κατανομής των όρων στα διάφορα έγγραφα. Σύμφωνα με αυτό οι διαδικασίες κατανομής των όρων μπορούν να ορισθούν σαν τυχαίες εκλογές (Random Drawings) από ένα “δοχείο” (urn) που περιέχει τους διαθέσιμους όρους. Ακολουθώντας αυτή την πρόταση αλλάξαμε το μοντέλο τυχαιότητας από αυτό της ομοιόμορφης κατανομής στο διωνυμικό μοντέλο (Binomial model) Σύμφωνα με αυτό το μοντέλο η εμφάνιση ενός μοναδικού όρου i σε ένα έγγραφο d θεωρείται Bernoulli διαδικασία με πιθανότητα p=1/N, όπου Ν ο αριθμός των εγγράφων

Αλλάζοντας την Βασική Υπόθεση για τα Δεδομένα Αλλάζοντας την Βασική Υπόθεση για τα Δεδομένα

Αλλάζοντας την Βασική Υπόθεση για τα Δεδομένα o Για να συγκρίνουμε την αποδοτικότητα των Αλλάζοντας την Βασική Υπόθεση για τα Δεδομένα o Για να συγκρίνουμε την αποδοτικότητα των δύο διαφορετικών Υποθέσεων εκτελέσαμε ένα πείραμα Αναζήτησης πάνω στην συλλογή FBIS από το CD 5 της TREC συλλογής

Συμπεράσματα l Παρουσιάσαμε μια μέθοδο για εφαρμογή του X 2 -GOF στατιστικού Ελέγχου στην Συμπεράσματα l Παρουσιάσαμε μια μέθοδο για εφαρμογή του X 2 -GOF στατιστικού Ελέγχου στην Αναζήτηση Πληροφορίας l H μέθοδος αποδεικνύεται εύρωστη (robust) και αποδοτική, αποδίδοντας καλά τόσα για “σύντομα” ερωτήματα όσο και για περισσότερα “φλύαρα” (Verbose) l Έχει το πλεονέκτημα να μας επιτρέπει να μοντελοποιήσουμε τα έγγραφα και τα ερωτήματα με πολλές διαφορετικές Υποθέσεις. l Κάποιες διαφορετικές υποθέσεις για τα δεδομένα όπως η Κανονικότητα (Normality), Weibull, κλπ, πιθανόν να είναι καλές εναλλακτικές Υποθέσεις. l Επίσης και η δοκιμή άλλων στατιστικών Ελέγχων, όπως Kolmogorov-Smirnov και Anderson-Darling.

Στατιστικές Μέθοδοι στην Εύρεση Collocations Στατιστικές Μέθοδοι στην Εύρεση Collocations

Collocations ► Λέξεις που συνεκφέρονται πολύ συχνά μαζί ► Είναι κοινό χαρακτηριστικό των φυσικών Collocations ► Λέξεις που συνεκφέρονται πολύ συχνά μαζί ► Είναι κοινό χαρακτηριστικό των φυσικών γλωσσών και μπορούν να εμφανισθούν τόσο σε απλό κείμενο φυσικής γλώσσας όσο και σε τεχνικό και επιστημονικό κείμενο ► Ένα Collocation μπορεί να είναι συνδυασμός λέξεων ή (φράσεων) πού εμφανίζεται πολύ συχνά στην γλώσσα με ένα τρόπο που να φαίνεται φυσικός νοηματικά από τα συμφραζόμενα, παρότι η απομονωμένη σύνθεση των επί μέρους νοημάτων που απαρτίζουν το collocation, οδηγεί σε νοηματικό περιεχόμενο άσχετο με τα συμφραζόμενα

Collocations Τα collocations σε γλώσσες με ένα πλούσιο κλιτικό σύστημα, όπως η Ελληνική, εμφανίζονται Collocations Τα collocations σε γλώσσες με ένα πλούσιο κλιτικό σύστημα, όπως η Ελληνική, εμφανίζονται με 2 τρόπους: Ø Άκαμπτος Οι λέξεις “χρηματιστήριο” και “αξία” σαν “Χρηματιστήριο Αξιών” Ø Χαλαρός Οι λέξεις “Στρώνομαι” και “δουλειά” σαν “Στρώνομαι στην δουλειά” “Η δουλειά μου στρώνει”

Collocations Για τα Collocation υπάρχουν πολλοί ορισμοί, αφού οι διάφοροι ερευνητές έχουν εστιάσει πάνω Collocations Για τα Collocation υπάρχουν πολλοί ορισμοί, αφού οι διάφοροι ερευνητές έχουν εστιάσει πάνω σε διαφορετικά χαρακτηριστικά ü Firth [55] “Collocations of a given word are statements of the habitual or customary places of the word” ü Benson και Morton [50] “An arbitrary and recurrent word combination ” Το recurrent σημαίνει ότι αυτοί οι συνδυασμοί εμφανίζονται συχνά για ένα δεδομένο Context (συμφραζόμενα)

Collocations ü Smadja [64] Καθορίζει 4 χαρακτηριστικά για τα Collocations χρήσιμα για τις υπολογιστικές Collocations ü Smadja [64] Καθορίζει 4 χαρακτηριστικά για τα Collocations χρήσιμα για τις υπολογιστικές εφαρμογές Τα Collocations είναι αυθαίρετα, αυτό σημαίνει ότι δεν αντιστοιχούν σε κάποια συντακτική ή σημασιολογική παραλλαγή Τα Collocations είναι domain-dependent, επομένως ο χειρισμός κειμένου σε ένα πεδίο απαιτεί σαφή γνώση της ορολογίας και των domain-dependent Collocations Τα Collocations είναι recurrent, όπως ορίστηκε παραπάνω Τα Collocations είναι Cohesive lexical clusters, πού σημαίνει ότι η εμφάνιση μιας η περισσότερων λέξεων συχνά συνεπάγεται την εμφάνιση και των υπολοίπων λέξεων

Collocations Σύμφωνα με τους Manning και Schutze [60] τα Collocations χαρακτηρίζονται από limited compositionality Collocations Σύμφωνα με τους Manning και Schutze [60] τα Collocations χαρακτηρίζονται από limited compositionality (περιορισμένη συνθετικότητα) Μια έκφραση φυσικής γλώσσας είναι compositional, εάν η έννοια της έκφρασης μπορεί να προβλεφθεί από την σύνθεση των εννοιών που συνθέτου το collocation Παράδειγμα η έκφραση “Γερό ποτήρι” Τέλος Ένα άλλο χαρακτηριστικό των collocations είναι η απουσία έγκυρων συνωνύμων [59], [60] Παράδειγμα: Συνώνυμα Baggage και luggage Μόνο emotional, historical ή psychological baggage

Η Χρησιμότητα των Collocations Είναι σημαντικά για ένα σημαντικό αριθμό εφαρμογών όπως n n Η Χρησιμότητα των Collocations Είναι σημαντικά για ένα σημαντικό αριθμό εφαρμογών όπως n n Natural Language Generation: Χρειάζεται τον σωστό συνδυασμό λέξεων Machine Translation: Είναι δύσκολο να μεταφράσουμε από την μια γλώσσα στην άλλη τα Collocations, π. χ. Clear road -> Ελεύθερος δρόμος Text Simplification: Αντικατάσταση δύσκολων λέξεων με απλές χρειάζεται γνώση Collocations Computational Lexicography: Τα Collocations είναι απαραίτητα για να χαρακτηρίσουν πλήρως τις λεξικές καταχωρήσεις

H λογική της Εξαγωγής Collocations Παρουσιάζουμε δύο μεθόδους παραγωγής Collocations. Στην πρώτη περίπτωση εφαρμόζουμε H λογική της Εξαγωγής Collocations Παρουσιάζουμε δύο μεθόδους παραγωγής Collocations. Στην πρώτη περίπτωση εφαρμόζουμε την δοκιμασμένη μέθοδο του μέσου και της διασποράς Στην δεύτερη μέθοδο θεμελιώνουμε την εφαρμογή του X 2 στατιστικού ελέγχου για την εξαγωγή Collocations

H λογική της Εξαγωγής Collocations n n Η παραδοσιακή προσέγγιση για την εξαγωγή Collocations H λογική της Εξαγωγής Collocations n n Η παραδοσιακή προσέγγιση για την εξαγωγή Collocations είναι η λεξικογραφική προσέγγιση. Σύμφωνα με τους Benson και Morton [50] δεν μπορούμε να χειριστούμε ξεχωριστά τα συμμετέχοντα μέρη σε ένα Collocation (Collocates). Επομένως η εξαγωγή Collocations δεν είναι προβλέψιμη, πρέπει να γίνεται πρώτα χειρονακτικά και έπειτα να εισάγονται στα λεξικά

H λογική της Εξαγωγής Collocations Πρόσφατα η στατιστική έχει εφαρμοστεί στην εξαγωγή Collocations O H λογική της Εξαγωγής Collocations Πρόσφατα η στατιστική έχει εφαρμοστεί στην εξαγωγή Collocations O Choueka [52], δοκίμασε να εξαγάγει Collocations χρησιμοποιώντας N-γράμματα (N-grams) συνδυασμούς από 2 έως 4 λέξης χρησιμοποιώντας ένα πολύ απλό κριτήριο την συχνότητα εμφάνισης Ατυχώς η επιλογή αυτή δεν οδηγεί πάντοτε στα καλύτερα αποτελέσματα, π. χ. στην Αγγλική γλώσσα τα συχνότερα bigrams: Of the, in the, to the

H λογική της Εξαγωγής Collocations Για να ξεπεράσουν το προηγούμενο πρόβλημα οι Justenson και H λογική της Εξαγωγής Collocations Για να ξεπεράσουν το προηγούμενο πρόβλημα οι Justenson και Katz [58] πρότειναν να επιλέγονται μόνο εκείνα τα bigrams πού αποτελούν φράσεις. Χρησιμοποίησαν part-of-speech φίλτρα n AN, NN, AAN, ANN, όπου A σημαίνει επίθετο και Ν ουσιαστικό n Αν και ευριστική απλή μέθοδος οι συγγραφείς ανέφεραν σημαντική βελτιωση στα αποτελέσματα

H λογική της Εξαγωγής Collocations n n Η βασιζόμενη στην συχνότητα εμφάνισης μέθοδος δουλεύει H λογική της Εξαγωγής Collocations n n Η βασιζόμενη στην συχνότητα εμφάνισης μέθοδος δουλεύει πολύ καλά με φράσεις ουσιαστικών. Ωστόσο πολλά Collocations περιέχουν λέξεις με πολύ πιο ευέλικτες συσχετίσεις μεταξύ των Η μέθοδος του μέσου και της διασποράς (mean and Variance method [64]) ξεπερνάει το πρόβλημα υπολογίζοντας τις προσημασμένες αποστάσεις μεταξύ των Collocates και βρίσκοντας την διασπορά (spread) αυτών των προσημασμένων αποστάσεων

H λογική της Εξαγωγής Collocations n n n Η προσέγγιση του μέσου και της H λογική της Εξαγωγής Collocations n n n Η προσέγγιση του μέσου και της διασποράς φαίνεται λογική είναι απλή. Αναζητούμε κατανομές με μικρή διασπορά Μια εναλλακτική μέθοδος βασιζόμενη στην συχνότητα εμφάνισης είναι αμοιβαία πληροφορία (mutual information [53]). O όρος έχει mutual information την καταγωγή του από την Θεωρία της Πληροφορίας και είναι χονδρικά ένα μέτρο του πόσο πολύ μια λέξη μας πληροφορεί για μια άλλη

Η προτεινόμενη μέθοδος του X 2 στατιστικού ελέγχου n n n Η βασιζόμενη στην Η προτεινόμενη μέθοδος του X 2 στατιστικού ελέγχου n n n Η βασιζόμενη στην συχνότητα εμφάνισης μέθοδο έχει μια αδυναμία. Αποτυγχάνει στην περίπτωση που έχουμε ακραίες τιμές Outliers (Bigrams με πολύ υψηλή συχνότητα) Εμείς θα παρουσιάσουμε μια εναλλακτική προσέγγιση πού βασίζεται στον X 2 στατιστικό έλεγχο. Θα δώσουμε επίσης ένα εναλλακτικό τύπο για τον υπολογισμό της X 2 στατιστικής για την περίπτωση της εξαγωγής bigrams από το corpus

Η προτεινόμενη μέθοδος του X 2 στατιστικού ελέγχου n n n To X 2 Η προτεινόμενη μέθοδος του X 2 στατιστικού ελέγχου n n n To X 2 είναι μια πολύ καλά ορισμένη στατιστική προσέγγιση που εκτιμά κατά πόσο ένα συμβάν είναι αποτέλεσμα της τύχης Αυτό είναι ένα από τα γενικότερα προβλήματα στην στατιστική και συνήθως διατυπώνεται από την άποψη του Hypothesis testing Στην περίπτωσή μας θέλουμε να ξέρουμε κατά πόσο δύο λέξεις εμφανίζονται περισσότερο συχνά μαζί απ’ ότι στην τύχη

Η προτεινόμενη μέθοδος του X 2 στατιστικού ελέγχου n n n Διατυπώνουμε την μηδενική Η προτεινόμενη μέθοδος του X 2 στατιστικού ελέγχου n n n Διατυπώνουμε την μηδενική υπόθεση (null Hypothesis H 0) ότι δεν υπάρχει διασύνδεση μεταξύ των δύο λέξεων πέραν από αυτήν της εμφάνισης μαζί από τύχη. Υπολογίζουμε την πιθανότητα (p 0) πού θα είχε το συμβάν εάν η H 0 ήταν αληθινή. Εάν η p 0 είναι μικρή, τυπικά κάτω από ένα προκαθορισμένο επίπεδο σημαντικότητας p 0 <0. 005 ή p 0 <0. 001 απορρίπτουμε την Η 0 διαφορετικά την δεχόμαστε ως αληθινή

Η προτεινόμενη μέθοδος του X 2 στατιστικού ελέγχου n n Στην στατιστική γενικότερα για Η προτεινόμενη μέθοδος του X 2 στατιστικού ελέγχου n n Στην στατιστική γενικότερα για τον υπολογισμό τέτοιων πιθανοτήτων για την απόρριψη ή μη της μηδενικής υπόθεσης χρησιμοποιούμε τον student στατιστικό έλεγχο (t-statistic), που υποθέτει κανονικά κατανεμημένα στατιστικά δείγματα O λόγος που επιλέξαμε τον Χ 2 στατιστικό έλεγχο είναι ότι δεν υποθέτει ότι τα δεδομένα ακολουθούν την κανονική κατανομή (free distribution), κάτι που είναι πολύ σωστό στην περίπτωση λέξεων κειμένων

Η εφαρμογή της μεθόδου και σύγκριση με την μέθοδο Mean and Variance Σε ότι Η εφαρμογή της μεθόδου και σύγκριση με την μέθοδο Mean and Variance Σε ότι ακολουθεί σε αυτή την ενότητα Ø Περιγράφουμε πιο αναλυτικά τις δύο μεθόδους Ø Δίνουμε πειραματικά αποτελέσματα από την εφαρμογή τους πάνω σε ένα σώμα (corpus) Ελληνικών κειμένων

Η μέθοδος Mean and Variance Η μέθοδος Mean and Variance

Η εφαρμογή της μεθόδου και σύγκριση με την μέθοδο Mean and Variance n Ας Η εφαρμογή της μεθόδου και σύγκριση με την μέθοδο Mean and Variance n Ας δούμε ένα παράδειγμα υπολογισμού του μέσου και της Απόκλισης. n Έστω οι προτάσεις από την Ελληνική γλώσσα για τις λέξεις “κτύπησε” και “πόρτα”.

Η μέθοδος Mean and Variance n Μπορούμε να υπολογίσουμε το μέσο (mean) και την Η μέθοδος Mean and Variance n Μπορούμε να υπολογίσουμε το μέσο (mean) και την διακύμανση των αποστάσεων της λέξης “κτύπησε” σε σχέση με την λέξη “πόρτα”

Η μέθοδος Mean and Variance n Ο μέσος και η διασπορά μας βοηθά να Η μέθοδος Mean and Variance n Ο μέσος και η διασπορά μας βοηθά να βρούμε Collocations ψάχνοντας για ζευγάρια με την πιο χαμηλή διασπορά (spread) n Όσο πιο χαμηλή είναι η διακύμανση μεταξύ των αποστάσεων σε ένα ζευγάρι λέξεων τόσο πιο ισχυρή είναι η ένδειξη ότι αυτό το ζευγάρι αποτελεί Collocation n Μια οξεία κορυφούμενη κατανομή των αποστάσεων είναι ισχυρή ένδειξη. Ας το εξηγήσουμε αυτό με δύο κατανομές με πραγματικά δεδομένα από το σώμα αποτίμησης των μεθόδων (Evaluation Corpus)

Η μέθοδος Mean and Variance Η μέθοδος Mean and Variance

Η μέθοδος Mean and Variance Η μέθοδος Mean and Variance

Η μέθοδος Χ-τετράγωνο n Το 1900 ο Karl Pearson πρότεινε μια στατιστική, την Χ Η μέθοδος Χ-τετράγωνο n Το 1900 ο Karl Pearson πρότεινε μια στατιστική, την Χ 2 στατιστική, η οποία συγκρίνει τους παρατηρηθέντες με τους αναμενόμενους αριθμούς όταν οι δυνατές εκβάσεις ενός πειράματος υποδιαιρούνται σε αμοιβαία αποκλειόμενες κατηγορίες Το Σ παριστάνει το άθροισμα και υπολογίζεται για όλες τις δυνατές εκβάσεις του πειράματος

Η μέθοδος Χ-τετράγωνο n Οι αναμενόμενες και οι παρατηρηθείσες συχνότητες μπορούν να εξηγηθούν στο Η μέθοδος Χ-τετράγωνο n Οι αναμενόμενες και οι παρατηρηθείσες συχνότητες μπορούν να εξηγηθούν στο πλαίσιο του Hypothesis testing n Εάν τα δεδομένα διαιρούνται σε αμοιβαία αποκλειόμενες κατηγορίες και διατυπώσουμε μια μηδενική υπόθεση για τα δεδομένα Τότε n Η αναμενόμενη τιμή είναι η τιμή για την κάθε κατηγορία εάν η μηδενική υπόθεση είναι αληθινή n Η παρατηρηθείσα τιμή για κάθε κατηγορία προκύπτει από τα δεδομένα του δείγματος

Η μέθοδος Χ-τετράγωνο n Για να γίνει πιο κατανοητή η εφαρμογή της παραπάνω μεθόδου Η μέθοδος Χ-τετράγωνο n Για να γίνει πιο κατανοητή η εφαρμογή της παραπάνω μεθόδου δίνουμε ένα παράδειγμα n Έστω ότι έχουμε ένα γλωσσολογικό corpus και ενδιαφερόμαστε να εξαγάγουμε Collocations n Ορίζουμε ένα collocational window 10 λέξεων και μετράμε την συχνότητα εμφάνισης του ζευγαριού των λέξεων “ισχυρός” και “άνδρας”

Η μέθοδος Χ-τετράγωνο n Προκύπτουν τα ακόλουθα. n 10 εμφανίσεις του ζευγαριού (ισχυρός, άνδρας) Η μέθοδος Χ-τετράγωνο n Προκύπτουν τα ακόλουθα. n 10 εμφανίσεις του ζευγαριού (ισχυρός, άνδρας) μέσα στο corpus n 1000 bigrams όπου η δεύτερη λέξη είναι “άνδρας” και η πρώτη όχι “ισχυρός” n 500 bigrams όπου η πρώτη λέξη είναι “ισχυρός” και η δεύτερη όχι “άνδρας” n 1, 500, 000 bigrams που δεν περιέχουν καμμία από τις δύο λέξεις δεδομένου του Collocational window

Η μέθοδος Χ-τετράγωνο Στην περίπτωση αυτή θα ήταν χρήσιμο να χρησιμοποιήσουμε τον πίνακα συνάφειας Η μέθοδος Χ-τετράγωνο Στην περίπτωση αυτή θα ήταν χρήσιμο να χρησιμοποιήσουμε τον πίνακα συνάφειας (Contingency table)

Η μέθοδος Χ-τετράγωνο n Χρησιμοποιώντας maximum likelihood estimates μπορούμε να υπολογίσουμε την πιθανότητα εμφάνισης Η μέθοδος Χ-τετράγωνο n Χρησιμοποιώντας maximum likelihood estimates μπορούμε να υπολογίσουμε την πιθανότητα εμφάνισης του ζευγαριού που απορρέει από την μηδενική υπόθεση Η μηδενική υπόθεση είναι ότι οι εμφανίσεις του “ισχυρός” και “άνδρας” είναι ανεξάρτητες

Η μέθοδος Χ-τετράγωνο n Έπειτα υπολογίζουμε την Χ 2 τιμή από την εξίσωση 3. Η μέθοδος Χ-τετράγωνο n Έπειτα υπολογίζουμε την Χ 2 τιμή από την εξίσωση 3. 7 n Από τους πίνακες της Χ 2 κατανομής βρίσκουμε την κρίσιμη τιμή για ένα επίπεδο σημαντικότητας (συνήθως α=0. 05) n Εάν η υπολογιζόμενη Χ 2 τιμή είναι μεγαλύτερη από την κρίσιμη τιμή μπορούμε να απορρίψουμε την μηδενική υπόθεση ότι οι λέξεις “ισχυρός” και “άνδρας” εμφανίζονται ανεξάρτητα n Επομένως για μεγάλες τιμές του Χ 2 στατιστικού ελέγχου έχουμε ισχυρή ένδειξη για τον σχηματισμό Collocation

Η μέθοδος Χ-τετράγωνο Για ένα 2 x 2 πίνακα συνάφειας για τον υπολογισμό της Η μέθοδος Χ-τετράγωνο Για ένα 2 x 2 πίνακα συνάφειας για τον υπολογισμό της Χ 2 στατιστικής μπορούμε να χρησιμοποιήσουμε τον παρακάτω τύπο Όπου αij οι καταχωρήσεις του 2 x 2 πίνακα συνάφειας και Ν το άθροισμα αυτών των καταχωρήσεων

Πειραματικά αποτελέσματα o Αρκετά αρχεία κειμένων της Νεοελληνικής γλώσσας ήταν διαθέσιμα σε εμάς σε Πειραματικά αποτελέσματα o Αρκετά αρχεία κειμένων της Νεοελληνικής γλώσσας ήταν διαθέσιμα σε εμάς σε ηλεκτρονική μορφή από διάφορες πηγές o Μια πρωταρχική μορφολογική διαδικασία part-ofspeech tagging σημείωσε το μέρος του λόγου και το λήμμα για κάθε λέξη του σώματος (corpus) o Ατυχώς η προεπεξεργασία μας δεν ήταν ικανή να μας παράσχει τα λήμματα για ρήματα και επιρρήματα.

Πειραματικά αποτελέσματα Η κατανομή των λημμάτων στο corpus φαίνεται στον παρακάτω πίνακα Πειραματικά αποτελέσματα Η κατανομή των λημμάτων στο corpus φαίνεται στον παρακάτω πίνακα

Πειραματικά αποτελέσματα o o O μόνος συνδυασμός διγραμμάτων (bigrams) που μπορούμε να δοκιμάσουμε είναι Πειραματικά αποτελέσματα o o O μόνος συνδυασμός διγραμμάτων (bigrams) που μπορούμε να δοκιμάσουμε είναι (Επίθετο, Ουσιαστικό), καθώς δεν περιέχονται τα άλλα μέρη του λόγου Ορίζουμε ένα collocational window μήκους 10 λέξεων συμπεριλαμβανομένων και των σημείων στίξης Ανάλυση διασποράς Υπολογίζουμε από το Corpus τις αποστάσεις και την τυπική απόκλιση για όλους τους συνδυασμούς των διγραμμάτων (Επίθετο, Ουσιαστικό)

Ανάλυση διασποράς Ανάλυση διασποράς

Ανάλυση διασποράς Ανάλυση διασποράς

Ανάλυση διασποράς Ανάλυση διασποράς

Ανάλυση διασποράς Ανάλυση διασποράς

Ανάλυση διασποράς Ανάλυση διασποράς

Ανάλυση του Ελέγχου o o o 2 Χ Διατυπώνουμε την μηδενική υπόθεση της στατιστικής Ανάλυση του Ελέγχου o o o 2 Χ Διατυπώνουμε την μηδενική υπόθεση της στατιστικής ανεξαρτησίας μεταξύ των δύο λέξεων που απαρτίζουν το δείγμα Αυτό σημαίνει ότι οι δύο λέξεις εμφανίζονται ανεξάρτητες η μία από την άλλη μέσα στο δείγμα στο οποίο και κατανέμονται τυχαία Υπολογίζουμε την X 2 στατιστική με τον τρόπο πού περιγράψαμε παραπάνω. Όσο μεγαλύτερη είναι η τιμή τόσο πιο ισχυρή είναι η ένδειξη για να απορρίψουμε την μηδενική υπόθεση

Ανάλυση του Ελέγχου Χ 2 Ανάλυση του Ελέγχου Χ 2

Ανάλυση του Ελέγχου Χ 2 Ανάλυση του Ελέγχου Χ 2

Συμπεράσματα o o o Στο κεφάλαιο αυτό εφαρμόσαμε τον έλεγχο Χ 2 για την Συμπεράσματα o o o Στο κεφάλαιο αυτό εφαρμόσαμε τον έλεγχο Χ 2 για την ανάδειξη ζευγαριών λέξεων πού ενδεχόμενα να σχηματίζουν Collocations. H μέθοδος αυτή υπερτερεί της κλασσικής ανάλυσης της διασποράς η οποία αποτυγχάνει στην περίπτωση ακραίων τιμών “Outliers”. Επίσης υπερτερεί και άλλων μεθόδων που έχουν εφαρμοσθεί κατά καιρούς, όπως του t-test, likelihood (LL) ratio test, mutual Information γιατί αυτές οι μέθοδοι έχουν το μειονέκτημα ότι υποθέτουν παραμετρική κατανομή δεδομένων.

Συμπεράσματα o o Επιπλέον η μέθοδος mutual information (MI), συγκρίνει την συνδεδεμένη πιθανότητα p(w Συμπεράσματα o o Επιπλέον η μέθοδος mutual information (MI), συγκρίνει την συνδεδεμένη πιθανότητα p(w 1, w 2) και απαιτεί οι ανεξάρτητες πιθανότητες p(w 1) και p(w 2) να συμβαίνουν με οποιονδήποτε τρόπο στο δείγμα, το οποίο δεν δίνει μια ρεαλιστική εικόνα στην περίπτωση χαμηλών συχνοτήτων Πολλά κοινά bigrams βρέθηκαν στις πρώτες θέσης βαθμολογίας των μεθόδων της διασποράς και του X 2 ελέγχου, σε κάθε περίπτωση όμως εναπόκειται στους ειδικούς γλωσσολόγους να αξιολογήσουν αυτά τα ευρήματα.

O X 2 Στατιστικός Έλεγχος στην Αποσαφήνιση Εννοιών Λέξεων Word Sense Disambiguation O X 2 Στατιστικός Έλεγχος στην Αποσαφήνιση Εννοιών Λέξεων Word Sense Disambiguation

Αποσαφήνιση Εννοιών n Η συντριπτική πλειονότητα των λέξεων που εμφανίζονται σε κείμενα φυσικής γλώσσας Αποσαφήνιση Εννοιών n Η συντριπτική πλειονότητα των λέξεων που εμφανίζονται σε κείμενα φυσικής γλώσσας είναι πολύσημες, δηλαδή εμφανίζονται με διαφορετικές σημασίες σε διαφορετικά linguistic contexts (πλαίσια κειμένου). n Πχ, η Αγγλική λέξη “bank”, μπορεί να έχει σε κάποιο context την έννοια της “τράπεζας” και σε άλλο την έννοια της “όχθης ποταμού”. n Μέσα στο ίδιο πλαίσιο των X 2 στατιστικών ελέγχων, με την βοήθεια του ηλεκτρονικού λεξικού Word. Net, θα αναπτύξουμε μια μέθοδο για την αποσαφήνιση της έννοιας μιας λέξης πού εμφανίζεται σε ένα context.

Αποσαφήνιση Εννοιών n Σύμφωνα με την μέθοδο αυτή εργαζόμαστε ως εξής. n Επαυξάνουμε το Αποσαφήνιση Εννοιών n Σύμφωνα με την μέθοδο αυτή εργαζόμαστε ως εξής. n Επαυξάνουμε το πλαίσιο (context) στο οποίο εμφανίζεται η προς αποσαφήνιση λέξη με συσχετιζόμενες έννοιες (Related Synsets) από το ηλεκτρονικό λεξικό Word. Net. Το επαυξημένο πλαίσιο το θεωρούμε σαν ένα στατιστικό δείγμα n Μελετάμε την κατανομή των συσχετιζόμενων εννοιών της κάθε μια έννοιας της προς αποσαφήνιση λέξης στο στατιστικό αυτό δείγμα

Αποσαφήνιση Εννοιών n Διατυπώνουμε την μηδενική υπόθεση ότι όλες οι συσχετιζόμενες έννοιες, δηλαδή τα Αποσαφήνιση Εννοιών n Διατυπώνουμε την μηδενική υπόθεση ότι όλες οι συσχετιζόμενες έννοιες, δηλαδή τα Related Synsets από το Word. Net κατανέμονται κανονικά (Normally) στο δείγμα. n Με την βοήθεια του Χ 2 στατιστικού ελέγχου καλού ταιριάσματος (X 2 Goodness of fit statistical test), προσπαθούμε να εντοπίσουμε την έννοια της οποίας τα related Synsets αποκλίνουν από αυτή την υπόθεση. n Την έννοια αυτή την επιλέγουμε σαν την σωστή έννοια της προς αποσαφήνιση λέξης

Αποσαφήνιση λέξης και Word. Net To πρόβλημα της απόδοσης της σωστής έννοιας μια λέξης Αποσαφήνιση λέξης και Word. Net To πρόβλημα της απόδοσης της σωστής έννοιας μια λέξης (target word) μέσα στο πλαίσιο (context) που αποτελείται από τις περιβάλλουσες λέξεις είναι η αποστολή των συστημάτων αποσαφήνισης λέξης Αναγνωρίζεται σαν ένα από τα πιο δύσκολα προβλήματα στην επεξεργασία φυσικής γλώσσας. Πολλά συστήματα έχουν προταθεί κατά καιρούς η πλειονότητα των οποίων στηρίζεται σε στατιστικές μεθόδους επεξεργασίας

Αποσαφήνιση λέξης και Word. Net Τα πρώτα συστήματα εβασίζοντο σε εμπειρικούς κανόνες και χρησιμοποιώντας Αποσαφήνιση λέξης και Word. Net Τα πρώτα συστήματα εβασίζοντο σε εμπειρικούς κανόνες και χρησιμοποιώντας μικρά λεξικά (καταλόγους εννοιών) αποσαφήνιζαν μικρό αριθμό περιπτώσεων [16], [17], [18] Σήμερα με την διαθεσιμότητα μεγάλων ηλεκτρονικών λεξικών όπως το Word. Net, δίνει μεγάλη ώθηση για την ανάπτυξη απαιτητικών εφαρμογών στην αποσαφήνιση λέξης [20], [21], [22]. Επί πλέον το γεγονός ότι οι διάφορες έννοιες συνδέονται μεταξύ τους με ένα μεγάλο αριθμό από σημασιολογικές (semantic) και λεξικολογικές (lexical) σχέσεις κάνει το Word. Net πολύτιμη πηγή για την αναπαράσταση των δικτύων γνώσης

Αποσαφήνιση λέξης και Word. Net • Χρησιμοποιώντας ορισμούς από το Word. Net και κείμενα Αποσαφήνιση λέξης και Word. Net • Χρησιμοποιώντας ορισμούς από το Word. Net και κείμενα από το Internet οι Mihalcea και Moldovan [23], συγκέντρωσαν λεξικολογική πληροφορία για την αποσαφήνιση πολύσημων λέξεων • Οι Montoyo και Palomar [24] παρουσίασαν μέθοδο για την αποσαφήνιση λέξεων στηριζόμενοι στις σημασιολογικές τάξεις (semantic classes) του Wordnet καθώς και στους ορισμούς του λεξικού. • Η εργασία των Banerjee και Pederson [25] παρουσιάζει μια προσαρμογή του αλγορίθμου Lesk [16] πού βασίζεται στους ορισμούς του Wordnet.

Αποσαφήνιση λέξης και Word. Net • Εκτός από τους ορισμούς πολύ δουλειά έχει πραγματοποιηθεί Αποσαφήνιση λέξης και Word. Net • Εκτός από τους ορισμούς πολύ δουλειά έχει πραγματοποιηθεί χρησιμοποιώντας και την σχέση ιεραρχίας του Wordnet (Hypernymy/Hyponymy relation) • O Resnic [21] αποσαφήνισε λεξικά χρησιμοποιώντας την σημασιολογική ομοιότητα (semantic similarity) μεταξύ δύο λέξεων διαλέγοντας τον κοινό πρόγονο με το μεγαλύτερο πληροφοριακό περιεχόμενο (the most informative “subsumer”), όπου το πληροφοριακό περιεχόμενο το όρισε σαν συνάρτηση του πλήθους των υπαγόμενων όρων • Leacock και Chodorow [26], πρότειναν ένα μέτρο για τον υπολογισμό της σημασιολογικής ομοιότητας μετρώντας το μήκος της διαδρομήςμεταξύ των δύο κόμβων της ιεραρχίας

Προσέγγιση των στατιστικών ελέγχων • Στο προηγούμενο πνεύμα της εφαρμογής στατιστικών ελέγχων παρουσιάζουμε μια Προσέγγιση των στατιστικών ελέγχων • Στο προηγούμενο πνεύμα της εφαρμογής στατιστικών ελέγχων παρουσιάζουμε μια προσέγγιση για συστήματα αποσαφήνισης λέξης βασιζόμενοι σε μια διαφορετική αντίληψη για την εκτίμηση του μέτρου της σχετικότητας (relatedness) μεταξύ του context μιας λέξης και της κάθε μιας έννοιας ξεχωριστά • Στο Word. Net κάθε λεξική καταχώριση αναπαριστά μια έννοια και αποδίδεται με ένα σύνολο από συνώνυμες λέξεις που λέγεται Synset.

Προσέγγιση των στατιστικών ελέγχων Το σχήμα δείχνει πως είναι οι καταχωρήσεις στο Wordnet (τυχαία Προσέγγιση των στατιστικών ελέγχων Το σχήμα δείχνει πως είναι οι καταχωρήσεις στο Wordnet (τυχαία σειρά, ο αριθμός στην αρχή στην παρένθεση είναι ο αύξων αριθμός καταχώρησης στο Word. Net ). Word. Net Εννοια (Sense ή Synset) Επεξήγηση (gloss) (320) city, metropolis, urban center a large and densely populated urban area (1437) man, adult male an adult male person (4) walk, walking the act of travelling by foot

Προσέγγιση των στατιστικών ελέγχων Ετσι λοιπόν οι καταχωρήσεις στο Word. Net αποκαλούνται synsets. Κάθε Προσέγγιση των στατιστικών ελέγχων Ετσι λοιπόν οι καταχωρήσεις στο Word. Net αποκαλούνται synsets. Κάθε synset είναι μοναδικό και συνηθίζουμε να το συμβολίζουμε με άγκιστρα. Π. χ. { city, metropolis, urban center }, { man, adult male } κλπ. Η μεγάλη διαφορά του Word. Net με τα συμαβατικά λεξικά είναι οι συσχετίσεις μεταξύ των Synsets. Κάθε Synset συσχετίζεται με άλλα Synsets με διάφορες σχέσεις. Tο παρακάτω σχήμα δίνει μια εικόνα της κατάστασης στο Word. Net.

Προσέγγιση των στατιστικών ελέγχων Προσέγγιση των στατιστικών ελέγχων

Προσέγγιση των στατιστικών ελέγχων Αυτά τα συσχετιζόμενα Synsets τα λέμε Related Synsets. n n Προσέγγιση των στατιστικών ελέγχων Αυτά τα συσχετιζόμενα Synsets τα λέμε Related Synsets. n n n Τέτοιες συσχετίσεις συναντάμε αρκετές στο Word. Net. Υπάρχουν 32 τέτοιες συσχετίσεις και κατανέμονται στa κύρια μέρη του λόγου (ένα μεγάλο ποσοστό είναι για ουσιαστικά και ρήματα αλλά υπάρχουν βέβαια και για επίθετα και επιρρήματα (βλέπε διατριβή για αναλυτική παρουσίαση)

Χρηση των Related Synsets για Word Sense Disambiguation Οι Εννοιες (Senses): n n n Χρηση των Related Synsets για Word Sense Disambiguation Οι Εννοιες (Senses): n n n Κάθε λεξική μορφή σε μια γλώσσα εμφανίζεται με πολλές έννοιες σε διάφορες προτάσεις (context). Πχ η λέξη bank μπορεί να έχει μεταξύ των άλλων σε ένα context την έννοια του Financial Institute, ενώ σε ένα άλλο την έννοια της όχθης του ποταμού (bank river). Αφού οι έννοιες στο Word. Net αποδίδονται με Synsets, απλά η λέξη bank εμφανίζεται σε περισσότερα του ενός Synsets. Να παρακάτω τα 10 Sysnsets sta οποία εμφανίζεται η λέξη bank. Ένα για κάθε μια από τις 10 έννοιες της πού έχει στο Wordnet.

1. (883) depository financial institution, banking concern, banking company -- (a financial institution that 1. (883) depository financial institution, banking concern, banking company -- (a financial institution that accepts deposits and channels the money into lending activities; "he cashed a check at the bank"; "that bank holds the mortgage on my home") 2. (99) bank -- (sloping land (especially the slope beside a body of water); "they pulled the canoe up on the bank"; "he sat on the bank of the river and watched the currents") 3. (76) bank -- (a supply or stock held in reserve for future use (especially in emergencies)) 4. (54) bank, bank building -- (a building in which commercial banking is transacted; "the bank is on the corner of Nassau and Witherspoon") 5. (7) bank -- (an arrangement of similar objects in a row or in tiers; "he operated a bank of switches") 6. (6) savings bank, coin bank, money box, bank -- (a container (usually with a slot in the top) for keeping money at home; "the coin bank was empty") 7. (3) bank -- (a long ridge or pile; "a huge bank of earth") 8. (1) bank -- (the funds held by a gambling house or the dealer in some gambling games; "he tried to break the bank at Monte Carlo") 9. (1) bank, cant, camber -- (a slope in the turn of a road or track; the outside is higher than the inside in order to reduce the effects of centrifugal force) 10. bank -- (a flight maneuver; aircraft tips laterally about its longitudinal axis (especially in turning); "the plane went into a steep bank")

Χρηση των Related Synsets για Word Sense Disambiguation • To Word. Net είναι ένας Χρηση των Related Synsets για Word Sense Disambiguation • To Word. Net είναι ένας άρτιος και ολοκληρωμένος κατάλογος εννοιών για την Αγγλική που χρησιμοποιείται επίσημα σε διαγωνισμούς για testing Word Sense Disambiguation συστημάτων, όπως πχ ο Senseval • Στο Senseval διαγωνισμό δίνονται διάφορα contexts και ζητάμε από τον αλγόριθμο να βρεί την σωστή έννοια της λέξης σύμφωνα με τον επίσημο κατάλογο του Word. Net.

Χρηση των Related Synsets για Word Sense Disambiguation • Τα contexts είναι προτάσεις μέσα Χρηση των Related Synsets για Word Sense Disambiguation • Τα contexts είναι προτάσεις μέσα στις οποίες εμφανίζεται η target λέξη που θέλουμε να αποσαφηνίσουμε. Να παρακάτω ένα παράδειγμα ενός context όπως δίνεται από το Senseval για την λέξη art • • Readers need also to be wary of the existence of special markets. The explosive prices for Teddy Bears in the last few years indicate how a market can be created, in this case by a mix of merit and nostalgia. What is clearly a dealers' market is often signalled by the invention of a brand name to group together a variety of material, perhaps rather disparate. Pop Artis an example.

Χρηση των Related Synsets για Word Sense Disambiguation • Σε αυτό το context δίνεται Χρηση των Related Synsets για Word Sense Disambiguation • Σε αυτό το context δίνεται ένα instance id="art. 40003" και η λέξη που θέλουμε να αποσαφηνίσουμε εμφανίζεται μέσα στο tag Art. • Πρέπει λοιπόν ο αλγόριθμός μας να βρεί την σωστή έννοια της λέξης art σε αυτό το context. Πρέπει να διαλέξει μια από 4 παρακάτω έννοιες του Word. Net

 • 1. (49) art, fine art -- (the products of human • • • 1. (49) art, fine art -- (the products of human • • • creativity; works of art collectively; "an art exhibition"; "a fine collection of art") 2. (15) art, artistic creation, artistic production -(the creation of beautiful or significant things; "art does not need to be innovative to be good"; "I was never any good at art"; "he said that architecture is the art of wasting space beautifully") 3. (7) art, artistry, prowess -- (a superior skill that you can learn by study and practice and observation; "the art of conversation"; "it's quite an art") 4. (3) artwork, art, graphics, nontextual matter - (photographs or other visual representations in a printed publication; "the publisher was responsible for all the artwork in the book")

Χρηση των Related Synsets για Word Sense Disambiguation l Όταν ο αλγόριθμός μας αποφασίσει Χρηση των Related Synsets για Word Sense Disambiguation l Όταν ο αλγόριθμός μας αποφασίσει για μια από τις 4 έννοιες πως θα ξέρουμε ότι τα πήγε καλά? l Ο Senseval μας έχει δώσει εκ των προτέρων τις απαντήσεις σε ένα αρχείο το ckey όπου σε κάθε instance id μας αντιστοιχίζει την σωστή απάντηση, τον αριθμό της έννοιας στο Word. Net (1, 2, 3 η 4) και έτσι εμείς χρησιμοποιώντας αυτό το αρχείο των σωστών απαντήσεων μπορούμε να βαθμολογήσουμε την απόδοση του αλγορίθμου μας.

Ο προτεινόμενος Αλγόριθμος Αποσαφήνισης l Ο αλγόριθμός μας είναι πάρα πολύ απλός στην σύλληψη Ο προτεινόμενος Αλγόριθμος Αποσαφήνισης l Ο αλγόριθμός μας είναι πάρα πολύ απλός στην σύλληψη του. Χρησιμοποιεί όπως είπαμε αρχικά τα Related Synsets του Word. Net και μάλιστα την κατανομή αυτών και με την βοήθεια του στατιστικού ελέγχου αποφασίζει για την σωστή έννοια. l Αυτό γίνεται ως εξής. l Εξήγηση με δεδομένα ενός συγκεκριμένου παραδείγματος.

Ο προτεινόμενος Αλγόριθμος Αποσαφήνισης n 1) Έχουμε το context για την λέξη art (το Ο προτεινόμενος Αλγόριθμος Αποσαφήνισης n 1) Έχουμε το context για την λέξη art (το παραπάνω παράδειγμα) Readers need also to be wary of the existence of special markets. The explosive prices for Teddy Bears in the last few years indicate how a market can be created, in this case by a mix of merit and nostalgia. What is clearly a dealers' market is often signalled by the invention of a brand name to group together a variety of material, perhaps rather disparate. Pop Artis an example n 2) Εχουμε και τις 4 έννοιες της λέξης art (4 Synsets toy Word. Net)

Ο προτεινόμενος Αλγόριθμος Αποσαφήνισης n Ενθυμούμαστε την δομική μονάδα του Word. Net, το Synset, Ο προτεινόμενος Αλγόριθμος Αποσαφήνισης n Ενθυμούμαστε την δομική μονάδα του Word. Net, το Synset, δηλαδή αυτές τις συνώνυμες λέξεις μέσα σε άγκιστρα. n Μπορούμε να σχηματίσουμε ένα σύνολο από Related Synsets για το context και από ένα σύνολο Related synsets για κάθε μια από τις 4 έννοιες. n O τρόπος περιγράφεται καλύτερα με το παρακάτω σχήμα παρά με λέξεις

Ο προτεινόμενος Αλγόριθμος Αποσαφήνισης n Για κάθε λέξη του context, συμπεριλαμβανομένης και της προς Ο προτεινόμενος Αλγόριθμος Αποσαφήνισης n Για κάθε λέξη του context, συμπεριλαμβανομένης και της προς αποσαφήνιση (και για όλα ανεξάρτητα τα senses της κάθε λέξης) μαζεύουμε τα Related Synsets από το Word. Net. n Επίσης για κάθε Sense της προς αποσαφήνιση λέξης art πάλι συγκεντρώνουμε τα Related Synsets από το Word. Net.

Ο προτεινόμενος Αλγόριθμος Αποσαφήνισης n Μελετώντας την κατανομή των Synsets της κάθε έννοιας της Ο προτεινόμενος Αλγόριθμος Αποσαφήνισης n Μελετώντας την κατανομή των Synsets της κάθε έννοιας της προς αποσαφήνιση λέξης μέσα στο context, προσδοκάμε η σωστή έννοια για κάποια συγκεκριμένα χαρακτηριστικά να επιδείξει μια διαφορετική συμπεριφορά n Αυτό προσπαθούμε να συλλάβουμε με την βοήθεια του Χ 2 στατιστικού ελέγχου

Ο προτεινόμενος Αλγόριθμος Αποσαφήνισης H εφαρμογή του ελέγχου n Έστω Xi η τυχαία μεταβλητή Ο προτεινόμενος Αλγόριθμος Αποσαφήνισης H εφαρμογή του ελέγχου n Έστω Xi η τυχαία μεταβλητή που μετράει το αριθμό των εμφανίσεων του i-οστού συσχετιζόμενου synset μέσα στο context Διατυπώνουμε την μηδενική υπόθεση: Ότι τα συσχετιζόμενα synsets κατανέμονται κανονικά μέσα στο context, ότι δηλαδή ακολουθούν την κανονική κατανομή (normal distribution) Για τον υπολογισμό των p-τιμών του X 2 στατιστικού ελέγχου εργαζόμαστε ως εξής:

Ο προτεινόμενος Αλγόριθμος Αποσαφήνισης H εφαρμογή του ελέγχου n Προχωράμε σε κανονικοποίηση των παρατηρηθησών Ο προτεινόμενος Αλγόριθμος Αποσαφήνισης H εφαρμογή του ελέγχου n Προχωράμε σε κανονικοποίηση των παρατηρηθησών τιμών της τυχαίας μεταβλητής Χ Για να δημιουργήσουμε πινακοποιημένα δεδομένα (binned data) για τη θεωρούμενη κανονική κατανομή, επιλέγουμε τα διαστήματα Xb (bins) με ίσο μήκος (-∞ -1. 6 -1. 2 -0. 8 -0. 4 0. 8 1. 2 1. 6 +∞) Οι αναμενόμενες τιμές υπολογίζονται από την κανονική κατανομή για την κανονικοποιημένη μεταβλητή Z στα ανωτέρω διαστήματα Xb Yπολογίζουμε τις τιμές της X 2 στατιστικής από την εξίσωση του Pearson

Ο προτεινόμενος Αλγόριθμος Αποσαφήνισης n H εφαρμογή του ελέγχου n Τέλος υπολογίζουμε τις p-τιμές Ο προτεινόμενος Αλγόριθμος Αποσαφήνισης n H εφαρμογή του ελέγχου n Τέλος υπολογίζουμε τις p-τιμές Χ 2 συνάρτηση κατανομής για ένα επίπεδο σημαντικότητας 0. 05 και «αριθμό διαστημάτων – 3» βαθμούς ελευθερίας (αφαιρούμε 3 γιατί αποκλείουμε τα άκρα από τα binned data

Αποτίμηση της προτεινόμενης μεθόδου l Για την εκτίμηση της αποδοτικότητας της προτεινόμενης μεθόδου χρησιμοποιήσαμε Αποτίμηση της προτεινόμενης μεθόδου l Για την εκτίμηση της αποδοτικότητας της προτεινόμενης μεθόδου χρησιμοποιήσαμε όπως αναφέραμε παραπάνω τα δεδομένα που χρησιμοποιήθηκαν στον Sen. Eval-2 διαγωνισμό l Στον διαγωνισμό αυτό σαν μέτρο της αποδοτικότητας χρησιμοποιήθηκε το F-measure, το οποίο είναι ένας συνδυασμός του Precision και Recall

Συμπεράσματα n Το σύστημά μας κάνοντας χρήση μόνο της λεξικολογικής πηγής του Wordnet επιτυγχάνει Συμπεράσματα n Το σύστημά μας κάνοντας χρήση μόνο της λεξικολογικής πηγής του Wordnet επιτυγχάνει αποδοτικότητα 0. 333 για Recall και Fmeasure. n Η αποδοτικότητα αυτή είναι συγκρίσιμη με την αποδοτικότητα των δύο πρώτων συστημάτων του διαγωνισμού. n Τα δύο αυτά συστήματα κάνουν χρήση ενός σημαντικού αριθμού από γλωσσολογικά δεδομένα (corpora) κατά την διαδικασία αποσαφήνισης

ΕΠΙΛΟΓΟΣ Οι στατιστικές μέθοδοι θεωρούνται ως οι κατεξοχήν μέθοδοι για συστήματα Επεξεργασίας Φυσικής Γλώσσας, ΕΠΙΛΟΓΟΣ Οι στατιστικές μέθοδοι θεωρούνται ως οι κατεξοχήν μέθοδοι για συστήματα Επεξεργασίας Φυσικής Γλώσσας, όπως: Information Retrieval, Word Sense Disambiguation, Text Classification, Collocations, κλπ. Στην παρούσα διατριβή παρουσιάσαμε μια μεθοδολογία εφαρμογής των στατιστικών ελέγχων «καλού ταιριάσματος» (Goodness of Fit Statistical Tests) για τις ανωτέρω περιοχές της Επεξεργασίας Φυσικής Γλώσσας

ΕΠΙΛΟΓΟΣ Τα περισσότερα προβλήματα επεξεργασίας φυσικής γλώσσας εμφανίζουν ένα κοινό χαρακτηριστικό, αυτό της επιλογής ΕΠΙΛΟΓΟΣ Τα περισσότερα προβλήματα επεξεργασίας φυσικής γλώσσας εμφανίζουν ένα κοινό χαρακτηριστικό, αυτό της επιλογής μεταξύ ανταγωνιζόμενων οντοτήτων για κάποιο συγκεκριμένο στόχο. Για παράδειγμα, ανταγωνιζόμενα έγγραφα στην ανάκτηση πληροφορίας, ανταγωνίζονται ως προς τον στόχο πού μπορεί να είναι η συνάφεια με το ερώτημα (query) ενός χρήστη, ανταγωνιζόμενες έννοιες στην αποσαφήνιση της έννοιας μιας λέξης, ή ανταγωνιζόμενα ζευγάρια λέξεων για τον σχηματισμό collocations.

ΕΠΙΛΟΓΟΣ Στη διατριβή χρησιμοποιήσαμε τον ‘Χτετράγωνον’ στατιστικό έλεγχο «καλού ταιριάσματος» για την αποτίμηση της ΕΠΙΛΟΓΟΣ Στη διατριβή χρησιμοποιήσαμε τον ‘Χτετράγωνον’ στατιστικό έλεγχο «καλού ταιριάσματος» για την αποτίμηση της σχετικότητας με το στόχο της κάθε ανταγωνιζόμενης οντότητας. Πιο συγκεκριμένα, διατυπώνεται μια μηδενική υπόθεση (null hypothesis) ότι οι διάφορες ανταγωνιζόμενες οντότητες δεν επιδεικνύουν καμία ιδιαίτερη συμπεριφορά έναντι του στόχου πέραν της τυχαίας. Αυτή είναι η θεωρητική υπόθεση που γίνεται για τα δεδομένα.

ΕΠΙΛΟΓΟΣ Από τα πραγματικά δεδομένα καταγράφεται η πραγματική συμπεριφορά της κάθε ανταγωνιζόμενης οντότητας και ΕΠΙΛΟΓΟΣ Από τα πραγματικά δεδομένα καταγράφεται η πραγματική συμπεριφορά της κάθε ανταγωνιζόμενης οντότητας και πιστοποιείται έτσι μια διαφορά (discrepancy) μεταξύ της πραγματικής συμπεριφοράς και αυτής πού απορρέει από την θεωρητική υπόθεση Η διαφορά αυτή ποσοτικοποιείται με την βοήθεια της ‘X 2 κατανομής’ και αυτή η ποσοτικοποίηση είναι ικανή να χρησιμοποιηθεί ως μέτρο της αποτίμησης της σχετικότητας της ανταγωνιζόμενης οντότητας με το στόχο (ranking criterion).

ΕΠΙΛΟΓΟΣ Πετύχαμε τον στόχο μας αναπτύσσοντας συστήματα που επιδεικνύουν καλή συμπεριφορά και αποδόσεις σε ΕΠΙΛΟΓΟΣ Πετύχαμε τον στόχο μας αναπτύσσοντας συστήματα που επιδεικνύουν καλή συμπεριφορά και αποδόσεις σε πολλές περιπτώσεις πολύ καλύτερες από αυτές των κλασσικών μεθόδων Δημιουργείται ένας ενιαίος τρόπος στατιστικής μεθοδολογίας για την επίλυση των δύσκολων προβλημάτων Επεξεργασίας Φυσικής Γλώσσας.

ΕΠΙΛΟΓΟΣ Δίνεται η δυνατότητα για παραμετροποίηση των συστημάτων Επεξεργασίας Φυσικής Γλώσσας αφού μέσα στο ΕΠΙΛΟΓΟΣ Δίνεται η δυνατότητα για παραμετροποίηση των συστημάτων Επεξεργασίας Φυσικής Γλώσσας αφού μέσα στο ίδιο πλαίσιο (framework) μπορούν να εξεταστούν πολλές εναλλακτικές θεωρητικές κατανομές για τα δεδομένα, αλλά και διαφορετικοί στατιστικοί έλεγχοι. Η συγκεκριμένη στατιστική μεθοδολογία οδηγεί σε απλά και εύκολα στον σχεδιασμό υπολογιστικά συστήματα, έναντι άλλων μεθόδων που κατά κανόνα χρησιμοποιούν σύνθετα και υπολογιστικά πολύπλοκα συστήματα Επεξεργασίας Φυσικής Γλώσσας.

ΕΠΙΛΟΓΟΣ n Νομίζουμε ότι για την βελτίωση αυτών των συστημάτων όσο και η εφαρμογή ΕΠΙΛΟΓΟΣ n Νομίζουμε ότι για την βελτίωση αυτών των συστημάτων όσο και η εφαρμογή της μεθοδολογίας και σε άλλες περιοχές της Επεξεργασίας Φυσικής Γλώσσας θα άξιζε να ασχοληθούμε συστηματικότερα στο μέλλον n ΤΕΛΟΣ