Sisältöön
Informaatiotutkimuksen ja interaktiivisen median laitos INFIM Informaatiotutkimuksen ja interaktiivisen median laitos Tampereen yliopisto

Normalisoinnin (perusmuotoistamisen ja stemmauksen) etuja ja haittoja

Perusmuotoistamisesta ja stemmauksesta (joita kutsutaan yhteisellä nimellä normalisointimenetelmät tai reduktiiviset menetelmät) voi olla sekä etua että haittaa tiedonhaussa.

Etuja

  • Hakijan ei tarvitse välittää sanojen taipumisesta eikä huolehtia hakusanojen katkaisemisesta
  • Hakemiston tarvitsema muistitilan koko pienenee
  • Hakutulokset saattavat parantua

Haittoja

  • Monitulkintaisuus lisääntyy, minkä vuoksi hakutulokset saattavat heikentyä. Ratkaisuna tähän on sanaluokka-disambiguointi eli monitulkintaisuuden karsinta sanaluokkien automaattisen tunnistamisen perusteella.

    Esimerkkinä suomen sananmuodot kuuden ja kuusen: perusmuotoistuksessa syntyy hakemistoon näille sama perusmuoto, kuusi, joka on polyseeminen.

    Muoto voin: hakemistoon tulee perusmuodot voida ja voi. Tekstikontekstin kannalta vain toinen näistä on oikea kulloinkin hakutilanteessa.

  • Lemmatoitu indeksi saattaa sisältää myös taipuneita sanoja (leksikon ulkopuoliset sanat). Haku saattaa tällöin epäonnistua.

Eri menetelmien käyttökelpoisuus eri kielille on koottu tiivistetysti seuraavaan taulukkoon. Taulukossa on myös mainittu tekstitietokannan indeksityyppi. Kielten taipumista pitää ajatella jatkumona, jonka toisessa päässä ovat heikosti taipuvat kielet (kuten englanti) ja toisessa päässä vahvasti taipuvat kielet (suomi, turkki jne.)

Menetelmä Indeksin tyyppi Kielet, joille menetelmä soveltuu
katkaiseminen taivutusmuotoindeksi suomi, vahvasti taipuvat kielet yleensä
vartalot taivutusmuotoindeksi suomi, vahvasti taipuvat kielet yleensä
taivutusmuodot taivutusmuotoindeksi kaikki kielet
stemmaus stemmattu indeksi englanti, myös vahvasti taipuvat kielet, suomi(?)
lemmatointi perusmuotoistettu indeksi vahvasti taipuvat kielet
.


Postiosoite: 33014 Tampereen yliopisto, Käyntiosoite: Kanslerinrinne 1, Pinni A, 4.-5. krs, puh. (03) 3551 6970 tai 3551 6034
Ylläpito: infim@uta.fi
Muutettu: 2.9.2009 11.46 Muokkaa