Re: [L-A Lokalisointi] finnish spell checker (fwd)

Nathan Letwory <nathan.letwory-VgemUZeIY8Ow/[email protected]> Wed, 19 May 2004 08:50:36 +0300
Newsgroups gmane.comp.internationalization.finnish.general
Message-ID <[email protected]>
Webcrawler, josta h=E4n puhuu, on kehitetty korpusten laatimiseen, ja se=20
on t=E4ysin eri asia kuin sanakirjan laatiminen. Jo t=E4ll=E4 hetkell=E4 =
en ole=20
yht=E4=E4n tyytyv=E4inen nykyisiin sanakirjoihin (tai kielitieteellisesti=
=20
oikeammin: sanalistoihin), joita k=E4ytet=E4=E4n oikolukuohjelmiin (ispel=
l ja=20
aspell), ja ehdotetun menetelm=E4n k=E4ytt=F6 vain lis=E4isi h=E4iri=F6id=
en m=E4=E4r=E4n=20
sanalistaan (ly=F6n vetoa sille, ett=E4 suurin osa l=F6ydett=E4viss=E4 ol=
evasta=20
materiaalista _ei_ sovi sanakirjamateriaaliksi - ainakaan yleiskielen ~).

Toki, t=E4ss=E4 saisi hyv=E4n l=E4ht=F6kohdan materiaalin n=E4k=F6kulmast=
a, mutta=20
toisaalta se tulee my=F6s hyvin paljon rajoittamaan ja viel=E4 enemm=E4n=20
haittaamaan selvitysty=F6t=E4.

Paras mahdollinen tapa saada nopeasti ja luotettavasti=20
sanakirjamateriaalia on ottaa yhteytt=E4 Kotukseen (Kotimaisten kielten=20
tutkimuskeskus, http://www.kotus.fi), ja pyyt=E4=E4 saako heilt=E4=20
sanalistoja, ja jos mahdollista viel=E4 sanavartalolistoja.

Valitettavasti en l=F6yt=E4nyt lis=E4=E4 informatiota aspellin k=E4ytt=E4=
mist=E4=20
tekniikkoista, mutta lienee selv=E4, ett=E4 kaksitasomalli (TWOL, eli=20
two-level morphology model) on ehk=E4 sopivin t=E4h=E4n oikolukuteht=E4v=E4=
=E4n=20
suomea ajatellen.

Vaikka olisikin automaattisoituja menetelmi=E4, t=E4ytyy kuitenkin tehd=E4=
=20
k=E4sit=F6it=E4 (ja aika paljonkin).

Sit=E4 sanottua luulen, ett=E4 silti kokeilen tuota webcrawleria ihan vaa=
n=20
omia sanakirjatarpeittani ajatellen=20
(http://www.hollantiasuomalaisille.net ;)

/Nathan

Marko Gronroos wrote:

> On Tue, 18 May 2004, Kim Enkovaara wrote:
>=20
>>Sain allaolevan mailin, jos jotakuta asia kiinostaa ottakaa suoraan
>>yhteytt=E4 l=E4hett=E4j=E4=E4n.
>>
>>Vastailin, ett=E4 ainakaan KDE porukalla ei oikein ole resursseja moise=
en
>>urakkaan, ja yritin kertoa ett=E4 sanakirjapohjaiset oikolukijat eiv=E4=
t
>>oikein toimi.
>=20
>=20
> Joo, pelkk=E4 sanakirjapohjainen ei tosiaan oikein toimisi suomessa.
>=20
> Mutta en tied=E4 mit=E4 tekniikkaa nuo k=E4ytt=E4v=E4t. Vaikuttaa jolta=
in
> kieltiteknologiaheebolta, joten voi olla ett=E4 sill=E4 on hihassa jota=
in. Eri
> kielille on kyll=E4 tehty automaattisesti juuria ja niille sopivia taiv=
utuksia
> analysoivia systeemej=E4, mutta en tied=E4 kuinka toimivia ja erityises=
ti
> kieliriippumattomia nuo menetelm=E4t ovat. Suomen kieli kun on harvinai=
sen paha
> tapaus ihmeyhdyssanataivutush=E4ss=E4k=F6ineens=E4kink=F6h=E4n. Eli k=E4=
sit=F6it=E4 voi
> automatiikan j=E4lkeen tulla melkoisesti.
>=20
>=20
>>   We can generate lists of high-frequency words that aren't in
>>the existing dictionary, then (this is the tricky part)
>>do some "stemming" so that the appropriate root words can
>>be added with the correct affix flags automatically.
>=20
>=20
> Eli tuo on se avainjuttu.
>=20
> Voi kannattaa kysy=E4 tarkemmin, mit=E4 hemmolla on mieless=E4. Jos h=E4=
n k=E4ytt=E4=E4
> jotain automaattisia menetelmi=E4 tuohon, homma voi toimiakkin jotenkut=
en. Jos
> ei, taitaisi k=E4sity=F6 olla turhan kamalaa.
>=20
> -- Marko Gr=F6nroos, [email protected] (http://www.iki.fi/magi/)
>=20
>=20
> _______________________________________________
> Lokalisointi mailing list
> Lokalisointi-VgemUZeIY8Ow/[email protected]
> http://lists.linux-aktivaattori.org/listinfo/lokalisointi