Co to jako je?

Vystudoval jsem počítačovou lingvistiku. A s tím se pojí, že jsem nesčetněkrát odpovídal na dotaz, co že přesně to studuju. Moje oblíbená odpověď byla: „Co myslíš?“. Tak jsem se většinou dozvěděl, že „asi… nějaký… jakože studování těch, programovacích jazyků?!“. No, tak to není:)

V tomhto článku bych tedy rád přiblížil, co počítačová lingvistika je a co znamenala pro mě.

Když jsem chtěl tázajícím odpovědět stručně, říkal jsem, že je to něco mezi informatikou a lingvistikou. Většinou pořád tápali, tak jsem dodal, že je to o tom „naučit počítače přirozený jazyk, jakože strojový překlad, sumarizace textu, velké jazykové modely a tak“. Tady se už většinou objevil spokojený úsměv, že si můj obor někam zařadili a konverzace pokračovala vesele dál jiným tématem.

Říkal jsem pravdu, ale dost zjednodušenou.

Trochu historie

Počítačová lingvistika spadá pod matematickou lingvistiku - vědní obor, který aplikuje matematiku, logiku a statistiku na zkoumání jazyka. Cílem je kvantitativně a vědeckou metodou popsat jazyk jako systém.

Počítačová lingvistika je pak ta část, která používá pro zpracování jazyka počítač - takto prostě se v názvu objevilo to „počítačová“. Anglický termín je computational linguistics - a můj osobní názor je, že lepší název by byla komputační lingvistika, tedy že jde o počítání (statistiku), ne počítače (jako ty bedny), ale co naplat.

Celé to začalo v 60. letech 20. století. Prvními úlohami bylo zkoumání frekvence jazykových jevů a rané pokusy o strojový překlad (byť brzy došlo k vystřízlivění, že je to obtížnější, než se zdá). Vznikají také první korpusy, tj. velké uspořádané soubory jazykových dat uložené elektronicky. Korpusy umožňují zkoumání jazyka na reálných datech v přirozeném kontextu a v dříve nemyslitelném rozsahu. Pro lingvistiku to je tak obří skok od intuice k vědě založené na důkazech (tzv. evidence-based).

Pravidla versus statistika

Vedle analýzy dat je hlavním pilířem oboru počítačové zpracování přirozeného jazyka (NLP), tedy ona snaha přesvědčit stroje, aby rozuměly lidské řeči. Při řešení problémů v NLP (generování textu, analýza sentimentu, sumarizace textu, určení autorství) se vedle sebe objevují dva přístupy:

  • pravidlový systém: Pochopíme zákonitosti jazyka a navrhneme odpovídající pravidla pro jeho zachycení.
  • statistický přístup: Jazyk je vlastně jen posloupnost znaků, které za sebou následují s určitou pravděpodobností, stačí tedy díky velkým datům tu pravděpodobnost spočítat.

Pravidlový přístup vyžaduje detailní lingvistickou znalost, statistický přístup už ne tolik. Velmi zhruba se dá říct, že dříve se používalo mnoho různých pravidlových systémů, občas v kombinaci se statistikou nebo klasickým strojovým učením. S příchodem velkých jazykových modelů a zejména s představením ChatGPT pro veřejnost na podzim 2022 přišel zlom. Ukázalo se, že metoda „hodně dat a hodně výpočetního výkonu“ řeší všechny úkoly v NLP srovnatelně či lépe než nejsofistikovanější specializovaný pravidlový systém.

Zdá se tak, že lingvistika v NLP v současném světě AI už nemá svoje místo. Opak je ale pravdou. Tak například platí, že „model je jen tak dobrý, jak dobrá má vstupní data“ a někdo taky musí kontrolovat kvalitu výstupu; a oboje vyžaduje znalost jazyka. Faktem zůstává, že být dnes počítačovým lingvistou znamená stát se tím, kdo AI aktivně ovládá, a ne tím, kdo jí bude nahrazen.

Moje cesta

Studovat jsem začal v roce 2021, takže jsem tento historický zlom žil v přímém přenosu. A věřím, že jsem dělal vše pro to, abych stál na té straně, která AI systémy řídí a krotí.

Počítačová lingvistika na Masarykově univerzitě je unikátní tím, že spadá pod Filozofickou fakultu, ale část předmětů garantuje Fakulta informatiky. Díky tomu jsem si mohl vzít to nejlepší z obou světů: z „fildy“ humanitní nadhled, komunikační schopnosti a kritické myšlení, z informatiky zase analytický přístup a tvrdé technické dovednosti.

V rozvrhu se mi tak potkávala typologie jazyků a historická mluvnice češtiny s programováním v Pythonu a Javě, teorií grafů, databázemi a strojovým učením. Tuhle mezioborovost jsem nakonec dotáhl nejdál při psaní své diplomové práce, kde jsem velké jazykové modely využil v oblasti bioinformatiky a genetiky.

Ale o tom zas někdy příště.