Informatika - Jazykové technologie a počítačová lingvistika

Garantující pracoviště: Ústav formální a aplikované lingvistiky
Oborový garant: Doc. Mgr. Barbora Vidová Hladká, Ph.D.

Zaměření:

– počítačová a formální lingvistika

– statistické metody a metody strojového učení pro zpracování jazyka

Absolventa charakterizuje porozumění matematicko-informatickým základům počítačového zpracování přirozených jazyků a teoretickým základům jejich formálního popisu. Má dobrou znalost obecných metod strojového učení, a to včetně nejmodernějších metod hlubokého učení. Získané znalosti je schopen uplatňovat v návrhu a realizaci systémů pro zpracování přirozených jazyků v psané i mluvené formě stejně jako systémů pro práci s rozsáhlými kolekcemi nestrukturovaných i strukturovaných dat obecně (ve finančnictví, ekonomice, biologii, lékařství a dalších oborech využívajících metod umělé inteligence). Absolvent disponuje potřebnými znalostmi a praktickými dovednostmi (programování, práce v týmu), které najdou uplatnění v informačních a komunikačních technologiích (ICT).

Povinné předměty

Povinně volitelné předměty - skupina 1

Je požadováno splnění povinně volitelných předmětů z následujícího seznamu v rozsahu alespoň 24 kreditů.

² Předmět NPFL122 byl vyučován do roku 2022/2023, předmět NPFL139 je vyučován od roku 2023/2024, předměty jsou vzájemně neslučitelné.

Povinně volitelné předměty - skupina 2 (projektové předměty)

Je požadováno splnění povinně volitelných předmětů z následujícího seznamu v rozsahu alespoň 6 kreditů. Má-li student zájem o absolvování více jak jednoho projektového předmětu, může k tomu využít volitelné předměty NPRG078 Softwarový projekt II, NPRG079 Výzkumný projekt II či NPRG080 Firemní projekt II.

Povinně volitelné předměty - skupina 3 (doplňující předměty)

Je požadováno splnění povinně volitelných předmětů z následujícího seznamu v rozsahu alespoň 10 kreditů.

Státní závěrečná zkouška

Studijní program Informatika - Jazykové technologie a počítačová lingvistika má jeden společný povinný okruh pro obě zaměření (okruh 1), jeden povinný okruh dle zvoleného zaměření (okruh 2, nebo okruh 3) a jeden okruh si student vybírá z volitelných okruhů (okruhy 4 a 5). Jako tento poslední okruh si student může zvolit také povinný okruh druhého zaměření tohoto programu. Celkem tedy každý student dostane otázky ze tří okruhů.

Zkušební okruhy

1. Základy počítačového zpracování přirozeného jazyka (povinný okruh pro obě zaměření)

2. Lingvistické teorie a formalismy (povinný okruh pro zaměření počítačová a formální lingvistika)

3. Statistické metody a strojové učení v počítačové lingvistice (povinný okruh pro zaměření statistické metody a metody strojového učení pro zpracování jazyka)

4. Zpracování řeči, dialogové systémy a multimodální systémy (volitelný okruh)

5. Aplikace metod zpracování přirozeného jazyka (volitelný okruh)

Zkušební požadavky

1. Základy počítačového zpracování přirozeného jazyka
Úrovně popisu jazyka: fonetika, fonologie, morfologie, syntax, sémantika, pragmatika. Základní pojmy z teorie informace. Markovovy modely. Jazykové modely a vyhlazování. Třídy slov. Anotované korpusy. Návrh a vyhodnocení lingvistických experimentů, evaluační metriky. Morfologické značkování. Přehled základních klasifikačních a regresních algoritmů.

Doporučené předměty

2. Lingvistické teorie a formalismy
Funkční generativní popis. Pražský závislostní korpus. Universal Dependencies. Další gramatické formalismy - přehled a základní charakteristika. Fonetika, fonologie. Počítačová morfologie. Povrchová a hloubková stavba věty; valence. Aktuální členění věty; informační struktura, diskurz. Koreference. Typologie jazyků. Parsing.

Doporučené předměty

3. Statistické metody a strojové učení v počítačové lingvistice
Generativní a diskriminativní modely. Metody řízeného učení pro klasifikaci a regresi (lineární modely, ostatní metody: naive Bayes, rozhodovací stromy, učení založené na příkladech, SVM a kernely, logistická regrese). Metody neřízeného učení. Jazykové modely a modely kanálu. Vyhlazování modelů, kombinace modelů. HMM, trellis, Viterbi, Baum-Welch. Algoritmy pro statistický tagging. Algoritmy pro složkový a závislostní statistický parsing. Strojové učení s využitím neuronových sítí. Konvoluční a rekurentní sítě. Slovní embeddingy.

Doporučené předměty

4. Zpracování řeči, dialogové systémy a multimodální systémy
Základy tvoření a vnímání mluvené řeči. Metody zpracování řečového signálu. Modelování akustiky fonémů pomocí HMM. Implementace Baum-Welch a Viterbi algoritmu pro rozpoznávání řeči. Neuronové modely řeči. Metody syntézy řeči. Řečové aplikace. Základní komponenty dialogového systému. Porozumění jazyku v dialogových systémech. Sledování dialogového stavu. Metody řízení dialogu. End-to-end neuronové dialogové systémy. Architektury pro dialogové systémy v otevřené doméně. Generování přirozeného jazyka. Evaluace dialogových systémů. Vizuální dialog a multimodální systémy.

Doporučené předměty

5. Aplikace metod zpracování přirozeného jazyka
Kontrola překlepů, kontrola gramatické správnosti. Strojový překlad. Počítačem podporovaný překlad. Statistické metody ve strojovém překladu. Strojový překlad mluvené řeči. Vyhodnocování kvality překladu a překladu mluvené řeči. Vyhledávání informací, modely pro vyhledávání informací. Rozšiřování dotazů a relevance feedback. Shlukování dokumentů. Hledání blízkých duplicit. Evaluace vyhledávání informací. Postojová analýza (sentiment analysis). Předtrénované modely a jejich využití v úlohách klasifikační povahy a úlohách generování.

Doporučené předměty