Навигација

26Д111НОП - Напредна обрада природних језика

Спецификација предмета
НазивНапредна обрада природних језика
Акроним26Д111НОП
Студијски програмЕлектротехника и рачунарство
Модулмодул Софтверско инжењерство
Тип студијадокторске академске студије
Наставник (предавач)
Наставник/сарадник (вежбе)
    Наставник/сарадник (ДОН)
      Број ЕСПБ9.0Статус предметаизборни
      Условљност другим предметима
      Циљеви изучавања предметаПредстављање напредних модела и задатака у обради природних језика. Упознавање студената са различитим архитектурама великих језичких модела и њиховим применама.
      Исходи учења (стечена знања)Студенти ће научити напредне технике обраде текстуалних података написаних на природним језицима и бити у стању да примене најсавременије статистичке методе у решавању проблема из овог домена.
      Садржај предмета
      Садржај теоријске наставеВелики језички модели и трансферно учење у ОПЈ области. Енкодер и декодер модели. Фино подешавање модела и учење на основу малог броја примера. Монолингвални и мултилингвални модели и њихове крос-лингвалне примене. Дизајн упита и халуцинације генеративних модела. Пристрасност у моделима. Одговарање на питања, израда сажетака и упрошћавање текста, разрешавање кореференци, мултимодални задаци.
      Садржај практичне наставеЗаједничко конципирање и разрада теме и садржаја предметног пројекта; упознавање студената са релевантним концептима, приступима, средствима и литературом; праћење и дискусија решења, резултата и могућих побољшања током рада на пројекту и његовог документовања.
      Литература
      1. Speech and Language Processing, Dan Jurafsky, James H. Martin, 3rd edition draft
      2. Natural Language Processing with Transformers, Lewis Tunstall, Leandro von Werra, Thomas Wolf, O'Reilly, 2022
      Број часова активне наставе недељно током семестра/триместра/године
      ПредавањаВежбеДОНСтудијски и истраживачки радОстали часови
      8
      Методе извођења наставеПредавања и менторски рад са студентима на изради пројектног задатка
      Оцена знања (максимални број поена 100)
      Предиспитне обавезеПоенаЗавршни испитПоена
      Активности у току предавањаПисмени испит
      Практична наставаУсмени испит30
      Пројекти70
      Колоквијуми
      Семинари