Навигација

26Д111ОПГ - Одабрана поглавља из генерисања програмског кода

Спецификација предмета
НазивОдабрана поглавља из генерисања програмског кода
Акроним26Д111ОПГ
Студијски програмЕлектротехника и рачунарство
Модулмодул Софтверско инжењерство
Тип студијадокторске академске студије
Наставник (предавач)
Наставник/сарадник (вежбе)
    Наставник/сарадник (ДОН)
      Број ЕСПБ9.0Статус предметаизборни
      Условљност другим предметима
      Циљеви изучавања предметаЦиљ предмета је да студентима омогући разумевање и примену метода за синтезу програма користећи велике језичке моделе. Овај курс покрива конструкцију система за генерисање кода (укључујући фино подешавање, закључивање и евалуацију) и истражује актуелне истраживачке правце у области генерисања кода — као што су интеракција са људским програмерима, поузданост модела, адаптивност и примене.
      Исходи учења (стечена знања)По завршетку курса, студенти ће бити способни да: разумеју кључне алгоритамске и архитектонске основе великих језичних модела за генерисање кода; примене технике за фино подешавање, закључивање и евалуацију модела; анализирају и критички процене истраживачке радове из подручја генерисања кода и представе сопствене идеје за унапређење у тој области.
      Садржај предмета
      Садржај теоријске наставе• Увод у генерисање кода: мотивација, историјат, основни концепти великих језичних модела за код. • Основе: учење (пре-тренирање и фино подешавање), подаци (скупови, синтетички подаци), закључивање, евалуација (методологије и бенчмарк тестови). • Интеракција са људима (програмери + модели), адаптивност (дуги контекст, претраживањем проширено генерисање - RAG, само-исправљање кода), применe.
      Садржај практичне наставеИзрада семинарског рада: проучавање скуп постојећих радова, сумирање садржаја, дискусија о предностима, манама и будућим правцима истраживања, репродуцибилност резултата. Алтернативно: Спровођење практичног истраживачког пројекта, формулисање проблема, спровођење експерименталне евалуације и презентација резултата.
      Литература
      1. M. Chen et al, Evaluating Large Language Models Trained on Code, https://arxiv.org/abs/2107.03374
      2. D. Fried, InCoder: A Generative Model for Code Infilling and Synthesis, https://arxiv.org/abs/2204.05999
      3. N. Muennighoff, OctoPack: Instruction Tuning Code Large Language Models, https://arxiv.org/abs/2308.07124
      4. J. Liu, Is Your Code Generated by ChatGPT Really Correct? Rigorous Evaluation of Large Language Models for Code Generation, https://arxiv.org/abs/2305.01210
      5. Odabrani naučni i stručni radovi
      Број часова активне наставе недељно током семестра/триместра/године
      ПредавањаВежбеДОНСтудијски и истраживачки радОстали часови
      8
      Методе извођења наставеМенторски рад, практичан самостални рад
      Оцена знања (максимални број поена 100)
      Предиспитне обавезеПоенаЗавршни испитПоена
      Активности у току предавањаПисмени испит
      Практична наставаУсмени испит30
      Пројекти70
      Колоквијуми
      Семинари