Navigacija

26D111OPG - Odabrana poglavlja iz generisanja programskog koda

Specifikacija predmeta
Naziv Odabrana poglavlja iz generisanja programskog koda
Akronim 26D111OPG
Studijski program Elektrotehnika i računarstvo
Modul modul Softversko inženjerstvo
Tip studija doktorske akademske studije
Nastavnik (predavač)
Nastavnik/saradnik (vežbe)
    Nastavnik/saradnik (DON)
      Broj ESPB 9.0 Status predmeta izborni
      Uslovljnost drugim predmetima
      Ciljevi izučavanja predmeta Cilj predmeta je da studentima omogući razumevanje i primenu metoda za sintezu programa koristeći velike jezičke modele. Ovaj kurs pokriva konstrukciju sistema za generisanje koda (uključujući fino podešavanje, zaključivanje i evaluaciju) i istražuje aktuelne istraživačke pravce u oblasti generisanja koda — kao što su interakcija sa ljudskim programerima, pouzdanost modela, adaptivnost i primene.
      Ishodi učenja (stečena znanja) Po završetku kursa, studenti će biti sposobni da: razumeju ključne algoritamske i arhitektonske osnove velikih jezičnih modela za generisanje koda; primene tehnike za fino podešavanje, zaključivanje i evaluaciju modela; analiziraju i kritički procene istraživačke radove iz područja generisanja koda i predstave sopstvene ideje za unapređenje u toj oblasti.
      Sadržaj predmeta
      Sadržaj teorijske nastave • Uvod u generisanje koda: motivacija, istorijat, osnovni koncepti velikih jezičnih modela za kod. • Osnove: učenje (pre-treniranje i fino podešavanje), podaci (skupovi, sintetički podaci), zaključivanje, evaluacija (metodologije i benčmark testovi). • Interakcija sa ljudima (programeri + modeli), adaptivnost (dugi kontekst, pretraživanjem prošireno generisanje - RAG, samo-ispravljanje koda), primene.
      Sadržaj praktične nastave Izrada seminarskog rada: proučavanje skup postojećih radova, sumiranje sadržaja, diskusija o prednostima, manama i budućim pravcima istraživanja, reproducibilnost rezultata. Alternativno: Sprovođenje praktičnog istraživačkog projekta, formulisanje problema, sprovođenje eksperimentalne evaluacije i prezentacija rezultata.
      Literatura
      1. M. Chen et al, Evaluating Large Language Models Trained on Code, https://arxiv.org/abs/2107.03374
      2. D. Fried, InCoder: A Generative Model for Code Infilling and Synthesis, https://arxiv.org/abs/2204.05999
      3. N. Muennighoff, OctoPack: Instruction Tuning Code Large Language Models, https://arxiv.org/abs/2308.07124
      4. J. Liu, Is Your Code Generated by ChatGPT Really Correct? Rigorous Evaluation of Large Language Models for Code Generation, https://arxiv.org/abs/2305.01210
      5. Odabrani naučni i stručni radovi
      Broj časova aktivne nastave nedeljno tokom semestra/trimestra/godine
      Predavanja Vežbe DON Studijski i istraživački rad Ostali časovi
      8
      Metode izvođenja nastave Mentorski rad, praktičan samostalni rad
      Ocena znanja (maksimalni broj poena 100)
      Predispitne obaveze Poena Završni ispit Poena
      Aktivnosti u toku predavanja Pismeni ispit
      Praktična nastava Usmeni ispit 30
      Projekti 70
      Kolokvijumi
      Seminari