Спецификација предмета за књигу предмета
Студијски програм  Саобраћај
Изборно подручје (модул) Телекомуникациони саобраћај и мреже
Врста и ниво студија Мастер академске студије
Назив предмета Теорија информација и кодовање 
Број ЕСПБ 6 Статус предмета (обавезни/изборни) изборни
Услов  
Циљ
предмета
Теорија информација подвлачи математичку теорију комуникација. Један од циљева предмета је разумевање кључних концепата количине информација, ентропије, капацитета канала, детекције грешке, блок и конволуционог кодовања. Други циљ је сагледавање значаја теорије информација и теорије кодовања, као и њиховог утицаја на савремено друштво.
Исход
предмета
По завршетку курса, студенти ће бити у стању да одговоре на питања које су границе до којих се може доћи при компресији података, као и до којих граница се може доћи при поузданом преносу сигнала кроз телекомуникациони канал са шумом. Оспособљавање студената да самостално пројектују и имплементирају нове кодове. Најбољи студенти треба да могу да решавају проблеме везане за теорију кодовања и максимално поуздани пренос информација. 
Садржај предмета
Теоријска
настава

Системи за пренос информација. Статистички и информациони модел система за пренос информација. Извори информација без меморије. Мерење дискретних информација. Ентропија информација. Сувишност извора и ефикасност. Моменти. Дискретни канали за пренос информација. Марковљеви извори. Кодовање извора. Кодовање канала без шума. Кодови за представљање информација. Ефикасност кодовања. Степен компресије. Крафтова неједначина. Прва Шенонова теорема. Алгоритми за компресију. Основи криптографије. Канално кодовање. Друга Шенонова теорема. Линеарни блок кодови.

Практична настава (вежбе, ДОН, студијски истражива-чки рад) Семинари, рачунске вежбе, вежбе у рачунарској учионици, израда пројектног задатка на крају семестра. Универзално кодовање извора, аритметичко кодовање, капацитет канала са меморијом, алгоритми за израчунавање капацитета канала и функције оштећења информација, границе перформанси блок каналних кодова, кодови за проверу парности. Практичне примене поступака кодовања.   
Литература
1 Д. Драјић, П.Иваниш: "Увод у теорију информација и кодовање", Академска мисао, Београд, 2009.
2 M.E.Borda: "Information Theory and Coding, Fundamentals and Application", U.T.Press, Cluj-Napoca, 2007.
3 T.Cover, J.Tomas: "Elements of Information Theory", Wiley, 2006.
4  
5  
Број часова активне наставе недељно током семестра/триместра/године
Предавања Вежбе ДОН Студијски истраживачки рад Остали часови
3 2 0 1 6
Методе
извођења
наставе
Предавања ex-катедра, коришћење презентација, семинари, рачунске вежбе и вежбе у рачунарској учионици  
Оцена знања (максимални број поена 100)
Предиспитне обавезе поена Завршни испит поена
активност у току
предавања
10 писмени испит 20
практична настава   усмени испит 20
колоквијуми 30    
семинари 20