Základy hĺbkového učenia je predmet ponúkaný v zimnom semestri prvého ročníka inžinierskeho štúdia na Technickej univerzite v Košiciach pre študijný program Inteligentné systémy. Predmet je pokračovaním kurzu Neurónové siete a jeho cieľom je oboznámiť študentov so základmi, metodológiou a novými trendmi deep learningu, teda hlbokého učenia.
Prednášky z predmetu sú v utorok o 15:10 v miestnosti PK6_108 (PC17). Cvičenia sú v pondelok a stredu o 7:30 v miestnosti V4_010. Počas semestra má študent nárok na maximálne tri neúčasti.
Pre aktuálne informácie ohľadom organizácie predmetu a komunikáciu s vyučujúcimi používajte MS Teams skupinu predmetu.
| Cvičenie | Deadliny | |
|---|---|---|
| 1. týždeň 23. 9. - 29. 9. |
úvod, opakovanie, pridelenie zadaní | |
| 2. týždeň 30. 9. - 6. 10. |
teória konvolúcie, implementácia v Pythone | výber článku k zadaniu 1 |
| 3. týždeň 7. 10. - 13. 10. |
konvolučné siete v PyTorchi | prezentácia výskumného projektu |
| 4. týždeň 14. 10. - 20. 10. |
DL training cookbook 1 | |
| 5. týždeň 21. 10. - 27. 10. |
DL training cookbook 2 | report k zadaniu 1 |
| 6. týždeň 28. 10. - 3. 11. |
práca s dátami | |
| 7. týždeň 4. 11. - 10. 11. |
zápočtová písomka, prezentácia projektov | výskumný projekt - prehľad literatúry |
| 8. týždeň 11. 11. - 17. 11. |
spracovanie prirodzeného jazyka | |
| 9. týždeň 18. 11. - 24. 11. |
využitie rekurentných neurónových sietí | odovzdanie prvého zadania |
| 10. týždeň 25. 11. - 1. 12. |
projektová práca | výskumný projekt - prvé výsledky |
| 11. týždeň 2. 12. - 8. 12. |
transformery | |
| 12. týždeň 9. 12. - 15. 12. |
grafové neurónové siete | |
| 13. týždeň 16. 12. - 22. 12. |
odovzdávanie zadaní | výskumný projekt - progress report |
Pre absolvovanie predmetu študent musí spĺňať nasledovné podmienky:
- účasť na prednáškach a cvičeniach (maximálne 3 neúčasti)
- odovzdanie zadaní a absolvovanie písomky (viď nižšie)
- získať minimálne 21 bodov do zápočtu
- prejsť skúškou (získať minimálne 31 bodov)
Počas semestra študenti môžu získať 40 bodov a to nasledovne:
- Replikácia článku - 10 bodov
- Semestrálny projekt - 20 bodov
- zápočtová písomka - 10 bodov
Hlavnou odporúčanou literatúrou je kniha The Little Book of Deep Learning od Francoisa Fleureta.
Ďalšie odporúčané zdroje:
- Goodfellow, Ian, Yoshua Bengio, and Aaron Courville. Deep learning. MIT press, 2016.
- Aggarwal, Charu C. "Neural networks and deep learning." Springer 10, no. 978 (2018): 3.
- Raschka, Sebastian, Yuxi Hayden Liu, Vahid Mirjalili, and Dmytro Dzhulgakov. Machine Learning with PyTorch and Scikit-Learn: Develop machine learning and deep learning models with Python. Packt Publishing Ltd, 2022.
- Buduma, Nithin, Nikhil Buduma, and Joe Papa. Fundamentals of deep learning. " O'Reilly Media, Inc.", 2022.
- Chollet, Francois. Deep learning with Python. Simon and Schuster, 2021.