Kniha (2022)/Meze klasického testování

Z StaTest

Přestože má vzdělávání na univerzitách a obecně vysokých školách za sebou již několikasetletou historii, stále nepanuje jasná shoda, co je vlastně jeho cílem[1]. Pravděpodobně je takových cílů více a záleží i na zaměření té které vysoké školy. V obecné rovině asi můžeme říci, že absolvent vysoké školy by měl odcházet jako profesionál připravený pro výkon určité profese, povolání či role. Tradiční představa je, že předpokladem k tomu je osvojení si řady znalostí a dovedností. To však samo o sobě nestačí. Absolvent vysoké školy by měl být schopen víceméně samostatně pracovat, tj. vykonávat určité činnosti. Ostatně, získání vysokoškolského titulu je mnohdy s oprávněními pro výkon povolání přímo svázáno.

K výkonu konkrétní činnosti nestačí jen soubor faktografických znalostí. Je třeba určité oblasti rozumět, mít určité dovednosti, ale také zaujímat profesionální postoje. Máme-li garantovat, že vysokoškolský absolvent je schopen odborně práci v daném oboru vykonávat, měli bychom ověřit, že je dostatečně kompetentní nejen co do znalostí, ale i v odpovídajících "vyšších" úrovních.

Dimenze znalostí, dovedností a postojů

Když se popisují cíle výuky, například při tvorbě anotace nějakého předmětu, nebo při jeho členění do sylabu, vychází se obvykle z jeho věcného obsahu - seznamu témat, která chceme vyučovat. Takové členění ale samo o sobě nestačí. Pro kvalitně vedenou výuku, a poté i pro hodnocení jejích výsledků, je užitečné k seznamu tematických okruhů přidat ještě druhý rozměr - rozčlenit každé téma do několika úrovní podle komplexity vzdělávacích cílů.

Nejpoužívanějším modelem, který komplexitu cílů vzdělávání, výchovy a odborné přípravy popisuje, je Bloomova taxonomie. Jde vlastně ne o jeden, ale o tři hierarchické modely (označované také jako domény nebo okruhy):

  • Kognitivní doména čili okruh vzdělávacích cílů,
  • afektivní doména čili emoční okruh a
  • psychomotorická doména čili senzomotorický okruh.


Ve vzdělávání se nejčastěji pracuje s prvním okruhem, tj. okruhem vzdělávacích cílů, který odpovídá znalostem, schopnosti je zapojovat a využívat. Mnozí autoři ale opakovaně upozorňují, že neméně významnou, byť hůře uchopitelnou součástí vzdělávání jsou i zbylé dva okruhy. Vzdělávání či výchova v emočním okruhu vede k rozvoji profesionálních postojů. Psychomotorická doména pak zahrnuje osvojení praktických dovedností.

Bloomova taxonomie se v současnosti používá v několika verzích. V 90. letech 20. století byla rozsáhle revidována a vznikla dvourozměrná mapa. Namísto tří okruhů tato revidovaná verze pracuje se čtyřmi znalostními dimenzemi - faktuální, konceptuální, procedurální a metakognitivní znalostí. Každá z těchto znalostních dimenzí pak obsahuje šest dimenzí poznávání: zapamatovat, rozumět, aplikovat, analyzovat, hodnotit a tvořit.

Vzhledem k tomu, že se termínem Bloomova taxonomie označuje několik různých pojetí a verzí, dovolíme si podrobněji pracovat jen s jednou z nich, tradičně označovanou jako Bloomova taxonomie vzdělávacích cílů. Víceméně odpovídá kognitivní doméně původní Bloomovy taxonomie z přelomu 50. a 60. let 20. století a dimenzi faktuálních znalostí z výše zmiňované revize.

Bloomova taxonomie vzdělávacích cílů

Taxonomie v okruhu vzdělávacích cílů popisuje úrovně schopností a dovedností, které se týkají faktických znalostí, jejich pochopení a porozumění kontextu. Má šest úrovní: nejnižší je znalost, pak pochopení, aplikace, analýza, hodnocení a nejvýše tvorba. Tradiční vzdělávání má sklon pracovat právě s tímto souborem cílů, především pak s jeho nižšími úrovněmi.

Znalost (též zapamatování)
Nejnižší úrovní vzdělávacích cílů je znalost, tj. zapamatování a schopnost vybavit si fakta a nejzákladnější koncepty. Student se učí základní pojmy, definice. Převážně po něm chceme, aby něco vyjmenoval, zopakoval, vysvětlil pojem, něco zařadil do určitého klasifikačního schématu apod. Což může učinit i bez plného porozumění pojmům, se kterými se pracuje - student například může správně zařadit rostlinný druh do čeledi čistě díky tomu, že má naučené, jaké druhy do příslušné čeledi patří. Nemusí přitom vůbec tušit, jak rostlina, o které mluví, vypadá, jaké jsou charakteristiky příslušné čeledi a proč vlastně daná rostlina do té čeledi patří. Znalosti v této úrovni mají často povahu izolovaných údajů z encyklopedického slovníku.
Pochopení (též porozumění)
Naplnění tohoto vzdělávacího cíle lze typicky demonstrovat jako schopnost vysvětlit či interpretovat určitou látku. Student, který dosáhl porozumění, dokáže vysvětlit hlavní myšlenku. S porozuměním také dokáže něco popsat, porovnat, seřadit, přeložit do jiného jazyka, který ovládá, apod. Přestože dané věci rozumí, nemusí ji ještě umět využít - typicky se to odráží v tom, že ji nedokáže kombinovat s jinými znalostmi, které rovněž má a kterým rozumí. Student tak například chápe pohyb Země kolem Slunce a jeho souvislost se střídáním ročních období, stejně tak je mu dobře známý tvar Země, nedokáže si ale poradit s otázkou, jaká je poloha slunce nad obzorem v různých zeměpisných oblastech v době letního slunovratu.
Aplikace
Pro dosažení této úrovně je typická schopnost využít nabyté znalosti v nových situacích. Student dokáže řešit úkoly a problémy, se kterými se dosud nesetkal. Musí k tomu rozpoznat souvislosti a vztahy a najít cestu, jak jich k řešení využít. Mnohdy musí využít pravidel či postupů, které již zná, ale jinak, než byl dosud zvyklý. Dokáže však pracovat jen s relativně nekomplikovaným zadáním. Na řešení komplikovaně zadané úlohy není tato úroveň postačující, neboť např. ještě nerozliší, které údaje jsou pro řešení podstatné, které bezvýznamné a jaké údaje případně chybí a musí je ještě zjistit. Komplikovanější problém je proto pro něj neřešitelný, přestože by měl potřebné dílčí znalosti, neboť se v něm ztratí.
Analýza
Analýzou se v Bloomově taxonomii myslí rozbor složitého celku nebo problému na menší části, což umožní jeho lepší pochopení. Analytické dovednosti jsou potřebné například pro rozlišení příčin a následků, nebo pro hledání důkazů, které podporují nějaké zobecňující tvrzení. Do této úrovně patří také schopnost rozpoznat strukturu nějaké informace, rozčlenit ji na jednotlivé součásti, posoudit vztahy mezi nimi a díky tomu odhadnout důvěryhodnost informačního zdroje. Dosažení tohoto vzdělávacího cíle lze také demonstrovat třeba myšlenkovým experimentem, ve kterém student dokáže odhadnout, jak by určitý zásah změnil nějaký děj. Musí k tomu děj analyzovat, rozpoznat jeho součásti a vazby mezi nimi, určit, co se přesně změní zvažovaným zásahem a k jakým to povede důsledkům.
Hodnocení
Hodnocení patří mezi nejvyšší cíle v Bloomově taxonomii. Myslí se jím schopnost posuzovat informace a na základě toho přijímat informovaná rozhodnutí, zaujímat stanoviska nebo hájit názory. Hodnocení vyžaduje schopnost informaci nejprve analyzovat, je tedy provázané s předchozím cílem. Podstatou hodnocení je zhodnotit jednotlivé části informace a posoudit jejich význam a validitu. Výsledný verdikt by přitom měl být podstatný pro řešení určitého problému nebo pro tvorbu něčeho nového. Typickým úkolem, který demonstruje dosažení tohoto cíle, může být např. zpracování odborné recenze vědeckého článku, včetně doporučení k jeho publikování, odmítnutí či úpravám. Je zřejmé, že ke splnění takového úkolu je zapotřebí nejen dosažení všech předchozích cílů, ale i určité kreativity. Není tedy divu, že v různých verzích Bloomovy taxonomie se pořadí dvou nejvyšších cílů někdy liší.
Tvorba
Tvorba je vrcholným cílem, jehož může student učením dosáhnout. Je to cíl vysloveně kreativní, produktivní. Při dosažení tohoto cíle dokáže student navrhnout nové originální řešení, projektovat, vynalézat apod.

Bloomova taxonomie nás nutí zamyslet se nad způsobem, jakým se člověk učí a díky tomu je cenná i k úvahám, jak výsledky učení hodnotit. Přestože jde o nesporně nepoužívanější "rozškatulkování" vzdělávacího procesu, má i své nevýhody a kritiky. Již z předchozího popisu je zřejmé, že zatímco charakteristika nižších kategorií Bloomovy taxonomie je vcelku jednoznačná a snadno v praxi použitelná, vyšší cíle jsou definovány stále abstraktněji, méně jednoznačně a dokonce jsou pochybnosti, jak je přesně uspořádat. Omezení Bloomovy taxonomie je více[2][3][4], např.:

  • Bloomova taxonomie předpokládá, že se člověk učí lineárně, sekvenčně - že postupuje od nejnižších cílů k vyšším. Ve skutečnosti tomu tak není, mezi jednotlivými "patry" se přeskakuje a opakovaně se vrací zpět k nižším úrovním. Naučí-li se člověk něco zhodnotit nebo vytvořit, výsledek své práce pak znovu analyzuje, doplňuje si znalosti a učí se jim porozumět apod.
  • Učit se člověk může i od špičky pyramidy směrem k její základně, tím, že něco vytvoří. Začnou se pak uplatňovat jiné procesy, které Bloomova taxonomie příliš nepopisuje: průzkum, zkoušení nějakého řešení, vytváření prototypu, revize či kritické posuzování. To teprve nutí k vyhledávání zdrojů a získávání nových faktických znalostí.[5]
  • Bloomova taxonomie předpokládá, že se člověk učí izolovaně od ostatních, je individualistická. Pomíjí sociální a konektivistické aspekty učení, které jsou ve vysokoškolském vzdělávání velmi důležité.[6]
Jiné taxonomie

Bloomova taxonomie je relativně složitá - připomeňme, že jsme v textu výše pracovali jen s jedním z okruhů znalostních dimenzí, takže jsme zcela pominuli vše, co je spojené s procedurálními dovednostmi či postoji. A to společně s její neúplností vedlo ke vzniku jiných, různě pojímaných modelů učení a úrovní dosahovaných kompetencí.[7][8]

Specificky pro hodnocení znalostí a dovedností se v devadesátých letech 20. století začala v medicíně používat tzv. Millerova pyramida[9], která se postupně rozšířila i do jiných oborů[10][11]. Původní čtyři úrovně hodnocených kompetencí byly později doplněny o úroveň pátou[12].

  • Znalost (student zná; v anglicky psané literatuře knowledge, úroveň knows)
  • Porozumění (student ví jak; competence, knows how). Zkoušený dokáže znalosti z předchozí úrovně zapojit do kontextu.
  • Dovednost (dokáže ukázat jak; performance, shows how). Dovednost je již komplexní, zkoušený se „sám vyzná“ a kombinuje široké spektrum znalostí a schopností, kterých často nabyl v různých předmětech a částech studia.
  • Činnost (v praxi provádí správně veškeré potřebné úkony; action, does). Této úrovně by měl dosáhnout např. kandidát u státní závěrečné zkoušky.
  • Identita (skutečně je profesionálem). U člověka, který dosáhl této úrovně, lze konzistentně pozorovat postoje, hodnoty a chování, které se očekávají od zástupce určité profesní skupiny. Lze říci, že daný člověk myslí, chová se a cítí se jako lékař, učitel, právník, projektant apod.


Přistoupíme-li na to, že absolvent vysoké školy má být profesionál připravený k výkonu určité činnosti, měli bychom v průběhu či nejpozději v závěru studia ověřit, že skutečně nabyl příslušných kompetencí. Zatímco znalosti a porozumění obvykle můžeme velmi dobře hodnotit pomocí standardizovaných testů i nestandardizovaných metod (třeba ústním zkoušením), hodnocení nejvyšších úrovní kompetencí je složitější. Jistě bychom považovali za absurdní, kdyby např. orchestr přijímal houslistu na základě písemného testu nebo ústní zkoušky z houslové hry. Stejně absurdní by bylo na základě pouhého písemného testu či ústní zkoušky o někom prohlásit, že je např. dobře připraveným učitelem, právníkem, historikem, nebo lékařem. Ověřili bychom sice s větší či menší věrohodností, že nabyl znalostí a porozumění, jež jsou nezbytným předpokladem pro výkon povolání, ale nijak bychom nezjišťovali, zda jich také dokáže odpovídajícím způsobem využít, zda nabyl potřebných dovedností a zda skutečně dokáže vykonávat činnosti, které jsou součástí konkrétní práce.

Dobře připraveným a standardizovaným písemným testováním lze kvalitně hodnotit znalosti a porozumění. Hodnocení dovedností písemným testem je už možné jen v konkrétních případech. Můžeme jej použít, pokud je dovedností například schopnost vyřešit matematickou úlohu nebo popsat nějakou reakci chemickými rovnicemi. Většinu dovedností ale písemným testem ani ústní zkouškou hodnotit nelze - těžko bychom takto zkoušeli např. laboratorní úkony, praktickou práci se zeměměřičskými přístroji nebo odběr krve.

Pro ověřování dovedností a činností lze využít techniky, která se obecně označuje jako praktické zkoušení (practical examination) nebo hodnocení na pracovišti (workplace (based) examination)[13],[14]. Z principu jde o metodu, která může být standardizována jen těžko. Při prakticky zkoušených úkonech totiž nelze jednoduše zajistit stejné (standardizované) podmínky většímu počtu kandidátů. Kromě toho se mnohdy hodnotí i dovednosti, které ve své úplnosti standardizovaně klasifikovat nelze, například je součástí zkoušky i komunikace s klientem nebo týmová spolupráce.

I tyto praktické zkoušky však mohou být objektivizované, tj. uspořádané tak, aby byl potlačen vliv nežádoucích faktorů - například subjektivity zkoušejícího nebo variability podmínek, za nichž zkouška probíhá. Dalším krokem je pak validace praktických zkoušek, tj. ověření, že výsledek zkoušky skutečně odpovídá získaným dovednostem potřebným pro reálnou praxi.

Objektivizované metody praktického zkoušení mívají několik typických charakteristik:

  • Sleduje se dlouhodobý nebo opakovaný výkon, nikoli jednorázový výkon v rámci jednoho testového sezení. Pokud praktická zkouška probíhá v krátkém časovém úseku (např. během jediného dne), je rozdělena do několika samostatných částí (označovaných často jako stanice). Každou z nich posuzují jiní hodnotitelé a každá je zaměřená na jiných okruh dovedností a činností.
  • Zkoušeného hodnotí nezávisle na sobě větší počet hodnotitelů. Mezi hodnotiteli jsou odborníci v dané oblasti, ale často i další osoby - například spolužáci, figuranti, kteří v průběhu zkoušky vedou se zkoušeným modelovou komunikaci, někdy i technický personál.
  • Zkouška a její hodnocení jsou strukturované, tj. hodnotitelé se vyjadřují podle předem daných kritérií ke sledovaným aspektům výkonu (tzv. rubriky zkoušky).
  • Zkouška je validovaná jako celek, nebo jsou validované její jednotlivé části.


Velký posun ve formátech praktického zkoušení přineslo zavedení tzv. objektivních strukturovaných klinických zkoušek (objective structured clinical examination, OSCE) v medicíně v polovině 70. let 20. století. O dvacet let později se tento přístup začal používat i v jiných oborech, někdy se proto označuje i jako objektivní strukturované praktické zkoušení, OSPE. V průběhu OSCE studenti procházejí řadou stanic, v nichž jsou konfrontováni s běžnými situacemi každodenní praxe a mají provést určitou proceduru. Jsou hodnoceni pomocí strukturovaného dotazníku, který vyplňují přítomní hodnotitelé. Větší váhu mají kroky a postupy obecnější povahy (v medicíně např. prevence šíření infekce, komunikace s pacientem v průběhu výkonu, poučení pacienta a vysvětlení výkonu apod.), menší váhu pak mají úkony, které jsou úzce specifické.


Jiným způsobem, jak hodnotit dosažení vyšších vzdělávacích cílů, je sestavování portfolií. Portfolio je systematicky tvořený soubor ukázek práce studenta, který demonstruje jeho úsilí, pokrok a dosažení cílů vzdělávání v průběhu celého kurzu nebo i kurikula[15][16][17][18]. Jde o vysloveně konstruktivisticky pojatý nástroj hodnocení. Jeho výhodou je, že věrně odráží dosažení nejvyšších, kreativních vzdělávacích cílů, a také získání profesionálních návyků a postojů, hodnotových žebříčků apod. Na druhou stranu jde o vysoce individualizovaný hodnotící nástroj, který neumožňuje standardizaci, a obtížná je i jeho objektivizace. Ve srovnání s jinými nástroji jsou portfolia poměrně náročná na čas studenta i učitele. Zavedení hodnocení pomocí portfolia vyžaduje pečlivou přípravu a dokonalou integraci s kurikulem.[19]

Kvantitativní a kvalitativní formy hodnocení

V předchozím textu jsme vycházeli především z pohledu na hodnocení výsledku vzdělávání jako na měření, do jaké míry student dosáhl očekávaných znalostí a dovedností. Výsledkem hodnocení je v tomto pojetí určitá kvantita, známka nebo číselná hodnota. Půvab tohoto pojetí spočívá v jeho pochopitelnosti a v tom, že lze oprávněnost závěrů, které učiníme, snadno zkoumat vědeckými metodami. Můžeme mluvit o přesnosti a spolehlivosti takových závěrů, kde míru přesnosti můžeme kvantifikovat statistickými metodami, můžeme dokonce měřit míru nejistoty, s jakou výsledek sdělujeme. Můžeme také sledovat dopady každé změny, kterou v rámci výuky a zkoušení uděláme. Vše dohromady nám umožňuje zkoušky standardizovat - zajistit, že výsledky hodnocení jsou podložené, reprodukovatelné, objektivní a validní.

Už hierarchizace výukových cílů podle nejběžnějšího pojetí Bloomovy taxonomie ale ukazuje, že standardizovaným testováním a zkoušením nelze hodnotit celou šíři vysokoškolského vzdělávání. Ukázali jsme, že dokáže postihnout jen nižší úrovně poznání. Vyšší vzdělávací cíle lze hodnotit sice nestandardizovanými, ale stále ještě objektivizovanými metodami a výsledkem pořád může být nějaká hodnota. Pro hodnocení nejkomplexnějších cílů, dovedností a postojů nám však pouhé jednorozměrné vyjádření nestačí.

Komplexní kompetence, postoje, chování, či dosažení profesionality v určité oblasti nemůžeme měřit číslem. Přestože nejsou měřitelné (nebo je aspoň nelze vyjádřit jednorozměrnou veličinou), jsou popsatelné. Lze je popsat slovním hodnocením. To ale má vždy subjektivní složku, jde typicky o nestandardizované hodnocení.

Přístupy k hodnocení výsledků vzdělávání se neustále vyvíjejí. Ve světě se v minulých desetiletích intenzivně rozvíjelo standardizované hodnocení a ve vyspělých zemích se stalo nedílnou součástí vzdělávací činnosti. Díky přezkoumatelnosti a obhajitelnosti výsledků v mnoha oblastech postupně zcela vytlačilo nestandardizované metody. V posledních letech se ale upozorňuje na limity takového přístupu[20]. Standardizované metody zůstávají nejlepším známým nástrojem v určitých fázích výuky, někteří autoři ale upozorňují, že by neměly být nástrojem jediným[21][22]. Nestandardizované metody tedy nejsou méněcenné - nejsou ale ani nadřazené standardizovaným. Jde o různé nástroje, z nichž každý se hodí k něčemu jinému.


Odkazy

Reference

  1. The aims of higher education. 1. Pretoria: Council on Higher Education, 2013. ISBN 978-1-919856-84-1
  2. SOOZANDEHFAR, Seyyed Mohammad Ali a Mohammad Reza ADELI. A Critical Appraisal of Bloom’s Taxonomy. American Research Journal of English and Literature: An Academic Publishing House [online]. 2016, 2016(2), 1-9 [cit. 2021-11-16]. ISSN 2378-9026. Dostupné z: https://www.arjonline.org/papers/arjel/v2-i1/14.pdf
  3. ROLAND, Case. The unfortuate consequences of Bloom’s taxonomy. Social Education [online]. National Council for the Social Studies, 2013, 77(4), 196-200 [cit. 2021-10-11]. ISSN 0037-7724.
  4. TUTKUN, Omer, DILEK GÜZEL, MURAT KOROĞLU a HILAL İLHAN. Bloom's Revized Taxonomy and Critics on It. In: MURAT, Koroğlu a İlhan HILAL. The Online Journal of Counselling and Education [online]. 2012, s. 23-30 [cit. 2021-10-11]. ISSN 2146-8192. Dostupné z: https://www.researchgate.net/publication/299850265_Bloom's_Revized_Taxonomy_and_Critics_on_It
  5. BERGER, Ron. Here’s What’s Wrong With Bloom’s Taxonomy: A Deeper Learning Perspective. Education Week [online]. 2018, 14.3.2018 [cit. 2021-11-16]. Dostupné z: https://www.edweek.org/education/opinion-heres-whats-wrong-with-blooms-taxonomy-a-deeper-learning-perspective/2018/03
  6. Criticisms of Bloom's Taxonomy: Educational theorists have criticized Bloom’s Taxonomy on a few grounds. Teachers commons: A place for teachers to share [online]. 24.4.2008 [cit. 2021-11-16]. Dostupné z: http://teachercommons.blogspot.com/2008/04/bloom-taxonomy-criticisms.html
  7. O´NEIL, Geraldine a Feargal MURPHY. UCD DUBLIN. Assessment: Guide to Taxonomies of Learning [online]. Dublin: UCD TEACHING AND LEARNING, 2010 [cit. 2021-10-11]. Dostupné z: https://www.ucd.ie/t4cms/ucdtla0034.pdf
  8. MALAMED, Connie. Alternatives to Bloom’s Taxonomy for Workplace Learning. The eLearnin Coach: Helping you design smarter learning experiences [online]. 2020 [cit. 2021-11-16]. Dostupné z: https://theelearningcoach.com/elearning_design/alternatives-to-blooms-taxonomy/
  9. MILLER, G. E. The assessment of clinical skills/competence/performance. Academical Medicine. 1990, vol. 65, no. 9 Suppl, s. 63-7, ISSN 1040-2446. PMID: 2400509
  10. PEÑALVER, Elena Alcalde. Financial Translation. CUI, Ying a Wei ZHAO, ed. Handbook of Research on Teaching Methods in Language Translation and Interpretation [online]. IGI Global, 2015, 2015, s. 102-117 [cit. 2021-11-16]. Advances in Educational Technologies and Instructional Design. ISBN 9781466666153. Dostupné z: doi:10.4018/978-1-4666-6615-3.ch007
  11. KREVIČ, Nataša. Katalyzátor změn vyučování?: Inovace v hodnocení žáků. Pro vzdělávání: Školské poradenské zařízení a zařízení pro další vzdělávání pedagogických pracovníků [online]. Praha: Národní ústav pro vzdělávání, 2019 [cit. 2021-11-16]. Dostupné z: http://provzdelavani.nuv.cz/clanky/ze-zahranici/katalyzator-zmen-vyucovani-inovace-v-hodnoceni-za
  12. CRUESS, Richard L., Sylvia R. CRUESS a Yvonne STEINERT. Amending Miller’s Pyramid to Include Professional Identity Formation. Academic Medicine [online]. 2016, 91(2), 180-185 [cit. 2021-11-16]. ISSN 1040-2446. Dostupné z: doi:10.1097/ACM.0000000000000913
  13. Definitions: Workplace-based assessment (WPBA). Assessment Department [online]. London: The Royal College of Pathologists, 2019 [cit. 2021-11-16]. Dostupné z: https://www.rcpath.org/trainees/assessment/workplace-based-assessment-wpba.html
  14. PRAKASH, Jyoti, K CHATTERJEE, K SRIVASTAVA, VS CHAUHAN a R SHARMA. Workplace based assessment: A review of available tools and their relevance. Industrial Psychiatry Journal [online]. 2020, 29(2) [cit. 2021-11-16]. ISSN 0972-6748. Dostupné z: doi:10.4103/ipj.ipj_225_20
  15. KLENOWSKI, Val, Sue ASKEW a Eileen CARNELL. Portfolios for learning, assessment and professional development in higher education. Assessment & Evaluation in Higher Education [online]. 2006, 31(3), 267-286 [cit. 2021-11-16]. ISSN 0260-2938. Dostupné z: doi:10.1080/02602930500352816
  16. SEIFERT, Kelvin. Advantages and disadvantages. Educational Psychology [online]. OpenStax CNX, 2011, s. 318-320 [cit. 2021-10-11]. Dostupné z: https://www.opentextbooks.org.hk/ditatopic/6468
  17. HERMAN, Joan L. a Stephen A. ZUNIGA. Assessment: Portfolio Assessment. Education Encyclopedia [online]. [cit. 2021-11-16]. Dostupné z: https://education.stateuniversity.com/pages/1769/Assessment-PORTFOLIO-ASSESSMENT.html
  18. STITT-BERGH, Monica a Yao HILL. What is a portfolio?: Using Portfolios in Program Assessment. Assessment and Curriculum Support Center: Learning outcomes assessment for improvement [online]. Manoa, Hawaii: University of Hawaiʻi at Mānoa [cit. 2021-11-16]. Dostupné z: https://manoa.hawaii.edu/assessment/resources/using-portfolios-in-program-assessment/
  19. DRIESSEN, Erik, Jan VAN TARTWIJK, Cees VAN DER VLEUTEN a Val WASS. Portfolios in medical education: why do they meet with mixed success? A systematic review. Medical Education [online]. 2007, 41(12), 1224-1233 [cit. 2021-11-16]. ISSN 03080110. Dostupné z: doi:10.1111/j.1365-2923.2007.02944.x
  20. VLEUTEN, Cees van der. OSCEs by Cees van der Vleuten. Maastricht University [online]. 2019 [cit. 2021-11-13]. Dostupné z: https://www.maastrichtuniversity.nl/news-events/newsletters/article/+5u+DZKHLUQtFBjwefD8Tg
  21. The Limits of Standardized Tests for Diagnosing and Assisting Student Learning. FairTest [online]. Jamaica Plain: National Center for Fair & Open Testing, 2007 [cit. 2021-11-16]. Dostupné z: https://fairtest.org/limits-standardized-tests-diagnosing-and-assisting
  22. FRANZ, Riffert. The Use and Misuse of Standardized Testing: A Whiteheadian Point of View. Interchange [online]. Salzburg: University of Salzburg, 2005, 36(1-2), 231-252 [cit. 2021-10-12]. ISSN 0826-4805. Dostupné z: doi:10.1007/s10780-005-2360-0