Determinando la relevancia de los recursos educativos abiertos a través de la integración de diferentes indicadores de calidad

• Autores: Javier Sanz Rodríguez, Juan Manuel Dodero Beardo , Salvador Sánchez Alonso
• Localización: RUSC. Universities and Knowledge Society Journal, ISSN-e 1698-580X, Vol. 8, Nº. 2, 2011, págs. 46-60
• Idioma: español
• DOI: 10.7238/rusc.v8i2.1031
• Títulos paralelos:
  • Determinant la rellevància dels recursos educatius oberts per mitjà de la integració de diferents indicadors de qualitat
  • Ascertaining the Relevance of Open Educational Resources by Integrating Various Quality Indicators
• Enlaces
  • Texto completo (html)
• Dialnet Métricas: 4 Citas
• Resumen
  • español

    El propósito del movimiento de desarrollo de recursos educativos abiertos es proporcionar libre acceso a materiales educativos de alta calidad disponibles en repositorios. Sin embargo, tener acceso a una gran cantidad de materiales educativos no garantiza que estos sean de calidad, y los mecanismos empleados para recomendar los recursos educativos utilizados hasta la fecha se han mostrado insuficientes por diferentes motivos. La mayoría de los sistemas de evaluación están basados en una costosa inspección manual que no permite tener evaluados todos los materiales; además, muchas veces no se tienen en cuenta otras informaciones útiles como la utilización que hacen los usuarios de los materiales, las evaluaciones hechas por los usuarios y los metadatos que describen el material educativo. Para intentar mejorar esta situación, en este documento se exponen las carencias de las propuestas existentes y se identifican todos los posibles indicadores de calidad que pueden aportar información sobre qué materiales recomendar a los usuarios. A través del estudio de un conjunto significativo de materiales del repositorio Merlot se analizan las relaciones existentes entre los distintos indicadores de calidad disponibles, para constatar que existen numerosas correlaciones entre ellos. Posteriormente y a partir de este análisis, se propone una medida de relevancia que integre todos los indicadores de calidad existentes. De esta manera se utilizarán las evaluaciones explícitas realizadas por usuarios o expertos, la información descriptiva proveniente de los metadatos y los datos que proceden del uso de estos, para lograr aumentar la fiabilidad de las recomendaciones al integrar diferentes perspectivas de la calidad. Además, como esta medida se puede calcular de forma automática se garantizará su sostenibilidad, ya que no necesitará de la intervención humana para su cálculo, lo que permitirá que todos los materiales educativos ubicados en repositorios estén valorados.

  • català

    El propòsit del moviment de desenvolupament de recursos educatius oberts és proporcionar accés lliure a materials educatius d'alta qualitat disponibles en repositoris. No obstant això, tenir accés a una gran quantitat de materials educatius no garanteix que aquests siguin de qualitat, i els mecanismes emprats per a recomanar els recursos educatius utilitzats fins avui s'han mostrat insuficients per diferents motius. La majoria dels sistemes d'avaluació es basen en una costosa inspecció manual que no permet tenir avaluats tots els materials; a més, moltes vegades no es tenen en compte altres informacions útils com la utilització que fan els usuaris dels materials, les avaluacions fetes pels usuaris i les metadades que descriuen el material educatiu. Per a intentar millorar aquesta situació, en aquest document s'exposen les mancances de les propostes existents i s'identifiquen tots els possibles indicadors de qualitat que poden aportar informació sobre quins materials s'han de recomanar als usuaris. Per mitjà de l'estudi d'un conjunt significatiu de materials del repositori Merlot, s'analitzen les relacions que hi ha entre els diferents indicadors de qualitat disponibles, per a constatar que hi ha nombroses correlacions entre ells. Posteriorment i a partir d'aquesta anàlisi, es proposa una mesura de rellevància que integri tots els indicadors de qualitat existents. D'aquesta manera s'utilitzaran les avaluacions explícites fetes per usuaris o experts, la informació descriptiva provinent de les metadades i les dades que procedeixen de l'ús d'aquestes metadades, per a aconseguir augmentar la fiabilitat de les recomanacions amb la integració de diferents perspectives de la qualitat. A més, com que aquesta mesura es pot calcular de manera automàtica, se'n garantirà la sostenibilitat, ja que no necessitarà la intervenció humana per a fer-ne el càlcul, la qual cosa permetrà que tots els materials educatius que són en repositoris siguin valorats.

  • English

    The aim of the open educational resource (OER) development movement is to provide free access to high-quality educational materials in repositories. However, having access to a large amount of educational materials does not provide any assurance of their quality, and the mechanisms so far used to recommend educational resources have shown themselves to be lacking for a variety of reasons. Most evaluation systems are based on a costly manual inspection, which does not allow all materials to be evaluated. Moreover, it is often the case that other useful pieces of information are ignored, such as the use that users make of the materials, the evaluations that users perform on them and the metadata used to describe them. To try and improve this situation, this article presents the shortcomings of existing proposals and identifies every possible quality indicator that is able to provide the necessary information to enable materials to be recommended to users. By studying a significant set of materials contained in the MERLOT repository, the relationships among various, currently available quality indicators were analysed and numerous correlations among them were established. On the basis of that analysis, a measure of relevance is proposed, which integrates all existing quality indicators. Thus, the explicit evaluations made by users or experts, the descriptive information obtained from metadata and the data obtained from the use of the latter are employed in order to increase the reliability of recommendations by integrating various quality aspects. In addition, this measure is sustainable because it can be calculated automatically and does not require human intervention; this will allow all educational materials located in repositories to be rated.

• Referencias bibliográficas
  • AKPINAR, Y. (2008). “Validation of a Learning Object Review Instrument: Relationship between Ratings of Learning Objects and Actual Learning...
  • BARANIUK, R. G. (2007). “Challenges and Opportunities for the Open Education Movement: A Connexions Case Study”. In: Opening Up Education:...
  • BOSKIC, N. (2003). Faculty Assessment of the Quality and Reusability of Learning Objects. PhD thesis. Alberta (Canada): Athabasca University.
  • BROWNFIELD, G.; OLIVER, R. (2003). “Factors influencing the discovery and reusability of digital resources for teaching and learning”. In:...
  • CLAYPOOL, M.; LE, P.; WASED, M. et al. (2001). “Implicit interest indicators”. Proceedings of the 6th international conference on Intelligent...
  • CUEVA, S.; RODRÍGUEZ, G. (2010). “OERs, Standards and Trends”. Revista de Universidad y Sociedad del Conocimiento (RUSC). Vol. 7, No 1. UOC.
  • FOX, S.; KARNAWATT, K.; MYDLAND, M. et al. (2005). “Evaluating Implicit Measures to Improve Web Search”. ACM Transactions on Information Systems....
  • GARCÍA-BARRIOCANAL, E.; SICILIA, Miguel A. (2009). “Preliminary Explorations on the Statistical Profiles of Highly-Rated Learning Objects”....
  • HAN, K (2004). Quality Rating of Learning Objects using Bayesian Belief Networks. PhD thesis. Canada: Simon Fraser University.
  • KAY, R.; KNAACK, L. (2009). “Assessing learning, quality and engagement in learning objects: the Learning Object Evaluation Scale for Students...
  • KAY, R.; KNAACK, L. (2007). “Evaluating the learning in learning objects”. Open Learning: The Journal of Open and Distance Learning. Vol....
  • KELTY, C. M.; BURRUS, C. S.; BARANIUK, R. G. (2008). “Peer Review Anew: Three Principles and a Case Study in Postpublication Quality Assurance”....
  • KUMAR, V.; NESBIT, J.; HAN, K. (2005). “Rating Learning Object Quality with Distributed Bayesian Belief Networks: the why and the how”. Fifth...
  • KURILOVAS, E.; DAGIENE, V. (2009). “Learning objects and virtual learning environments technical evaluation criteria”. EJEL - Electronic Journal...
  • LI, J. Z.; NESBIT, J. C.; RICHARDS, G. (2006). “Evaluating learning objects across boundaries: The semantics of localization”. Journal of...
  • MCGREAL, R.; ANDERSON, T.; BABIN, G. et al. (2004). “EduSource: Canada’s Learning Object Repository Network”. International Journal of Instructional...
  • OCHOA, X.; DUVAL, E. (2006). “Quality Metrics for Learning Object Metadata”. Proceedings of World Conference on Educational Multimedia, Hypermedia...
  • OCHOA, X.; DUVAL, E. (2008). “Relevance Ranking Metrics for Learning Objects”. IEEE Transactions on Learning Technologies. Vol. 1, No 1, pages...
  • SANZ RODRÍGUEZ J.; DODERO, J. M.; SÁNCHEZ ALONSO, S. (2009). “A preliminary analysis of software engineering metrics-based criteria for the...
  • SCHAFFERT, S.; GESER, G. (2008). “Open Educational Resources and Practices”. eLearning Papers. No 7. Available at www.elearningpapers.eu....
  • TZIKOPOULOS, A.; MANOUSELIS, N.; VUORIKARI, R. (2007). “An Overview of Learning Object Repositories”. In: Learning Objects for Instruction:...
  • VUORIKARI, R. Tags and self-organisation: a metadata ecology for learning resources in a multilingual context. PhD thesis. Open Universiteit...
  • YEN, N. Y.; HOU, F. F.; CHAO, L. R. et al. (2009). “Weighting and Ranking the E-Learning Resources”. Proceeding of the 9th IEEE International...
  • ZIMMERMANN, B.; MEYER, M.; RENSING, C. et al. (2007). “Improving retrieval of re-usable learning resources by estimating adaptation effort...