Exploration of implicit weights in composite indicators : The case of resilience assessment of countries’ electricity supply

Composite indicators, also called indices, are widely used synthetic measures for ranking and benchmarking alternatives across complex concepts. The aim of constructing a composite indicator is, among other things, to simplify and condense the information of a plurality of underlying indicators. How...

Full description

Bibliographic Details
Main Author: Lindén, David
Format: Others
Language:English
Published: KTH, Hållbar utveckling, miljövetenskap och teknik 2018
Subjects:
Online Access:http://urn.kb.se/resolve?urn=urn:nbn:se:kth:diva-239687
Description
Summary:Composite indicators, also called indices, are widely used synthetic measures for ranking and benchmarking alternatives across complex concepts. The aim of constructing a composite indicator is, among other things, to simplify and condense the information of a plurality of underlying indicators. However, to avoid misleading results, it is important to ensure that the construction is performed in a transparent and representative manner. To this end, this thesis aims to aid the construction of the Electricity Supply Resilience Index (ESRI) – which is a novel energy index, developed within the Future Resilient Systems (FRS) programme at the Singapore-ETH Centre (SEC) – by looking at the complementary and fundamental component of index aggregation, namely the weighting of the indicators. Normally, weights are assigned to reflect the relative importance of each indicator, based on stakeholders’ or decision-makers’ preferences. Consequently, the weights are often perceived to be importance coefficients, independent from the dataset under analysis. However, it has recently been shown that the structure of the dataset and correlations between the indicators often have a decisive effect on each indicator’s importance in the index. In fact, their importance rarely coincides with the assigned weights. This phenomenon is sometimes referred to as implicit weights. The aim of this thesis is to assess the implicit weights in the aggregation of ESRI.  For this purpose, a six-step analytical framework, based on a novel variance-based sensitivity analysis approach, is presented and applied to ESRI. The resulting analysis shows that statistical dependencies between ESRI’s underlying indicators have direct implications on the outcome values – the equal weights assigned a-priori do not correspond to an equal influence from each indicator. Furthermore, when attempting to optimise the weights to balance the contribution of each indicator, it is found that this would require a highly unbalanced set of weights and come at the expense of representing the indicators in an effective manner. Thereby, it can be concluded that there are significant dependencies between the indicators and that their correlations need to be accounted for to achieve a balanced and representative index construction. Guided by these findings, this thesis provides three recommendations for improving the statistical representation and conceptual coherence of ESRI. These include: (1) avoid aggregating a negatively correlated indicator – keep it aside, (2) remove a conceptually problematic indicator – revise its construction or conceptual contribution, and (3) aggregate three collinear and conceptually intersecting indicators into a sub-index, prior to aggregation – limit their overrepresentation. By revising the index according to these three recommendations, it is found that ESRI showcases a greater conceptual and statistical coherence. It can thus be concluded that the analytical framework, proposed in this thesis, can aid the development of representative indices.  === Kompositindikatorer (eller index) är populära verktyg som ofta används vid rankning och benchmarking av olika alternativ utifrån komplexa koncept. Syftet med att konstruera ett index är, bland annat, att förenkla och sammanfatta informationen från ett flertal underliggande indikatorer. För att undvika missvisande resultat är det därmed viktigt att konstruera index på ett transparent och representativt sätt. Med detta i åtanke, avser denna uppsats att stödja konstruktionen av Electricity Supply Resilience Index (ESRI) – vilket är ett nyutvecklat energiindex, framtaget inom Future Resilient Systems (FRS) programmet på Singapore-ETH Centre (SEC). Detta görs genom att studera ett vanligt fenomen (s.k. implicita vikter) som gör sig gällande i ett av konstruktionsstegen, då de underliggande indikatorerna ska viktas och aggregeras till ett index. I detta steg tilldelas vanligtvis vikter till de enskilda indikatorerna som ska spegla deras relativa betydelse i indexet. Det har dock nyligen visats att datastrukturen och korrelationer mellan indikatorerna har en avgörande påverkan på varje indikators betydelse i indexet, vilket ibland kan vara helt oberoende av vikten de tilldelats. Detta fenomen kallas ibland för implicita vikter, då de ej är explicit tilldelade utan uppkommer från datastrukturen. Syftet med denna uppsatts är således att undersöka de implicita vikterna i aggregationen av ESRI.  För detta ändamål sker en tillämpning och utökning av en nyutvecklad variansbaserad känslighetsanalys, baserad på olinjär regression, för bedömning av implicita vikter i kompositindikatorer. Resultaten från denna analys visar att statistiska beroenden mellan ESRIs underliggande indikatorer har direkt inverkan på varje indikators betydelse i indexet. Detta medför att vikterna ej överensstämmer med indikatorernas betydelse. Följaktligen utförs en vikt-optimering, för att balansera bidraget från varje indikator. Utifrån resultaten av denna vikt-optimering kan det konstateras att det inte är tänkbart att balansera bidraget från varje indikator genom att justera vikterna. Om så görs, skulle det ske på bekostnad av att kunna representera varje indikator på ett effektivt sätt. Därmed kan slutsatsen dras att det finns tydliga beroenden mellan indikatorer och att deras korrelationerna måste tas i hänsyn för att uppnå en balanserad och representativ indexkonstruktion. Utifrån dessa insikter presenteras tre rekommendationer för att förbättra den statistiska representationen och konceptuella samstämmigheten i ESRI. Dessa innefattar: (1) Undvik att aggregera en negativt korrelerad indikator - behåll den vid sidan av, (2) ta bort en konceptuellt problematisk indikator - revidera dess konstruktion eller konceptuella bidrag, och (3) sammanställ tre kollinära och konceptuellt överlappande indikatorer i ett sub-index, före aggregering - begränsa deras överrepresentation. När dessa rekommendationer implementerats står det klart att den reviderade ESRI påvisar en förbättrad konceptuell och statistisks samstämmighet. Därmed kan det fastställas att det analytiska verktyg som presenteras i denna uppsats kan bidra till utvecklingen av representativa index.