Publication detail

Coverage Metrics for Saturation-based and Search-based Testing of Concurrent Software

LETKO, Z. VOJNAR, T. KŘENA, B.

Original Title

Coverage Metrics for Saturation-based and Search-based Testing of Concurrent Software

English Title

Coverage Metrics for Saturation-based and Search-based Testing of Concurrent Software

Type

journal article - other

Language

Czech

Original Abstract

Metriky pokrytí hrají klíčovou úlohy při testování programů. Umožňují měřit, jak dobře byl program testován, a řídit proces testování. Několik metrik pro testování vícevláknových programů již existuje, ale většina z nich plně nereflektuje chování vícevláknových programů nebo jsou příliš náročné. V tomto článku navrhujeme několik nových metrik, které jsou vhodné pro saturační testování a testování založené na prohledávání prostoru. Od předchozích metrik se liší zejména tím, že jsou odvozeny od různých dynamických algoritmů pro detekci chyb v synchronizaci. Způsob odvození metrik je obecný a lze tak vytvořit další metriky z jiných algoritmů pro detekci chyb. Naší motivací byl fakt, že do vývoje detekčních technik bylo vloženo značné úsilí, a současné techniky tak velmi přesně identifikují místa a operace klíčové pro popis chování vícevláknových aplikací. Odvozené metriky byly dále zpřesněny pomocí abstraktních identifikátorů objektů a vláken. Naše metriky byly empiricky porovnány s vybranými již existujícími metrikami.

English abstract

Coverage metrics play a crucial role in testing.They allow one to estimate how well a~program has been tested and/or to controlthe testing process. Several concurrency-related coverage metrics have beenproposed, but most of them do not reflect concurrent behaviour accurately enough.In this paper, we propose several new metrics that are suitable primarily forsaturation-based or search-based testing of concurrent software. Theirdistinguishing feature is that they are derived from various dynamic analysesdesigned for detecting synchronisation errors in concurrent software. In fact,the way these metrics are obtained is generic, and further metrics can beobtained in a similar way from other analyses. The underlying motivation isthat, within such analyses, behavioural aspects crucial for occurrence ofvarious bugs are identified, and hence it makes sense to track how well theoccurrence of such phenomena is covered by testing. Next, coverage tasks of theproposed as well as some existing metrics are combined with an abstractidentification of the threads participating in generation of the phenomenacaptured in the concerned tasks. This way, further, more precise metrics areobtained. Finally, an empirical evaluation of the proposed metrics, whichconfirms that several of them are indeed more suitable for saturation-based andsearch-based testing than the previously known metrics, ispresented.

Key words in English

Java, concurrency, testing, coverage, search-based testing, saturation-based testing

Authors

LETKO, Z.; VOJNAR, T.; KŘENA, B.

RIV year

2012

Released

27. 3. 2012

ISBN

0302-9743

Periodical

Lecture Notes in Computer Science

Year of study

2012

Number

7186

State

Federal Republic of Germany

Pages from

177

Pages to

192

Pages count

15

URL

BibTex

@article{BUT91435,
  author="Zdeněk {Letko} and Tomáš {Vojnar} and Bohuslav {Křena}",
  title="Coverage Metrics for Saturation-based and Search-based Testing of Concurrent Software",
  journal="Lecture Notes in Computer Science",
  year="2012",
  volume="2012",
  number="7186",
  pages="177--192",
  issn="0302-9743",
  url="http://www.springerlink.com/content/084w5489p9556775/"
}