Rychlost prohledávání adresáře

24. leden 2012
Označeno jako: C, programování, benchmark.

Procházení všech souborů v adresáři je velice často se objevující potřeba. Navíc je v takovém případě obvykle potřeba rozlišit, jestli nalezená položka je soubor, adresář nebo ještě něco jiného. Je řada možností, jak tohle provést. Zkusil jsem porovnat, jak moc se časově liší různé varianty programu, který projde všechny položky adresáře a nejdříve vypíše soubory, potom adresáře.

Hřiště

Použil jsem tři různé testovací adresáře. Jeden obsahoval jenom soubory, a to třicet tisíc, druhý obsahoval třicet tisíc adresářů a třetí po patnácti tisících od obojího. Počty v třetím případe nejsou naprosto přesné, adresářů tam může být o něco méně. Způsobené je to tím, že názvy jsou generovány skoro náhodně, aby se zajistilo náhodné pořadí.

Vygenerovat to jde dvěma jednoduchými cykly v Bashi.

for i in $(seq 1 30000); do
    touch bench1/file-$i
    mkdir bench2/dir-$i
done

for i in $(seq 1 15000); do
    touch bench3/$(mkpasswd "file-$i" | sed "s@/@_@g")
    mkdir bench3/$(mkpasswd "dir-$i" | sed "s@/@_@g")
done

Metody

První rozdíl v testovaných programech spočíval v tom, jak se zajistí, aby soubory byly vypsané dříve než adresáře. Nejjednodušší přístup spočívá v tom, že se adresář projde dvakrát, v prvním průchodu se ignorují adresáře, v druhém soubory.

Druhá a třetí metoda adresář procházejí jenom jednou a nalezené adresáře si pro pozdější zpracování ukládají buď do pole nebo spojového seznamu. Pole je po naplnění vždycky potřeba zvětšit, pokud se ale jeho velikost vždycky zdvojnásobí, složitost uložení nakonec vyjde konstantní. Každý uložený řetězec je taky potřeba naalokovat. Spojový seznam má sice taky konstantní složitost přidání prvku, ovšem vyžaduje na rozdíl od pole dvě alokace paměti.

Druhý rozdíl v testovaných programech spočívá v metodě určování typu položky. Použil jsem zase tři možnosti: pomocí funkce stat(), pomocí položky d_type ve struktuře dirent a pomocí lehce uhozené heuristiky s opendir().

int is_dir(const char *path)
{
    struct DIR *dir = opendir(path);
    if (dir == NULL) {
        return 0;
    } else {
        closedir(dir);
        return 1;
    }
}

Tato heuristika má ovšem zásadní problém v tom, že i adresáře, které se nepodařilo otevřít třeba kvůli oprávněním, nahlásí jako soubory.

Rozpoznávání pomocí d_type je nejjednodušší, ale opět má nevýhody:

  • nemusí existovat (pozná se podle makra _DIRENT_HAVE_D_TYPE)
  • i když existuje, může (v závislosti na souborovém systému) obsahovat hodnotu DT_UNKNOWN a tedy je potřeba se s tím vyrovnat

Výsledky

Každý z devíti programů jsem spustil stokrát a výsledné časy zprůměroval. Metodika nic moc, ale nějaká představa se z toho udělat dá.

Soubory Adresáře Mix
dvojitý průchod
stat() 0,109 0,106 0.107
opendir() 0,133 0,177 0.155
d_type 0,043 0,040 0.042
Pole
stat() 0,054 0,057 0.053
opendir() 0,067 0,091 0.080
d_type 0,021 0,021 0.020
Seznam
stat() 0,053 0,060 0.058
opendir() 0,065 0,091 0.081
d_type 0,020 0,029 0.022

Ponaučení na závěr? Na metodě procházení příliš nezáleží. To, co se s nalezenými položkami bude dít, pravděpodobně zabere výrazně víc času, takže jinou metodou procházení se nedá nic ušetřit.

Všechny zdrojové soubory je možné si stáhnout včetně měřících skriptů. Skript prepare.sh vytvoří testovací složky, measure.sh spustí měření a test.sh ověřuje, že všechny programy dávají stejný výstup na třetím testovacím adresáři.

Komentáře