Portál AbcLinuxu, 19. května 2024 20:46

Datová průchodnost unixových příkazů 1

6. 7. 2015 | Karel Kulhavý
Články - Datová průchodnost unixových příkazů 1  

Často se mi stane, že chci v Linuxu provést nějakou operaci na větším množství textových dat - typicky logfile - a operace trvá nepříjemně dlouho. Rozhodl jsem se rychlost zpracování různými programy pro čtenáře zhruba změřit.

Pamatuju si, že na Matfyzu jsme se učili, že Unix byl koncipován jako automatická kancelář na zpracování textů. Má zkušenost mě přesvědčila, jak důležitá tato schopnost Unixu je. Oceňuju ji, a postupem času ji vnímam jako více a více nadčasovou. Řekl bych, že tato flexibilita se autorům skutečně povedla.

Jedna a tatáž operace se někdy dá provést několika různými způsoby za použití odlišných linuxových utilit. A protože tyto mohou být koncipovány jako různě sofistikované, datový průfuk se může dramaticky lišit. Jednodušší algoritmy totiž často znamenají pro počítač menší práci. Roli v tom ale hraje i to, jak kvalitně jsou tyhle věci naprogramované.

Na začátek bych začal mým oblíbencem - utilitou pv (pipe viewer). Vloží se do pipy a ukazuje, jak rychle se data přenáší a kolik se jich přeneslo. Moc se mi na tom líbí, že při zpracování většího množství dat okamžitě vidím, zda se něco vůbec děje.

Pracovní paměti

Měření jsem prováděl na netbooku s Intel Atomem, 2x1.6 GHz, 1 GB DDR2 RAM, 512 KiB L2, harddiskem 5400 rpm a podomácku kompilovaným Linuxem LFS/BLFS s CFLAGS -march=atom -O2.

Kolik z toho vytáhneme, pokud budeme chtít kernelem generovat velké bloky nul a hned je zase zahazovat?
PříkazVýkon [MiB/s]
dd if=/dev/zero of=/dev/null bs=100000 count=500002700
pv < /dev/zero > /dev/null1670
dd if=/dev/zero of=/dev/null bs=1000000 count=50001300

Vidíme, že u dd výkon dost závisí na velikosti bloku. Zkusím tedy, jaké velikosti přinášejí jakou rychlost
bs=Výkon [MB/s]
10.65
106.5
10065
1k557
3k1300
10k2300
20k2600
30k2400
50k2500
80k2600
100k2700
150k2700
200k2700
300k2600
500k2000
700k1600
1M1250
10M1000
100M1000
500M888
700M272
1000M13 (i myš se přestala hýbat!)

Někam do 1k je vlastně úplně jedno, že nějaká data přenášíme - provádí se čistá byrokracie. Při stopadesátikilovém bufíku dosáhneme zřejmě optimální rychlosti L2. Mezi 10 a 100 mega se nám projevuje hlavní polovodičová paměť. No a pak jde počítač do swapíku. Při 1G se PC stalo už dost nepoužitelným a disk chrastil ještě dlouhou dobu poté, co program doběhl. Hrbolek na 20k si myslím že je pravděpodobně způsoben L1 cache (24KiB u mého modelu tuším).

A jak bude situace reagovat, pokud do pipy vložíme více či méně zbytečných catů?
PříkazVýkon [MiB/s]
pv /dev/zero |cat > /dev/null528
cat /dev/zero |pv > /dev/null413
cat /dev/zero |pv|cat > /dev/null300
cat /dev/zero |cat|pv > /dev/null216
pv /dev/zero |cat|cat > /dev/null200
pv /dev/zero |cat|cat|cat|cat|cat > /dev/null82
pv /dev/zero |cat|cat|cat|cat|cat|cat|cat|cat|cat|cat > /dev/null40

Zdá se mi, že tu platí 2 fyzikální zákony:

Trvalé paměti

Tak jsme si ukázali, jak pomocí stokilového bufferu vytáhnout optimálních 21.6 Gbps z příkazu dd na to, abysme záhy teď tady zase mohli zjistit, že nám to v případě velkých souborů bude k ničemu. Užijeme si tuto rychlost jen tehdy, vejde-li se soubor do pracovní paměti.

Pro přístup na disky, USB sticky, CD, DVD a podobně nám kernel nabízí takzvaná bloková zařízení. Bloková se ale nejmenují proto, že by měly trpět nějakými psychickými bloky, i když mi to tak někdy při sledování jejich rychlosti zápisu přijde.

Uživatel je vidí jako lineární abstrakci /dev/něco, která se chová jako soubor pevné délky do kterého se dá zapisovat a číst v libovolných místech. Data kernel mezi tím cachuje v nepoužité polovodičové pamětí - říká se tomu tuším buffery. Čili aby se zápisová a čtecí pomalost před člověkem rozvinula ve své plné kráse, je třeba zkusit větší blok a nebo data, na která jsme předtím nepřistupovali.

Dáme si tedy nějaký ten USB stick. Na menu bych tu měl jakýsi zelený DataTraveler od Kingstonu a pak stříbrný MP3 přehrávač "TECHNIKA", do kterého se strká baterka (naštěstí ne plochá). Oba mají 2 GB. Pak si přidáme nějaká cédé, dévédé a hard disky: můj notebookový SATA 5400 rpm a desktopový SATA 7200 rpm. Jejich typ jsem zjistil příkazem

lsblk -o NAME,TRAN,MODEL
NAME   TRAN   MODEL
sda    sata   ST9160301AS     
├─sda1        
├─sda2        
├─sda3        
└─sda5        
sdb    usb    DataTraveler 2.0
└─sdb1        

Na Ubuntu 12.04 LTS (verzi Ubuntu jsem zjistl tak, že jsem do google zadal how to figure out ubuntu version a pak jsem klikal na věci, které vypadaly jako ty v tom návodu) příkaz lsblk neumí TRAN, takže jsem zalovil v biologické paměti, jakým drátem je to připojené. Na 14.04 jsem neupgradoval, protože Ubuntu upgrade prohlásil, že moje grafická karta je nezpůsobilá.

Testoval jsem příkazy - pozor neprovádějte je jen tak! Můžou vám přepsat harddisk:

df
dd if=/dev/zero bs=100000 count=100000 of=bloatfile
dd if=bloatfile bs=100000 of=bloatfile2
dd if=bloatfile of=/dev/null bs=100000
pv </dev/sdb >/dev/null
pv </dev/cdrom >/dev/null
time ( dd of=/dev/sdb if=/dev/zero bs=100000 count=100; sync )

Sync nám zapíše data z cache na USB stick. time měří. za jak dlouho se příkaz vykoná. Počítač podal takovýto atletický výkon:
ZařízeníZápis [MB/s]Současný zápis a čtení [MB/s]Čtení [MB/s]Poznámka
Disk 7200 rpm50.121.255.2 kontrolka harddisku vrhá stíny na 4 metry - až do kuchyně
Disk 5400 rpm46.016.945.4
USB stick Kingston3.316.0
DVD9.2
USB stick Technika0.91.0
CD0.7

Rychlost DVD se měnila (narůstala), předpokládám vlivem narůstající obvodové rychlosti při konstantní úhlové. Zapsal jsem hodnotu v půlce datového rozsahu. Různé USB sticky mohou mít diametrálně odlišné přenosové rychlosti, i když mají stejnou kapacitu. A může se u nich i lišit to, zda je zápis pomalejší než čtení.

U všech těchto hardwarových zařízení můžeme vidět, že jejich rychlost je drasticky pomalejší než pracovní paměť. Může se tak snadno stát, že při zpracování velkých logů nás tato zařízení budou brzdit víc, než samotné zpracující nástroje

V příštím díle se zaměřím na vykutálenější příkazy než jsou dd, pv a cat - zejména na známé textové nástroje grep a sed.

Další články z této rubriky

VDR a DVB-T2, část 2.
VDR a DVB-T2, část 1.
Šifrovaný Proxmox VE 6: ZFS, LUKS, systemd_boot a Dropbear
MapTiler – proměňte obrázek v zoomovatelnou mapu
Syncthing

Diskuse k tomuto článku

6.7.2015 10:55 Michal Kubeček | skóre: 72 | Luštěnice
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Odpovědět | Sbalit | Link | Blokovat | Admin
… bufíku … swapíku … abysme … dévédé …

WtF?

i myš se přestala hýbat!

kontrolka harddisku vrhá stíny na 4 metry - až do kuchyně

Ještě bych pochopil, že autor chce projev zpestřit, ale opravdu je nutné podobné poznámky psát do tabulek s hodnotami?

Data kernel mezi tím cachuje v nepoužité polovodičové pamětí - říká se tomu tuším buffery.

Ne, říká se tomu page cache.

Čili aby se zápisová a čtecí pomalost před člověkem rozvinula ve své plné kráse, je třeba zkusit větší blok a nebo data, na která jsme předtím nepřistupovali.

Nebo, lépe, zajistit, že se bude opravdu číst (flushnutím cache) a zapisovat (synchronním zápisem).

Může se tak snadno stát, že při zpracování velkých logů nás tato zařízení budou brzdit víc, než samotné zpracující nástroje

Jen za předpokladu, že se data, která budou příkazy zpracovávat, budou číst z disku nebo na něj zapisovat, což se, doufám, dít nebude.

Ale už v tomto dílu mám určité pochybnosti o metodice některých testů. Sice jsme se dozvěděli, že kontrolka svítí až do kuchyně, ale nevíme, jestli se např. poslední test prováděl v runlevel 1 (a bezprostředně po sync), aby se zajistilo, že ve skutečnosti neměříme flushnutí úplně nesouvisejících dat. Nebo že test CD/DVD se prováděl dvakrát za sebou, aby se potlačil vliv toho, že se mechanika nejdřív musí roztočit.

a hard disky: můj notebookový SATA 5400 rpm a desktopový SATA 7200 rpm

Neznamená to, doufám, že se každý měřil na jiném systému?

6.7.2015 12:01 pavele
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Pokud se ti to nelíbí, napiš svůj článek, porovnáme. Kritizovat umí každý.

Díky za článek.
6.7.2015 13:22 Michal Kubeček | skóre: 72 | Luštěnice
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Kritizovat umí každý.

To je hluboký omyl.

6.7.2015 15:24 nobody
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
ovsem pravda je taka, ze ten kdo kritizuje, si vetsinou mysli ze to umi a take si mysli ze je nedocenen a ostatni nechapou jak je v te kritice genialni ;) tedy nic to ovsem nerika o (ne)kvalite te tve... neboli nekdo umi kritizovat, nekdo umi WtFuckovat a reagovat pohorsene na hovore vyrazy acronymem je trochu alibisticke ne ? ;)
6.7.2015 15:53 TM
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
No ale ten článek je opravdu divný...
6.7.2015 18:42 Michal Kubeček | skóre: 72 | Luštěnice
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
nekdo umi kritizovat, nekdo umi WtFuckovat

Je trochu škoda, že jste se v mém komentáři dostal jen k první připomínce.

a reagovat pohorsene na hovore vyrazy acronymem je trochu alibisticke ne?

Alibistické? Jestli myslíte pokrytecké, tak možná trochu, ale myslím, že je celkem normální, že očekávaná úroveň projevu je trochu jiná v článku na odborném webu a trochu jiná v diskusi. Nemluvě o tom, že kdyby byl článek napsán odpovídajícím stylem, nemyslím, že bych v komentáři použil "WtF".

6.7.2015 19:55 2X4B-523P | skóre: 38 | blog: Zelezo_vs_Debian
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
jaky je rozdil mezi komunitnim a odbornym webem?
6.7.2015 23:36 Wartburg
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Klid, Kubeček je prostě hysterický pozér, který trochu (ale ne moc) rozumí linuxu, a točí se kolem toho celý jeho život.
7.7.2015 14:48 podchaljuzin
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Napsal clovek, ktery svou neschopnost dokoncit jakoukoliv vysokou skolu vyresil tim, ze se prihlasil na chov krav na hnojarne s 90% propustnosti, kterou da kazdy blbec co si mezi tim nenajde nejaky jiny obor, ktery ma opravdu smysl za ten investovany cas.
kyknos avatar 7.7.2015 23:41 kyknos | skóre: 18 | blog: Quid novi? | Ranša Rosa
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Jestli mluvis o mne, tak ja Wartburg nejsem (i kdyz to tedy bylo me prvni auto) :)
ze se prihlasil na chov krav na hnojarne
ne neprihlasil jsem se na chov krav, neschopnost rozpoznat rybu od colka a kravy je i na pomery jednostranne zamerenych fachidiotu docela pruser :)
s 90% propustnosti
tak to asi mluvis o nejake hnojarne v albanii nebo kde - v suchdole je propustnost od imatrikulace ke statnicim na bc studiu asi 10% v regulernim case a dalsich cca 10% jsou uspesni opakovaci rocniku, rozkladaci apod :) - coz je mimochodem vyrazne mene, nez v podobnem oboru na UK
kterou da kazdy blbec
skoda, ze si se blbce nepodepsal, mohl sis zkusit treba nejakou tu genetiku, obavam se, ze bys neuspel :)
jiny obor, ktery ma opravdu smysl za ten investovany cas
to je ktery? podle tveho projeveneho IQ mas na mysli zrejme ekonomii :D
So the Nationalists and the Socialists have the same policy on Brexit. They should get together and form a...
9.7.2015 09:48 podchaljuzin
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
ze se prihlasil na chov krav na hnojarne
ne neprihlasil jsem se na chov krav, neschopnost rozpoznat rybu od colka a kravy je i na pomery jednostranne zamerenych fachidiotu docela pruser :)
A kvuli tomu jsi studoval vysokou skolu? Tak to jsi frajer.
s 90% propustnosti
tak to asi mluvis o nejake hnojarne v albanii nebo kde - v suchdole je propustnost od imatrikulace ke statnicim na bc studiu asi 10% v regulernim case a dalsich cca 10% jsou uspesni opakovaci rocniku, rozkladaci apod :) - coz je mimochodem vyrazne mene, nez v podobnem oboru na UK
No jasne. Protoze se na to pak vsichni vyserou a jdou studovat neco, co jim opravdu k necemu bude.

Blekotal jsi neco, ze jsi psal dokumentaci. Nejsem si jisty co jsi dokumentoval (a jak tak ctu ty tve vylevy, tak ani ty ne), ale rozmnozovani rybicek v akvarku to asi nebylo. Ale jestli jsi chtel mit na stara kolena taky konecne nejaky titul a bylo ti jedno z ceho, tak chapu, ze jsi delal tohle, kdyz v Plzni uz fofrstudium zatrhli.
kterou da kazdy blbec
skoda, ze si se blbce nepodepsal, mohl sis zkusit treba nejakou tu genetiku, obavam se, ze bys neuspel :)
Hlavne ze ty ses podepsal pod vsemi svymi vyroky. Plna huba kecu a nic. Ale nevadi, my uz si tu na to, ze jsi jenom velkohuby jouda, zvykli.

Jestli jsi to dal ty, tak uz to da kde kdo. A dvakrat.
jiny obor, ktery ma opravdu smysl za ten investovany cas
to je ktery? podle tveho projeveneho IQ mas na mysli zrejme ekonomii :D
Tu jsem zrovna nemyslel, ale proti te tvoji saskarne je to furt luxus. Budes studovat jeste neco? Treba Francouzskou literaturu 18. stoleti nebo Gender Studies? To bude asi stejny level. Klesat uz nemas kam.
kyknos avatar 9.7.2015 11:17 kyknos | skóre: 18 | blog: Quid novi? | Ranša Rosa
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Ano já se pod své výroky podepisují a jestli mas ty pocit, že bys vystudoval biologii, já ten pocit nemám, protože to skutečně není obor pro idioty. Přírodní vědy jsou asi jediný obor, který se nedá okecat :)

A jestli mas nějaký problém s tím, že jsi studoval školu k ničemu, je mi té líto, ale já si vybral obor, který mě zajímá a který potřebují :)
So the Nationalists and the Socialists have the same policy on Brexit. They should get together and form a...
9.7.2015 13:16 podchaljuzin
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Ano já se pod své výroky podepisují
No jasne. A je to tvoje krestni jmeno nebo prijmeni? Ja jenom, ze tvuj podpis ma stejnou vahu jako muj.
a jestli mas ty pocit, že bys vystudoval biologii, já ten pocit nemám, protože to skutečně není obor pro idioty.
Jsi zivoucim dukazem toho, ze je. Bohuzel.
Přírodní vědy jsou asi jediný obor, který se nedá okecat :)
Nevim, jak jsou na tom jine obory, ja je nestudoval, ale uplne jisty bych si tvym tvrzenim nebyl.
A jestli mas nějaký problém s tím, že jsi studoval školu k ničemu, je mi té líto
Nemusi, nemam. Ne kazdy je zoufalec aby studoval nejakou ptakovinu a jeste si musel namlouvat jak super tezkou skolu a uzitecny obor vystudoval a jeste to vytruboval do sveta.
ale já si vybral obor, který mě zajímá a který potřebují :)
No, ted uz asi bude muset. Jenom by me zajimalo, ktery zamestnavatel prahne po tom, mit v tymu nekoho jako ty.
9.7.2015 13:57 nobody
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
stejna vaha? nejak nevidim nikde tvoji fotku, rok narozeni, nemas na abc zadnou histori, zadne blogy... ale je pravda ze chovani jako arogantni hovado mas, nicmene to ma na vaze hodnotu mouchy na slonim trusu ;)
kyknos avatar 9.7.2015 14:09 kyknos | skóre: 18 | blog: Quid novi? | Ranša Rosa
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Teď si zase chudák bude myslet, že jsem mu to napsal já :)
So the Nationalists and the Socialists have the same policy on Brexit. They should get together and form a...
9.7.2015 14:45 nobody
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
takovej chudak snad neni, aby nepoznal ze se jedna o 2 rozdilne osoby rozborem textu, kterej mu vypadne pri zadani do google "nobody site:abclinuxu.cz" nebo i bez toho kdyz pise tak jako by tu byl jako doma uz nejaky cas i presto ze vyskyt jeho nick tu je mene nez napocita na prstech prumernej drevorubec :)
kyknos avatar 9.7.2015 14:40 kyknos | skóre: 18 | blog: Quid novi? | Ranša Rosa
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Nemusi, nemam. Ne kazdy je zoufalec aby studoval nejakou ptakovinu a jeste si musel namlouvat jak super tezkou skolu a uzitecny obor vystudoval a jeste to vytruboval do sveta.
ptakovinu si zjevne vystudoval ty, pokud z ni mas takovy komplex

navazet se do prirodnich ved, potazmo biologie, ktera te drzi pri zivote (ano, pravdepodobne chodis k lekari, beres leky, nebo je brat budes, a zcela jiste jis) muze jen naprosty frustrat :) ja bych si nedovolil shazovat ani francouzskou literaturu, prestoze se mi ten jazyk vubec nelibi - ale pokud to nekdo studuje, zrejme ho to zajima a lepsi duvod ke studiu neexistuje :)
So the Nationalists and the Socialists have the same policy on Brexit. They should get together and form a...
9.7.2015 15:21 podchaljuzin
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
ptakovinu si zjevne vystudoval ty, pokud z ni mas takovy komplex
Jenom toliko k tvemu IQ.
navazet se do prirodnich ved, potazmo biologie, ktera te drzi pri zivote (ano, pravdepodobne chodis k lekari, beres leky, nebo je brat budes, a zcela jiste jis) muze jen naprosty frustrat :)
Tak to jsem v pohode. Protoze ja se do ni nenavazel. Ale to jsi samozrejme nepochopil. Zadne prekvapeni.
kyknos avatar 9.7.2015 15:29 kyknos | skóre: 18 | blog: Quid novi? | Ranša Rosa
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
pak jsou tve vyjadrovaci schopnosti opravdu zalostne :)
So the Nationalists and the Socialists have the same policy on Brexit. They should get together and form a...
10.7.2015 08:48 podchaljuzin
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
To ani ne.

Spis ty kdybys byl jeste hloupejsi, tak te budou muset 2x tydne zalevat.
9.7.2015 15:32 nobody
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
jestli tohle neni navazeni, tak nejsi ubozak ;)
- kdyz chce nekdo titul jedno z ceho 
- obor co nema smysl
- da to kazdy blbec
- k nicemu to neni
- je to saskarna
- uzitecny obor(z kontextu ironicky)


btw: kteremu oboru se venujes ty ?
10.7.2015 08:54 podchaljuzin
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Nazor nejakeho prizdisrace na moji osobu me vazne nevzrusuje. Stejne jako jeho chyby v logice srovnatelne snad jenom s faily, ktere tu predvadi kyknos. Ale jinak dobre, panove, vy me bavite. Se zeleninou se nehadam moc casto.
10.7.2015 10:04 Jakub Galgonek | skóre: 3
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Ale na otázku, jakému oboru se věnuješ, jsi odpovědět mohl.
kyknos avatar 10.7.2015 10:47 kyknos | skóre: 18 | blog: Quid novi? | Ranša Rosa
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
evidentne se jedna o neuspesneho pestitele zeleniny, nedaval holt pozor na hodinach prirodopisu
So the Nationalists and the Socialists have the same policy on Brexit. They should get together and form a...
10.7.2015 11:38 nobody
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Tak tebe nezajima nazor nikoho, ty se povazujes za nadrazenou bytost, pritom jsi jen arogantni zamindrakovanec ;)
Petr Tomášek avatar 7.7.2015 08:18 Petr Tomášek | skóre: 39 | blog: Vejšplechty
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Pravda. Treba ty to neumis. :-)
multicult.fm | monokultura je zlo | welcome refugees!
7.7.2015 08:20 Michal Kubeček | skóre: 72 | Luštěnice
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Nebylo by v tom případě lepší místo takového obecného plácnutí rozporovat ty konkrétní věcné připomínky, se kterými nesouhlasíte?
pavlix avatar 7.7.2015 09:04 pavlix | skóre: 54 | blog: pavlix
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Nebylo by v tom případě lepší místo takového obecného plácnutí rozporovat ty konkrétní věcné připomínky, se kterými nesouhlasíte?
Jediný důvod, proč by to nemělo jít vztáhnout na následující?
To je hluboký omyl.
Já už tu vlastně ani nejsem. Abclinuxu umřelo.
7.7.2015 09:22 Michal Kubeček | skóre: 72 | Luštěnice
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1

Třeba ten, že jsem tou větou rozporoval zcela konkrétní tvrzení, které považuji za nepravdivé?

Víš, co je opravdu smutné? Že k tomuto článku bylo do této chvíle napsáno 22 komentářů a z nich se jeden vyjadřuje ke konkrétním technickým záležitostem z jeho obsahu (a abychom nebyli úplně nespravedliví, jeden děkuje za zmínku o utilitě pv). To není moc pěkné skóre.

pavlix avatar 7.7.2015 09:24 pavlix | skóre: 54 | blog: pavlix
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Oba jsme součástí toho skóre.
Já už tu vlastně ani nejsem. Abclinuxu umřelo.
7.7.2015 09:30 Michal Kubeček | skóre: 72 | Luštěnice
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Jistě. Ale tak nějak nemám pocit, že by beze mne bylo lepší. Můžeš říct totéž?
pavlix avatar 7.7.2015 09:41 pavlix | skóre: 54 | blog: pavlix
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Mně tvoje příspěvky nijak nevadí, ale jejich vnitřní rozpor mi přijde natolik zajímavý, že mi stojí za komentář. Ani jsem to nebyl já, kdo si stěžuje na kvalitu diskuze, takže nevidím jediný důvod se vyjadřovat k tvým náznakům. Pokud mi chceš sdělit něco osobního, neváhej a napiš to přímočaře.
Já už tu vlastně ani nejsem. Abclinuxu umřelo.
6.7.2015 15:46 .,..
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Kritika je oprávněná, tu poznámku o stínech jsem taky nepochopil (mimo článek prosím), zřejmě autor četl před rychlé šípy. Nicméně pro mě zajímavé psaní.
7.7.2015 21:44 some fun for this friday
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Jakoze to blikalo jak krava, ze by to poznal i hluchej ajtak podle zmeny frekvence zvuku vo vydava dyfmbachie nachodbe prechazejici skokove z fotosyntezy na nocni flakani se. Takove to uff aah co delaji kvitka po setmeni.

6.7.2015 17:05 Tany
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Kritika je oprávněná, ale to nemění nic na tom, že ten článek je pěkný.
6.7.2015 21:00 Jindřich Makovička | skóre: 17
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
S tím v zásadě souhlasím, jediné, co mu chybí, je tag "humor".
Fluttershy, yay! avatar 6.7.2015 21:02 Fluttershy, yay! | skóre: 92 | blog:
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
nechybí. ^_^
🇵🇸Touch grass🇺🇦 ✊ no gods, no masters
6.7.2015 21:36 Michal Kubeček | skóre: 72 | Luštěnice
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
To je dost kruté… Jakkoli mám dost zásadní výhrady k věcné stránce, autor IMHO potřebuje spíš vysvětlit, co dělá špatně, aby pochopil, že udělat užitečný benchmark není žádná legrace.
Fluttershy, yay! avatar 6.7.2015 22:11 Fluttershy, yay! | skóre: 92 | blog:
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1

Štítky AFAIK může editovat kdokoliv a mám pocit, že je stejně skoro nikdo nepoužívá. Pokud používá, neočekával jsem, že se tam ten štítek ohřeje dlouho. (Mimochodem, taky mi jeden nějaký vtipálek přiřadil.)

autor IMHO potřebuje spíš vysvětlit, co dělá špatně, aby pochopil

Není autorem náhodou jistý Clock? No to jsem tedy zvědav…

🇵🇸Touch grass🇺🇦 ✊ no gods, no masters
7.7.2015 00:27 .,..
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
takže msta někomu za někoho
Fluttershy, yay! avatar 7.7.2015 00:47 Fluttershy, yay! | skóre: 92 | blog:
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
wat.
🇵🇸Touch grass🇺🇦 ✊ no gods, no masters
7.7.2015 12:12 Jashin
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Technik se vyjadřuje přesně a s minimální redundací.
6.7.2015 16:59 ty debile
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
flusnutí cache,no super
Integral avatar 7.7.2015 10:35 Integral | blog: devnull
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
+1
6.7.2015 16:22
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Odpovědět | Sbalit | Link | Blokovat | Admin
skrytý komentář Náš administrátor shledal tento komentář závadným.

vulgární

Zobrazit komentář
6.7.2015 17:03 archen | skóre: 4
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Odpovědět | Sbalit | Link | Blokovat | Admin
Good job, + o pipe viewer jsem nevedel, dik za tip. Taky si zkusim test s ruznymi velikostmi bloku.
EmperorWantsToControlOuterSpaceYodaWantsToExploreInnerSpaceThat'sTheFundamentalDiffBetweenGoodandBadSidesOfTheForce
7.7.2015 11:40 trubicoid
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
krome pv je jeste pipebench, kdyz jsem to kdysi zkousel, tak se mi pipebench libil vic, uz si nevzpomenu proc :)

pro nechapave: asize stiny/svetlo mu vrha silna dioda HDD, az na 4 metry, ale to zrejme nema na vykon rostlinare zadny vliv :)
7.7.2015 14:57 qk_
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Odpovědět | Sbalit | Link | Blokovat | Admin
Obecne clanky, ktere delaji benchmarky mam celkem rad, protoze to pomaha bojovat s ruznymi myty a take ukazuji ruznou efektivitu. K tomuto clanku bych mel par tipu, jak priste sklidit lepsi ohlas:

- pojmout clanek seriozneji, takhle ma spise uroven blogu

- pri zmince o matfyzu by se hodilo i presne popsat metodiku testovani ( tedy pocet opakovani, vypocet odchylek, postup jak zamezit interakcim s okolim atd. ), coz jeste, kdyz sem tam studoval, se ucilo

- veci jako "asi rika", "nejspis" atd. nepatri do clanku, kdyz uz venujete cas napsani clanku, tak overit informace je mensi cast casu

- nechat si ten clanek precist nekym dalsim velmi pomaha

- v clanku mi chybi zmereni zpomaleni zpusobene samotnym pv a tim jak to ovlivnuje zbyle testy, coz samo o sobe zanasi pomerne velkou chybu

- pri testovani ruznych medii by bylo zajimavy vyzkouset i SSD disk
7.7.2015 15:59 GeorgeWH | skóre: 42
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
ale ved to v podstate zhrnul MK v prvom komente. clanok nema ziadnu vypovednu hodnotu. po jeho precitani mam pocit, ze to pisal niekto, kto sa tomu vobec nerozumie. zmiesane pocity. niektory text je nepochopitelny. miestami mam pocit, ze autor sa uskrna. v perexe pise o spracovani textovych dat, ale test bol o uplne niecom inom.

imho

verzi Ubuntu jsem zjistl tak, že jsem do google zadal how to figure out ubuntu version a pak jsem klikal na věci, které vypadaly jako ty v tom návodu

hovori za vsetko. po prve, taketo info je uplne irelevantne voci danej teme, po druhe, vypoveda to o urcitej vedomostnej urovni autora...
8.7.2015 00:47 alenotak
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Souhlasim. Mluvi to za vse. Vono zjistit klikanim podle obrazku konfiguraci Ubuntu na stroji
"Měření jsem prováděl na netbooku s Intel Atomem, 2x1.6 GHz, 1 GB DDR2 RAM, 512 KiB L2, harddiskem 5400 rpm a podomácku kompilovaným Linuxem LFS/BLFS s CFLAGS -march=atom -O2."

mi prijde jako dobrej vykon.
7.7.2015 21:34 some fun for this friday
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Odpovědět | Sbalit | Link | Blokovat | Admin
Dobry clanek :-), dik za to!

Na ajtackouakademickofundamentalistickou kritiku kaslete, tihleto lidi vidi jen sve ja pak jeste sve ja dlouho nic a pak duvody proc je jejich ja jedno z nejlepsich nasvete.

Pak se divej ze jsou mezi zbytkem lidi za trouby a jsou schopni sbalit akorat tak nejakou barbinu.

8.7.2015 01:01 GeorgeWH | skóre: 42
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
by som povedal, ze je to presne naopak. a aj mozno prave preto nepise kazdy taketo clanky :)
8.7.2015 17:33 JZD | skóre: 14 | blog: Na_dvorku
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Odpovědět | Sbalit | Link | Blokovat | Admin
Zajímavé počteníčko. Největší prča jsou některé komenty diskutujících. ;-)
Víra znamená vyznávat to, o čem člověk dobře ví, že to není pravda. Mlčeti platina, mluviti v gajzu, býti v hajzlu.
9.7.2015 06:41 natiku | skóre: 26 | blog: natiku
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Realny vykon pv zalezi na velikosti bufferu :-)

Kdysi jsem si s tim docela hral:

Mapping possible Space and Time savings by using SMP aware (threaded) compression Utilities ?
kyknos avatar 9.7.2015 11:58 kyknos | skóre: 18 | blog: Quid novi? | Ranša Rosa
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
+1
So the Nationalists and the Socialists have the same policy on Brexit. They should get together and form a...
9.7.2015 17:41 hdm
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Odpovědět | Sbalit | Link | Blokovat | Admin
"Zdá se mi, že tu platí 2 fyzikální zákony...:"

pod pojmem fyzikalni zakon si opravdu predstavuji neco vyrazne fundamentalnejsiho nez ledabyle odpozorovana "pravidla" jak kdysi kdosi cosi naprogramoval...

a vtipne mi to take neprijde. Asi se nekdo s nizkym sebevedomim snazi dodat svemu chabemu snazeni vyssi vaznost parazitovanim na vedeckych terminech.

Tak jeste trochu pridat, a bude to tu skoro jak pri mavani ruznymi "energiemi" a "magnetismy" na esoterickych webech.

12.7.2015 00:33 anonym
Rozbalit Rozbalit vše Re: Datová průchodnost unixových příkazů 1
Odpovědět | Sbalit | Link | Blokovat | Admin
Jen pro porovnani sem zkusil ten dd test na trochu modernejsim HW (xeon 1650v3, 128G DDR4)
bs=1 6.1MB/s
bs=10 61MB/s
bs=100 594MB/s
bs=1k 4.9GB/s
bs=10k 18.7GB/s
bs=100k 24.2GB/s
bs=1M 20.9GB/s
bs=10M 21.1GB/s
bs=100M 10.4GB/s
bs=1G 10.4GB/s
bs=10G 10.5GB/s
bs=100G 10.5GB/s
bohuzel podle pohledu na htop se dd zastavi na 2GB bufferu, coz vysvetluje proc rychlost neklesa. pokud mu ale reknu bs= vic nez je celkem RAM tak primo odmitne pracovat.

ISSN 1214-1267, (c) 1999-2007 Stickfish s.r.o.