Re: programming::algo::bash - split list in buckets
Adrian Sevcenco <[email protected]> Tue, 2 Jul 2019 14:20:05 +0300
| Newsgroups | gmane.org.user-groups.rlug.offtopic |
|---|---|
| Organization | CERN |
| Message-ID | <[email protected]> |
--===============4624100637495814245== Content-Type: multipart/signed; protocol="application/pkcs7-signature"; micalg=sha-256; boundary="------------ms020205020602010705020807" --------------ms020205020602010705020807 Content-Type: text/plain; charset=utf-8; format=flowed Content-Language: en-US Content-Transfer-Encoding: quoted-printable On 7/2/19 2:09 PM, George-Cristian B=C3=AErzan wrote: > Si vrei sa fie bucket-urile de marimi similare? Pai, vezi cat de mari s= unt > fisierele si apoi le pui in liste pana treci de 3.9T/200, treci la > urmatoarea. Nu o sa fie exact, dar o sa fie good enough. aha, ok.. ma gandisem la asta dar am zis ca e mai din topor, asa ca mai=20 bine intreb poate exista o metoda bine cunoscuta pentru a face asa ceva Merci!! Adrian >=20 > On Tue, 2 Jul 2019 at 14:03, Adrian Sevcenco <[email protected]> > wrote: >=20 >> On 7/2/19 1:45 PM, George-Cristian B=C3=AErzan wrote: >>> De ce nu pot sa fie exact egale? >> pai marimea fisierelor variaza puternic .. in cazul curent sunt 7731 >> fisiere cu marimi intre 357k si 931M (3.9T in total) >> >> fisierele sunt binare si nu pot sa fac 'cat' la toata colectia si apoi= >> split .. astea le procesez in batchuri dar unele batchuri sunt muult m= ai >> mari ca altele si atunci o parte din joburi se termina repede si raman= e >> o coada lunga... >> as putea sa trimit joburi cu fiecare fisier separat dar apoi am o >> problema cu merge-ingul rezultatelor >> >> >> >> >>> >>> On Tue, 2 Jul 2019 at 13:38, Adrian Sevcenco <[email protected]= > >>> wrote: >>> >>>> Salut! Am o necesitate interesanta : mi-ar fi ff de folos sa pot imp= arti >>>> o lista de fisiere in sub-colectii __aproximativ__ egale (sa zic o >>>> colectie de la 4 la 8k de fisiere in 200 buckets).. problema e ca nu= am >>>> nici o idee de unde sa incep (ca si algorithm) >>>> ca si implementare vad eu cum o fac in bash sau python, dar algoritm= ul e >>>> problema. >>>> >>>> Multumesc frumos!! >>>> Adrian --------------ms020205020602010705020807-- --===============4624100637495814245== Content-Type: text/plain; charset="us-ascii" MIME-Version: 1.0 Content-Transfer-Encoding: 7bit Content-Disposition: inline _______________________________________________ Offtopic mailing list [email protected] http://lists.lug.ro/mailman/listinfo/offtopic_lists.lug.ro --===============4624100637495814245==--