Re: [firebase-br] Update de 1M Registros

Paulo H Albanez via lista <[email protected]> Wed, 13 Aug 2025 08:38:27 -0300
Newsgroups gmane.comp.db.firebase.portuguese
Message-ID <CAMrzY4GYRSK3WiVyjp+-cUSgq0OfJOmjOp=1bXvTbo2h71qmBg@mail.gmail.com>
Do lado do cliente voc=EA deve ter uma transa=E7=E3o separada e fazer os up=
dates
em lotes (tamanho tem que ir testando 500, 1000, 5000...)  isso deve ajudar
pelo menos nos updates

Voc=EA pode tentar tamb=E9m, mudar o tipo de transa=E7=E3o e as configura=
=E7=F5es no
componente de conex=E3o e dados.

S=F3 fazendo testes mesmo, cada caso =E9 uma caso.

Atenciosamente,

Paulo Henrique Albanez (Pha)
S=E3o Francisco do Sul / SC - Brasil


Em ter., 12 de ago. de 2025 =E0s 20:03, Frederico Godoi via lista <
[email protected]> escreveu:

> Amigos estou com um desafio onde estou tentando ganhar performance em uma
> importa=E7=E3o muito grande. 1,5 milh=E3o de registros. Esse =E9 um arqui=
vo di=E1rio
> que precisa ser sincronizado :
>   - n=E3o existe o registro, insert;
>   - j=E1 existe o registro, update marcando que veio.
>   - registros n=E3o enviados , update mudando status.
>
> A maneira mais r=E1pida at=E9 agora para sincronizar isso no banco at=E9 =
agora,
> foi fazendo um pump para uma tabela tempor=E1ria. fa=E7o isso com execute=
 block
> muito rapidamente.
>
> agora para sincronizar:
> Fa=E7o select from tmp where not exists ( select from tabela persistente )
> onde pego os novos.
>
> Desafio:
> Todos os 1,5 milh=E3o de registros coincidentes preciso marcar que vieram=
 no
> arquivo. AQUI pesa.
>
> Se eu fizer um update direto , eu fa=E7o provoco um Lock Conflict na base
> toda e estou com usu=E1rios concorrendo , n=E3o posso fazer uma transa=E7=
=E3o
> =FAnica.
>
> Se eu fa=E7o update , usando ROWS , est=E1 demorando um pouco
> Se eu fa=E7o update , fazendo select first x skip y , vai degradando muit=
o a
> cada select.
>
> Algu=E9m j=E1 passou por algo parecido ?
>
> --
> Frederico Godoi
> ______________________________________________
> FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br
> Para saber como gerenciar/excluir seu cadastro na lista, use:
> http://www.firebase.com.br/fb/artigo.php?id=3D1107
> Para consultar mensagens antigas:
> http://www.firebase.com.br/pesquisa_lista.html
>
______________________________________________
FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br
Para saber como gerenciar/excluir seu cadastro na lista, use: http://www.fi=
rebase.com.br/fb/artigo.php?id=3D1107
Para consultar mensagens antigas: http://www.firebase.com.br/pesquisa_lista=
.html