Batchverwerking

term_id: batch_processing

Category: engineering_practice

Definition

Bij batchverwerking worden gegevensinvoer groeperen tot een batch voordat er een berekening of modelinferentie wordt uitgevoerd. Deze aanpak contrasteert met real-time streamverwerking door de mogelijkheid te bieden voor

Summary

Een rekenmethode waarbij gegevens gedurende een bepaalde tijd worden verzameld en in groepen worden verwerkt in plaats van individueel.

Key Concepts

  • Doorvoeroptimalisatie
  • Hulpbronbenutting
  • Offline berekening
  • Groepsexecutie

Use Cases

  • Het trainen van grote neurale netwerken op historische datasets
  • Geplande ETL-taken in datawarehouses
  • Genereren van nachtelijke rapporten