Êtes-vous un étudiant de l'EPFL à la recherche d'un projet de semestre?
Travaillez avec nous sur des projets en science des données et en visualisation, et déployez votre projet sous forme d'application sur Graph Search.
Cette séance de cours présente Apache Spark, un moteur d'analyse unifié pour le traitement des données à grande échelle, mettant en évidence ses principales caractéristiques comme l'exploration interactive des données, le traitement en mémoire des données et la tolérance aux défauts. Il couvre l'histoire de Spark, son utilisation dans diverses applications, et sa flexibilité de déploiement. La séance de cours explique Résilient Distributed Datasets (RDDs), l'interface primaire des applications Spark, et leur importance dans les algorithmes itératifs tolérants et efficaces. Il s'inscrit également dans l'architecture de Spark, y compris les rôles des nœuds Driver et Worker. De plus, il explore les opérations, les transformations, les actions, la mise en cache et le cloisonnement de la DDR, fournissant des informations sur le cadre de calcul distribué de Spark.