SlideShare uma empresa Scribd logo
1 de 14
Le traitement des
très grandes séries de données
_________________________
Francis Massen
Laboratoire de Physique, Lycée Classique de Diekirch
Groupe Spéléologique Luxembourgeois
francis.massen@education.lu
2
Le problème:
datalogger à entrées multiples
fréquence d’échantillonnage élevée
durée des mesures quelques mois
x*105
à x*106
de données!
3
Exemple: oscillations des courants
d’air dans une grotte
____________________________
• Moestroff: période de ~90 s
• Pour avoir une bonne résolution (et dans
l’ignorance à priori de la période): dt = 1 s
• Enregistrement sur une semaine: 604800
points de mesures
4
Comment traiter ces séries
énormes?
____________________________
Tableur ?
Limite pour Excel 2003 et OpenCalc 2:
65536 lignes, c.à.d. environ 1.5 mois avec une
mesure par minute
5
Travail agréable?
_______________________________
6
Utiliser le logiciel du dataloger?
____________________________
Possible, mais devient problématique
dans un environnement hétérogène
(loggers différents)
7
La solution:
____________________________
Un tableur graphique: 1 cellule = 1 série
•Créé en 1984 par Randy Race et Tony Purnell (version DOS)
•Optimisé pour la vitesse
•Plus de mille fonctions scientifiques et du traitement du signal
8
une série
une autre série
une condensation de
la série
une extraction d’une
partie de la série
9
Exemple d’une macro
____________________________
W = série de 1440 mesures avec dt= 1 min
Ravelx(W,60) =
Transpose(Colmean(Ravel(W,60,1)))
Découpage en une matrice de
1440/60 =24 colonnes et 60
ligne. Chaque colonne
représente une heure de
mesures )
Calcul des moyennes des
colonnes (= vecteur à 1
colonne, chaque élément
= une moyenne horaire)
Réarrangement en
vecteur-ligne =
série ordinaire
10
1er exemple:
séries de 1 million de données
____________________________
Sinusoide (S) et Cosinusoide (C) de
1 million de points, espacés de 0.001 s
fréquence 1 Hz
donc 1000 cycles à 1000 points
Calculer S*ABS(C)
DADiSP Worksheet
11
2e exemple:
Radon et niveau de l’eau dans le
bassin supérieur de la SEO
(avril-mai 2005): ~130000 données
par série
____________________________
Y a-t-il une période cachée dans les signaux?
Si oui, y a-t-il un déphasage entre le
signal radon et le signal niveau ?
12
3e exemple:
Radon et niveau de l’eau dans le
bassin supérieur de la SEO
____________________________
• Quelle est la relation moyenne journalière
entre concentration de radon et niveau de
l’eau?
 calculer les moyennes Radon et
Niveau pour chaque heure de la journée
 représenter Radon % Niveau et en tirer
les conclusions
13
Conclusions:
____________________________
• DADiSP est un très bon logiciel pour les
traitements rapides de séries très longues
• Il existe une version gratuite DADiSPSE limitée
à 9 fenêtres et 36000 points par série; la version
complète est disponible en essai pour 30 jours (
www.dadisp.com)
• La version complète ( < 3MB!) coûte $1995.-
Protection par signature.
Nombreux add-ons disponibles, comme p.ex.
Digital Filters, Statistics…. Prix $495 en général.
14
Merci de votre attention!
____________________________

Mais conteúdo relacionado

Último

Bilan énergétique des chambres froides.pdf
Bilan énergétique des chambres froides.pdfBilan énergétique des chambres froides.pdf
Bilan énergétique des chambres froides.pdf
AmgdoulHatim
 
Copie de Engineering Software Marketing Plan by Slidesgo.pptx.pptx
Copie de Engineering Software Marketing Plan by Slidesgo.pptx.pptxCopie de Engineering Software Marketing Plan by Slidesgo.pptx.pptx
Copie de Engineering Software Marketing Plan by Slidesgo.pptx.pptx
ikospam0
 

Último (20)

Neuvaine de la Pentecôte avec des textes de saint Jean Eudes
Neuvaine de la Pentecôte avec des textes de saint Jean EudesNeuvaine de la Pentecôte avec des textes de saint Jean Eudes
Neuvaine de la Pentecôte avec des textes de saint Jean Eudes
 
L application de la physique classique dans le golf.pptx
L application de la physique classique dans le golf.pptxL application de la physique classique dans le golf.pptx
L application de la physique classique dans le golf.pptx
 
Bilan énergétique des chambres froides.pdf
Bilan énergétique des chambres froides.pdfBilan énergétique des chambres froides.pdf
Bilan énergétique des chambres froides.pdf
 
STRATEGIE_D’APPRENTISSAGE flee_DU_FLE.pdf
STRATEGIE_D’APPRENTISSAGE flee_DU_FLE.pdfSTRATEGIE_D’APPRENTISSAGE flee_DU_FLE.pdf
STRATEGIE_D’APPRENTISSAGE flee_DU_FLE.pdf
 
GIÁO ÁN DẠY THÊM (KẾ HOẠCH BÀI DẠY BUỔI 2) - TIẾNG ANH 6, 7 GLOBAL SUCCESS (2...
GIÁO ÁN DẠY THÊM (KẾ HOẠCH BÀI DẠY BUỔI 2) - TIẾNG ANH 6, 7 GLOBAL SUCCESS (2...GIÁO ÁN DẠY THÊM (KẾ HOẠCH BÀI DẠY BUỔI 2) - TIẾNG ANH 6, 7 GLOBAL SUCCESS (2...
GIÁO ÁN DẠY THÊM (KẾ HOẠCH BÀI DẠY BUỔI 2) - TIẾNG ANH 6, 7 GLOBAL SUCCESS (2...
 
Intégration des TICE dans l'enseignement de la Physique-Chimie.pptx
Intégration des TICE dans l'enseignement de la Physique-Chimie.pptxIntégration des TICE dans l'enseignement de la Physique-Chimie.pptx
Intégration des TICE dans l'enseignement de la Physique-Chimie.pptx
 
Formation qhse - GIASE saqit_105135.pptx
Formation qhse - GIASE saqit_105135.pptxFormation qhse - GIASE saqit_105135.pptx
Formation qhse - GIASE saqit_105135.pptx
 
Copie de Engineering Software Marketing Plan by Slidesgo.pptx.pptx
Copie de Engineering Software Marketing Plan by Slidesgo.pptx.pptxCopie de Engineering Software Marketing Plan by Slidesgo.pptx.pptx
Copie de Engineering Software Marketing Plan by Slidesgo.pptx.pptx
 
RAPPORT DE STAGE D'INTERIM DE ATTIJARIWAFA BANK
RAPPORT DE STAGE D'INTERIM DE ATTIJARIWAFA BANKRAPPORT DE STAGE D'INTERIM DE ATTIJARIWAFA BANK
RAPPORT DE STAGE D'INTERIM DE ATTIJARIWAFA BANK
 
les_infections_a_streptocoques.pptkioljhk
les_infections_a_streptocoques.pptkioljhkles_infections_a_streptocoques.pptkioljhk
les_infections_a_streptocoques.pptkioljhk
 
Conférence Sommet de la formation 2024 : Développer des compétences pour la m...
Conférence Sommet de la formation 2024 : Développer des compétences pour la m...Conférence Sommet de la formation 2024 : Développer des compétences pour la m...
Conférence Sommet de la formation 2024 : Développer des compétences pour la m...
 
La mondialisation avantages et inconvénients
La mondialisation avantages et inconvénientsLa mondialisation avantages et inconvénients
La mondialisation avantages et inconvénients
 
L'expression du but : fiche et exercices niveau C1 FLE
L'expression du but : fiche et exercices  niveau C1 FLEL'expression du but : fiche et exercices  niveau C1 FLE
L'expression du but : fiche et exercices niveau C1 FLE
 
Les roches magmatique géodynamique interne.pptx
Les roches magmatique géodynamique interne.pptxLes roches magmatique géodynamique interne.pptx
Les roches magmatique géodynamique interne.pptx
 
658708519-Power-Point-Management-Interculturel.pdf
658708519-Power-Point-Management-Interculturel.pdf658708519-Power-Point-Management-Interculturel.pdf
658708519-Power-Point-Management-Interculturel.pdf
 
CompLit - Journal of European Literature, Arts and Society - n. 7 - Table of ...
CompLit - Journal of European Literature, Arts and Society - n. 7 - Table of ...CompLit - Journal of European Literature, Arts and Society - n. 7 - Table of ...
CompLit - Journal of European Literature, Arts and Society - n. 7 - Table of ...
 
Télécommunication et transport .pdfcours
Télécommunication et transport .pdfcoursTélécommunication et transport .pdfcours
Télécommunication et transport .pdfcours
 
Echos libraries Burkina Faso newsletter 2024
Echos libraries Burkina Faso newsletter 2024Echos libraries Burkina Faso newsletter 2024
Echos libraries Burkina Faso newsletter 2024
 
Cours Généralités sur les systèmes informatiques
Cours Généralités sur les systèmes informatiquesCours Généralités sur les systèmes informatiques
Cours Généralités sur les systèmes informatiques
 
Formation échiquéenne jwhyCHESS, parallèle avec la planification de projet
Formation échiquéenne jwhyCHESS, parallèle avec la planification de projetFormation échiquéenne jwhyCHESS, parallèle avec la planification de projet
Formation échiquéenne jwhyCHESS, parallèle avec la planification de projet
 

Destaque

How Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthHow Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental Health
ThinkNow
 
Social Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsSocial Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie Insights
Kurio // The Social Media Age(ncy)
 

Destaque (20)

2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot
 
Everything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPTEverything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPT
 
Product Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage EngineeringsProduct Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage Engineerings
 
How Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthHow Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental Health
 
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfAI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
 
Skeleton Culture Code
Skeleton Culture CodeSkeleton Culture Code
Skeleton Culture Code
 
PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024
 
Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)
 
How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024
 
Social Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsSocial Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie Insights
 
Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024
 
5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary
 
ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd
 
Getting into the tech field. what next
Getting into the tech field. what next Getting into the tech field. what next
Getting into the tech field. what next
 
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentGoogle's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search Intent
 
How to have difficult conversations
How to have difficult conversations How to have difficult conversations
How to have difficult conversations
 
Introduction to Data Science
Introduction to Data ScienceIntroduction to Data Science
Introduction to Data Science
 
Time Management & Productivity - Best Practices
Time Management & Productivity -  Best PracticesTime Management & Productivity -  Best Practices
Time Management & Productivity - Best Practices
 
The six step guide to practical project management
The six step guide to practical project managementThe six step guide to practical project management
The six step guide to practical project management
 
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
 

Le traitement des très grandes séries de données

  • 1. Le traitement des très grandes séries de données _________________________ Francis Massen Laboratoire de Physique, Lycée Classique de Diekirch Groupe Spéléologique Luxembourgeois francis.massen@education.lu
  • 2. 2 Le problème: datalogger à entrées multiples fréquence d’échantillonnage élevée durée des mesures quelques mois x*105 à x*106 de données!
  • 3. 3 Exemple: oscillations des courants d’air dans une grotte ____________________________ • Moestroff: période de ~90 s • Pour avoir une bonne résolution (et dans l’ignorance à priori de la période): dt = 1 s • Enregistrement sur une semaine: 604800 points de mesures
  • 4. 4 Comment traiter ces séries énormes? ____________________________ Tableur ? Limite pour Excel 2003 et OpenCalc 2: 65536 lignes, c.à.d. environ 1.5 mois avec une mesure par minute
  • 6. 6 Utiliser le logiciel du dataloger? ____________________________ Possible, mais devient problématique dans un environnement hétérogène (loggers différents)
  • 7. 7 La solution: ____________________________ Un tableur graphique: 1 cellule = 1 série •Créé en 1984 par Randy Race et Tony Purnell (version DOS) •Optimisé pour la vitesse •Plus de mille fonctions scientifiques et du traitement du signal
  • 8. 8 une série une autre série une condensation de la série une extraction d’une partie de la série
  • 9. 9 Exemple d’une macro ____________________________ W = série de 1440 mesures avec dt= 1 min Ravelx(W,60) = Transpose(Colmean(Ravel(W,60,1))) Découpage en une matrice de 1440/60 =24 colonnes et 60 ligne. Chaque colonne représente une heure de mesures ) Calcul des moyennes des colonnes (= vecteur à 1 colonne, chaque élément = une moyenne horaire) Réarrangement en vecteur-ligne = série ordinaire
  • 10. 10 1er exemple: séries de 1 million de données ____________________________ Sinusoide (S) et Cosinusoide (C) de 1 million de points, espacés de 0.001 s fréquence 1 Hz donc 1000 cycles à 1000 points Calculer S*ABS(C) DADiSP Worksheet
  • 11. 11 2e exemple: Radon et niveau de l’eau dans le bassin supérieur de la SEO (avril-mai 2005): ~130000 données par série ____________________________ Y a-t-il une période cachée dans les signaux? Si oui, y a-t-il un déphasage entre le signal radon et le signal niveau ?
  • 12. 12 3e exemple: Radon et niveau de l’eau dans le bassin supérieur de la SEO ____________________________ • Quelle est la relation moyenne journalière entre concentration de radon et niveau de l’eau?  calculer les moyennes Radon et Niveau pour chaque heure de la journée  représenter Radon % Niveau et en tirer les conclusions
  • 13. 13 Conclusions: ____________________________ • DADiSP est un très bon logiciel pour les traitements rapides de séries très longues • Il existe une version gratuite DADiSPSE limitée à 9 fenêtres et 36000 points par série; la version complète est disponible en essai pour 30 jours ( www.dadisp.com) • La version complète ( < 3MB!) coûte $1995.- Protection par signature. Nombreux add-ons disponibles, comme p.ex. Digital Filters, Statistics…. Prix $495 en général.
  • 14. 14 Merci de votre attention! ____________________________