Wie baue ich eine KI, die besser als jeder Mensch ein Problem und dessen Ursache erkennt?

© OPITZ CONSULTING 2020
Informationsklassifikation:
Interner Gebrauch
 Digitale Service Manufaktur
Benjamin Linnik
Wie baue ich eine KI, die besser
als jeder Mensch ein Problem
und dessen Ursache erkennt?

Interner Gebrauch
Gegründet 1990
Führender deutscher Spezialist für
maßgeschneiderte Lösungen und die
digitale Transformation
Fokus auf ein End-to-End Anwendungs-
Lebenszyklus-Management.
Geboren 1987
2007-2013 Master of Science in Physik
2013-2019 Promotionsstudien auf dem Gebiet
der Schwerionenphysik
2013-2018 Studium der Informatik
seit 2018 IT-Berater bei Opitz Consulting
Benjamin Linnik

Interner Gebrauch
" Eine Vielzahl von Sensoren liefert etwa 1 Petabyte Daten pro Sekunde."
Dies berichtete die britische Zeitschrift "V3" unter Berufung auf Francois Briard, der die
Kontrollinfrastruktur des CERN verantwortet.
https://home.cern/news/news/computing/cern-data-centre-passes-200-petabyte-milestone

Interner Gebrauch
Man denke an ein großes
globales Unternehmen mit
mehreren tausend
Mitarbeitern und einer
großen IT-Infrastruktur.
Verteilte
Datenbanken
SaaS Anbieter
Monitoring
Analytics
Menschen
Computations
Einstellungen
File storage
Cloud provider
On-Prem
hardware
Microservice
Ein Fehler in einer
Datenbank
Nicht im
Monitoring
Keine
Gegenmaßnahme
definiert
Ein Service
funktioniert nicht
mehr
Das Reporting
scheitert
Die Berechnungen
sind falsch
Abgelenkt und
unglücklich
Ein kleiner Fehler in
einer Komponente
kann große
Auswirkungen
haben

Interner Gebrauch
 Die zuständige Abteilung wird über den Vorfall informiert
 Mehrere Benutzer berichten, dass sie ihre Arbeit nicht
rechtzeitig beenden können.
 Das Problem eskaliert.
 Das Management fordert eine schnelle Lösung.
 Stunden werden für die Suche der Ursache aufgewendet.
 Ein "temporärer Workaround" wird implementiert, um das
Problem so schnell wie möglich zu beheben
 ....alles ist wieder in Ordnung
von den Fachabteilungen, per Telefon, Freitag Abend.
, ist es das wirklich?

Interner Gebrauch
Wir müssen
unser
Monitoring
verbessern.
Warum können
wir nicht IT
ohne User
machen?
Wir könnten eine
Alarmregel in unser
Monitoring für dieses
Datenbankproblem
aufnehmen.
Großartig,
los geht's!
Ich habe bereits eine
Konfiguration und ein
Gegenaktionsskript
vorbereitet.
Das Meeting nach dem Vorfall

Interner Gebrauch
Regelbasiertes Monitoring
Konfiguration Reaktion auf einen Alert
Support ticket
E-Mail
Status monitor
Chatbot
Automatische
Gegenmaßnahme
…
If (average
database query
duration) > 0.05s
{
Fire alert:
Database is slow.
}
-------------------------
If (free disk space) < 5%
{
Fire alert:
Cleanup disk space
}

Interner Gebrauch
Ich habe bereits eine
Konfiguration und eine
Gegenmaßnahme
vorbereitet.
Aber was wäre, wenn beim
nächsten Mal eine andere
Komponente ausfällt? Eine
für die noch kein Regel
definiert ist?
Hmm, das wäre
ein Problem...
Was wäre, wenn wir
unsere Monitoring-Daten
nutzen könnten, um ein
Modell zu trainieren um
alle Ausreißer zu
erkennen?

Interner Gebrauch
KI-gestütztes Monitoring
Daten trainieren ein ML Modell Reaktion auf einen Alert
Support ticket
E-Mail
Status monitor
Chatbot
Automatische
Gegenmaßnahme
…Ein Modell
chiffriert den
aktuellen Zustand.
Jede Abweichung
wird erkannt

Interner Gebrauch
Was wird benötigt?
Big Data
Quelle: Kumar, Amit. "Consumer perception towards e-
commerce in India." ZENITH International Journal of
Multidisciplinary Research 9, no. 4 (2019): 120-128.
Value
Die fünf V‘s
Artificial intelligence*
Semi-structured
Structured
Uncleansed
Speed of generation
Log
Active / passive sensor
Machine
Learning
Unsupervised Learning
Clustering
* Außerdem wird auf die bewährten
Methoden der Statistik zurückgegriffen
Basierend auf Nazre and Garg, “A Deep Dive in the
Venture Landscape of Artificial Intelligence and
Machine Learning.”, slide 3

Interner Gebrauch
Die Zukunft gehört
denjenigen, die die besten
Algorithmen haben. - Prof. Yuval Noah Harari,
aus “Homo Deus”

Interner Gebrauch
…
2019/11/13 13:41:42:532 ERROR: Failed to
load resource:
net::ERR_NAME_NOT_RESOLVED
2019/11/13 13:41:42:541 INFO: VM362
search:1 Mixed Content: The page at
2019/11/13 13:41:42:545 WARNING: This
content should also be served over
HTTPS.
2019/11/13 13:41:42:548 INFO: A cookie
associated with a cross-site resource at
<URL>
…

Interner Gebrauch
1. Installation von LOG shippern
2. Alle LOGs über eine Big Data Pipeline streamen
3. Transformation der LOGs zu einem maschinell
verarbeitbaren Format
4. Speichern in Datenbank
5. (Analysieren und Anzeigen von LOGs in Dashboards)
6. Trainieren eines Modells
datetime service messag
e
host …
Datenbank Strukturierteres Format Roh-LOGRoh-LOGRoh-LOG stream
LOG
shipper
Dashboards
Modell

Interner Gebrauch
datetime service messag
e
host …
Datenbank Strukturierteres Format stream
LOG
shipper
Dashboards
Modell
Herausforderungen
 Es werden viele Daten produziert
 LOGs sind Textnachrichten
 Saisonale Schwankungen
 Fehlalarme nach IT-Updates

Interner Gebrauch
1. Harmonisieren der LOG Einträge.
Alle Zeitstempel und sensible Daten entfernen
Alle Hashes entfernen
Alle Pfade entfernen
Alle Sonderzeichen entfernen
Alle Zahlen entfernen
[2016-10-25 11:32] [ALPM-SCRIPTLET]
/tmp/alpm_gpOcJc/.INSTALL: line 11: pacman-key:
команда не найдена
02:29:37.057569 Devices/VNet0/ReceiveBytes
229770894 bytes
02:29:37.079001 NAT: zone(nm:mbuf_jumbo_pagesize,
used:0)
0000019<Sun Oct 27 21:31:40 2019-
0000162>~<DEBUG>:[G 0] ResetISPHourlyCounters: SET:
ProbeCountHourCheckpoint = 0, ProbesSentThisHour =
0, gMovingProbesPerPartitionedHourLimit = 0
[2019-02-22 22:55:22]
{Dell.UpdateService.ServiceShell.Proxy.ProxySelector-
>INFO} No default proxy available.
Missing character: There is no - in font nullfont!
10/28/2019 16:13:29.941 Chk: !ERROR! (0x80004005)
(webclient.cpp:975) ERROR: "" failed with 0x80004005 in
10/28/2019 16:13:30.661 WebClient:
WebClient(04E0C4B8): Download attempt #1 (max 10)

Interner Gebrauch
1. Harmonisieren der LOG Einträge
2. Zählen gleicher LOG Einträge im gleitenden wöchentlichen Zeitfenster
1 Woche
window 0
Zeitstrahl
534 x
1215 x
174 x
2071 x
86 x
0
1000
2000
Count
ALPM DVRB NATz MissChar ChkErr
ALPM-SCRIPTLET line pacman-key команда не найдена
Devices Vnet ReceiveBytes bytes
NAT zone nm mbuf jumbo pagesize used
Missing character There is no in font nullfont
Chk ERROR webclient cpp ERROR failed
[2016-10-25 11:32] [ALPM-SCRIPTLET]
229770894 bytes
used:0)
0000019<Sun Oct 27 21:31:40 2019-
[2019-02-22 22:55:22]
10/28/2019 16:13:29.941 Chk: !ERROR! (0x80004005)
10/28/2019 16:13:30.661 WebClient:

Interner Gebrauch
2. Zählen gleicher LOG Einträge im gleitenden wöchentlichen Zeitfenster.
1 Woche
window 1
Zeitstrahl
512 x
1083 x
49 x
2181 x
79 x
0
1000
2000
Count
[2016-10-25 11:32] [ALPM-SCRIPTLET]
229770894 bytes
used:0)
0000019<Sun Oct 27 21:31:40 2019-
[2019-02-22 22:55:22]
10/28/2019 16:13:29.941 Chk: !ERROR! (0x80004005)
10/28/2019 16:13:30.661 WebClient:

Interner Gebrauch
1 Woche
window 2
Zeitstrahl
509 x
629 x
45 x
2285 x
50 x
0
1000
2000
Count
[2016-10-25 11:32] [ALPM-SCRIPTLET]
229770894 bytes
used:0)
0000019<Sun Oct 27 21:31:40 2019-
[2019-02-22 22:55:22]
10/28/2019 16:13:29.941 Chk: !ERROR! (0x80004005)
10/28/2019 16:13:30.661 WebClient:

Interner Gebrauch
1. Harmonisieren der LOG Einträge
2. Zählen gleicher LOG Einträge im gleitenden wöchentlichen Zeitfenster
3. Berechnung der relativen Veränderung (in Prozent) zwischen den Zeitfenstern
0
500
1000
1500
2000
2500
window 2 window 1 window 0
+1.23 +0,59 +4,30
+8,32
+76,95
+9,16
+8.34 +8,89
+255,10
[CELLRANGE]
-4,55
-5,04
+7.86 +75,56 +8,86
LOGCount
ALPM
DVRB
NATz
MissChar
ChkErr

Interner Gebrauch
3. Berechnung der relativen Veränderung (in Prozent) zwischen den Zeitfenstern.
4. Anomalien erkennen indem ein Schwellwert definiert wird.
5. Timeline series bilden für jeden ungewöhnlichen LOG Eintrag.
Verwenden eines vordefinierten Schwellenwert,
um neuartiges Verhalten zu erkennen
-50
0
50
100
150
200
250
RelativeLOGfrequencychange[%]
70
Es werden nur LOGs berücksichtigt,
die eine hohe Reichweite haben.
(Eine hohe absolute Anzahl)

Interner Gebrauch
0
200
400
600
800
1000
1200
1400
AbsoluteLOGcount
DVRB ChkErr
6. Clusterung der anomalen Zeitreihen.
DVRB ChkErr
Window 0 1215 86
Window 1 1113 79
Window 2 629 45
… … …
Window tn M N
LOG Anzahl Im Zeitfenster
Berechnung der Dissimilarity Matrix
für die Zeitreihen und bilden einer
Clusterhierarchie
+8.32%
+76.92%
+9.16%
+8.86%75.56%7.86%
0
200
400
600
800
1000
1200
1400
TimeseriesdergleichenCluster
DVRB-ChkErr

Interner Gebrauch
Berechnen einer Distanzmatrix
> distanceM <- TSclust::diss(logData, METHOD=“COR”)
# Hierarchiecluster bilden
> hc <- hclust(distanceM)
# Dendrogram darstellen
> plot(hc)

Interner Gebrauch
6. Clusterung der anomalen Zeitreihen.
7. Erstellen einer Process map für LOGs desselben Clusters,
um die Grundursache zu finden.
Isehscc Fdne
ABC
0.0
0.2
0.6
0.8
Cluster Dendrogram
Start End
15.57%
Acess denied
to path PATH
Ad1
84.43%
84.43%
45.06%
Fdne
54.94%
54.94%
File does
not exist
54.94%
Internal server error
Haystack server
connection close
Ad1 Ukn
Dendrogram
abschneiden
LOGs des
gleichen Clusters

Interner Gebrauch
# Daten für Process Mining mit “bupaR::process_map” vorbereiten
eventLOG <-
eventlog(
logData,
case_id = “sessionId”,
activity_id = “log.textShort",
timestamp = “log.timestamp",
activity_instance_id = "rowid",
lifecycle_id = “log.level",
resource_id = “serviceInstanceId"
)
# Irrelevante Prozesse heraus filtern
filter_trace_frequency(eventLOG, perc = .8)
# Process Map Grafik erstellen
process_map(eventLOG, rankdir = “relative_case")

Interner Gebrauch
Web
Dashboard
Anomalie Start
Ursache wird
behoben
Der Fix führt zu einer
Änderung im System
Geclusterte LOGs
Derzeitiger
Zustand

Interner Gebrauch
...so werden wir
rechtzeitig informiert
und kennen auch die
Ursache.
Und wir können die so
gewonnenen
Erkenntnisse nutzen, um
unsere regelbasiertes
Monitoring anzupassen!
……
…Worauf warten wir!

Interner Gebrauch
 Dieses unsupervised Monitoring existiert
und ist mit der heutigen Technologie
realisierbar.
 Es kann ein klassisches regelbasiertes
Monitoring ergänzen.

Interner GebrauchHalbautomatische Wartung einer CI-DevOps-Umgebung Seite 28
Ein Softwarepaket das Firmen hilft
Ihre Infrastruktur zu warten und im
Laufe der Zeit zu verbessern.

Interner Gebrauch
1B $Idee
Team
Umsetzung
Timing
Produkt
Was braucht eine Idee, um erfolgreich zu sein?

Interner Gebrauch
Das Ganze ist mehr als die
Summe seiner Teile.
- Aristotle
(dies gilt nicht nur für Atome, sondern auch für Teams und für IT-Architekturen)

Interner Gebrauch
Was werden Sie als nächstes bauen?
Benjamin.Linnik@opitz-consulting.com
https://de.linkedin.com/in/BenLinnik
https://github.com/BenLinnik
www.opitz-consulting.com

Wie baue ich eine KI, die besser als jeder Mensch ein Problem und dessen Ursache erkennt?

Recomendados

Recomendados

Mais conteúdo relacionado

Mais procurados

Mais procurados (11)

Semelhante a Wie baue ich eine KI, die besser als jeder Mensch ein Problem und dessen Ursache erkennt?

Semelhante a Wie baue ich eine KI, die besser als jeder Mensch ein Problem und dessen Ursache erkennt? (20)

Mais de OPITZ CONSULTING Deutschland

Mais de OPITZ CONSULTING Deutschland (19)

Wie baue ich eine KI, die besser als jeder Mensch ein Problem und dessen Ursache erkennt?