deac/LogAn
1
0
Fork 0
Code Issues Pull requests Releases Wiki Activity
Logging Analyser
5 commits 1 branch 4 tags 69 KiB
Ruby 100%
Find a file
Denis Knauf b82ce54d60 $SAFE=4 and persistent storage! That is what i want.
2010-03-02 00:51:15 +01:00
bin $SAFE=4 and persistent storage! That is what i want. 2010-03-02 00:51:15 +01:00
lib bin/logan: Proof of Concept, but it looks nice. CStruct: I do not know. It is not what i want. bin/box.rb: $SAFE-tests. 2010-02-26 01:57:26 +01:00
AUTHOR CStruct: first test 2010-02-24 15:04:56 +01:00
LICENSE CStruct: first test 2010-02-24 15:04:56 +01:00
logan.gemspec bin/logan: Proof of Concept, but it looks nice. CStruct: I do not know. It is not what i want. bin/box.rb: $SAFE-tests. 2010-02-26 01:57:26 +01:00
Rakefile CStruct: first test 2010-02-24 15:04:56 +01:00
README.md README: aktualisiert 2010-02-26 02:05:40 +01:00
VERSION CStruct: first test 2010-02-24 15:04:56 +01:00

README.md

Status

Proof of Concept!

Queue: Ruby-Klasse zur Kommunikation zwischen Threads. Unidirektional BDB-Queue: Queue auf Basis einer BDB. Kann zur Kommunikation zwischen Prozessen dienen. Unidirektional. Stream: UNIX-Stream. Bidirektional.

Sicherheit

Verarbeitung wird jeweils abgeschottet und darf nicht auf andere Daten zugreifen. $SAFE = 4 waere wuenschenswert, aber unpraktikabel bezueglich Queue. $SAFE = 3 reicht.

Mehrere Prozesse also nicht noetig.

erstes Map auf Logdaten

Liest aus der BDB-Queue, verarbeitet und schreibt in eine andere Datenbank.

Parallelisierung

Eine DB, die speichert, wer an was arbeitet. Koennte langsam werden.

MapReduce allgemein

Woher kommt die Information, dass gearbeitet werden kann? BDB-Queue/Stream/Queue.

Piping

MapReduce-Verarbeitung kann auch hintereinander geschaltet werden. Hierzu bietet sich Queue im Prozess an.