Logging Analyser
Find a file
2010-03-29 19:59:34 +02:00
bin a={}; abc *a will convert {} to [] 2010-03-29 19:59:34 +02:00
lib Loglines: did not close databases on #close. fixed -> No segv anymore :) 2010-03-29 19:56:16 +02:00
AUTHORS metafiles changed; Sandbox has an own repository: Safebox 2010-03-20 23:33:14 +01:00
LICENSE CStruct: first test 2010-02-24 15:04:56 +01:00
Rakefile Safebox-dependency added and Fileparser::Base#logdb/#store added 2010-03-29 15:51:50 +02:00
README.md README: aktualisiert 2010-02-26 02:05:40 +01:00
TODO.md TODO markdown 2010-03-17 13:23:53 +01:00
VERSION CStruct: first test 2010-02-24 15:04:56 +01:00

Status

Proof of Concept!

Queue: Ruby-Klasse zur Kommunikation zwischen Threads. Unidirektional BDB-Queue: Queue auf Basis einer BDB. Kann zur Kommunikation zwischen Prozessen dienen. Unidirektional. Stream: UNIX-Stream. Bidirektional.

Sicherheit

Verarbeitung wird jeweils abgeschottet und darf nicht auf andere Daten zugreifen. $SAFE = 4 waere wuenschenswert, aber unpraktikabel bezueglich Queue. $SAFE = 3 reicht.

Mehrere Prozesse also nicht noetig.

erstes Map auf Logdaten

Liest aus der BDB-Queue, verarbeitet und schreibt in eine andere Datenbank.

Parallelisierung

Eine DB, die speichert, wer an was arbeitet. Koennte langsam werden.

MapReduce allgemein

Woher kommt die Information, dass gearbeitet werden kann? BDB-Queue/Stream/Queue.

Piping

MapReduce-Verarbeitung kann auch hintereinander geschaltet werden. Hierzu bietet sich Queue im Prozess an.