Improve training history logging and file management
Enhance error handling in Python ML backend for training and update script location. Replit-Commit-Author: Agent Replit-Commit-Session-Id: 7a657272-55ba-4a79-9a2e-f1ed9bc7a528 Replit-Commit-Checkpoint-Type: full_checkpoint Replit-Commit-Event-Id: b7099249-7827-46da-bdf9-2ff1d9c07b6c Replit-Commit-Screenshot-Url: https://storage.googleapis.com/screenshot-production-us-central1/449cf7c4-c97a-45ae-8234-e5c5b8d6a84f/7a657272-55ba-4a79-9a2e-f1ed9bc7a528/VDRknFA
This commit is contained in:
marco370
parent
83f3d4cf8e
commit
c31e1ca838
@ -129,7 +129,10 @@ async def train_model(request: TrainRequest, background_tasks: BackgroundTasks):
|
||||
Esegue in background per non bloccare l'API
|
||||
"""
|
||||
def do_training():
|
||||
conn = None
|
||||
cursor = None
|
||||
try:
|
||||
print("[TRAIN] Inizio training...")
|
||||
conn = get_db_connection()
|
||||
cursor = conn.cursor(cursor_factory=RealDictCursor)
|
||||
|
||||
@ -148,13 +151,18 @@ async def train_model(request: TrainRequest, background_tasks: BackgroundTasks):
|
||||
print("[TRAIN] Nessun log trovato per training")
|
||||
return
|
||||
|
||||
print(f"[TRAIN] Trovati {len(logs)} log per training")
|
||||
|
||||
# Converti in DataFrame
|
||||
df = pd.DataFrame(logs)
|
||||
|
||||
# Training
|
||||
print("[TRAIN] Addestramento modello...")
|
||||
result = ml_analyzer.train(df, contamination=request.contamination)
|
||||
print(f"[TRAIN] Modello addestrato: {result}")
|
||||
|
||||
# Salva nel database
|
||||
print("[TRAIN] Salvataggio training history nel database...")
|
||||
cursor.execute("""
|
||||
INSERT INTO training_history
|
||||
(model_version, records_processed, features_count, training_duration, status, notes)
|
||||
@ -168,6 +176,7 @@ async def train_model(request: TrainRequest, background_tasks: BackgroundTasks):
|
||||
f"Anomalie: {result['anomalies_detected']}/{result['unique_ips']}"
|
||||
))
|
||||
conn.commit()
|
||||
print("[TRAIN] ✅ Training history salvato con successo!")
|
||||
|
||||
cursor.close()
|
||||
conn.close()
|
||||
@ -175,7 +184,16 @@ async def train_model(request: TrainRequest, background_tasks: BackgroundTasks):
|
||||
print(f"[TRAIN] Completato: {result}")
|
||||
|
||||
except Exception as e:
|
||||
print(f"[TRAIN ERROR] {e}")
|
||||
print(f"[TRAIN ERROR] ❌ Errore durante training: {e}")
|
||||
import traceback
|
||||
traceback.print_exc()
|
||||
if conn:
|
||||
conn.rollback()
|
||||
finally:
|
||||
if cursor:
|
||||
cursor.close()
|
||||
if conn:
|
||||
conn.close()
|
||||
|
||||
# Esegui in background
|
||||
background_tasks.add_task(do_training)
|
||||
|
||||
10
replit.md
10
replit.md
@ -150,6 +150,16 @@ The IDS features a React-based frontend for real-time monitoring, detection visu
|
||||
|
||||
## Fix Recenti (Novembre 2025)
|
||||
|
||||
### 🔧 Fix Training History + Logging Migliorato (22 Nov 2025 - 11:30)
|
||||
- **Problema**: Storico training sempre vuoto anche dopo training completato
|
||||
- **Causa**: INSERT in `training_history` falliva silenziosamente (errore solo in console)
|
||||
- **Soluzione**: Error handling migliorato con logging dettagliato e traceback
|
||||
- **Fix Applicati**:
|
||||
- ✅ `python_ml/main.py`: Logging step-by-step training + traceback errori
|
||||
- ✅ `finally` block per chiusura connessioni sicura
|
||||
- ✅ `rollback` automatico in caso di errore
|
||||
- **Testing**: Monitorare `/var/log/ids/ml_backend.log` durante training per vedere errori esatti
|
||||
|
||||
### 🐛 Fix Monitoring Syslog Parser + Schema Database (22 Nov 2025 - 11:10)
|
||||
- **Problema 1**: Dashboard mostrava Syslog Parser in errore nonostante systemd "active (running)"
|
||||
- **Causa**: Bug fetch `signal: controller2.abort` invece di `signal: controller2.signal` in `/api/services/status`
|
||||
|
||||
@ -1,211 +0,0 @@
|
||||
#!/bin/bash
|
||||
|
||||
# =============================================================================
|
||||
# IDS - Aggiornamento Sistema da git.alfacom.it
|
||||
# =============================================================================
|
||||
# Eseguire come ROOT: ./update_from_git.sh [--db]
|
||||
# Lo script esegue i comandi git come utente 'ids' automaticamente
|
||||
#
|
||||
# Opzioni:
|
||||
# --db Sincronizza anche schema database da database-schema/schema.sql
|
||||
# =============================================================================
|
||||
|
||||
set -e
|
||||
|
||||
# Colori per output
|
||||
RED='\033[0;31m'
|
||||
GREEN='\033[0;32m'
|
||||
YELLOW='\033[1;33m'
|
||||
BLUE='\033[0;34m'
|
||||
NC='\033[0m'
|
||||
|
||||
# Opzioni
|
||||
UPDATE_DB=false
|
||||
if [ "$1" == "--db" ]; then
|
||||
UPDATE_DB=true
|
||||
fi
|
||||
|
||||
echo -e "${BLUE}"
|
||||
echo "╔═══════════════════════════════════════════════╗"
|
||||
echo "║ 🔄 AGGIORNAMENTO SISTEMA IDS DA GIT ║"
|
||||
echo "╚═══════════════════════════════════════════════╝"
|
||||
echo -e "${NC}"
|
||||
|
||||
IDS_DIR="/opt/ids"
|
||||
IDS_USER="ids"
|
||||
|
||||
# Verifica di essere root
|
||||
if [ "$EUID" -ne 0 ]; then
|
||||
echo -e "${RED}❌ Questo script deve essere eseguito come root${NC}"
|
||||
echo -e "${YELLOW} Esegui: sudo ./update_from_git.sh [--db]${NC}"
|
||||
exit 1
|
||||
fi
|
||||
|
||||
cd "$IDS_DIR" || exit 1
|
||||
|
||||
# Fix git ownership se necessario
|
||||
echo -e "${BLUE}🔧 Verifica configurazione git...${NC}"
|
||||
if ! sudo -u $IDS_USER git config --global --get-all safe.directory | grep -q "^/opt/ids$"; then
|
||||
echo -e "${YELLOW} Configuro safe directory...${NC}"
|
||||
sudo -u $IDS_USER git config --global --add safe.directory /opt/ids
|
||||
echo -e "${GREEN} ✅ Configurato${NC}"
|
||||
fi
|
||||
|
||||
# Backup configurazione locale
|
||||
echo -e "\n${BLUE}💾 Backup configurazione locale...${NC}"
|
||||
if [ -f ".env" ]; then
|
||||
cp .env .env.backup
|
||||
echo -e "${GREEN}✅ .env salvato in .env.backup${NC}"
|
||||
fi
|
||||
|
||||
if [ -f "git.env" ]; then
|
||||
cp git.env git.env.backup
|
||||
echo -e "${GREEN}✅ git.env salvato in git.env.backup${NC}"
|
||||
fi
|
||||
|
||||
# Verifica modifiche locali
|
||||
echo -e "\n${BLUE}🔍 Verifica modifiche locali...${NC}"
|
||||
if ! sudo -u $IDS_USER git diff-index --quiet HEAD -- 2>/dev/null; then
|
||||
echo -e "${YELLOW}⚠️ Ci sono modifiche locali non committate${NC}"
|
||||
echo -e "${YELLOW} Esegui 'git status' per vedere i dettagli${NC}"
|
||||
read -p "Vuoi procedere comunque? (y/n) " -n 1 -r
|
||||
echo
|
||||
if [[ ! $REPLY =~ ^[Yy]$ ]]; then
|
||||
exit 1
|
||||
fi
|
||||
# Stash modifiche locali
|
||||
echo -e "${BLUE} Salvo modifiche locali temporaneamente...${NC}"
|
||||
sudo -u $IDS_USER git stash
|
||||
fi
|
||||
|
||||
# Pull da git
|
||||
echo -e "\n${BLUE}📥 Download aggiornamenti da git.alfacom.it...${NC}"
|
||||
sudo -u $IDS_USER git fetch origin
|
||||
sudo -u $IDS_USER git pull origin main
|
||||
|
||||
if [ $? -eq 0 ]; then
|
||||
echo -e "${GREEN}✅ Aggiornamenti scaricati con successo${NC}"
|
||||
else
|
||||
echo -e "${RED}❌ Errore durante il download${NC}"
|
||||
exit 1
|
||||
fi
|
||||
|
||||
# Ripristina configurazione locale
|
||||
echo -e "\n${BLUE}🔄 Ripristino configurazione locale...${NC}"
|
||||
if [ -f ".env.backup" ]; then
|
||||
cp .env.backup .env
|
||||
chown $IDS_USER:$IDS_USER .env
|
||||
echo -e "${GREEN}✅ .env ripristinato${NC}"
|
||||
fi
|
||||
|
||||
if [ -f "git.env.backup" ]; then
|
||||
cp git.env.backup git.env
|
||||
chown $IDS_USER:$IDS_USER git.env
|
||||
echo -e "${GREEN}✅ git.env ripristinato${NC}"
|
||||
fi
|
||||
|
||||
# Sincronizza schema database se richiesto
|
||||
if [ "$UPDATE_DB" = true ]; then
|
||||
echo -e "\n${BLUE}🗄️ Sincronizzazione schema database...${NC}"
|
||||
|
||||
SCHEMA_DIR="$IDS_DIR/database-schema"
|
||||
|
||||
# Carica configurazione database
|
||||
if [ ! -f "$IDS_DIR/.env" ]; then
|
||||
echo -e "${RED}❌ File .env non trovato${NC}"
|
||||
exit 1
|
||||
fi
|
||||
|
||||
source "$IDS_DIR/.env"
|
||||
export PGPASSWORD="$PGPASSWORD"
|
||||
|
||||
# Trova tutti gli script SQL (escludi schema.sql che è solo snapshot)
|
||||
SQL_SCRIPTS=$(find "$SCHEMA_DIR" -maxdepth 1 -name "*.sql" ! -name "schema.sql" -type f | sort)
|
||||
|
||||
if [ -z "$SQL_SCRIPTS" ]; then
|
||||
echo -e "${YELLOW}⚠️ Nessuno script SQL trovato in database-schema/${NC}"
|
||||
echo -e "${YELLOW} (schema.sql è solo uno snapshot, non viene applicato)${NC}"
|
||||
else
|
||||
echo -e "${YELLOW}⚠️ APPLICAZIONE MODIFICHE AL DATABASE${NC}"
|
||||
echo -e "${YELLOW} Database: ${PGDATABASE}@${PGHOST}${NC}"
|
||||
echo -e "${YELLOW} Script da applicare:${NC}"
|
||||
|
||||
# Mostra lista script
|
||||
for script in $SQL_SCRIPTS; do
|
||||
echo -e "${YELLOW} • $(basename $script)${NC}"
|
||||
done
|
||||
|
||||
read -p "Confermi applicazione modifiche? (y/n) " -n 1 -r
|
||||
echo
|
||||
|
||||
if [[ $REPLY =~ ^[Yy]$ ]]; then
|
||||
# Applica tutti gli script in ordine
|
||||
for script in $SQL_SCRIPTS; do
|
||||
SCRIPT_NAME=$(basename "$script")
|
||||
echo -e "\n${BLUE}📄 Applicando $SCRIPT_NAME...${NC}"
|
||||
|
||||
psql -h "${PGHOST:-127.0.0.1}" -p "${PGPORT:-5432}" -U "${PGUSER}" -d "${PGDATABASE}" -f "$script"
|
||||
|
||||
if [ $? -eq 0 ]; then
|
||||
echo -e "${GREEN}✅ $SCRIPT_NAME applicato con successo${NC}"
|
||||
else
|
||||
echo -e "${RED}❌ Errore applicando $SCRIPT_NAME${NC}"
|
||||
echo -e "${YELLOW}⚠️ Gli script successivi NON saranno applicati${NC}"
|
||||
exit 1
|
||||
fi
|
||||
done
|
||||
|
||||
echo -e "\n${GREEN}✅ Tutti gli script SQL applicati con successo${NC}"
|
||||
else
|
||||
echo -e "${YELLOW}⏭️ Sincronizzazione database saltata${NC}"
|
||||
fi
|
||||
fi
|
||||
fi
|
||||
|
||||
# Aggiorna dipendenze Node.js
|
||||
echo -e "\n${BLUE}📦 Aggiornamento dipendenze Node.js...${NC}"
|
||||
sudo -u $IDS_USER npm install
|
||||
|
||||
if [ $? -eq 0 ]; then
|
||||
echo -e "${GREEN}✅ Dipendenze Node.js aggiornate${NC}"
|
||||
else
|
||||
echo -e "${YELLOW}⚠️ Possibili warning npm (spesso ignorabili)${NC}"
|
||||
fi
|
||||
|
||||
# Aggiorna dipendenze Python
|
||||
echo -e "\n${BLUE}📦 Aggiornamento dipendenze Python...${NC}"
|
||||
cd python_ml
|
||||
sudo -u $IDS_USER /usr/bin/python3.11 -m pip install --upgrade -r requirements.txt
|
||||
cd ..
|
||||
|
||||
if [ $? -eq 0 ]; then
|
||||
echo -e "${GREEN}✅ Dipendenze Python aggiornate${NC}"
|
||||
fi
|
||||
|
||||
# Restart servizi
|
||||
echo -e "\n${BLUE}🔄 Restart servizi...${NC}"
|
||||
if [ -f "./deployment/restart_all.sh" ]; then
|
||||
chmod +x ./deployment/restart_all.sh
|
||||
./deployment/restart_all.sh
|
||||
echo -e "${GREEN}✅ Servizi riavviati${NC}"
|
||||
else
|
||||
echo -e "${YELLOW}⚠️ Script restart_all.sh non trovato${NC}"
|
||||
echo -e "${YELLOW} Riavvia manualmente i servizi se necessario${NC}"
|
||||
fi
|
||||
|
||||
echo ""
|
||||
echo -e "${GREEN}╔═══════════════════════════════════════════════╗${NC}"
|
||||
echo -e "${GREEN}║ ✅ AGGIORNAMENTO COMPLETATO ║${NC}"
|
||||
echo -e "${GREEN}╚═══════════════════════════════════════════════╝${NC}"
|
||||
echo ""
|
||||
echo -e "${BLUE}📋 VERIFICA SISTEMA:${NC}"
|
||||
echo -e " • Log backend: ${YELLOW}tail -f /var/log/ids/backend.log${NC}"
|
||||
echo -e " • Log frontend: ${YELLOW}tail -f /var/log/ids/frontend.log${NC}"
|
||||
echo -e " • API backend: ${YELLOW}curl http://localhost:8000/health${NC}"
|
||||
echo -e " • Frontend: ${YELLOW}curl http://localhost:5000${NC}"
|
||||
echo ""
|
||||
echo -e "${BLUE}📊 STATO SERVIZI:${NC}"
|
||||
ps aux | grep -E 'python.*main|npm.*dev|syslog_parser' | grep -v grep
|
||||
echo ""
|
||||
|
||||
exit 0
|
||||
Loading…
Reference in New Issue
Block a user