Deteksi Jatuh Berbasis Abstraksi Pose Skeleton

Sistem deteksi kejadian jatuh real-time berpreservasi privasi visual menggunakan Roboflow Detection Transformer (RF-DETR) dan YOLOv11 pada pasangan dataset RGB-Skeleton synced.

Pengembang:Yoga Agustiansyah
Pembimbing Research:Dr. Dede Kurniadi, S.Kom., M.Kom.
Institusi:Institut Teknologi Garut
Benchmark & Model Metrics

Dataset AIO

30.756

RGB-Skeleton Synced

Akurasi Pose

94.68%

RF-DETR Pose-Only

Inferensi FPS

37.86

27.38 ms / Frame

Performa Model (%)

RF-DETR Nano + RGB97.90%
RF-DETR Nano + Pose Skeleton94.68%
YOLOv11n + Pose Skeleton92.15%

Preservasi Privasi

Wajah & identitas subjek dieliminasi melalui rekonstruksi 17 keypoint skeleton.

Siap Siaga CCTV

Deteksi otomatis kejadian jatuh untuk sistem pemantauan ruang privat & medis.

RINGKASAN PROYEK & METODOLOGI

Overview Proyek & Fitur Utama

Ikhtisar latar belakang, arsitektur sistem, dan hasil evaluasi performa deteksi.

Ringkasan Deskripsi Proyek

Deteksi jatuh berbasis kamera berpotensi mendukung pemantauan keselamatan, tetapi citra RGB dapat mengekspos informasi visual sensitif. Penelitian ini merancang sistem deteksi jatuh berbasis abstraksi pose skeleton untuk mendukung preservasi privasi serta membandingkan RF-DETR Nano dan YOLOv11n.

Lima dataset publik diintegrasikan menjadi dataset All-In-One (AIO), kemudian diproses melalui filtering, binarisasi label, normalisasi ukuran, pembentukan skeleton menggunakan YOLOv11-Pose, dan sinkronisasi RGB–skeleton. Tahap preprocessing menghasilkan 30.756 pasangan citra yang dibagi menjadi data training, validation, dan test.

Empat skenario dievaluasi: RF-DETR Nano + RGB, RF-DETR Nano + Skeleton, YOLOv11n + RGB, dan YOLOv11n + Skeleton. Pada 4.964 citra test, RF-DETR Nano + RGB mencapai accuracy tertinggi 97,90% dan missed detection rate terendah 0,80%. Pada input skeleton, RF-DETR Nano memperoleh accuracy 94,68%, Fall recall 92,68%, dan missed detection rate 7,32%, sedangkan YOLOv11n mencapai accuracy 94,88%.

Pengujian tambahan pada 42 video mandiri menunjukkan seluruh pipeline mencapai detection coverage di atas 97%. YOLOv11n + Skeleton menjadi pipeline tercepat dengan 37,86 FPS, sedangkan RF-DETR Nano menghasilkan aktivasi Fall lebih tinggi pada video Fall. Hasil menunjukkan bahwa skeleton dapat mengurangi paparan informasi berbasis penampilan sambil mempertahankan kemampuan deteksi real-time.

Kata Kunci:Deteksi JatuhPreservasi PrivasiRF-DETRYOLOv11Skeleton Pose 2D

1. Preservasi Privasi Visual Total

Mengonversi citra RGB menjadi kanvas skeleton hitam murni. Menghapus 100% informasi penampilan (wajah, pakaian, warna kulit, dan latar ruangan) tanpa mengorbankan geometri postur jatuh.

2. Dataset AIO (30.756 Citra Synced)

Membangun dataset All-In-One (AIO) terstandardisasi dari 5 dataset publik. Menghasilkan 30.756 pasang citra RGB & Skeleton yang tersinkronisasi presisi 1-to-1 untuk benchmark adil.

3. Comparative Benchmark DETR vs YOLO

Studi terarah membandingkan Detection Transformer modern (direct set prediction tanpa NMS) dengan YOLOv11 (one-stage CNN). Membuktikan bahwa tipe representasi (RGB vs Skeleton) berpengaruh lebih dominan daripada variasi arsitektur model.

4. Pengujian Deployment 42 Video Mandiri

Validasi dunia nyata (unseen video dataset) sebanyak 42 video (11.878 frame) mencakup skenario Single-person dan Multi-person pada PC RTX 3060. Mengukur throughput kontinu (>97% coverage) dan analisis trade-off sensitivitas.

MEKANISME PRESERVASI PRIVASI

Eradikasi Identitas Visual via Skeleton Pose 2D

Bagaimana pemrosesan visi komputer mengeliminasi fitur sensasional tanpa kehilangan geometri kunci kondisi jatuh.

Postur Subjek:
Local Transient Memory (No Raw RGB Streaming)
Kanvas Skeleton 2D (Real-Time)
100% Preservasi Privasi
Fall 0.91 (17-Keypoints Skeleton)
Sorot kursor pada daftar 17 titik di kanan untuk highlight instan

Struktur 17 COCO Keypoints (Klik / Sorot Kursor)

YOLOv11-Pose Conf = 0.25
0: Nose (Hidung)
Wajah / Head
1: L Eye (Mata Kiri)
Wajah / Head
2: R Eye (Mata Kanan)
Wajah / Head
3: L Ear (Telinga Kiri)
Wajah / Head
4: R Ear (Telinga Kanan)
Wajah / Head
5: L Shoulder (Bahu Kiri)
Bahu & Batang Tubuh
6: R Shoulder (Bahu Kanan)
Bahu & Batang Tubuh
7: L Elbow (Siku Kiri)
Tangan & Siku
8: R Elbow (Siku Kanan)
Tangan & Siku
9: L Wrist (Pergelangan Tangan Kiri)
Pergelangan Tangan
10: R Wrist (Pergelangan Tangan Kanan)
Pergelangan Tangan
11: L Hip (Pinggul Kiri)
Pinggul & Badan
12: R Hip (Pinggul Kanan)
Pinggul & Badan
13: L Knee (Lutut Kiri)
Lutut & Tungkai
14: R Knee (Lutut Kanan)
Lutut & Tungkai
15: L Ankle (Pergelangan Kaki Kiri)
Pergelangan Kaki
16: R Ankle (Pergelangan Kaki Kanan)
Pergelangan Kaki
Informasi Dipertahankan:
  • Topologi Geometri Pose 2D (17 Keypoints)
  • Sudut Spasial & Hubungan Vektor Sendi
  • Orientasi Postur Jatuh (Lying State)
Informasi Di-Eradikasi (Eradicated):
  • Fitur Biometrik Wajah & Identitas
  • Warna Kulit, Pakaian, & Gender
  • Detail Perabotan & Latar Belakang Kamar

KERANGKA METODOLOGI MLLC

Alur Data Preprocessing & Sinkronisasi

6 Tahapan metodis transformasi dataset dari citra heterogen mentah hingga dataset RGB-Skeleton tersinkronisasi presisi.

Tahap 01 dari 06 Preprocessing

Data Acquisition

34.580 Citra Mentah

Mengintegrasikan 5 dataset publik (CaucaFall, Human Fall Detection, Exceptional Situations, First Pedestrian, Human Action Recognition) untuk memperkaya variasi pencahayaan, sudut kamera, dan jumlah subjek.

Input Data:
5 Repositori Dataset Publik (RGB & BBox)
Hasil Output:
Dataset All-In-One (AIO) Awal (34.580 Citra, 47.944 Bounding Box)
Subset Training
20.125 Citra
6.769 Fall BBox / 21.048 No-Fall BBox
Subset Validation
5.667 Citra
1.944 Fall BBox / 5.700 No-Fall BBox
Subset Testing
4.964 Citra
2.478 Fall BBox / 4.626 No-Fall BBox

HASIL EVALUASI EKSPERIMENTAL

Benchmark Kuantitatif 4 Skenario

Hasil komparasi mendalam pada 4.964 citra dataset testing independen.

Skenario 0AAkurasi & Recall Tertinggi

RF-DETR Nano + RGB

97.9%
Accuracy (Overall)
Input Type:RGB Full
Model Architecture:RF-DETR Nano
Skenario 0BPreservasi Privasi + DETR

RF-DETR Nano + Skeleton

94.68%
Accuracy (Overall)
Input Type:2D Skeleton (Privasi)
Model Architecture:RF-DETR Nano (Utama)
Skenario 0CFast Baseline CNN

YOLOv11n + RGB

96.86%
Accuracy (Overall)
Input Type:RGB Full
Model Architecture:YOLOv11n
Skenario 0DInference Tercepat (37.86 FPS)

YOLOv11n + Skeleton

94.88%
Accuracy (Overall)
Input Type:2D Skeleton (Privasi)
Model Architecture:YOLOv11n

Kalkulator Trade-off & Simulator Performa Model

Simulasikan kombinasi arsitektur, tipe input, dan confidence threshold secara real-time

Interactive Trade-off Engine
0.25
0.10 (Sensitif)0.25 (Optimal)0.80 (Ketat)
Hasil Estimasi Performa & Privasi
RF-DETR Nano + Skeleton
94.68%
Akurasi Performa
92.68%
Fall Recall Rate
7.32%
Missed Rate
24.96 FPS
Kecepatan Inferensi
40,58 ms
Latensi per Frame
100%
Skor Preservasi Privasi
Sangat Direkomendasikan untuk Pemantauan Ruang Privat (Kamar Tidur / Kamar Mandi)
Penggunaan abstraksi 2D Skeleton mengeliminasi 100% identitas visual wajah dan pakaian tanpa mengorbankan performa deteksi real-time.

Matriks Kebingungan (Confusion Matrix Breakdown)

Kelas Positif = Fall
RF-DETR Nano + RGB
1612
TP (True Fall)
13
FN (Missed Fall)
91
FP (False Alarm)
3248
TN (True No-Fall)
RF-DETR Nano + Skeleton
1506
TP (True Fall)
119
FN (Missed Fall)
145
FP (False Alarm)
3194
TN (True No-Fall)
YOLOv11n + RGB
1567
TP (True Fall)
58
FN (Missed Fall)
98
FP (False Alarm)
3241
TN (True No-Fall)
YOLOv11n + Skeleton
1463
TP (True Fall)
162
FN (Missed Fall)
92
FP (False Alarm)
3247
TN (True No-Fall)

KODE SUMBER & PROTOTIPE IMPLEMENTASI

Repositori GitHub Prototipe Mandiri

Kunjungi repositori resmi untuk mengunduh source code Python, skrip preprocessing, weights model, dan menjalankan prototipe GUI berbasis Streamlit.

yoga220802 / prototype_privacy_perserving_fall_detection

Public Repo

Python 3.10 • Streamlit • PyTorch • Ultralytics YOLOv11 • Roboflow RF-DETR

Buka di GitHub

Struktur Kode Utama & Modul Prototipe

Fall_Detection_Prototype_v1.py
Streamlit GUI

Antarmuka aplikasi Streamlit untuk simulasi inferensi video/real-time dengan pengaturan threshold & seleksi model.

YOLOv11_Pose_Extractor.py
Preprocessing Engine

Modul destruksi informasi identitas visual menjadi abstraksi 17 keypoint skeleton COCO.

RF_DETR_Inference.py
Detection Transformer

Engine inferensi Roboflow Detection Transformer dengan Deformable Cross-Attention.

requirements.txt
Dependencies

Daftar pustaka PyTorch, Ultralytics YOLOv11, Roboflow Supervision, dan Streamlit.

Instruksi Instalasi & Bobot Pre-trained Tersedia

Repositori ini dilengkapi dengan dokumentasi setup lingkungan conda, daftar pustaka `requirements.txt`, serta tautan pengunduhan bobot model hasil pelatihan (.pt / .onnx).

Kunjungi Repositori GitHub
Quick Start Command Terminal
$ git clone https://github.com/yoga220802/prototype_privacy_perserving_fall_detection.git
cd prototype_privacy_perserving_fall_detection

5 SUMBER DATASET ROBOFLOW UNIVERSE

Dataset All-In-One (AIO) & Sumber Roboflow

Dataset All-In-One (AIO) berjumlah 30.756 citra pasangan RGB-Skeleton dibentuk melalui integrasi dan penyaringan 5 repositori dataset publik di Roboflow Universe.

30.756
Total Citra RGB-Skeleton
5
Dataset Roboflow Universe
17
COCO Keypoints Pose
2
Kelas Label (Fall & No-Fall)

Grafik Interaktif Distribusi Dataset AIO

Visualisasi rasio pembagian dataset 30.756 citra RGB-Skeleton

Proporsi Pembagian Data AIO (Total: 30.756 Citra)100% Total Dataset
65.4%
18.4%
16.2%
65.4% dari total

Subset Training

20,125 Citra
Fall BBox:6.769 Fall BBox
No-Fall BBox:21.048 No-Fall BBox
18.4% dari total

Subset Validation

5,667 Citra
Fall BBox:1.944 Fall BBox
No-Fall BBox:5.700 No-Fall BBox
16.2% dari total

Subset Testing

4,964 Citra
Fall BBox:2.478 Fall BBox
No-Fall BBox:4.626 No-Fall BBox

Daftar 5 Repositori Dataset Roboflow Universe

CaucaFall Dataset

19.893 Citra
Indoor Fall Simulation (Utama)

Dataset simulasi jatuh di area indoor paling komprehensif, mencakup sudut pandang kamera bervariasi untuk pengujian deteksi utama.

Exceptional Situations Dataset

10.824 Citra
Complex Outdoor & Indoor (Filtered)

Dataset kondisi khusus di lingkungan outdoor dan indoor kompleks dengan pencahayaan bervariasi dan latar latar beragam.

Human Fall Detection Dataset

2.164 Citra
ADL (Sitting, Walking, Standing)

Mencakup sampel aktivitas harian normal (Activities of Daily Living) seperti duduk, berdiri, dan berjalan untuk meminimalkan False Positive.

Human Action Recognition Dataset

1.862 Citra
Dynamic Activities (Lari, Jalan, Jatuh)

Aktivitas dinamis manusia mencakup gerakan cepat seperti berlari, berjalan kencang, hingga insiden jatuh tiba-tiba.

First Pedestrian Test Dataset

472 Citra
Outdoor Pedestrians

Dataset pejalan kaki luar ruangan untuk melatih stabilitas deteksi pose skeleton pada subjek bergerak di area terbuka.

Eksplorasi Lebih Banyak Dataset di Roboflow Universe

Roboflow Universe menyediakan ribuan dataset Computer Vision open-source yang dapat diunduh dalam berbagai format (COCO JSON, YOLO TXT, Pascal VOC, dsb).

Kunjungi Roboflow Universe