Python Version License Jupyter

• F1D02410134 : RINALDI NOVIYANTO
• F1D02410053 : I NYOMAN WIDIYASA JAYANANDA
• F1D02410030 : ZUNNUN QORINA
• F1D02410092 : SABRINA MAWADATHUN SALSABILA

Pada proyek PCD ini, kami melakukan eksperimen klasifikasi citra pesawat terbang komersial menggunakan algoritma pembelajaran mesin tradisional (KNN, SVM, dan Random Forest) berdasarkan ekstraksi fitur hybrid (GLCM + HOG). Proyek ini dipecah menjadi delapan notebook terpisah untuk mengevaluasi dampak dari masing-masing tahap preprocessing secara terisolasi maupun kumulatif: 0. Stage0_AeroVision.ipynb: Tanpa Preprocessing (Hanya penyeragaman ukuran citra ke 256ドル \times 256$ piksel sebagai baseline).

1. Stage1_AeroVision.ipynb: Reduksi noise spasial frekuensi tinggi (Gaussian + Median Blur).
2. Stage2_AeroVision.ipynb: Reduksi noise + Peningkatan kontras lokal (CLAHE + Koreksi Gamma).
3. Stage3_AeroVision.ipynb: Reduksi noise + Peningkatan kontras + Penajaman detail/tepi (Unsharp Mask + Sharpening).
4. Stage4_AeroVision.ipynb: Edge-preserving denoising + Contrast Stretching (Non-Local Means + Contrast Stretch).
5. Stage5_AeroVision.ipynb: Morfologi struktur + CLAHE (Morphological Opening + CLAHE).
6. Stage6_AeroVision.ipynb: Bilateral filter + CLAHE + Detail sharpening (Bilateral + CLAHE + Unsharp Mask).
7. Stage7_AeroVision.ipynb: Wavelet de-noising + CLAHE + Sharpening (Wavelet Denoise + CLAHE + Sharpen).

Eksperimen ini mengevaluasi kinerja model pada 10 kelas pesawat terbang komersial (1.000 citra total, diaugmentasikan menjadi 3.000 citra) dengan akselerasi perangkat keras GPU (CuPy) untuk mempercepat proses komputasi. Sebagai bahan perbandingan riset (RESEARCH PURPOSES), setiap notebook juga dilengkapi dengan implementasi klasifikasi Convolutional Neural Network (CNN).

graph TD
 %% Styling
 classDef main fill:#2c3e50,stroke:#34495e,stroke-width:2px,color:#fff;
 classDef prep fill:#9b59b6,stroke:#8e44ad,stroke-width:2px,color:#fff;
 classDef hand fill:#3498db,stroke:#2980b9,stroke-width:2px,color:#fff;
 classDef deep fill:#e74c3c,stroke:#c0392b,stroke-width:2px,color:#fff;
 classDef ml fill:#2ecc71,stroke:#27ae60,stroke-width:2px,color:#fff;
 subgraph Input ["1. Data Acquisition & Augmentation"]
 A["FGVC-Aircraft CSVs"] --> B["Diverse 10-Class Subset - 1,000 Images"]
 B --> C["Data Augmentation - Horizontal Flip & Rotate 15 degrees CCW"]
 C --> D["Grayscale Resize to 256x256 - 3,000 Images Total"]
 end
 class A,B,C,D Input;
 subgraph Preprocessing ["2. Preprocessing Stages"]
 D --> E["Image Filters - Denoising, Contrast, Sharpening"]
 end
 class E Preprocessing;
 subgraph Paths ["3. Feature Extraction Pathways"]
 E --> F["Handcrafted Feature Extraction"]
 E --> G["Deep Feature Extraction - CNN"]
 
 F --> F1["GLCM (56 features) - Micro-Texture"]
 F --> F2["HOG (4,356 features) - Global Shape"]
 F1 & F2 --> F3["Hybrid Features - 4,412 dimensions"]
 
 G --> G1["Fine-tuned EfficientNet-B0 - Transfer Learning"]
 G1 --> G2["Global Avg Pool layer"]
 G2 --> G3["Deep Embeddings - 1,280 dimensions"]
 end
 class F,F1,F2,F3 Paths;
 class G,G1,G2,G3 Paths;
 subgraph Classification ["4. Modeling & Classification"]
 F3 --> H["Z-score Scaling & PCA 150 components"]
 H --> I["Traditional ML Models - Random Forest, SVM RBF, KNN"]
 
 G1 --> J["CNN Classifier Head - Linear Layer"]
 G3 --> K["Lazy Learners on CNN Embeddings - SVM, KNN, RF"]
 end
 class H,I Classification;
 class J,K Classification;
 subgraph Evaluation ["5. Performance & Metrics"]
 I --> L["Handcrafted ML Accuracy - Best: 70.67%"]
 J --> M["CNN Research Accuracy - Best: 92.67%"]
 K --> N["Experimental CNN Embeds Accuracy - Best Overall: 93.67%"]
 end
 class L,M,N Evaluation;
 %% Class assignment
 class A,B,C,D main;
 class E prep;
 class F,F1,F2,F3,H,I,L hand;
 class G,G1,G2,G3,J,M deep;
 class K,N ml;

Untuk mempermudah eksperimen tanpa konfigurasi lokal, Anda dapat membuka masing-masing tahap notebook langsung di Google Colab melalui tombol di bawah ini (disarankan membukanya di tab terpisah):

1. Unduh dataset resmi FGVC-Aircraft dari Kaggle atau situs resminya.
2. Pastikan file CSV (train.csv, val.csv, test.csv) berada di sub-folder fgvc-aircraft/.
3. Letakkan seluruh file citra .jpg di direktori: fgvc-aircraft/fgvc-aircraft-2013b/fgvc-aircraft-2013b/data/images/

1. Klik tombol Open In Colab pada tabel di atas untuk membuka notebook yang ingin Anda jalankan (misalnya, Stage 2: Contrast Enhancement atau Complete Pipeline).
2. Pastikan folder dataset fgvc-aircraft sudah Anda unggah ke Google Drive Anda pada direktori utama: My Drive/fgvc-aircraft/.
3. Jalankan sel pertama (Cell 0) untuk menghubungkan akun Google Drive Anda. Sel tersebut secara otomatis akan menghubungkan Drive, menginstal pustaka yang dibutuhkan dari requirements.txt, dan menyusun struktur folder proyek secara otomatis.

Pastikan Anda menggunakan Python 3.12 (dikelola melalui Scoop atau package manager pilihan Anda).

1. Buka PowerShell 5.1 di direktori proyek AeroVision.
2. Pasang dependensi yang dibutuhkan:

   pip install -r requirements.txt

3. Eksekusi Otomatis (Rekomendasi Skrip): Kami menyediakan skrip PowerShell untuk menjalankan notebook secara otomatis dan langsung memperbarui hasilnya secara in-place (headless execution):
   • Native Windows: Jalankan perintah berikut untuk mengeksekusi semua notebook secara berurutan:

     .\run_notebook_native.ps1 -notebooks all

     Atau untuk mengeksekusi notebook tertentu saja:

     .\run_notebook_native.ps1 -notebooks Stage2_AeroVision

   • WSL (Ubuntu): Jika Anda menggunakan WSL untuk pemrosesan berbasis Linux, jalankan:

     .\run_notebook_in_wsl.ps1 -notebooks all

4. Eksekusi Manual: Jalankan editor Jupyter Notebook atau VS Code, buka file notebook pilihan Anda (misalnya Stage2_AeroVision.ipynb), pilih kernel Python 3.12, dan jalankan sel kode satu per satu.
5. Memperbarui Penjelasan/Markdown Tanpa Menghapus Output: Jika Anda memodifikasi penjelasan teori/teks pada generator create_aerovision_notebook.py dan ingin menyinkronkan seluruh penjelasan di notebook tanpa menghapus/menghilangkan hasil output running sel code yang sudah berjalan lama, jalankan:

   python312 update_notebook_explanations.py

   Skrip ini secara otomatis membackup notebook yang ada, men-generate template baru, dan memulihkan kembali output eksekusi sel code lama secara transparan.

Membaca dataset dilakukan dengan menggabungkan metadata dari file CSV (train.csv, val.csv, test.csv). Kode secara otomatis mendeteksi lingkungan eksekusi (Windows lokal vs Colab) dan menyusun folder kelas secara dinamis:

• Windows Lokal: Menggunakan tautan simbolis (os.symlink) untuk performa instan tanpa membuang penyimpanan disk lokal. Jika hak akses administrator tidak tersedia, program otomatis melakukan fallback ke penyalinan standar (shutil.copy2).
• Google Colab: Melakukan penyalinan file langsung (shutil.copy2) untuk menjaga kompatibilitas dengan Google Drive.
• Citra diubah menjadi keabuan (grayscale) menggunakan OpenCV dan diseragamkan ke resolusi 256ドル \times 256$ piksel melalui modul akselerasi perangkat keras:

  img = cv.resize(img, (256, 256), interpolation=cv.INTER_LINEAR)
  data_all.append(img)

• Hasil resize disimpan ke cache/data_cache.npz. Jika cache sudah tersedia dan valid, setiap stage langsung memuat array siap pakai tanpa membaca ulang seluruh gambar. Jika cache rusak atau tidak kompatibel, notebook otomatis membuat ulang cache dari file dataset.

Kami memperkaya variabilitas orientasi objek pesawat terbang agar model klasifikasi lebih generalis (mencegah overfitting) melalui augmentasi spasial secara paralel:

1. Horizontal Flip: Membalik posisi matriks piksel citra secara horizontal (acc.Image_Ops.flip).
2. Slight Rotation (15 derajat CCW): Memutar citra berlawanan arah jarum jam (acc.Image_Ops.rotate). Perubahan ukuran kanvas akibat rotasi secara otomatis dipotong kembali ke 256ドル \times 256$ menggunakan cv.resize.

Kami memisahkan eksperimen menjadi delapan tahap preprocessing untuk mengevaluasi pengaruh kualitas pengolahan citra terhadap statistik tekstur dan bentuk secara mendalam:

• Stage 0 (Baseline): Tanpa preprocessing (Hanya penyeragaman ukuran citra ke 256ドル \times 256$ piksel).
• Stage 1 (Noise Reduction): Mengaplikasikan Gaussian Blur (kernel=3) untuk meredam noise sensor frekuensi tinggi dan Median Blur (kernel=3) untuk mengeliminasi noise salt-and-pepper.
• Stage 2 (Contrast Enhancement): Menambahkan CLAHE (clip_limit=2.0) untuk menyeimbangkan kontras lokal pesawat terhadap langit, dan Koreksi Gamma ($\gamma=0.9$) untuk mencerahkan bayangan gelap pada bagian mesin/bawah pesawat.
• Stage 3 (Detail Enhancement): Menggunakan Unsharp Masking untuk memperjelas outline bodi pesawat dan Sharpening filter untuk mempertegas kontur panel logam pesawat.
• Stage 4 (Edge-Preserving Denoise): Menggunakan Non-Local Means Denoising (NLMeans) untuk meminimalkan noise tanpa merusak ketajaman batas tepi, dikombinasikan dengan Contrast Stretching untuk meregangkan rentang dinamis intensitas piksel.
• Stage 5 (Morphological Opening): Menerapkan Morphological Opening dengan kernel 3ドル \times 3$ untuk merapikan kontur bodi pesawat dan menghilangkan objek kecil latar belakang, dikombinasikan dengan CLAHE.
• Stage 6 (Bilateral Filter): Menggunakan Bilateral Filter untuk smoothing adaptif yang menjaga batas tepi bodi pesawat tetap tegas, diikuti dengan CLAHE dan Unsharp Masking.
• Stage 7 (Wavelet Denoise): Menerapkan Wavelet Denoising dengan soft thresholding level 2 pada domain frekuensi wavelet untuk reduksi noise multi-skala, lalu ditingkatkan kontrasnya dengan CLAHE dan dipertegas kembali dengan filter penajam.

graph TD
 %% Styling
 classDef base fill:#7f8c8d,stroke:#95a5a6,stroke-width:2px,color:#fff;
 classDef stage fill:#9b59b6,stroke:#8e44ad,stroke-width:2px,color:#fff;
 classDef advanced fill:#d35400,stroke:#e67e22,stroke-width:2px,color:#fff;
 Start["Original Input Images"] --> S0["Stage 0: Baseline - Resize Only"]
 Start --> S1["Stage 1: Noise Reduction"]
 
 S1 --> S1_G["Gaussian Blur (kernel=3)"]
 S1_G --> S1_M["Median Blur (kernel=3)"]
 
 S1_M --> S2["Stage 2: Contrast Enhancement"]
 S2 --> S2_C["CLAHE (clip=1.5)"]
 S2_C --> S2_G["Gamma Correction (gamma=0.8)"]
 
 S2_G --> S3["Stage 3: Detail & Edge Enhancement"]
 S3 --> S3_U["Unsharp Masking (sigma=1.0, strength=1.5)"]
 S3_U --> S3_S["Sharpening Convolution"]
 
 Start --> S4["Stage 4: Edge-Preserving Denoising"]
 S4 --> S4_NL["NLMeans Denoising (h=10)"]
 S4_NL --> S4_CS["Contrast Stretching (2% to 98%)"]
 
 Start --> S5["Stage 5: Morphological Structural Enhancement"]
 S5 --> S5_O["Morphological Opening (ksize=3)"]
 S5_O --> S5_C["CLAHE (clip=2.0)"]
 
 Start --> S6["Stage 6: Bilateral Smoothing"]
 S6 --> S6_B["Bilateral Filter (d=9, sigma=75)"]
 S6_B --> S6_C["CLAHE (clip=2.0)"]
 S6_C --> S6_U["Unsharp Masking (sigma=1.0, strength=1.5)"]
 
 Start --> S7["Stage 7: Wavelet-Domain Denoising"]
 S7 --> S7_W["Wavelet Denoising (Level 2 soft)"]
 S7_W --> S7_C["CLAHE (clip=2.0)"]
 S7_C --> S7_S["Sharpening Convolution"]
 class S0 base;
 class S1,S2,S3 stage;
 class S4,S5,S6,S7 advanced;

Setiap notebook memplot perbandingan Sebelum (Original Grayscale) dan Sesudah (Preprocessed) secara berdampingan untuk satu sampel dari masing-masing 10 kelas pesawat.

Berikut adalah contoh visualisasi Sebelum vs Sesudah preprocessing pada beberapa tahap:

Stage 1 Preprocessing Transition

Stage 3 Preprocessing Transition

Stage 5 Preprocessing Transition

Stage 7 Preprocessing Transition

Alih-alih hanya menggunakan fitur tekstur GLCM, proyek ini menerapkan pendekatan ekstraksi fitur hybrid yang menggabungkan fitur tekstur mikro (GLCM) dan fitur bentuk/tepi makro (HOG) untuk memperoleh deskripsi citra yang sangat diskriminatif:

1. GLCM: Setiap citra dikuantisasi ke 16 tingkat keabuan untuk meredam noise mikro. Matriks co-occurrence dihitung secara simetris ternormalisasi pada jarak 1 dan 2 piksel untuk 4 sudut (0ドル^\circ$, 45ドル^\circ$, 90ドル^\circ$, 135ドル^\circ$). Tujuh parameter statistik spasial diekstrak: Contrast, Homogeneity, Correlation, Dissimilarity, Entropy, ASM, dan Energy (menghasilkan 56 fitur tekstur).
2. HOG: Citra di-resize ke ukuran 96ドル \times 96$ piksel. Kemudian, HOG descriptor dihitung menggunakan orientasi gradien 9, piksel per sel 8, dan sel per blok 2 (menghasilkan 4.356 fitur bentuk).
3. Hybrid: Menggabungkan fitur GLCM dan HOG secara horizontal menjadi 4.412 fitur hybrid per citra.

graph TD
 %% Styling
 classDef img fill:#2c3e50,stroke:#34495e,stroke-width:2px,color:#fff;
 classDef glcm fill:#3498db,stroke:#2980b9,stroke-width:2px,color:#fff;
 classDef hog fill:#9b59b6,stroke:#8e44ad,stroke-width:2px,color:#fff;
 classDef concat fill:#2ecc71,stroke:#27ae60,stroke-width:2px,color:#fff;
 InputImage["Preprocessed Image (256x256)"] --> GLCMPath["GLCM Pathway"]
 InputImage --> HOGPath["HOG Pathway"]
 subgraph GLCM ["GLCM Feature Extraction - 56 Dimensions"]
 GLCMPath --> Q["32-Level Gray-Level Quantization"]
 Q --> Calc["Compute symmetric GLCM matrices - Distances: 1 and 2, Angles: 0, 45, 90, 135 degrees"]
 Calc --> Stats["Extract 7 Haralick Statistics - Contrast, Homogeneity, Dissimilarity, Energy, Entropy, Correlation, ASM"]
 Stats --> OutGLCM["56 Texture Features"]
 end
 subgraph HOG ["HOG Feature Extraction - 4,356 Dimensions"]
 HOGPath --> Resize["Downsample image to 96x96"]
 Resize --> Grad["Compute local intensity gradients (dx, dy)"]
 Grad --> Cells["Compute orientation histograms (8x8 Pixels/Cell, 9 bins)"]
 Cells --> Blocks["Normalize contrast across blocks (2x2 Cells/Block, step=1)"]
 Blocks --> OutHOG["4,356 Shape/Edge Features"]
 end
 OutGLCM --> Concatenate["Concatenate Features (Axis 1)"]
 OutHOG --> Concatenate
 Concatenate --> Output["Hybrid Feature Vector - 4,412 Dimensions"]
 class InputImage img;
 class GLCM,Q,Calc,Stats,OutGLCM glcm;
 class HOG,Resize,Grad,Cells,Blocks,OutHOG hog;
 class Concatenate,Output concat;

Fitur hybrid GLCM + HOG berukuran 4.412 dimensi per citra. Pada eksekusi terbaru, fitur tersebut dinormalisasi dan disusutkan menggunakan StandardScaler + PCA 150 komponen:

scaler = StandardScaler()
X_train_scaled = scaler.fit_transform(X_train)
X_test_scaled = scaler.transform(X_test)
pca = PCA(n_components=150, random_state=67)
X_train_pca = pca.fit_transform(X_train_scaled)
X_test_pca = pca.transform(X_test_scaled)

Kombinasi ini menjaga informasi bentuk/tekstur utama, menekan noise dimensi tinggi, dan membuat SVM/KNN jauh lebih stabil serta cepat.

• Pembagian Data: Matriks fitur terpilih dipisahkan menjadi 80% subset data latih (training set) dan 20% subset data uji (testing set) secara acak terkontrol (random_state=67):

  X_train, X_test, y_train, y_test = train_test_split(X_raw, y_target, test_size=0.2, random_state=67)

• Normalisasi + PCA: Kolom fitur dinormalisasi menggunakan Standardisasi Z-Score, lalu diproyeksikan ke 150 komponen PCA yang hanya di-fit pada training set untuk mencegah data leakage.

Kami melatih tiga model klasifikasi utama (Random Forest, SVM, dan KNN) menggunakan representasi PCA 150 komponen (dengan seed acak random_state=67), serta model CNN berbasis transfer learning untuk tujuan riset:

• Random Forest: Menggunakan n_estimators=150 dengan criterion='entropy' dan max_depth=15 untuk optimasi keputusan ensemble.
• SVM: RBF Kernel dengan parameter regulasi C=5.0 dan gamma='scale'.
• KNN: Menggunakan k=9 dengan metrik cosine dan pembobotan jarak (weights='distance').
• CNN (Research): Model PyTorch berbasis EfficientNet-B0 pretrained. Input grayscale saluran tunggal diulang menjadi 3 channel, backbone dibekukan sebagian besar (kecuali blok akhir 7-8 yang di-fine-tune), dan output classifier diselaraskan menjadi 10 kelas. Model dilatih selama 10 epoch pada dataset komersial 10 kelas (3.000 citra augmented), menghasilkan konvergensi yang sangat tinggi.

graph TD
 %% Styling
 classDef input fill:#2c3e50,stroke:#34495e,stroke-width:2px,color:#fff;
 classDef backbone fill:#e74c3c,stroke:#c0392b,stroke-width:2px,color:#fff;
 classDef traditional fill:#3498db,stroke:#2980b9,stroke-width:2px,color:#fff;
 classDef output fill:#2ecc71,stroke:#27ae60,stroke-width:2px,color:#fff;
 Img["Preprocessed Image (256x256, Grayscale)"] --> Dupl["Duplicate Grayscale to 3-Channel RGB (256x256x3)"]
 Dupl --> Backbone["EfficientNet-B0 Backbone (Pretrained ImageNet weights)"]
 subgraph CNN_Path ["Jalur 1: CNN Research Classifier"]
 Backbone --> Unfrozen["Fine-tuned Convolutional Blocks (Blocks 7 and 8)"]
 Unfrozen --> Classifier["Linear Output Classifier Layer"]
 Classifier --> CNN_Pred["10-Class Classification Output - Accuracy: ~92.67%"]
 end
 subgraph Embeds_Path ["Jalur 2: CNN Embeddings + Lazy Learners (EXPERIMENTAL)"]
 Backbone --> AvgPool["Global Average Pooling Layer"]
 AvgPool --> Embeds["1280-dim Feature Embedding"]
 
 Embeds --> SVM["SVM (RBF Kernel) C=5.0"]
 Embeds --> KNN["KNN (k=9) Cosine distance"]
 Embeds --> RF["Random Forest (150 Trees)"]
 
 SVM --> SVM_Pred["SVM Predictions - Accuracy: 93.67% (BEST OVERALL)"]
 KNN --> KNN_Pred["KNN Predictions - Accuracy: 93.00%"]
 RF --> RF_Pred["RF Predictions - Accuracy: 91.67%"]
 end
 class Img,Dupl input;
 class Backbone,Unfrozen,Classifier,AvgPool,Embeds backbone;
 class SVM,KNN,RF traditional;
 class CNN_Pred,SVM_Pred,KNN_Pred,RF_Pred output;

Analisis Akurasi: Hasil eksekusi terbaru menunjukkan bahwa ketika model tradisional (lazy learners) dilatih menggunakan CNN Embeddings (1280-dimensi), performa mereka meningkat secara dramatis (mengalami "smartening" hingga >90% akurasi). Puncak akurasi tertinggi diraih oleh SVM (CNN Embeds) pada Stage 3 (Noise + Contrast + Edge) sebesar 93.67%, yang melampaui model CNN murni (92.17% pada stage yang sama). Untuk fitur handcrafted GLCM+HOG, SVM RBF tetap menjadi pengklasifikasi paling stabil dengan akurasi terbaik sebesar 70.67% pada Stage 2 dan Stage 5.

Hasil fitur setiap stage disimpan sebagai artefak terkompresi di folder results/ dengan pola nama result_extract_stage_X.csv.gz. Jika file stage sudah ada, notebook melewati proses penulisan ulang.

Setiap model dievaluasi untuk melihat tingkat keberhasilan pengelompokan prediksi benar vs salah. Visualisasi matriks kebingungan diatur agar tidak menampilkan angka kuantitatif mentah (include_values=False) untuk mencegah teks yang saling bertumpuk dan tidak rapi pada sel grid.

• Model Tradisional (Handcrafted HOG+GLCM) Terbaik: SVM RBF pada Stage 2 & Stage 5 dengan akurasi 70.67%.
• Model Deep Learning (Research) Terbaik: CNN (EfficientNet-B0) pada Stage 0 & Stage 3 dengan akurasi 92.67% & 92.17%.
• Model Eksperimental (CNN Embeds + Traditional ML) Terbaik: SVM (CNN Embeds) pada Stage 3 dengan akurasi tertinggi keseluruhan proyek sebesar 93.67%.

Berikut adalah visualisasi confusion matrix untuk model-model terbaik tersebut:

SVM CNN Embeddings Stage 3 Confusion Matrix

CNN Stage 0 Confusion Matrix

SVM Stage 5 Confusion Matrix

SVM (Support Vector Machine) dengan kernel RBF secara konsisten menghasilkan akurasi tertinggi. Ada tiga alasan utama:

1. SVM dirancang untuk dimensi tinggi. Fitur gabungan HOG + GLCM menghasilkan 4.412 dimensi per citra. SVM mencari hyperplane yang memaksimalkan margin antar kelas; justru inilah kekuatan optimalnya di ruang berdimensi tinggi.
2. Kernel RBF menangkap hubungan non-linear. Perbedaan antara ATR-72 (baling-baling) dan A380 (mesin jet ganda) bukan hubungan linear. Kernel RBF memetakan data ke ruang Hilbert berdimensi tak terbatas untuk menemukan batas pemisah non-linear yang kompleks.
3. KNN terkena curse of dimensionality. Di 4.412 dimensi, jarak Euclidean antar semua titik data menjadi hampir sama, sehingga konsep "tetangga terdekat" kehilangan makna. Random Forest pun rawan high variance karena banyak pohon yang bercabang berdasarkan fitur noise.

HOG dan GLCM saling melengkapi pada dimensi yang berbeda:

• GLCM menangkap tekstur mikro, yaitu hubungan spasial antar piksel bertetangga. Setiap kelas pesawat punya "sidik jari tekstur": A380 memiliki fuselage mulus (homogenitas tinggi), DHC-6 punya tekstur badan kasar (dissimilarity tinggi). GLCM menghasilkan 56 fitur dari 2 jarak ×ばつ 4 sudut.
• HOG menangkap bentuk struktural makro, berupa distribusi arah tepi dan gradien secara spasial. HOG merekam kemiringan sayap, posisi dan jumlah mesin, serta kontur fuselage keseluruhan. Dengan resolusi ×ばつ96 dan cell ×ばつ8, HOG menghasilkan 4.356 fitur.

HOG → "Ini pesawat dengan sayap swept-back dan 4 mesin" → Kandidat: A380, 747-400
GLCM → "Tekstur fuselage sangat mulus, homogenitas 0.92" → Keputusan: A380 ✓

Tanpa HOG, GLCM gagal membedakan pesawat berbentuk mirip. Tanpa GLCM, HOG gagal jika gambar blur atau sudut pengambilan tidak ideal.

Dataset FGVC-Aircraft bukan hanya foto pesawat sempurna di bandara. Dataset ini mencakup:

Keberadaan gambar rusak/parsial ini sebenarnya adalah fitur, bukan bug, yang melatih model agar lebih robust terhadap kondisi nyata yang tidak sempurna.

1. 🔍 Investigasi Kecelakaan Pesawat: Tim investigasi (NTSB/KNKT) dapat mengidentifikasi tipe pesawat dari foto puing yang tersebar di lokasi kecelakaan secara otomatis, tanpa menunggu ahli manual, bahkan ketika rekaman penerbangan rusak.
2. 🛂 Sistem Keamanan Bandara: Deteksi pesawat yang masuk zona larangan secara real-time, atau klasifikasi otomatis tipe pesawat untuk optimasi slot gate di apron.
3. 🛡️ Pertahanan & Pengawasan: Identifikasi pesawat sipil vs militer dari radar imaging atau citra satelit.
4. 📚 Arsip Penerbangan: Pelabelan otomatis arsip foto pesawat historis dan sistem pencarian berbasis kemiripan visual.

Meskipun akurasi ~67-70% terlihat belum sempurna, dalam investigasi kecelakaan, output berupa 5 kandidat tipe pesawat teratas sudah mempersempit pencarian dari 100+ tipe menjadi 5 kemungkinan, yang sangat mempercepat kerja investigator.

PCA sekarang menjadi bagian utama pipeline setelah standardisasi fitur, dan terbukti membantu kestabilan model:

1. Mereduksi curse of dimensionality. Fitur gabungan GLCM + HOG menghasilkan 4.412 dimensi. PCA menyusutkannya menjadi 150 komponen yang lebih padat sehingga KNN dan SVM tidak terlalu dipengaruhi noise dimensi tinggi.
2. Mencegah data leakage. StandardScaler dan PCA di-fit hanya pada X_train, lalu dipakai untuk mentransformasi X_test.
3. Mempercepat training. Setelah PCA, SVM RBF selesai sekitar 1 detik per stage dan KNN training praktis instan.

Kesimpulan: PCA 150 komponen adalah kompromi yang bagus untuk pipeline ini: cukup kecil untuk cepat, tetapi masih mempertahankan informasi visual penting bagi SVM.

Setiap tahap memperkuat sinyal fitur dan menekan noise:

• Tahap 1 (Noise Reduction): Gaussian + Median Blur membuat matriks GLCM lebih stabil (kontras dan entropy tidak terpengaruh noise piksel acak), dan mengurangi gradien palsu HOG dari permukaan citra yang kasar.
• Tahap 2 (Contrast Enhancement): CLAHE memperjelas batas pesawat terhadap langit. Koreksi Gamma mengangkat detail area gelap di bawah badan pesawat. Histogram orientasi HOG menjadi lebih peaky (tidak flat) sehingga lebih diskriminatif.
• Tahap 3 (Edge Enhancement): Unsharp Mask + Sharpening mempertegas kontur sayap, mesin, dan ekor. HOG menghasilkan histogram orientasi yang lebih definitif, meskipun efek yang terlalu tajam juga dapat memperkuat noise latar belakang, itulah mengapa Stage 3 sedikit menurun.

Dalam satu kalimat: Preprocessing tidak mengubah "gambar apa", tapi mengubah "seberapa jelas fitur khas kelas itu terlihat bagi algoritma matematis".

Dengan 3 kelas, model mudah "menghapal" tanpa belajar fitur yang robust, yang menghasilkan akurasi tinggi palsu. Kami memilih 10 kelas dengan variabilitas struktural tinggi yang disengaja: narrow-body (737-800), wide-body (A380, 747-400, MD-11), turboprop (ATR-72, DHC-6, BAE 146-200), piston (Cessna 172), dan regional jet (E-190, Fokker 100). Variasi ini memaksa SVM membangun batas keputusan yang benar-benar bermakna.

Ya. Dengan hanya ~100 gambar asli per kelas:

1. Batas kelas bisa didominasi outlier (foto sudut ekstrem, parsial). Augmentasi mempertegas distribusi kelas yang "wajar" sehingga support vector SVM lebih representatif.
2. HOG sangat sensitif terhadap orientasi. Flip horizontal membalik seluruh histogram orientasi. Tanpa augmentasi, SVM kesulitan mengenali pesawat yang "terbalik arah" dari foto latih.
3. Rotasi 15° melatih invariansi sudut, karena pesawat di foto nyata jarang sempurna horizontal.

Augmentasi flip + rotate meningkatkan akurasi SVM sekitar 10-15 persentase poin dan meningkatkan stabilitas model secara keseluruhan.

Pada bagian akhir pemodelan, kami menggunakan arsitektur CNN berbasis Transfer Learning (EfficientNet-B0) sebagai bahan perbandingan riset. Berikut adalah analisis perbandingan antara metode ekstraksi fitur manual (handcrafted) dengan ekstraksi fitur otomatis berbasis deep learning:

• Model Tradisional (SVM / RF + GLCM + HOG): Menggunakan fitur yang didefinisikan secara matematis. Karena fiturnya sudah 'jadi', model SVM dengan regularisasi RBF C=5.0 dapat belajar dengan sangat efisien pada dataset kecil (~3.000 citra augmented, ~300 per kelas) dan mencapai akurasi optimal (~70.67%).
• Deep Learning (CNN, PyTorch): Melalui fine-tuning model pretrained EfficientNet-B0 untuk target 10 kelas selama 10 epoch, model CNN berhasil menembus akurasi 92.67% (Stage 0). Ini menunjukkan bahwa transfer learning memecahkan keterbatasan data hunger pada model konvolusi di dataset terbatas.

Masukan citra yang digunakan berupa citra grayscale saluran tunggal ((256, 256, 1)). Walau demikian, model CNN (EfficientNet-B0) yang menduplikasi input menjadi 3 channel mampu mengekstrak fitur bentuk/tepi spasial hierarkis yang sangat kuat sehingga mencapai akurasi yang melampaui 92%.

**Catatan: Waktu latih dan memori dihitung setelah fitur embedding selesai diekstraksi dari model CNN.

Untuk tugas klasifikasi citra pada dataset FGVC-Aircraft subset 10 kelas komersial, model Deep Learning (CNN) dengan Transfer Learning (EfficientNet-B0) terbukti memberikan akurasi jauh lebih tinggi (92.67%) dibandingkan model tradisional (70.67%), namun membutuhkan komputasi GPU/VRAM yang lebih intensif. Di sisi lain, kombinasi GLCM + HOG + SVM tetap menjadi alternatif yang sangat efisien jika sumber daya komputasi sangat terbatas (misalnya pada CPU atau GPU tanpa VRAM memadai), karena mampu dilatih secara instan dengan akurasi yang cukup kompetitif.

Berdasarkan hasil uji coba bagian eksperimental, penggunaan CNN Embeddings (1280-dimensi) untuk melatih model tradisional (SVM, KNN, Random Forest) memberikan hasil yang sangat menarik:

1. Peningkatan Akurasi yang Signifikan (Smartening): Model lazy learners seperti SVM dan KNN yang sebelumnya hanya mencapai akurasi sekitar ~70.67% (SVM) dan ~54.50% (KNN) menggunakan fitur handcrafted HOG+GLCM, mengalami peningkatan performa yang dramatis saat dilatih dengan CNN Embeddings (sering kali meningkat hingga > 85% atau mendekati performa asli CNN). Hal ini membuktikan bahwa representasi fitur yang diekstraksi secara otomatis oleh arsitektur deep learning jauh lebih representatif dan terstruktur dengan baik dibandingkan fitur buatan tangan.
2. SVM dan KNN Lebih Diuntungkan:
   • SVM (RBF) sangat unggul dalam memisahkan ruang representasi 1280-dimensi dari CNN Embeddings karena margin pemisahnya dapat menemukan batas keputusan non-linear yang sangat optimal. Bahkan, SVM (CNN Embeds) di Stage 3 mencatat akurasi tertinggi proyek ini sebesar 93.67%, melampaui CNN murni.
   • KNN (Cosine) juga mengalami lonjakan performa yang tinggi karena kemiripan fitur dalam ruang embedding CNN sangat sejalan dengan kesamaan semantik antar kelas pesawat.
   • Random Forest menunjukkan peningkatan, namun terkadang sedikit tertinggal dibanding SVM karena sifat model ensemble pohon keputusan yang kurang optimal menangani ruang koordinat kontinu berdimensi sangat tinggi tanpa pembagian spasial yang eksplisit.

Kami sangat menyambut kontribusi untuk meningkatkan performa klasifikasi, efisiensi pipeline, atau dokumentasi proyek ini! Berikut adalah langkah-langkah untuk berkontribusi:

1. Lakukan Fork pada repositori ini.
2. Clone hasil fork ke mesin lokal Anda:

   git clone https://github.com/USERNAME/AeroVision.git

Pastikan dependensi terpasang menggunakan Python 3.12 (atau versi yang kompatibel):

pip install -r requirements.txt

Anda dapat berkontribusi pada beberapa aspek:

• Perubahan Kode / Notebook:
  • Anda diperbolehkan mengedit berkas notebook .ipynb secara langsung.
  • Sebagai alternatif, kami menyediakan berkas generator create_aerovision_notebook.py. Jika Anda ingin memperbarui struktur atau konten penjelasan teori di seluruh notebook secara konsisten, Anda dapat memodifikasi berkas generator tersebut dan menjalankannya kembali:

    python312 create_aerovision_notebook.py

• Optimasi Pipeline:
  • Jika Anda melakukan optimasi pada bagian ekstraksi fitur atau pemrosesan gambar, perbarui berkas all-script-accelerated.py.

1. Commit perubahan Anda dengan pesan yang deskriptif.
2. Push ke branch baru di fork Anda.
3. Buat Pull Request ke repositori utama (Schryzon/AeroVision) dengan penjelasan mengenai perubahan yang Anda lakukan.