Accurate inspection of subtle defects on apple surfaces is necessary in agricultural engineering. However, existing methods often rely on expensive equipment and encounter difficulty in detecting small defect areas effectively. To address this challenge, we introduce the Subtle Surface Defects in Apples (SSDA) dataset, a custom dataset specifically collected and annotated for two defect types: scratches and pest damage. For benchmarking, we propose a heatmap-based anchor-free (HAFREE) detector, a novel end-to-end object detection architecture designed to localize subtle defects on apple surfaces. Unlike prior methods that rely on anchor boxes, HAFREE employs a heatmap-based approach to represent defects as keypoints using two-dimensional Gaussian heatmaps. We introduce a multiscale feature fusion block, targeting small objects by incorporating local and global contextual information. To mitigate overfitting, we also implement a patch training strategy incorporating full images and cropped patches during training as a regularizer. The proposed method achieves a mAP50 of 50.05% on the SSDA dataset, outperforming one- and two-stage anchor-based detectors and previous anchor-free approaches. Code is available at: https://github.com/nbngochan/HAFREE.
Transformer-based time series forecasting models use patch tokens for temporal patterns and variate tokens to learn covariates’ dependencies. While patch tokens inherently facilitate self-supervised learning, variate tokens are more suitable for linear forecasters as they help to mitigate distribution drift. However, the use of variate tokens prohibits masked model pretraining, as masking an entire series is absurd. To close this gap, we propose LSPatch-T (Long–Short Patch Transfer), a framework that transfers knowledge from short-length patch tokens into full-length variate tokens. A key implementation is that we selectively transfer a portion of the Transformer encoder to ensure the linear design of the downstream model. Additionally, we introduce a robust frequency loss to maintain consistency across different temporal ranges. The experimental results show that our approach outperforms Transformer-based baselines (Transformer, Informer, Crossformer, Autoformer, PatchTST, iTransformer) on three public datasets (ETT, Exchange, Weather), which is a promising step forward in generalizing time series forecasting models.
31 May 2024 in The Journal of Korean Institute of Information Technology
본 연구에서는 임베디드 시스템 기반 사과 품질 예측을 위한 최적의 딥러닝 모델 탐색에 관한 연구를 수행하였다. 탐색을 위해 경량 모델 6종을 학습하고 정확도와 추론 속도에 대한 가중평가 하였다. 실제 수집한 사과 품질 이미지 데이터셋을 활용하여 전이학습을 진행하였으며, 그 결과 RegNet-y 모델이 가장 우수한 성능을 보였다. 이를 임베디드 시스템에의 배포하기 위해 최적화 실험을 거쳐, 최종적으로 테스트 데이터셋 2,000장에 대해서 정확도 95.36%와 이미지 당 0.0566초의 추론속도를 달성하였다. 본 연구의 결과는 임베디드 시스템에서 효율적인 딥러닝 모델 활용에 대한 경험적 데이터를 제공하여 실시간 애플리케이션 가능성을 확장한다.
30 June 2024 in The Journal of Korean Institute of Information Technology
본 연구에서는 딥러닝 기반 사과 이미지에서 무게 및 등급 예측 알고리즘을 제안한다. 사과의 등급은 국립농산물품질관리원의 농산물 품질규격에서 정량적 평가 기준에 따라 무게로 구분된다. 따라서 딥러닝 기반 무게 예측을 학습하기 위하여 사과 이미지 무게 데이터를 수집하였으며, 실험을 위해 학습 12,932개, 검증 3,695개, 테스트 1,848개를 사용하였다. 무게 예측 실험을 위해 7가지의 머신러닝 기반 회귀 모델과 딥러닝 모델 MobileNetV3을 학습하였으며, 실험 결과는 MobileNetV3의 MAE가 머신러닝 중 성능이 가장 높은 Random Forest보다 37.8715 낮은 59.7430를 달성한다. 테스트 데이터에서 무게 예측에 따라서 등급 분류한 결과 MobileNetV3 모델은 99.8%의 정확도를 달성한다.