第三屆海洋目標智能感知國際挑戰賽(2022年度)
大賽規則
一、競賽任務概述
本次大賽包含兩個賽道,分別是:(1)遙感SAR圖像艦船目標檢測賽道;(2)遙感可見光圖像海上目標實例分割賽道。參賽隊伍可以選擇參加任意賽道,也可以兩者同時參加。
賽道1:遙感SAR圖像艦船目標檢測
該賽道所使用的圖像類型為合成孔徑雷達(Synthetic Aperture Radar,SAR)圖像。賽道任務為定位SAR圖像中每個艦船目標的位置,并給出每個目標的邊界框表示以及分類置信度。
賽道2:遙感可見光圖像海洋目標實例分割
該賽道所使用的圖像類型為遙感可見光圖像。賽道任務為針對遙感圖像中的每個像素確定其所屬類別(如:民船、海上平臺等),并在區分每個類別的同時,為同一類型對象中的每個實例提供不同的標簽,從而對特定類別的不同個體進行分割和檢測,并對邊界進行精細標記。
大賽賽程分為兩個階段:初賽和決賽。
初賽階段:競賽官方提供各賽道的訓練集和初賽測試集,參賽隊伍需要根據任務要求和訓練數據進行算法設計和訓練,并針對初賽測試集提交測試結果。競賽官方進行評測并返回結果。
決賽階段:競賽官方提供初賽測試集的標簽,參賽隊伍需向競賽官方提交測試代碼,決賽階段采用盲測形式,具體比賽細則見(三、比賽規則)。
本次大賽考核指標包括:平均精度均值mAP(mean Average Precision)、實時性能(Real-Time Performance)以及答辯環節得分。
二、競賽數據集
遙感SAR圖像艦船目標檢測賽道:圖像數據來源于HRSID[1]、RSDD-SAR[2]、 AIR-SARShip-2.0[3]以及SRSDD[4]等公開SAR目標檢測數據集,競賽方提供修訂后的旋轉框標注文件。數據集僅包含單類艦船目標,示例圖像與目標標注如下圖所示:
遙感可見光圖像海上目標實例分割賽道:圖像數據來源于衛星采集的可見光圖像。數據集包含多類海上目標,如:民船、海上平臺等。示例圖像和目標標注如下圖所示:
三、競賽規則
(一)初賽細則
1) 初賽時間:
2022年10月29日至2022年11月15日。
2) 初賽任務:
參賽隊伍需針對所參加賽道的任務要求和數據進行算法設計與訓練,并針對官方提供的初賽測試集進行測試并將測試結果提交至大賽官網。網站將根據參賽隊伍的檢測結果分數進行實時排名(A榜)。每個參賽隊伍每日最多提交2次,可根據排名反饋,不斷優化算法設計及參數設置。最終A榜前5名進入決賽,并將訓練及檢測代碼、訓練后的模型參數、運行環境與運行說明等文件打包,提交給競賽官方。競賽官方對參賽隊伍的代碼進行相應測試,以確保無違規作弊行為,若發現有隊伍存在違規作弊行為或無法復現結果,該隊伍決賽資格取消,決賽名額依據A榜成績順延。
3) 成績評測方法:
大賽使用平均精度均值 (mean Average Precision,mAP)作為評價指標,具體使用如下:采用不同交并比 (Intersection over Union,IoU)閾值條件(如取值在0.50到0.95,間隔為0.05的10個閾值)下計算得到的mAP。(具體可參考COCO挑戰賽的評價標準https://cocodataset.org/#detection-eval)
在公開測試集上的競賽成績即為初賽總成績,總成績為公開測試集mAP值。
4) 作品提交方式:
參賽團隊將結果以指定文件格式上傳競賽組織方。
a) 艦船目標檢測結果格式:
txt文件格式如下,包含目標邊界框從左上角開始的順時針標注點坐標,目標類別以及目標類別分數,并用空格分開。如下圖所示:
每一張測試圖像對應一個結果文件,結果文件名與圖像名相同。全部txt文件打包成zip文件后上傳至官網。結果txt文件參考樣例可從智能船舶官方網站下載(http://www.heshenglong.net/)。
b) 海洋目標實例分割結果格式:
JSON文件格式如下,包含圖像序號,目標類別序號,目標分割結果以及目標類別得分。其中目標分割結果包括圖像的寬度和高度,以及RLE格式的分割區域。
c) 結果和模型的提交形式
參加團隊除了提交對公開測試集的檢測結果文件外,還需提交符合指定接口格式的算法模型,該模型可以生成所需格式的檢測結果文件,供系統對檢測結果的真實性復核。
(二)決賽細則
1) 決賽時間:
2022年11月18日至2022年12月10日。
2) 決賽任務:
參賽隊伍繼續使用初賽訓練集和測試集進行本地訓練和驗證。決賽采用盲測形式進行算法測試。參賽隊伍需要提交打包好的模型Docker鏡像,其中包含訓練和測試的完整代碼,用于復現,并能在合理的時間內輸出檢測結果。
3) 成績評測方法:
決賽采用的性能評價指標與初賽一致。同時,參賽隊伍需要提交答辯視頻以及技術報告。視頻主要介紹團隊所使用的模型以及所用策略的整體流程以及創新點,視頻時長在10分鐘以內,分辨率為1280×720,幀率在20fps以上。技術報告中需闡明競賽中模型方法的原理,在現有前沿工作上的創新點、實時性能以及如何根據訓練過程中的結果對算法(模型)的參數進行調整等實驗細節。答辯專家根據參賽隊伍報告以及視頻講解情況進行評分(百分制),多個評分取平均值,取值在0到100。
決賽階段最終得分為:80%ד盲測數據集mAP值”+20%ד答辯視頻及技術報告得分”。
四、其他注意事項
1. 系統運行環境僅為Linux,支持pytorch或tensorflow深度學習框架。
· 參賽隊伍請提供可以在合理時間內正常運行的程序。無論何種代碼請給出相應的說明文檔和可以正常運行的代碼源碼。
· 如果包含自定義Layer,請務必提供源代碼或封裝好的動態鏈接庫,并說明依賴庫等信息。
· 本競賽僅可使用比賽主辦方提供的數據,不得使用其他公開數據或私有數據進行訓練,同時只能使用公開的ImageNet或COCO預訓練權重。各參賽隊伍必須在提交文檔中說明所使用的預訓練權重來源及下載地址。本競賽不允許使用模型集成策略。
2. 知識產權歸屬
參賽團隊提交算法及可執行模型的知識產權歸參賽團隊所有,競賽提交的視頻以及報告由哈爾濱工程大學所有;SAR圖像數據由所屬公開數據集[1]-[4]發布單位所有;遙感可見光海上目標實例分割數據集由航天恒星科技有限公司(503所)所有。
· 各參賽隊在賽前需簽訂數據使用協議,承諾本競賽提供的數據集僅能用于本競賽,不用于除本競賽外的其他任何用途。
· 各參賽隊需要承諾本隊提交的結果可重復,組織方承諾履行保密義務,并不用于除本比賽外的任何其他用途。
· 參賽隊伍應保證所提供的方案、算法屬于自有知識產權。組織方對參賽隊伍因使用本隊提供/完成的算法和結果而產生的任何實際侵權或者被任何第三方指控侵權概不負責。一旦上述情況和事件發生參賽隊伍必須承擔一切相關法律責任和經濟賠償責任并保護組織方免于承擔該等責任。
3. 若發現有隊伍存在違規作弊行為,決賽及獲獎名額排名順延。違規作弊行為包括但不限于:
· 模型代碼與文檔描述不符
· 提交代碼無法復現出評測結果
· 使用額外數據
參考文獻:
[1] Wei S, Zeng X, Qu Q, et al. HRSID: A high-resolution SAR images dataset for ship detection and instance segmentation[J]. Ieee Access, 2020, 8: 120234-120254.
[2] 徐從安, 蘇航, 李健偉, 等. RSDD-SAR: SAR 艦船斜框檢測數據集[J]. 雷達學報, 2022, 11: 1-19.
[3] Xian S U N, Zhirui W, Yuanrui S U N, et al. AIR-SARShip-1.0: High-resolution SAR ship detection dataset[J]. 雷達學報, 2019, 8(6): 852-862.
[4] Lei S, Lu D, Qiu X, et al. SRSDD-v1. 0: A high-resolution SAR rotation ship detection dataset[J]. Remote Sensing, 2021, 13(24): 5104.