學位論文

Permanent URI for this collectionhttp://rportal.lib.ntnu.edu.tw/handle/20.500.12235/73890

Browse

Subject: search.filters.subject.Transformer

Search Results

Now showing 1 - 2 of 2
  • No Thumbnail Available
    Item
    基於Transformer之全天空影像進行估計與預測日射量之系統
    (2023) 謝濟元; Hsieh, Chi-Yuan
    近年來再生能源發展日益興旺，太陽能作為可持續性發展能源。其發電量與日射量成正關，如能建立一穩定且準確的日射量預測，可加強對緊急狀況之應變能力。在眾多類神經網路類型當中循環神經網路(RNN)已發展多年，其中長短期記憶網路(LSTM)更是被大量使用於具時間序列特性之日射量預測。近年來有學者提出新型態類神經網路模型Transformer，雖其最初目的為語言辨識但因與RNN相似之特性也被大量使用於時間序列之預測。過往之日射量研究多以LSTM為主，然而Transformer模型具有不會梯度爆炸且可同時從多個序列獲取資訊等優點，故本論文嘗試提出一基於Transformer網路為架構之日射量預測模型並以多種效能評估指標與LSTM進行比較。此外，從過往研究可知天氣狀況對日射量有顯著之影響，因此本論文輔以隨機森林(random forest)對數據先進行分類以加強訓練精確度。實驗結果顯示Transformer有不亞於LSTM的預測準確率，在某些指標甚至更勝LSTM。
  • No Thumbnail Available
    Item
    基於 SwinTransformer 及深度學習網路之高光譜影像融合
    (2023) 李沃晏; Li, Wo-Yen
    高光譜影像(Hyperspectral Image)以及多光譜影像(Multispectral Image)融合常被用來解決高光譜影像問題，旨在融合低解析度高光譜影像(LRHSI)以及高解析度多光譜影像(HRMSI)，是目前最常見的方法之一，通常高光譜影像的空間解析度較低，且直接取得高解析度之高光譜影像具有高昂的成本，而透過融合獲取高解析度高光譜影像是一種經濟實惠的方法。在影像處理領域融合方法是一種關鍵技術，因為高解析高光譜影像很好的促進了遠程材料辨識及分類任務，從而在衛星遙感領域獲得很大的關注。在衛星遙感領域很少有人嘗試使用Transformer，而Transformer在很多高級視覺任務中表現出驚人的成果，在本文中，我們提出了處理HSI/MSI融合任務的網路模型，基於SwinTansformer以及深度卷積網路(DCNN)之融合網路，稱為SwinDFN，SwinDFN由兩個部分組成：1)傳統卷積神經網路對HSI以及MSI影像初步融合，其中引入了Depthwise卷積技術來更有效地結合 HSI 和 MSI 之間的光譜響應函數以及對網路參數量做壓縮，2)具有殘差結構的SwinTansformer特徵提取模塊，來對影像特徵做增強，所提出之方法實現了基於規模較小的網路達到較好的HSI/MSI融合性能。